La bioseguridad de la IA deja de ser un benchmark y se convierte en un problema de identidad

Otro expediente analizó trabajo sobre adaptación de gripe aviar a mamíferos. Los controles más fuertes empujaron parte de la actividad hacia modelos menos capaces. La propia evaluación de Anthropic considera limitado el aumento de capacidad aportado: sobre todo organización, búsqueda e ideación, no una ruptura experimental. Es una distinción necesaria. Si toda asistencia administrativa se etiqueta como creación de una amenaza, el sistema producirá falsos positivos y perderá legitimidad entre los equipos que necesita supervisar. Pero el desplazamiento hacia modelos débiles también demuestra que la cobertura no puede depender de un único nivel de capacidad ni de una lista de frases prohibidas.

La dificultad aparece porque el clasificador observa texto, mientras que el riesgo real depende de contexto. La misma pregunta sobre estabilidad de una proteína puede pertenecer a una vacuna, un ensayo básico o una cadena de trabajo cuestionable. En una revisión de treinta días, Anthropic identificó unas 35 líneas de investigación relacionadas con instituciones de Estados adversarios; la mayoría parecían ciencia civil corriente y sólo algunas tenían potencial de doble uso notable. Un filtro que bloquee todas maximiza la fricción y la discriminación geográfica. Uno que deje pasar todo renuncia a detectar acumulación, repetición, evasión y cambios de propósito.

La respuesta que se perfila combina programas de usuario confiable, verificación institucional, señales de cuenta, historial de uso y controles técnicos graduados. Eso permite distinguir una consulta aislada de una campaña coordinada, pero abre una deuda de privacidad. Retener más datos ayuda a reconstruir una secuencia; también aumenta el impacto de una filtración y puede desalentar trabajos sensibles pero legítimos. Una organización que adopte estas ideas necesita finalidad expresa, minimización, plazos de borrado, revisión independiente y un proceso de recurso. La identidad no debe convertirse en una puntuación opaca que castigue país, disciplina o afiliación sin explicar el motivo.

Para un laboratorio, proveedor cloud o plataforma de investigación, el paso útil es diseñar un flujo de acceso por niveles. Las tareas de bajo riesgo pueden conservar fricción mínima; las de mayor sensibilidad exigen identidad verificada, entorno aislado, límites de herramientas, registro inmutable y revisión humana antes de producir un efecto externo. Hay que medir bloqueos correctos, falsos positivos, evasiones entre modelos y tiempo de resolución. Lo siguiente que conviene vigilar es si aparecen evaluaciones independientes, normas compartidas entre proveedores y evidencia de que esos controles reducen riesgo sin expulsar la ciencia legítima. La bioseguridad de la IA ya no cabe en un benchmark: es un problema de gobierno que empieza antes del prompt y termina después de la respuesta.