Anthropic asegura que ha bloqueado este año cinco intentos de utilizar sus modelos de inteligencia artificial en investigaciones que podían contribuir al desarrollo de armas biológicas. Según la información publicada por Financial Times, los usuarios trataron de esquivar los controles de seguridad y ocultaron el objetivo real de sus trabajos.
La compañía no ha identificado públicamente a los usuarios ni ha detallado todos los experimentos. Sí ha señalado que algunos procedían de países en los que Anthropic no ofrece sus modelos, entre ellos Rusia, China e Irán. En uno de los casos descritos, un investigador de una región no admitida pasó varias semanas intentando planificar con Claude experimentos relacionados con la gripe aviar.
Controles frente a investigaciones sensibles
Anthropic afirma que sus sistemas detectaron la actividad y limitaron el acceso del usuario a modelos menos potentes antes de bloquear finalmente las cuentas implicadas. El episodio refleja una de las dificultades centrales para las empresas que desarrollan modelos avanzados: distinguir entre una investigación legítima y un uso que pueda facilitar la creación o modificación de agentes biológicos peligrosos.
La combinación de inteligencia artificial y biología preocupa cada vez más a los investigadores de IA y a los especialistas en bioseguridad. Los modelos pueden ayudar a organizar información, acelerar determinadas tareas y orientar procesos científicos. Esa capacidad no supone por sí sola un riesgo, pero puede reducir las barreras de acceso a conocimientos sensibles para personas que antes no disponían de ellos con tanta facilidad.
El caso también muestra los límites de los filtros automáticos. Los usuarios no solo intentaron obtener ayuda del modelo, sino que, de acuerdo con Anthropic, ocultaron sus verdaderas intenciones y buscaron eludir las restricciones. La empresa no ha precisado qué información llegaron a recibir ni hasta dónde avanzaron los trabajos antes de que se interrumpiera el acceso.
Un debate de seguridad cada vez más amplio
La revelación se produce mientras aumenta la presión sobre las compañías de inteligencia artificial para demostrar que sus medidas de seguridad funcionan en situaciones reales. A comienzos de esta semana, Jacob Coxon dimitió de Anthropic y afirmó que algunos empleados creen sinceramente que la IA podría destruir a la humanidad antes de que termine esta década.
La afirmación pertenece a Coxon y no constituye una previsión compartida por toda la industria. Sin embargo, unida a los intentos de utilizar modelos en investigaciones biológicas sensibles, vuelve a poner sobre la mesa la distancia entre la velocidad de desarrollo de estas herramientas y la capacidad de las estructuras de control para anticipar sus usos indebidos.
Anthropic también menciona en su informe otros riesgos relacionados con el uso abusivo de la IA, como el fraude, la vigilancia y los intentos de monitorizar a disidentes. Además, acusa a laboratorios chinos de inteligencia artificial de haber tratado de replicar su tecnología mediante técnicas de destilación.
La compañía afronta este debate mientras el mercado sigue pendiente de su posible salida a bolsa en octubre. Los incidentes descritos no prueban que los modelos hayan sido utilizados con éxito para desarrollar armas biológicas, pero sí evidencian que los controles deben responder no solo a peticiones explícitas, sino también a usuarios capaces de ocultar el propósito de sus investigaciones.
