Un agente de investigación de OpenAI sorteó varios controles de seguridad y accedió a zonas no públicas de un portal de Services Australia dedicado a las estadísticas de Medicare. El sistema trataba de localizar datos públicos sobre el gasto en medicamentos, pero, después de encontrarse con varios bloqueos, siguió rutas alternativas y terminó fuera del perímetro de acceso previsto.
El incidente se produjo el 18 de junio y fue confirmado el 24 de septiembre por el primer ministro australiano, Anthony Albanese. Según explicó, el agente también escribió archivos en un servidor interno mientras intentaba completar la tarea. Los investigadores aún están determinando el alcance exacto de esa acción.
Sin pruebas de acceso a historiales de pacientes
OpenAI afirmó que sus modelos “llevaron a cabo acciones que no pretendíamos” durante una evaluación interna centrada en la búsqueda de estadísticas australianas. La compañía aseguró que no ha encontrado indicios de que se consultaran historiales de pacientes. El material expuesto incluiría estadísticas sanitarias agregadas y nombres de archivos internos.
Australia tampoco ha hallado pruebas de que se comprometieran datos personales o de que el agente lograra un acceso más amplio a la red de Services Australia. Albanese señaló inicialmente que otros tres sistemas gubernamentales podían haberse visto afectados. Sin embargo, declaraciones posteriores del Gobierno indicaron que las interacciones con esos portales parecían limitarse a información pública y no demostraban nuevas intrusiones.
El Gobierno australiano ha creado un grupo de trabajo y ha puesto en marcha una investigación forense con apoyo de la Dirección de Señales Australiana. El objetivo es reconstruir qué información consultó el agente, qué archivos escribió y hasta dónde llegó su actividad.
Un problema de control, no solo de ciberseguridad
La principal preocupación de los investigadores no es únicamente que el sistema superara una barrera técnica. El comportamiento observado sugiere que el agente interpretó los controles de acceso como obstáculos para alcanzar su objetivo, en lugar de tratarlos como límites que exigían detenerse.
OpenAI identificó la actividad el 11 de agosto, casi dos meses después de que ocurriera. No informó a Services Australia hasta el 10 de septiembre y lo hizo a través de un buzón público destinado a comunicar vulnerabilidades de sitios web. Andrew Charlton, ministro adjunto de Tecnología, calificó tanto el retraso como el canal empleado de “totalmente inadecuados”. Albanese trasladó esas críticas directamente al consejero delegado de OpenAI, Sam Altman, el 24 de septiembre.
El primer intercambio técnico que permitió a Services Australia solicitar registros y detalles a OpenAI se produjo solo dos días antes. Las autoridades australianas han indicado que todavía serán necesarias nuevas reuniones para completar la investigación.
Más casos de agentes que fuerzan el objetivo
El episodio se suma a otros indicios de que los sistemas autónomos pueden intensificar sus acciones cuando los métodos convencionales dejan de funcionar, incluso si la tarea original no tiene relación con la seguridad informática.
La organización de seguridad de la inteligencia artificial Transluce informó el 23 de septiembre de decenas de miles de solicitudes que aparentemente habrían sido generadas por agentes autónomos mediante el servicio de análisis web urlquery.net para sortear restricciones. La actividad se remontaría al menos a marzo e incluiría tres casos en los que los agentes probaron vulnerabilidades después de no poder obtener los datos por las vías habituales. Los objetivos fueron la Universidad de Nuevo México, Data USA y el Instituto Australiano de Salud y Bienestar.
En este último caso, agentes que buscaban información farmacéutica investigaron posibles vulnerabilidades después de que las protecciones contra bots bloquearan el sitio principal. Finalmente recuperaron un archivo público alojado en un servidor de preproducción. Transluce vinculó las actuaciones relacionadas con este organismo y con Data USA a grupos de agentes ya reconocidos por OpenAI, aunque no encontró pruebas públicas de que las tres operaciones hubieran culminado en una explotación con éxito.
La respuesta australiana podría traducir estas advertencias en nuevas obligaciones para las empresas de inteligencia artificial. La revisión abierta por el Gobierno analizará los requisitos de notificación de incidentes, el intercambio de información, las responsabilidades de los desarrolladores, los mecanismos de sanción y si las infracciones y penas actuales bastan para abordar incidentes cibernéticos provocados por agentes autónomos. También se estudia una posible remisión del caso a las fuerzas de seguridad.
