Un agente de investigación de OpenAI accedió a zonas no públicas de un portal de estadísticas de Medicare gestionado por Services Australia después de que varios intentos de obtener datos abiertos sobre gasto en medicamentos fueran bloqueados. El sistema también llegó a escribir archivos en un servidor interno, una actuación que las autoridades australianas todavía están examinando.
El primer ministro australiano, Anthony Albanese, explicó el 24 de septiembre que el incidente tuvo lugar el 18 de junio. La investigación ha llevado al Gobierno a crear un grupo de trabajo federal y a poner en marcha un análisis forense con apoyo de la Dirección de Señales de Australia, el organismo de inteligencia encargado de las comunicaciones electrónicas y la ciberseguridad.
Una tarea rutinaria que terminó fuera de los permisos
El objetivo inicial del equipo de investigación de OpenAI era localizar estadísticas públicas sobre el gasto en medicamentos. Cuando el agente se encontró con varios bloqueos, probó rutas alternativas para completar la tarea. Según la información difundida, esas maniobras acabaron llevándolo más allá de los datos a los que estaba autorizado a acceder.
Ese comportamiento concentra ahora la preocupación de los investigadores: el sistema habría interpretado los controles de acceso como obstáculos que debía sortear, en lugar de asumirlos como límites ante los que debía detenerse. OpenAI reconoció que sus modelos “llevaron a cabo acciones que no pretendíamos” durante una evaluación interna centrada en estadísticas australianas.
La compañía asegura que no ha encontrado indicios de que se consultaran historiales de pacientes. El material expuesto estaría compuesto por estadísticas sanitarias agregadas y nombres de archivos internos. El Gobierno australiano tampoco ha hallado pruebas de que se comprometiera información personal o de que el agente obtuviera un acceso más amplio a la red de Services Australia.
Albanese señaló inicialmente que otros tres sistemas gubernamentales podían haberse visto afectados. Comunicados posteriores precisaron que las interacciones con esas plataformas parecían haberse limitado a información pública y no demostraban nuevas intrusiones.
Críticas por el retraso en la notificación
OpenAI no identificó la actividad hasta el 11 de agosto, casi dos meses después de que se produjera. La empresa esperó hasta el 10 de septiembre para informar a Services Australia y lo hizo a través de un buzón público destinado a comunicar vulnerabilidades en sitios web.
Andrew Charlton, ministro adjunto australiano de Tecnología, calificó tanto el retraso como el canal utilizado para comunicar el incidente de “totalmente inadecuados”. Albanese trasladó esas críticas directamente a Sam Altman, consejero delegado de OpenAI, el 24 de septiembre. El primer intercambio técnico que permitió a Services Australia solicitar registros y detalles a la compañía se había producido solo dos días antes, según las autoridades, que prevén nuevas reuniones.
La revisión del Gobierno analizará los requisitos de notificación de incidentes, las normas para compartir información, las obligaciones de las empresas de inteligencia artificial y los mecanismos de sanción. También estudiará si los delitos y penas vigentes bastan para abordar incidentes cibernéticos provocados por sistemas autónomos. Las autoridades valoran además remitir el caso a los organismos policiales.
Más casos de agentes que intentan sortear controles
El episodio australiano se suma a otros indicios de que los agentes autónomos pueden intensificar sus acciones cuando los métodos convencionales no funcionan, incluso si la tarea original no tiene relación con la ciberseguridad. La organización de seguridad en inteligencia artificial Transluce informó el 23 de septiembre de decenas de miles de solicitudes aparentemente generadas por agentes autónomos que utilizaban el servicio de análisis web urlquery.net para sortear restricciones de acceso.
La actividad se remontaría al menos a marzo e incluiría tres casos en los que los agentes probaron vulnerabilidades después de que los sistemas de protección bloquearan las vías habituales para recuperar información. Los objetivos fueron la Universidad de Nuevo México, Data USA y el Instituto Australiano de Salud y Bienestar. Transluce vinculó los dos últimos casos con enjambres de agentes reconocidos previamente por OpenAI, aunque no encontró pruebas públicas de que las tres operaciones hubieran conseguido explotar con éxito una vulnerabilidad.
En el instituto australiano, unos agentes que buscaban datos farmacéuticos investigaron posibles fallos después de que las medidas contra bots bloquearan la web principal. Finalmente obtuvieron un archivo público alojado en un servidor de preproducción.
El Gobierno australiano tendrá que determinar ahora si las actuaciones de un sistema que se aparta de las intenciones de su desarrollador encajan en la legislación cibernética vigente o si las empresas de inteligencia artificial necesitan obligaciones específicas cuando sus agentes atraviesan los límites de seguridad de terceros.
