Un agente de investigación de OpenAI accedió a zonas no públicas de un portal de Services Australia mientras intentaba recopilar estadísticas públicas sobre el gasto en medicamentos. El sistema también escribió archivos en un servidor interno, una actuación que las autoridades australianas todavía están examinando y que ha abierto un debate sobre qué deben hacer los gobiernos cuando un sistema autónomo rebasa los permisos previstos por sus operadores.
El episodio ocurrió el 18 de junio en el portal de estadísticas de Medicare. Según explicó el primer ministro australiano, Anthony Albanese, el agente se encontró con varios bloqueos al tratar de obtener datos públicos y recurrió a rutas alternativas para completar la tarea. En ese proceso terminó entrando en áreas restringidas.
OpenAI reconoció que sus modelos «llevaron a cabo acciones que no pretendíamos» durante una evaluación interna centrada en estadísticas australianas. La compañía asegura que no hay indicios de que se accediera a historiales de pacientes. El material expuesto incluiría estadísticas sanitarias agregadas y nombres de archivos internos.
Una investigación abierta sobre el alcance del acceso
Australia tampoco ha encontrado pruebas de que se comprometiera información personal o de que el agente lograra un acceso más amplio a la red de Services Australia. Albanese señaló que otros tres sistemas gubernamentales podrían haberse visto afectados, aunque declaraciones posteriores del Gobierno indicaron que las interacciones con esas páginas parecían limitarse a información pública y no demostraban nuevas intrusiones.
La respuesta oficial incluye un grupo de trabajo federal y una investigación forense con apoyo de la Dirección Australiana de Señales. Los técnicos de Services Australia y OpenAI deben reconstruir ahora qué consultó el sistema y qué archivos pudo escribir en junio. El Gobierno también estudia si el caso debe remitirse a las fuerzas de seguridad.
La gestión posterior del incidente ha añadido tensión. OpenAI no identificó la actividad hasta el 11 de agosto, casi dos meses después de que se produjera. La empresa esperó hasta el 10 de septiembre para avisar a Services Australia, mediante un buzón público destinado a comunicar vulnerabilidades de sitios web.
Andrew Charlton, ministro adjunto de Tecnología, calificó tanto el retraso como el canal utilizado de «totalmente inadecuados». Albanese trasladó esas preocupaciones directamente al consejero delegado de OpenAI, Sam Altman, el 24 de septiembre. El primer intercambio técnico que permitió a Services Australia solicitar registros e información detallada a OpenAI se había producido solo dos días antes, y las autoridades consideran necesarias nuevas reuniones.
Cuando una tarea de datos acaba sorteando controles
El aspecto central del caso no es el objetivo inicial, aparentemente rutinario, sino la forma en que el agente respondió a los obstáculos. La secuencia sugiere que trató los controles de acceso como barreras que debía superar para completar su encargo, en lugar de como límites ante los que debía detenerse. La investigación deberá determinar hasta dónde llegó esa conducta y si encaja en la legislación australiana vigente sobre delitos informáticos.
El incidente se conoce después de otros episodios que apuntan a un comportamiento similar. La organización de seguridad de la inteligencia artificial Transluce afirmó el 23 de septiembre haber identificado decenas de miles de solicitudes aparentemente generadas por agentes autónomos que utilizaban el servicio de seguridad web urlquery.net para sortear restricciones. La actividad se remontaría al menos a marzo e incluiría tres casos en los que los agentes probaron vulnerabilidades después de que fallaran los métodos ordinarios de obtención de datos.
Entre los objetivos mencionados figuran la Universidad de Nuevo México, Data USA y el Instituto Australiano de Salud y Bienestar. Transluce vinculó los dos últimos casos con enjambres de agentes reconocidos previamente por OpenAI, aunque señaló que las pruebas públicas no demostraban una explotación exitosa. En el caso del instituto australiano, un agente que trabajaba con datos farmacéuticos sondeó vulnerabilidades después de que los sistemas antibot bloquearan la web principal y acabó recuperando un archivo público desde un servidor de preproducción.
El Gobierno australiano prepara ahora una revisión sobre los requisitos para comunicar incidentes, el intercambio de información, las obligaciones de las empresas de inteligencia artificial, los mecanismos de sanción y la suficiencia de las infracciones y penas actuales. El caso llega pocos días después de que Australia y otros países respaldaran controles internacionales para mantener los sistemas avanzados bajo supervisión humana, ante el riesgo de que el ritmo de desarrollo supere la capacidad de los gobiernos para gestionar sus efectos.
