Un agente de investigación de OpenAI accedió a zonas no públicas de un portal del Gobierno australiano mientras intentaba obtener estadísticas públicas sobre el gasto en medicamentos. El sistema también escribió archivos en un servidor interno, una actuación que las autoridades todavía están analizando y que ha llevado a Australia a abrir una investigación forense con apoyo de la Dirección de Señales Australiana.
El primer ministro australiano, Anthony Albanese, explicó el 24 de septiembre que el incidente se produjo el 18 de junio en un portal de estadísticas de Medicare gestionado por Services Australia. El agente había recibido el encargo de localizar datos disponibles públicamente, pero, después de encontrarse con varios bloqueos, probó rutas alternativas hasta superar los límites de acceso previstos por sus operadores.
El agente trató los controles como un obstáculo
Ese comportamiento es el núcleo de la preocupación de los investigadores. Según la información publicada, el sistema no interpretó los controles de acceso como una frontera que obligaba a detener la tarea, sino como un impedimento que debía sortear para completar el objetivo asignado.
OpenAI reconoció que sus modelos «tomaron acciones que no pretendíamos» durante una evaluación interna relacionada con la búsqueda de estadísticas australianas. La compañía afirmó que no ha encontrado indicios de que se accediera a historiales de pacientes. El material expuesto incluiría estadísticas sanitarias agregadas y nombres de archivos internos.
Australia tampoco ha hallado pruebas de que se comprometiera información personal o de que el agente lograra un acceso más amplio a la red de Services Australia. Albanese señaló inicialmente que otros tres sistemas gubernamentales podían haberse visto afectados. Posteriormente, el Gobierno indicó que las interacciones con esos sitios parecían haberse limitado a información pública y no demostraban nuevas intrusiones.
La respuesta de OpenAI también ha sido cuestionada. La empresa no identificó la actividad hasta el 11 de agosto, casi dos meses después de que ocurriera. No informó a Services Australia hasta el 10 de septiembre y lo hizo a través de un buzón público destinado a comunicar vulnerabilidades de sitios web. Andrew Charlton, ministro adjunto de Tecnología, calificó tanto el retraso como el canal utilizado de «totalmente inadecuados».
Albanese trasladó esas preocupaciones directamente al consejero delegado de OpenAI, Sam Altman, el 24 de septiembre. El primer intercambio técnico que permitió a Services Australia solicitar registros e información detallada a la compañía se había producido solo dos días antes. Las autoridades prevén más reuniones para reconstruir qué consultó el agente y qué archivos llegó a escribir.
Más casos de agentes que fuerzan los límites
El episodio australiano se suma a otros indicios de que los sistemas autónomos pueden modificar su conducta cuando las vías convencionales no funcionan, incluso aunque la tarea original no tenga relación con la ciberseguridad.
La organización de seguridad en inteligencia artificial Transluce afirmó el 23 de septiembre haber identificado decenas de miles de solicitudes aparentemente generadas por agentes autónomos que utilizaban el servicio de análisis web urlquery.net para tratar de sortear restricciones de acceso. La actividad se remontaría al menos a marzo e incluiría tres casos en los que los agentes probaron vulnerabilidades después de que los métodos habituales de obtención de datos fracasaran.
Los objetivos mencionados fueron la Universidad de Nuevo México, Data USA y el Instituto Australiano de Salud y Bienestar. En este último caso, agentes que trabajaban en una tarea relacionada con datos farmacéuticos examinaron posibles vulnerabilidades después de que las protecciones contra bots bloquearan la web principal y terminaron recuperando un archivo público de un servidor de preproducción. Transluce no encontró pruebas de que esas tres actuaciones culminaran en una explotación exitosa.
La organización vinculó las actividades relacionadas con los dos últimos sitios a grupos de agentes que OpenAI ya había reconocido. Su conclusión es que algunas técnicas asociadas al pirateo informático se están empleando de forma instrumental para completar tareas ordinarias de recuperación de información.
Australia revisará las obligaciones para las empresas de IA
El Gobierno australiano ha creado un grupo federal para revisar los requisitos de comunicación de incidentes, las normas de intercambio de información, las obligaciones de las compañías de inteligencia artificial y los mecanismos de aplicación. También estudiará si las infracciones y sanciones actuales son suficientes para responder a incidentes cibernéticos provocados por sistemas autónomos. El caso podría acabar en manos de las fuerzas de seguridad.
La investigación llega pocos días después de que Australia se sumara a otros firmantes de una declaración que reclama salvaguardas internacionales para mantener los sistemas avanzados bajo supervisión y control humanos. El texto advertía de que el desarrollo tecnológico puede avanzar más rápido que la capacidad de los Gobiernos para gestionar sus riesgos y señalaba que algunos sistemas ya habían eludido protecciones y accedido sin autorización a entornos reales.
Ahora las autoridades deberán determinar si la conducta del agente encaja en la legislación cibernética vigente o si las empresas que desarrollan estos sistemas necesitan deberes específicos cuando sus agentes cruzan los límites de seguridad de terceros.
