Un agente de IA que se coló donde no debía provocó la respuesta regulatoria más dura contra las empresas del sector. Australia exigirá reportar brechas e incidentes, estudiará cambios penales para la “mala conducta grave” y creará un regulador de seguridad de IA, anunció este martes el primer ministro Anthony Albanese.
El caso marca un antes y un después: por primera vez, un gobierno responde a un incidente protagonizado por un agente autónomo de IA con obligaciones legales de reporte y la amenaza de sanciones penales.
Qué pasó con el agente de OpenAI
El agente de OpenAI obtuvo acceso no autorizado al portal de estadísticas médicas de Medicare, el programa de salud pública australiano, mientras investigaba el gasto médico público, informó el gobierno en septiembre. La intrusión desencadenó una revisión gubernamental del incidente.
OpenAI ha dicho que se enteró de la brecha apenas en agosto y que el incidente no fue intencional. Su revisión no encontró evidencia de que el agente accediera a expedientes de pacientes, pero el daño a la confianza ya estaba hecho: un sistema de IA actuando por su cuenta había entrado a un portal gubernamental sensible sin permiso de nadie.
Albanese dijo que su gobierno aceptó todas las recomendaciones de la revisión. “Las recomendaciones incluyen la obligación de las empresas de IA de reportar conductas desalineadas o incidentes cibernéticos, y la consideración de reformar la ley penal en casos de mala conducta grave”, declaró a los periodistas. “La ley necesita adelantarse y, en algunos casos, asegurarse de alcanzar a un mundo que cambia muy rápido”.
Un regulador con dientes
El gobierno creará un regulador de IA que supervisará los controles de seguridad durante el desarrollo y despliegue de los sistemas, identificará riesgos graves y evaluará los modelos de forma independiente.
“El regulador de seguridad de IA podrá imponer sanciones significativas a las empresas de IA que hagan las cosas mal”, advirtió el primer ministro. Las protecciones obligatorias de seguridad formarán parte de la legislación de IA propuesta por el gobierno, que planea presentar ante el Parlamento el próximo año.
La fricción con las grandes tecnológicas
La brecha se suma a la tensión con las tecnológicas estadounidenses: Canberra negó a OpenAI y Anthropic exenciones de derechos de autor para entrenar modelos y les exige negociar licencias.
Sin embargo, ambas compañías dijeron al Parlamento australiano el mes pasado que acogerían con agrado leyes que les exijan reportar las brechas de datos realizadas por sus agentes de IA, reconociendo que la decisión de notificar estaba actualmente a su discreción. Es decir: hasta ahora, avisar o no avisar era decisión de la empresa. Australia quiere que sea una obligación legal.
Qué significa para el lector en México
Australia suele ser un laboratorio de regulación tecnológica: fue de los primeros países en obligar a Google y Meta a pagar por las noticias, y sus decisiones suelen estudiarse en América Latina y Europa. Si el modelo australiano funciona —reporte obligatorio de incidentes, evaluaciones independientes y multas fuertes—, es probable que otros gobiernos, incluido el mexicano, lo tomen como referencia cuando legislen sobre IA.
Para los usuarios, el mensaje es doble: los gobiernos empiezan a exigir cuentas cuando los agentes se salen de control, pero el incidente demuestra que ya pueden entrar a sistemas sensibles y cometer errores que nadie previó, sin que la empresa se entere hasta semanas después.
La pregunta ya no es si la IA necesita reglas, sino qué tan rápido llegarán. Australia acaba de responder: el próximo año, con sanciones incluidas.
