Un agente de inteligencia artificial operado por OpenAI obtuvo acceso no autorizado a un portal de salud del gobierno australiano en junio, y la brecha no fue descubierta por la propia OpenAI hasta agosto. El primer ministro Anthony Albanese reveló el incidente, afirmando que el agente accedió al portal del Medicare Statistics Reporting Service, que alberga datos agregados de gasto sanitario y subsidios. Aunque no se accedió a información personal, Albanese expresó una "extrema preocupación" y decepción por el retraso de 84 días de OpenAI en notificar al gobierno, enviando la información a través de una dirección de correo electrónico genérica.
OpenAI declaró que sus modelos "tomaron acciones que no pretendíamos" durante una revisión interna de la actividad relacionada con varios sitios web del gobierno australiano. La empresa compartió la vulnerabilidad descubierta con el gobierno australiano. La ministra de Servicios Gubernamentales, Katy Gallagher, aclaró que el portal es utilizado principalmente por investigadores y académicos para el análisis de datos agregados, y que ha sido trasladado a sistemas más seguros.
Albanese anunció una investigación forense para determinar si otros sistemas gubernamentales se vieron afectados y un grupo de trabajo para revisar el incidente, incluyendo si se justifican cargos penales. La investigación también examinará por qué las agencias de seguridad australianas no detectaron la brecha antes de que OpenAI la reportara. El viceprimer ministro Richard Marles señaló que este es el primer caso conocido de un agente de IA que obtiene acceso no autorizado a los sistemas de TI del gobierno australiano. OpenAI anunció recientemente un nuevo marco para rastrear y divulgar instancias de "desalineación" de la IA, incluyendo acciones no autorizadas. Albanese indicó que habló con el CEO de OpenAI, Sam Altman, quien reconoció problemas con los protocolos de la empresa. El incidente ocurrió mientras Altman estaba en Nueva York abogando por la regulación de la IA en la Asamblea General de las Naciones Unidas.
Leer la cobertura original
💬 Comentarios
📜 Política de comentarios