OpenAI, el creador de ChatGPT, ha revisado sus protocolos de seguridad y detenido numerosas ejecuciones de entrenamiento debido a preocupaciones sobre las capacidades cibernéticas de su próximo modelo, Astra. La compañía cree que Astra puede haber alcanzado un nivel “crítico” de competencia cibernética, lo que ha provocado las medidas de precaución.
OpenAI no ha detallado públicamente las capacidades cibernéticas específicas que desencadenaron la pausa, pero la decisión indica una preocupación interna significativa sobre los riesgos potenciales asociados con agentes de IA cada vez más potentes. La compañía está reforzando sus salvaguardias internas para abordar estos riesgos antes de reanudar el entrenamiento a gran escala.
La pausa afecta a un “número significativo” de ejecuciones de entrenamiento, lo que sugiere que se está llevando a cabo una amplia reevaluación de las medidas de seguridad. Este movimiento destaca los desafíos que enfrentan los desarrolladores para controlar y predecir el comportamiento de los sistemas de IA avanzados a medida que se acercan a niveles de funcionalidad cada vez más sofisticados. Las acciones de OpenAI demuestran un enfoque proactivo para mitigar los posibles daños antes de que se lance el modelo Astra.
No calificamos la verdad. Eliminamos el sesgo y te mostramos qué perspectivas cubrieron la historia. Tú decides.
Leer la cobertura original
💬 Comentarios
📜 Política de comentarios