OpenAI, създателят на ChatGPT, преработи своите протоколи за безопасност и спря множество тренировъчни цикли поради опасения относно кибер възможностите на предстоящия модел Astra. Компанията вярва, че Astra може да е достигнала „критично“ ниво на кибер компетентност, което наложи предпазните мерки.
OpenAI не е оповестила публично конкретните кибер възможности, които са предизвикали паузата, но решението показва значителна вътрешна загриженост относно потенциалните рискове, свързани с все по-мощните AI агенти. Компанията затяга вътрешните си гаранции, за да се справи с тези рискове, преди да възобнови обучението в пълен мащаб.
Паузата засяга „значителен брой“ тренировъчни цикли, което предполага широко преразглеждане на мерките за безопасност. Този ход подчертава предизвикателствата, пред които са изправени разработчиците при контролирането и предвиждането на поведението на усъвършенстваните AI системи, докато те приближават все по-сложни нива на функционалност. Действията на OpenAI демонстрират проактивен подход към смекчаване на потенциалните вреди, преди моделът Astra да бъде пуснат.
Ние не оценяваме истината. Премахваме пристрастието и ви показваме кои перспективи са отразили историята. Вие решавате.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари