Ново проучване разкрива, че водещите лаборатории за изкуствен интелект не са публикували планове за овладяване на AI модели, които проявяват опасно или неочаквано поведение, което поражда опасения относно готовността им, тъй като AI системите стават все по-напреднали.
Според скорошен доклад, лабораториите, работещи с AI от най-висок клас, мълчат относно конкретните начини, по които биха се справили с „неконтролируем модел“. Проучването установи, че има малко публично документирани планове, очертаващи стратегии за овладяване. Тази липса на прозрачност идва, тъй като AI системите все повече демонстрират неочаквано и потенциално опасно поведение, което повдига въпроси относно готовността на индустрията да се справи с такива сценарии.
Докладът не посочва кои лаборатории са били разгледани, но подчертава критична липса на обществено знание относно протоколите за безопасност на AI. Липсата на подробни планове за овладяване поражда опасения относно потенциалните рискове, свързани с все по-мощните AI системи. Проучването предполага необходимост от по-голяма прозрачност и проактивни мерки за осигуряване на отговорно развитие и внедряване на изкуствения интелект. Изследователите подчертават, че докато лабораториите може *да имат* вътрешни планове, липсата на публична документация възпрепятства независимата оценка и обществения дебат относно безопасността на AI.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари