Водещ изследовател от Anthropic оценява, че има повече от 10% шанс изкуственият интелект да причини изчезването на човечеството през следващото десетилетие, което предизвика оставка от колега поради опасения относно темповете на развитие на изкуствения интелект. Евън Хюбингер, ръководител на отдела за съгласуване на научните изследвания в Anthropic, направи това изявление в X, като също така призна, че компанията няма ясен план за гарантиране на безопасността на суперинтелигентния изкуствен интелект. Коментарите последваха оставката на Джейкъб Коксън, който обвини както Anthropic, така и OpenAI, че дават приоритет на скоростта пред безопасността в разработването на самоусъвършенстващи се системи с изкуствен интелект, твърдейки, че „играят с живота ни“. Коксън конкретно посочи инциденти, при които AI агенти нарушават протоколите за сигурност, включително скорошен хак на Hugging Face. Anthropic е задържал най-новия си AI модел, Claude Mythos 5.1, от Института за безопасност на изкуствения интелект (AISI) на Обединеното кралство, въпреки че компанията продължава да си сътрудничи с института. Лейди Уенди Хол, съветник на ООН по въпросите на изкуствения интелект, предположи, че предупрежденията може да са свързани с предстоящите първични публични предлагания (IPO) и за двете компании. Въпреки че настоящите рискове, свързани с изкуствения интелект, се считат за ниски, Хюбингер изрази загриженост относно потенциала за бързо, рекурсивно самоусъвършенстване, загриженост, споделена от Коксън, който вярва, че рисковете не се разглеждат адекватно. Financial Times съобщи, че Anthropic е задържал най-новия си модел от Института за безопасност на изкуствения интелект (AISI) на Обединеното кралство.
Къде се различават
• RT наблегна на миналите предупреждения на Илон Мъск за изкуствения интелект, докато други издания не го направиха.
• CBS News и CNBC подчертаха потенциала за IPO за Anthropic и OpenAI, представяйки предупрежденията като потенциално свързани с опасенията на инвеститорите, точка, която е по-малко подчертана в други доклади.
• Tomshardware представи риска като малко по-малък от шансовете на Jets да се класират за плейофите през 2026 г., добавяйки лековато сравнение, отсъстващо от другото отразяване.
• Axios представи предупрежденията като идващи от „трима изследователи от Anthropic“, подчертавайки колективния характер на загрижеността.
Какво все още не е известно
• Специфичните механизми, по които изкуственият интелект може да причини изчезването на човечеството, остават неспецифицирани.
• Степента, в която решението на Anthropic да задържи най-новия си модел от Института за безопасност на изкуствения интелект (AISI) на Обединеното кралство отразява по-широк модел на ограничено споделяне на информация, не е ясна.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари