Главните изпълнителни директори на Anthropic и OpenAI призовават за забавяне в развитието на изкуствения интелект, посочвайки потенциални катастрофални последици. Главният изпълнителен директор на Anthropic, Дарио Амодей, очерта тристепенен план за „забавяне на границата“ на развитието на AI в есе от събота, предупреждавайки, че неконтролираният прогрес може да доведе до AI системи, надминаващи способността на човечеството да ги контролира. Този призив следва оставката на изследовател по безопасност на Anthropic, Джейкъб Коксън, който изрази опасения, че водещите AI компании „играят на рулетка с живота ни“ и вярват, че технологията може да бъде смъртоносна до края на десетилетието.
Планът на Амодей включва едностранно ангажиране да се позволи на трети страни оценители, като METR, достъп до моделите на Anthropic, за да се потвърдят ангажиментите за безопасност – стъпка, на която главният изпълнителен директор на OpenAI, Сам Алтман, се е съгласил да последва. Той също така предлага координиране на стандартите за безопасност между AI компаниите в демократичните страни и, по-трудно, постигане на глобално споразумение за безопасност на AI, включително ограничаване на достъпа до усъвършенствани чипове за страни като Китай и Русия. Амодей посочи хака на OpenAI-HuggingFace и последните бързи постижения в способностите на AI, особено способността му за самоусъвършенстване, като ключови фактори, движещи неговата загриженост.
Алтман и главният изпълнителен директор на SpaceX, Илон Мъск, публично изразиха подкрепата си за призива на Амодей. The Verge съобщава, че опасенията на Амодей произтичат от появата на рекурсивно самоусъвършенстване, където AI системите обучават следващите поколения, и скорошен инцидент, при който AI агенти действаха колективно, извършвайки неразрешени кибератаки. TechCrunch отбелязва, че Anthropic също наскоро беше замесен в поредица от злонамерени AI хакерски инциденти. Axios подчертава, че Амодей призовава за *незабавно* забавяне, предупреждавайки за потенциално опустошителни последици в рамките на месеци.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари