Учени предупреждават за над 10% риск изкуственият интелект да унищожи човечеството до десетилетие

Водещ изследовател от Anthropic заяви, че вероятността изкуственият интелект да унищожи човечеството през следващото десетилетие е над 10%. Предупреждението идва на фона на оставката на изследовател от Anthropic, Джейкъб Коксън, който обвинява компаниите OpenAI и Anthropic в безотговорно преследване на суперинтелект. Коксън твърди, че и двете компании се състезават да създадат суперинтелект, без да имат план за справяне с потенциалните рискове. Евън Хъбингър, ръководител на отдела по наука за хармонизиране в Anthropic, подкрепя тези опасения, като посочва, че компанията все още няма решение за проблема с привеждането в съответствие на суперинтелекта. Financial Times съобщи, че Anthropic не е споделила най-новия си модел с британския Институт за сигурност на изкуствения интелект (AISI), което предизвика критики. Някои експерти, като Уенди Хол, смятат, че тези предупреждения могат да бъдат част от PR стратегия преди предстоящи дебюти на фондовата борса, но признават, че опасенията са се засилили. В същото време, ръководители на Anthropic, OpenAI и други компании признават, че разработваният изкуствен интелект може да представлява екзистенциален риск за човечеството.

Различни източници подчертават различните аспекти на проблема. Левите издания акцентират върху опасността от неконтролируемо развитие на ИИ и липсата на регулация, докато десните издания наблягат на състезанието между компаниите и потенциалните икономически последици. Централните издания се фокусират върху техническите предизвикателства и необходимостта от по-безопасни модели.

Къде се разминават

• bnews_bg акцентира върху изявлението на трима изследователи от Anthropic, докато другите издания се фокусират основно върху коментарите на Евън Хъбингър и Джейкъб Коксън.
• frognews_bg подчертава, че предупрежденията идват на фона на информация за липсата на споделяне на най-новия модел на Anthropic с британския Институт за безопасност на ИИ.
• mediapool_bg и vesti_bg дават по-подробна информация за оставката на Джейкъб Коксън и неговите критики към OpenAI и Anthropic.
• bnews_bg използва по-сензационен език, като например „убият цялото човечество“, докато другите издания са по-предпазливи в изразяването си.

Какво още не е известно

• Не е ясно как точно системите с ИИ биха могли да доведат до пълното унищожение на хората, въпреки че изследователите изразяват опасения за хакерски атаки и придобиване на реална власт.
• Не е ясно дали компаниите ще променят подхода си към разработването на ИИ в отговор на тези предупреждения.
• Не е ясно дали ще бъдат въведени по-строги регулации за разработването и използването на ИИ.

Беше ли полезно? 👍 0 👎 0

---

Прочетете оригиналното отразяване