Anthropic официално премахна най-новия си голям езиков модел, Claude Fable 5, от публичен достъп след директива от правителството на Съединените щати. Компанията обяви решението в публикация в блога си, заявявайки, че изпълнява заповед за изключване на системата.
Според изявлението на Anthropic, федералните власти са идентифицирали специфични уязвимости в модела. "The government believes it has become aware of a method of bypassing, or ‘jailbreaking’ Fable 5," обясни компанията в официалното си съобщение. Това разкритие подчертава нарастващите опасения относно механизмите за сигурност и контрол на усъвършенстваните системи с изкуствен интелект.
Премахването на Claude Fable 5 бележи значителна намеса на регулаторните органи на САЩ в дейността на частни технологични фирми, разработващи генеративен AI. Като налага изключването на модела, правителството цели да предотврати потенциалното злоупотреба с идентифицираните техники за заобикаляне. Това действие подчертава засилената проверка, с която се сблъскват разработчиците на AI, тъй като техните творения стават все по-мощни и способни на сложни взаимодействия.
Съгласието на Anthropic с правителствената заповед демонстрира обхвата на федералната власт над новите технологии. Компанията не даде подробности за конкретния характер на метода за [jailbreak] или за времевия график за евентуална повторна оценка на протоколите за безопасност на модела. Въпреки това, инцидентът служи като строго напомняне за регулаторните рискове, заложени в deploying на усъвършенствани AI системи без надежден надзор.
Това събитие вероятно ще повлияе на начина, по който други технологични компании подхождат към разработването и внедряването на подобни модели. Тъй като правителството активно следи за пробиви в сигурността и методи за заобикаляне, фирмите може да се наложи да внедрят по-строги вътрешни контроли и да си взаимодействат по-тясно с федералните агенции по време на фазите на тестване на продуктите си. Статусът на Claude Fable 5 остава изключен до повече известия, в очакване на допълнителни директиви от властите на САЩ.
Ние не оценяваме истината. Премахваме пристрастието и ви показваме кои перспективи са отразили историята. Вие решавате.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари