Изследователи откриха, че моделите за редактиране на изображения, хоствани в Hugging Face, могат лесно да бъдат използвани за генериране на експлицитно съдържание от тип дийпфейк. Преглед на над 1000 заявки, използвани със софтуера, разкри как отделни лица използват тези инструменти.
Изследването подчерта значителна уязвимост в най-добрите модели за редактиране на изображения, налични в Hugging Face, платформа популярна за споделяне и тестване на изкуствен интелект. Изследователите установиха, че тези модели могат лесно да бъдат манипулирани за създаване на експлицитни дийпфейкове. Това поражда опасения относно потенциалната злоупотреба с AI технологията за вредни цели.
По-конкретно, проучването включва анализ на над 1000 заявки за редактиране на изображения, изпратени от потребителите на платформата. Резултатите демонстрираха ясна схема на опити на отделни лица да генерират сексуално експлицитни изображения с помощта на тези модели. Въпреки че Hugging Face има предпазни мерки, изследователите успяха да ги заобиколят сравнително лесно, което показва, че настоящите мерки са недостатъчни за предотвратяване на създаването на такова съдържание.
Последиците от това откритие се простират отвъд непосредствения проблем с дийпфейк порнографията. То подчертава по-широк проблем, пред който са изправени разработчиците на AI: балансиране на отворения достъп и иновациите с необходимостта да се защитят срещу злонамерени приложения на тяхната технология. Резултатите от проучването предполагат, че платформи като Hugging Face трябва да укрепят системите си за модериране и да разработят по-здрави предпазни мерки за предотвратяване на създаването и разпространението на вредни дийпфейкове.
Ние не оценяваме истината. Премахваме пристрастието и ви показваме кои перспективи са отразили историята. Вие решавате.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари