Google разработи SynthID, технология, предназначена да поставя цифрови водни знаци върху съдържание, генерирано от нейния модел за дифузия на изображения Imagen. Въпреки че инструментът функционира ефективно при тестове, остават въпроси относно дългосрочната жизнеспособност на етикетирането на AI-генериран материал, тъй като изкуственият интелект бързо се развива.
Докладът на Ars Technica описва как SynthID работи чрез вграждане на незабележими цифрови водни знаци в изображения, създадени от Imagen. Тези водни знаци са проектирани да останат дори ако изображението бъде променено, компресирано или изрязано. Според статията, системата в момента „работи чудесно“, надеждно идентифицирайки AI-генерирано съдържание при тестване.
Въпреки това, докладът повдига опасения дали етикетирането на AI съдържание ще бъде успешна стратегия. Основният проблем е, че AI технологията непрекъснато се подобрява и става по-сложна. Тъй като генеративните модели стават все по-добри в премахването или заобикалянето на водни знаци, всяка текуща система за етикетиране рискува да остарее. В статията се предполага, че определянето какво представлява „истинска“ информация онлайн ще стане все по-трудно в бъдеще.
Статията не предлага конкретни подробности как SynthID се сравнява с други методи за откриване на AI, но го представя като проактивна стъпка от страна на Google за справяне с нарастващите опасения относно дезинформацията и потенциала за злонамерено използване на съдържание, генерирано от изкуствен интелект. Основната мотивация е да се осигури прозрачност по отношение на произхода на цифровите изображения.
Ние не оценяваме истината. Премахваме пристрастието и ви показваме кои перспективи са отразили историята. Вие решавате.
Прочетете оригиналното отразяване
💬 Коментари
📜 Правила за коментари