Да представиш написаното от ChatGPT като собствен текст скоро може да стане по-трудно - поне в Европейския съюз. OpenAI обяви, че ще започне да поставя невидим за човешкото око, но разпознаваем от машина воден знак в текстовете, генерирани от моделите на компанията.

Мярката ще обхване включително ChatGPT и агента за програмиране Codex и е свързана с изискванията на европейския Акт за изкуствения интелект (AI Act).

Първоначално функцията ще бъде доброволна и потребителите по света ще могат сами да я включват. За потребителите в Европейския съюз обаче това ще се промени през следващите седмици.

Тогава водният знак ще започне автоматично да се добавя към отговарящите на условията текстове, генерирани от ChatGPT и Codex в ЕС. В този случай потребителят няма да има възможност да го изключи.

Невидим за човека, видим за машината

За разлика от познатите водни знаци върху снимки, тук няма да има надпис, лого или друг видим знак върху текста. Маркерът ще бъде машинно разпознаваем. Идеята е специализиран инструмент да може да установи, че даден текст е генериран от модел на OpenAI, макар човекът, който го чете, да не вижда разлика.

Това поставя и очевидния въпрос кой ще разполага с детектора? Поне в началото той няма да бъде общодостъпен.

Според OpenAI достъп ще бъде предоставян на изследователи и експертни организации, които ще могат да откриват невидимия индикатор. Компанията обяснява решението да не пуска детектора публично с опасността от фалшиви положителни резултати.

Вместо това достъпът ще се предоставя "за всеки отделен случай", за да подпомага оценяването на технологията.

Европа задължава, Америка - не

Причината OpenAI да въвежда задължителния маркер именно в ЕС е европейската регулация на изкуствения интелект. AI Act изисква създадените от модели текстове да съдържат машинно разпознаваем идентификатор, който позволява съдържанието да бъде обозначено като генерирано от ИИ.

Задължителният режим на OpenAI засега няма да важи в Съединените щати.

Това е забележителна разлика на фона на притесненията там от все по-голямото количество съдържание, създавано с генеративен изкуствен интелект.

Цитирано проучване на Rainey Center показва, че почти осем от десет анкетирани американци подкрепят изисквания за поставяне на водни знаци върху съдържание, генерирано от AI. Подкрепата е 82% сред демократите и 75% сред републиканците.

Общественото одобрение обаче само по себе си не създава регулация. На федерално равнище в САЩ няма еквивалентно изискване, което да принуждава водещите компании за изкуствен интелект да поставят подобни маркери.

OpenAI не е първата

Невидимите водни знаци вече се използват и от конкуренти на OpenAI.

През август Anthropic въведе подобен машинно разпознаваем маркер за съдържанието, създавано от Claude. Последва и предвидим страничен ефект - потребители започнаха да търсят начини как индикаторът да бъде премахван от генерираните текстове.

Google DeepMind работи със собствената си технология SynthID за поставяне на водни знаци върху генерирано съдържание от няколко години.

Според предоставената информация Google впоследствие е обявила и възможност за премахване на водните знаци от изображения, видео и музика в държави, в които наличието им не е нормативно задължително.

Разликата при предстоящия режим на OpenAI в Европейския съюз е именно в това: когато задължителното маркиране започне, потребителят няма да разполага с бутон, с който да го изключи.