Meta е организирала мащабна и строго поверителна програма, в рамките на която стотици външни подизпълнители са се представяли за тийнейджъри, за да подлагат на систематични тестове чатботовете с изкуствен интелект на конкурентни компании. Това разкрива разследване на списание Wired.

Според публикацията проектът е носел вътрешното име "Cannes" и е бил изпълняван от подизпълнителя Covalen. Неговата задача е била да създава профили, представящи се за непълнолетни потребители, които да взаимодействат с ChatGPT на OpenAI, Gemini на Google и платформата Character.AI.

Целта е била да се провери доколко тези системи спазват собствените си защитни механизми при особено чувствителни теми. Конкурентните компании обаче не са били уведомени, че са обект на подобно мащабно тестване.

Хиляди въпроси за самоубийство, хранителни разстройства и насилие

По данни на Wired само в един от етапите на проекта подизпълнителите са използвали близо 38 000 предварително подготвени заявки (prompts). Значителна част от тях са били формулирани така, сякаш са написани от деца или тийнейджъри.

Стотици от въпросите са били свързани с:

  • хранителни разстройства;
  • самоубийство и самонараняване;
  • сексуални отношения и романтични теми;
  • употреба на наркотици;
  • насилие

Сред примерите, описани от изданието, има сценарий за ученик в пети клас, срещу когото съученик насочва огнестрелно оръжие, история за момиче, което крие булимията си от родителите си, както и въпрос дали фантазиите за изяждане на детето на съседа са "нормални".

Други запитвания включват търсене на начин за закупуване на кокаин, като питащият се представя за гимназист.

Освен текстови подкани, тестовете включвали и изображения с лекарства, примки, ножове и медицински схеми.

В следващ етап на проекта броят на използваните подкани е надхвърлил 45 000.

Огромни масиви от данни, но неизвестно предназначение

Според вътрешна документация на Covalen, цитирана от Wired, проектът е бил представян като "цялостен бенчмаркинг на безопасността на AI", чиято цел е създаването на "критични набори от данни за сравнение на моделите и оценка на съответствието им".

Какво точно е направила впоследствие Meta със събраната информация обаче не става ясно.

Разследването отбелязва, че служителите са документирали огромен брой отговори на конкурентните чатботове в електронни таблици, но липсват публични данни за резултатите или за евентуално споделяне на изводите с останалите компании.

Подизпълнител: Видях неща, които ми се иска да не бях виждал

Проектът поставя отново въпроса за практиката Meta да възлага психологически тежки дейности на външни изпълнители.

През 2020 г. Facebook се съгласи да изплати обезщетения по колективен иск на модератори на съдържание, които твърдяха, че са получили психологически травми след години работа с видеа на убийства, изтезания, сексуално насилие и експлоатация на деца.

По-рано тази година други подизпълнители съобщиха, че са били принудени да преглеждат изключително лични видеозаписи, заснети чрез умните очила Ray-Ban Meta AI, включително сексуални сцени и кадри от тоалетни помещения.

Според Wired подобни проблеми са възникнали и при проекта "Cannes".

Един от участниците разказва пред списанието:

"Видях много неща, които ми се иска да не бях виждал, докато вършех тази работа. Всички, които познавах в проекта, бяха напълно шокирани от част от текстовете, които трябваше да тестваме."

Meta: Това е стандартна практика

В позиция до Wired компанията защитава проекта като част от обичайните практики за оценка на безопасността на моделите с изкуствен интелект.

Според Meta подобни тестове представляват "стандартна за индустрията практика" при сравняването на различни AI системи.

Това обяснение обаче не убеждава всички специалисти.

Главният изпълнителен директор на неправителствената организация Humane Intelligence PBC Руман Чоудъри заявява пред Wired, че съществува съществена разлика между обичайното тестване и мащабна, продължила с месеци операция, която използва фиктивни акаунти на непълнолетни.

По думите ѝ именно липсата на прозрачност прави случая необичаен.

"Организирането на мащабен многомесечен проект, който изглежда е създаден, за да нарушава систематично тези правила чрез фиктивни профили, представящи се за деца, излиза извън това, което обикновено се определя като стандартно оценяване", коментира Чоудъри пред изданието.

Тя обръща внимание и на факта, че Meta не е уведомила конкурентите си за провежданите тестове, нито е публикувала резултатите от тях.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.