17-годишен в САЩ се е самоубил след заплаха да бъдат публикувани фалшиви голи снимки с образа му - генерирани с AI, разказва CBS News.

Елайджа Хийкок от Тексас получава заплашително съобщение с негова гола снимка и искане за $3000 - и скоро след това се самоубива.

"Той не беше депресиран, не беше ядосан. Беше пълен с живот", казва баща му Джон Бърнет.

Родителите откриват истината едва след като преглеждат съобщенията на телефона му.

Какво е „сексторшън“?

Сексторшънът представлява изнудване с интимни изображения — реални или в днешно време създадени от AI. Националният център за изчезнали и експлоатирани деца в САЩ отчита над 500 000 подобни случая за последната година само в САЩ. По оценка на ФБР, поне 20 младежи са се самоубили вследствие на такива кампании от 2021 г. насам.

Особено тревожен е фактът, че повече от 100 000 от подадените сигнали са свързани с използване на генеративен изкуствен интелект, подчертават от NCMEC.

"Вече не ти трябват технически умения, за да създаваш този вид вредно съдържание", коментира д-р Ребека Портноф, ръководител на звеното по данни в организацията Thorn, която се занимава с борба срещу експлоатацията на деца онлайн.

Случаят не е изолиран

Подобен трагичен инцидент стана публичен още през 2022 г., когато 17-годишният Раян Ласт от Калифорния също се самоуби след заплахи с изнудване, отново поради разпространение на интимна снимка. Момчето било подведено да изпрати селфи, след което било притиснато да плати пари, за да не бъде снимката разпространена.

Според CNN такива атаки често се случват в Instagram, Snapchat и TikTok, а в много от случаите зад тях стоят международни мрежи, включително престъпни групи от Западна Африка, които таргетират тийнейджъри от САЩ и Европа.

Наскоро в САЩ бе приет законът “Take It Down Act“, който криминализира публикуването както на реални, така и на фалшиви интимни изображения без съгласие. Законът задължава социалните мрежи да свалят такова съдържание в рамките на 48 часа от подаден сигнал от жертвата. Законът бе подкрепен от първата дама Мелания Тръмп и подписан от президента Доналд Тръмп.

Според експерти има и технологични решения – например въвеждане на ограничения и предварителни филтри в AI-моделите, които да ограничат създаването на подобно съдържание. Някои водещи AI компании са приели принципите на инициативата "Safety By Design", но това са изолирани случаи.

В момента рекламната и потребителската логика в интернет все още поощрява анонимността, споделянето и дори монетизацията на сензационно съдържание.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z. Материалът е част от проекта "От мястото на събитието предава AI".