Европейската комисия направи важна крачка към регулиране на изкуствения общ интелект (AGI), публикувайки първия проект на Практически кодекс за управление на тези усъвършенствани AI модели, известни също като "силен AI" или "AI на човешко ниво".

Документът очертава насоки за управление на риска, планове за съответствие и мерки за избягване на сериозни санкции. Очаква се финалната версия да бъде готова до май 2025 г.

Контекстът: "AI закона“ и следващите стъпки

С влизането в сила на Закона за AI на 1 август 2024 г., Европейският съюз утвърди своята роля като глобален лидер в AI регулацията. Докато първоначалният регламент обхваща широк кръг AI приложения, текущият проект е първият опит за създаване на конкретна рамка за управление на AGI – системи, които могат да изпълняват широк спектър от задачи с човешко ниво на интелигентност.

AGI се дефинира като система, обучена с изчислителна мощност от повече от 102510^{25}1025 флопса, което я прави значително по-сложна от текущите AI модели. Компании като OpenAI, Google, Meta, Anthropic и Mistral попадат сред потенциално засегнатите организации, но списъкът може да се разшири с напредъка на технологиите.

Какво включва Практическият кодекс?

Кодексът поставя акцент върху ключови аспекти, необходими за безопасността и отговорността на AGI:

Прозрачност: Разработчиците ще трябва да разкриват използваните уеб роботи и източниците на данни за обучение, което ще защитава създателите на съдържание и авторските им права.

Оценка на риска: Ще се изискват механизми за предотвратяване на киберпрестъпления, избягване на дискриминация в обучителните материали и запазване на контрола върху системите.

Безопасност и сигурност: Компаниите трябва да формулират рамка за безопасност (SSF), която да структурира политиките за ограничаване и управление на потенциалните рискове.

Освен това, техническите мерки за защита на AGI ще включват устойчив на грешки контрол на достъпа и непрекъсната преоценка на ефективността на системите.

Европейският съюз въвежда значителни санкции за неспазване на регулациите: до 35 милиона евро или 7% от годишния глобален приход на съответната компания, което от двете е по-голямо. Въпреки строгите изисквания, заинтересованите страни могат да представят обратна връзка и предложения до 28 ноември 2024 г., преди документът да бъде окончателно одобрен.

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z. Материалът е част от проекта "От мястото на събитието предава AI".