Китай зробив черговий крок у боротьбі з ризиками, які несе стрімкий розвиток штучного інтелекту. Верховний народний суд країни оприлюднив нові правила, що визначають відповідальність за створення та поширення дипфейків, клонування голосів і використання штучного інтелекту для обману громадян. Експерти вже називають документ одним із найдетальніших у світі правових актів, спрямованих на регулювання контенту, створеного за допомогою ШІ.
Технологія дипфейків за останні роки стала настільки доступною, що для створення переконливої цифрової копії людини іноді достатньо кількох фотографій або короткого аудіозапису. Алгоритми можуть з високою точністю відтворювати зовнішність, міміку, голос та навіть особливості мовлення конкретної особи. Це відкриває широкі можливості для творчості та бізнесу, але водночас створює серйозні загрози для безпеки, репутації та приватності громадян.
Нові китайські правила прямо забороняють створювати або поширювати цифрові копії людей без їхньої згоди. Йдеться не лише про підроблені відео, а й про синтетичні голоси, створені на основі записів реальних осіб. Якщо хтось використає штучний інтелект для імітації обличчя чи голосу іншої людини без дозволу, це може бути розцінено як порушення особистих прав та стати підставою для судового позову.
Особливу увагу суд приділив випадкам, коли дипфейки використовуються для поширення неправдивої інформації. Якщо за допомогою штучного інтелекту створюється відео або аудіозапис, який дискредитує людину, завдає шкоди її репутації чи вводить громадськість в оману, винні можуть бути притягнуті до цивільної або навіть кримінальної відповідальності. Під дію нових правил потрапляють і так звані «AI-галюцинації» — випадки, коли системи штучного інтелекту генерують неправдиву інформацію, яка може зашкодити конкретним людям чи організаціям.
Цікаво, що відповідальність покладається не лише на користувачів, а й на компанії, які надають ШІ-сервіси. Якщо платформа отримала повідомлення про те, що створений нею контент порушує права людини, але не вжила заходів для його видалення або блокування, вона також може бути визнана винною. Таким чином китайська влада намагається змусити технологічні компанії активніше контролювати продукти, які вони випускають на ринок.
Окремим пунктом документу стала боротьба з так званою алгоритмічною дискримінацією. Суд заявив, що компанії не повинні використовувати алгоритми для необґрунтованого встановлення різних цін на однакові товари чи послуги для різних клієнтів. Якщо така практика завдає шкоди споживачам, вона може стати підставою для судового переслідування.
Нові правила також передбачають можливість оперативного судового захисту. Якщо дипфейк загрожує завдати людині серйозної та непоправної шкоди, суд може швидко видати припис про його видалення ще до завершення повного розгляду справи. Це особливо актуально у випадках шантажу, наклепу або поширення фальшивих матеріалів інтимного характеру.
Китай уже кілька років послідовно посилює контроль над штучним інтелектом. Раніше влада запровадила обов’язкове маркування контенту, створеного за допомогою ШІ, а тепер переходить до детального визначення юридичної відповідальності за зловживання новими технологіями. Аналітики вважають, що рішення Пекіна може стати прикладом для інших держав, які також шукають баланс між розвитком інновацій та захистом громадян від цифрових маніпуляцій.
На тлі стрімкого розвитку генеративного штучного інтелекту питання регулювання дипфейків стає дедалі актуальнішим у всьому світі. І хоча дискусії щодо меж такого контролю триватимуть ще довго, Китай уже показав, що готовий діяти швидко та жорстко. Для мільйонів користувачів це означає одне: епоха майже безконтрольних цифрових підробок поступово добігає кінця.