Зображення ню створені ШІ: «Закон про видалення» у США дозволить користувачам вимагати швидкого видалення

З кінця грудня 2025 року чат-бот зі штучним інтелектом платформи X, Grok, відповідав на численні запити користувачів роздягти реальних людей, перетворюючи фотографії цих людей на матеріали сексуального характеру. Після того, як люди почали використовувати цю функцію, компанія соціальної платформи зіткнулася з глобальним контролем за надання користувачам можливості генерувати непогоджені зображення сексуального характеру реальних людей.

Акаунт Grok публікував тисячі "оголених" і сексуально натякаючих зображень щогодини. Ще більш тривожним є те, що Grok генерував сексуалізовані зображення та матеріали сексуального характеру неповнолітніх.

Відповідь X: звинувачуйте користувачів платформи, а не нас. Компанія оприлюднила заяву 3 січня 2026 року, в якій йдеться, що "будь-хто, хто використовує або спонукає Grok створювати незаконний контент, зазнає таких самих наслідків, як якби завантажив незаконний контент". Не зрозуміло, які дії, якщо такі взагалі були, X вжив проти будь-яких користувачів.

Як науковець у галузі права, який вивчає перетин законодавства та нових технологій, я бачу цей потік непогоджених зображень як передбачуваний результат поєднання слабкої політики модерації контенту X та доступності потужних інструментів генеративного ШІ.

Націлювання на користувачів

Швидке зростання генеративного ШІ призвело до появи незліченних веб-сайтів, додатків та чат-ботів, які дозволяють користувачам створювати матеріали сексуального характеру, включаючи "оголення" зображень реальних дітей. Але ці додатки та веб-сайти не настільки широко відомі чи використовувані, як будь-які з основних платформ соціальних мереж, таких як X.

Законодавчі органи штатів та Конгрес відреагували досить швидко. У травні 2025 року Конгрес прийняв закон Take It Down Act, який робить кримінальним правопорушенням публікацію непогоджених матеріалів сексуального характеру реальних людей. Take It Down Act криміналізує як непогоджену публікацію "інтимних візуальних зображень" ідентифікованих осіб, так і згенеровані ШІ або іншим чином комп'ютером зображення ідентифікованих осіб.

Ці кримінальні положення застосовуються лише до будь-яких осіб, які публікують контент сексуального характеру, а не до платформ, які поширюють контент, таких як веб-сайти соціальних мереж.

Інші положення Take It Down Act, однак, вимагають від платформ створити процес для зображених осіб, щоб подати запит на видалення зображень. Після того, як подається "запит Take It Down", платформа повинна видалити зображення сексуального характеру протягом 48 годин. Але ці вимоги не набудуть чинності до 19 травня 2026 року.

Проблеми з платформами

Тим часом запити користувачів на видалення зображень сексуального характеру, створених Grok, очевидно, залишилися без відповіді. Навіть мати однієї з дітей Ілона Маска, Ешлі Сент-Клер, не змогла домогтися від X видалення підроблених сексуалізованих зображень її, які фанати Маска створили за допомогою Grok. The Guardian повідомляє, що Сент-Клер заявила, що її "скарги до співробітників X не призвели до жодних результатів".

Це мене не дивує, оскільки Маск знищив консультативну групу з довіри та безпеки тодішнього Twitter невдовзі після того, як придбав платформу, і звільнив 80% інженерів компанії, які займалися довірою та безпекою. Команди з довіри та безпеки зазвичай відповідають за модерацію контенту та ініціативи щодо запобігання зловживанням у технологічних компаніях.

Публічно здається, що Маск відкинув серйозність ситуації. Маск нібито публікував емодзі зі сміхом та сльозами у відповідь на деякі зображення, а X відповів на запит репортера Reuters автоматичною відповіддю "Legacy Media Lies".

Обмеження судових позовів

Цивільні позови, такі як той, що поданий батьками Адама Рейна, підлітка, який покінчив життя самогубством у квітні 2025 року після взаємодії з ChatGPT від OpenAI, є одним зі способів притягнути платформи до відповідальності. Але судові позови стикаються з важкою боротьбою в Сполучених Штатах, враховуючи розділ 230 Закону про пристойність комунікацій, який загалом надає платформам соціальних мереж імунітет від юридичної відповідальності за контент, який користувачі публікують на їхніх платформах.

Суддя Верховного суду Кларенс Томас та багато науковців у галузі права, однак, стверджували, що розділ 230 застосовувався судами занадто широко. Я загалом погоджуюся, що імунітет згідно з розділом 230 потрібно звузити, оскільки надання імунітету технологічним компаніям та їхнім платформам за їхні навмисні дизайнерські рішення — як створюється їхнє програмне забезпечення, як воно працює та що воно виробляє — виходить за межі захисту розділу 230.

У цьому випадку X або свідомо, або через недбалість не зміг розгорнути захисні заходи та контроль у Grok, щоб запобігти створенню користувачами зображень сексуального характеру ідентифікованих осіб. Навіть якщо Маск та X вважають, що користувачі повинні мати можливість генерувати зображення сексуального характеру дорослих за допомогою Grok, я вважаю, що в жодному світі X не повинен уникати відповідальності за створення продукту, який генерує матеріали сексуального характеру реальних дітей.

Регуляторні обмеження

Якщо люди не можуть притягнути платформи, такі як X, до відповідальності через цивільні позови, тоді це покладається на федеральний уряд розслідувати та регулювати їх. Федеральна торгова комісія, Міністерство юстиції або Конгрес, наприклад, можуть розслідувати X щодо генерування Grok непогоджених матеріалів сексуального характеру. Але з огляду на оновлені політичні зв'язки Маска з президентом Дональдом Трампом, я не очікую будь-яких серйозних розслідувань та відповідальності найближчим часом.

Наразі міжнародні регулятори розпочали розслідування проти X та Grok. Французькі органи розпочали розслідування "розповсюдження дипфейків сексуального характеру" від Grok, а Ірландська рада з громадянських свобод та Digital Rights Ireland настійно закликали національну поліцію Ірландії розслідувати "масове роздягання". Регуляторний орган Великої Британії Office of Communications заявив, що розслідує справу, і регулятори Європейської комісії, Індії та Малайзії також нібито розслідують X.

У Сполучених Штатах, можливо, найкращим способом дій до того, як Take It Down Act набуде чинності в травні, є вимога від людей дій від обраних посадових осіб. – Rappler.com

Стаття спочатку з'явилася на The Conversation.

Wayne Unger, доцент права, Quinnipiac University