xAI запретил генерацию откровенных фото в X через Grok

Стартап xAI Илона Маска ограничил возможности нейросети Grok в соцсети X. После недавнего скандала разработчики отключили функцию генерации откровенных изображений реальных людей.

https://t.co/awlfMjX6FS

Фирма принимает меры по удалению CSAM-контента и наготы, а также в отношении нарушающих правила X пользователей. Она сообщит в правоохранительные органы о тех, кто пытается найти подобные материалы.

«Мы внедрили технологические меры для предотвращения возможности редактирования в учетной записи Grok изображений реальных людей в откровенной одежде, такой как бикини. Ограничение распространяется на всех пользователей, включая владельцев платной подписки», — говорится в уведомлении.

Создание картинок и возможность их редактирования через аккаунт Grok на платформе X теперь доступны только премиум-пользователям. Благодаря этому в xAI надеются привлечь к ответственности лиц, которые злоупотребляют возможностями чат-бота.

Разработчики назвали ограничение дополнением к текущим протоколам безопасности и анонсировали внедрение дополнительных мер защиты.

В начале января Grok попал в очередной скандал из-за возможности создавать изображения обнаженных реальных людей и несовершеннолетних.

Британская организация Internet Watch Foundation отметила, что ее аналитики обнаружили «криминальные материалы» детей в возрасте от 11 до 13 лет, которые предположительно созданы с помощью Grok.

Маск сообщил, что ему неизвестно ни об одном случае применения чат-бота для создания изображений обнаженных несовершеннолетних.

I not aware of any naked underage images generated by Grok. Literally zero.

Obviously, Grok does not spontaneously generate images, it does so only according to user requests.

When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj

«Очевидно, Grok не генерирует спонтанно. Он это делает по промпту пользователя», — подчеркнул предприниматель.

По его словам, чат-бот отказывается создавать незаконный контент. Однако могут быть случаи «враждебных взломов», которые приводят к «неожиданным результатам».

11 января малайзийский регулятор распорядился ввести временные ограничения после «неоднократных неудач X Corp» в устранении рисков, связанных с ИИ-сервисом.

За день до этого Индонезия приостановила доступ к чат-боту из-за аналогичных опасений и вызвала представителей компании для обсуждения вопроса.

Регуляторы ЕС, Великобритании, Бразилии и Индии потребовали расследовать роль Grok в распространении дипфейков.

Коалиция из 28 организаций в сфере защиты цифровых прав, прав женщин и детей призвала глав Apple и Google принять меры и удалить X и чат-бота из магазинов приложений.

Напомним, в январе Grok интегрируют с сетью Пентагона наряду с генеративным ИИ-движком Google.

Подписывайтесь на ForkLog в социальных сетях

Рассылки ForkLog: держите руку на пульсе биткоин-индустрии!

Источник