Художника манги уволили после попытки «раздеть» участницу айдол-группы с помощью Grok

Художник, известный по комичным и сексуализированным зарисовкам с айдолами для молодёжных журналов, 3 января публично попросил Grok заменить платье на купальник на фото участницы группы STU48 Рико Куды. Сама Рико негативно отреагировала на сгенерированное изображение, однако мангака не обратил на это внимания и не стал удалять публикацию.

Спустя два дня Танабэ всё же удалил твит и принёс публичные извинения — после того как юристы STU48 обратились к нему с официальным требованием удалить неподобающее содержимое. С извинениями мангака также сообщил о прекращении сотрудничества с группой. В тот же день представители STU48 опубликовали заявление, в котором потребовали удалить уже созданный ИИ-контент с участницами без их разрешения и воздержаться от создания нового, назвав подобные действия вторжением в личную жизнь. Если действия не будут предприняты, то агентство обратится за юридической помощью и дело будет передано в суд.

Сам Танабэ ранее создавал аниме-зарисовки участниц группы в купальниках с одобрения агентства. Айдолы также регулярно снимаются для фотобуков в купальниках, что составляет значимую часть их дохода. Однако ситуация с ИИ морально отличается: теперь «раздеть» человека можно за секунды без его разрешения, и, несмотря на формальные ограничения нейросетей, с помощью продуманных запросов пользователи способны создавать куда более неподобающее содержимое, чем рабочие материалы самого мангаки.

X (Twitter) ввёл функцию изменения исходных изображений с помощью ИИ 25 декабря, и она столкнулась с критикой уже в день запуска. Мангака BOICHI (Dr. Stone) сразу заявил, что откажется от публикации своих работ в соцсети из-за возможности их модификации пользователями.

Некоторые пользователи предположили, что происходящее — своеобразная месть Илона Маска. В 2019 году миллиардер оказался в центре скандала, когда опубликовал фан-арт 2B из NieR: Automata, не указав автора работы, и отказался исправлять пост, несмотря на давление со стороны фанатского сообщества.

У оппозиционной группы против новой функции накопилось немало аргументов в пользу её ограничения или полного отключения. Grok способен не только «раздеть» кого угодно, но и не распознаёт, с кем именно работает: он может рисовать купальники на логотипах, политиках, мировых звёздах и даже детях. Уже зафиксированы случаи, когда пользователей просили «переодеть» несовершеннолетних в бикини — что во многих странах считается юридически недопустимым.

Помимо этических вопросов, всё громче звучат споры о целесообразности дальнейшего развития генеративного ИИ. Несмотря на то что нейросети успешно интегрируются в рабочие процессы, функции генерации изображений и видео вызывают всё больше критики. Они требуют значительных вычислительных ресурсов, ускоряя износ чипов в дата-центрах, а в потребительском сегменте усугубляют кризис доступности видеокарт и оперативной памяти.