Борьба с ИИ-фанфиками расколола сообщество. Задело авторов, не использующих нейросети

На прошлой неделе в фанатских сообществах возникло новое движение, поставившее своей целью выявлять и искоренять авторов, использующих генеративный ИИ для написания фанфиков. Однако методы участников оказались крайне спорными, а под подозрение начали попадать даже писатели, которые вовсе не использовали нейросети для создания своих работ.

29 июня поклонник «Горячего соперничества» под ником @heatedprivalryai представил, по его словам, «надёжное решение проблемы» для борьбы с немаркированными ИИ-фанфиками. Он опубликовал пользовательский скин для платформы Archive of Our Own (AO3), содержащий код, который ищет в тексте фанфика скрытые метаданные, оставляемые чат-ботом Claude от Anthropic при генерации ответов.

При копировании текста напрямую из Claude вместе с ним переносятся скрытые теги. AO3 сохраняет их без дополнительной обработки, поэтому скрипт анализирует код страницы и при обнаружении таких метаданных окрашивает фон сайта в красный цвет, сигнализируя о том, что работа могла быть создана с помощью ИИ.

По результатам проверки инструментом пользователь выяснил, что популярный AU-фанфик «Щелкунчик» от OpalApparition, посвящённый балету, был создан с помощью Claude. Произведение широко обсуждалось в сообществе и получило высокие оценки читателей. Кроме него автор инструмента указал ещё на десятки популярных фанфиков, которые, по его мнению, были сгенерированы ИИ без соответствующей маркировки.

Всего за шесть месяцев после премьеры сериала в фандоме появилось более 35 тысяч фанфиков. Подозрения в использовании ИИ возникали и раньше, однако с появлением нового инструмента ситуация быстро вышла из-под контроля. Пользователи начали создавать коллекции якобы непомеченных ИИ-фанфиков, а авторы столкнулись с массовой травлей, угрозами и требованиями удалить свои работы. Некоторые авторы действительно предпочли скрыть или вовсе удалить произведения, чтобы избежать нападок.

Сам @heatedprivalryai осудил подобное поведение. По его словам, целью проекта было добиться прозрачности со стороны авторов, а не устраивать охоту на ведьм. Однако обвинённые писатели заявили, что инструмент способен ошибочно определять работы как созданные ИИ. Они объяснили, что текстовый редактор случайно сохранил соответствующие метаданные, другие признались, что использовали нейросети исключительно для исправления орфографии или пунктуации, но не для написания художественного произведения.

Часть сообщества подобные объяснения не устроила. Некоторые читатели считают, что использование ИИ даже для незначительных правок должно сопровождаться специальной пометкой. Для них любое применение нейросетей сродне предательству творческого сообщества. Похожие споры ранее возникали вокруг разработчиков Clair Obscur: Expedition 33, когда часть игроков требовала лишить игру наград после обнаружения одной текстуры, созданной с помощью ИИ.

Писатели также раскритиковали сам инструмент, отметив, что он не показывает, какая именно часть произведения была создана нейросетью. Более того, выяснилось, что способ обнаружения крайне легко обойти. Проблема заключалась исключительно в метаданных Claude: если вставить текст сначала в Microsoft Word, Google Docs или любой другой редактор, а затем скопировать оттуда, скрытые теги автоматически исчезают. Этим быстро воспользовались многие авторы — как те, кто действительно использовал ИИ, так и те, кто опасался ложных обвинений.

Компания Anthropic пока никак не прокомментировала достоверность обнаруженного метода. В то же время некоторые разработчики заявили, что располагают собственными способами определения текста, созданного ChatGPT, DeepSeek и другими моделями, однако раскрывать принципы их работы не стали.

Несмотря на появление подобных инструментов, главная проблема никуда не исчезла. Ещё до появления ИИ-детекторов пользователи регулярно устраивали охоту на ведьм, руководствуясь исключительно собственными ощущениями. В качестве «доказательств» называли слишком гладкий стиль, необычные метафоры, непривычные формулировки или странный подбор слов. При этом часто забывается, что подобные особенности встречались в фанфиках задолго до появления генеративных нейросетей — иногда из-за небольшого словарного запаса автора, а иногда просто из-за его индивидуального стиля.

Ситуация продолжает развиваться. Некоторые авторы начали через якобы знакомых или родственников сообщать о собственной смерти, чтобы прекратить травлю, однако спустя несколько дней продолжали обновлять свои произведения. Другие пытались вызвать сочувствие читателей или обвиняли критиков в преследовании. Сами читатели признаются, что теперь испытывают беспокойство, поскольку не знают, сколько популярных фанфиков могли прочитать, даже не подозревая, что те могли быть полностью или частично созданы с помощью ИИ.

Эксклюзивные интервью и документальные фильмы — на нашем YouTube-канале Molwe. Подписывайтесь!