Учёные исследовали тысячи ИИ-фанфиков фаната Doki Doki с попытками воспроизвести роды
Поведение одного из пользователей серьёзно встревожило.
Учёные из университетов Вашингтона и Колорадо опубликовали работу под названием «ИИ-фанфики в естественной среде», в которой проанализировали более 573 тыс. анонимных диалогов пользователей ChatGPT. В них генеративную нейросеть подталкивали к созданию художественных текстов. Цель исследования — понять, как авторы фанфиков используют нейросеть для написания художественной литературы, как с точки зрения объёма, так и содержания.
Для работы исследователи использовали данные, с анонимных пользователей бесплатных продвинутых моделей в обмен на согласие изучения информации в научных целях. В результате был сформирован датасет, из которого извлекли статистику. Лишь 195 тыс. диалогов соответствовали заявленной задаче, тогда как остальные содержали откровенно сексуальный контент либо были отнесены к категории «токсичных».
Одним из ключевых открытий стало то, что 2% пользователей создали более 80% всех диалогов, связанных с работой над художественной литературой. Общее число, генерировавших подобный контент, оценивается примерно в 10 тыс. человек. Это означает, что около 200 из них могли инициировать порядка 150 тыс. запросов на генерацию или доработку текстов.
Учёные выделили тип людей, которых назвали «бесконечными заказчиками сюжетов». Один из участников выборки стал предметом отдельного анализа из-за своей настойчивости. Он регулярно просил нейросеть писать фанфики по хоррор-новелле Doki Doki Literature Club, которые начинались с одного и того же сюжетного поворота: у героини по имени Нацуки начинаются роды.
Аноним настойчиво просил продолжать историю с этого момента, не уточняя дополнительных деталей. Подобные запросы повторялись тысячи раз на протяжении нескольких месяцев. ChatGPT при этом предлагала широкий спектр вариантов развития сюжета — от относительно нейтральных до более драматических. Например, в одном из вариантов герои вызывали скорую помощь, и история завершалась благополучно. Этот автор не был исключением: авторы более глубоких произведений демонстрировали схожие паттерны поведения.
Другой тип пользователей исследователи назвали «зацикленными на сюжете». Они генерируют тексты в течение определённого периода, после чего переключаются на новые темы. Из примерно 150 тыс. запросов около 69% представляли собой повторяющиеся попытки доработки или перегенерации уже созданного контента.
Исследование стало актуальным на фоне продолжающихся споров о допустимости применения ИИ в создании фанфиков. Одни считают это неприемлемым для творческих платформ, другие — напротив, готовы использовать ИИ для завершения и переработки собственных или чужих произведений под личные цели.
Напомним, что Molwe запустила бота, который позволяет получить бережный отзыв на фанфик, не опасаясь обесценивающих комментариев.
Эксклюзивные интервью и документальные фильмы — на нашем YouTube-канале Molwe. Подписывайтесь!
