Нейросеть подвела автора книги об опасностях ИИ

Газета The New York Times в ходе обзора книги «Будущее истины» (The Future of Truth), посвящённой современному обществу, выяснила, что писатель Стивен Розенбаум, не подозревая об этом, включил в неё около десятка цитат, сгенерированных нейросетью.

«Будущее истины» посвящена размыванию правды и раскрывает положение, в котором оказалось общество. Например, почему главные социальные институты оказались одержимы ИИ и как ведётся современная информационная война с помощью ботов и генеративных нейросетей.

В благодарностях автор указал популярные модели Claude и ChatGPT и не стал отрицать, что пользовался нейросетями, а наоборот, отметил, что они стали его «замечательными спутниками», которые были для него странными, но креативными во всех отношениях.

Однако Розенбаум слишком доверился чат-ботам и включил в книгу цитаты, которые получил от них. Их достоверность проверял редактор, а весь контент, сгенерированный ИИ, был помечен для этого. Что-то всё-таки пошло не так, и в книге оказалось «более полдюжины» цитат, которые не относятся к реальным личностям.

Некоторые цитаты оказались сгенерированы самими нейросетями, ещё часть приписана не тем людям или их смысл был искажён, чтобы подстроиться под контекст. Одна из них была приписана журналистке Каре Свишер, другая — профессору психологии Лизе Фельдман Барретт. Обе подтвердили, что не говорили того, что написано в книге. Писатель заявил, что начал собственное расследование и работает с издателем, чтобы исправить книгу.

Свишер отметила, что ситуация получилась ироничной в контексте того, чему посвящена книга, и сделала поднимаемые вопросы ещё более актуальными.

Ранее лауреат Нобелевской премии рассказала, что использует нейросети при работе над новым романом.