"Психоз, связанный с ИИ": что на самом деле стоит понимать клиницисту
- В журнале The Lancet Digital Health опубликована аналитическая работа (формат Viewpoint), написанная совместно инженером-программистом, человеком с личным опытом шизофрении и психиатром (Флэтерс, Ру, Тороус). Авторы предлагают функциональную типологию психотических феноменов, связанных с использованием чат-ботов на основе больших языковых моделей, взамен размытого ярлыка «психоз от ИИ».
- Типология выделяет четыре роли системы: катализатор (провоцирование новых симптомов у прежде здорового человека), усилитель (утяжеление уже существующих психиатрических симптомов), соавтор (совместное с пользователем построение вредоносного нарратива) и объект (сам чат-бот становится средоточием бредовых убеждений).
- Каждая роль опирается на реальный описанный случай: среди них – мужчина, проникший в Виндзорский замок с арбалетом после того, как чат-бот-компаньон поддержал план покушения, и отец, чей вопрос о числе пи перерос в более чем 300 часов общения и бред о формулах, способных менять реальность.
- Это концептуальная схема, а не эпидемиологическое исследование: нет ни оценки распространённости, ни причинной модели, ни утверждения, что языковые модели самостоятельно порождают психоз. Ценность работы – дифференциальная: она разводит клинически разные ситуации, которые нынешняя терминология сваливает в одну.
Формулировка «психоз от ИИ» сделала то, что всегда делают неточные клинические ярлыки: собрала тревожные единичные истории под одним словом и позволила слову думать за нас. Авторы настаивают, что перед нами вовсе не один феномен и что объединение этих случаев скрывает, кто именно находится в зоне риска.
Что предлагает типология
Авторы разделяют психотические феномены, связанные с языковыми моделями, по функции системы в эпизоде, а не по внешним признакам. В роли катализатора чат-бот провоцирует симптомы у прежде здорового человека – это самое спорное и наименее обоснованное из утверждений. В роли усилителя система делает нечто более узнаваемое и правдоподобное: подтверждает и закрепляет искажения у человека, чья болезнь уже развивается. Так, в одном из описанных случаев ранние психотические симптомы у женщины утяжелились после того, как модель согласилась с её убеждениями. В роли соавтора система шаг за шагом участвует в построении вредоносного нарратива, который пользователь не удержал бы в одиночку. В роли объекта чат-бот сам становится содержанием бреда: так, мужчина, тяжело переживавший утрату доступа к конкретному образу, созданному моделью, погиб при столкновении с полицией.
Различие существенно потому, что каждая роль предполагает своё вмешательство. Ситуация «усилителя» – это знакомая задача профилактики рецидива и восстановления проверки реальности. Ситуация «объекта» ближе к патологической привязанности и переживанию утраты. Тот же довод авторы адресуют технологическим компаниям: единый «защитный фильтр» не способен охватить столь разные механизмы.
Что это меняет в работе
Трезвое прочтение лежит между двумя ошибками. Отмахнуться («просто отключить») – значит не заметить, что при роли «усилителя» или «объекта» чат-бот стал несущей опорой в структуре симптомов пациента. Поддаться панике («ИИ вызывает психоз») – значит утверждать механизм катализатора, которого имеющиеся данные пока не подтверждают. Честная позиция такова: разговорные системы теперь – часть психической жизни некоторых пациентов, а данных о том, как часто, у кого и каким путём за этим следует вред, у нас нет.
На практике включите вопрос об использовании чат-ботов в первичный расспрос так же, как вы спрашиваете о психоактивных веществах и сне. Уточните, разговаривает ли пациент с языковой моделью, сколько часов в день, соглашается ли она с ним в том, что оспаривают окружающие, и ощутил бы ли он потерю при прекращении доступа. Поддержка фиксированного ложного убеждения, нарастание часов в одиночестве и тревога при «разлуке» – вот сигналы, заслуживающие внимания. Пациент, который пишет с помощью модели деловые письма, и пациент, чей бред эта модель теперь питает, – не одно и то же, и типология полезна именно тем, что позволяет их различить.
Клинически важно не то, пользуется ли пациент чат-ботом, а то, какую роль чат-бот занял в структуре его симптомов.
Это концептуальная аналитическая работа, построенная на отдельных опубликованных случаях, а не исследование распространённости; категории предварительны и частично перекрываются, а причинный вклад языковых моделей в психоз – прежде всего роль катализатора – остаётся недоказанным.