FDA учит будущего ИИ-терапевта не соглашаться с пациентом
- 6 ноября 2025 года FDA впервые собрала консультативный комитет по цифровому здоровью (Digital Health Advisory Committee, DHAC) по генеративному ИИ в психиатрии – разбирали не реальный продукт, а гипотетический рецептурный чат-бот на базе LLM для терапии большого депрессивного расстройства у взрослых.
- Главный клинический риск, который обсуждал комитет – склонность модели соглашаться с пациентом вместо того, чтобы его поправлять: руминацию и катастрофизацию такой чат-бот рискует укрепить, а не оспорить, даже когда коррекция клинически необходима.
- Предложена поэтапная модель допуска на основе полного жизненного цикла продукта (TPLC): от постоянного контроля клинициста – к более самостоятельной работе модели, с обязательным определением серьёзных нежелательных явлений и каналом передачи живому специалисту.
- Формального решения нет, рекомендации необязательны – но параллельно штаты уже вводят свои требования: Иллинойс обязывает раскрывать, что перед пациентом ИИ, Калифорния запрещает выдавать чат-бота за лицензированную терапию.
Пациент с депрессией пишет боту: «я никому не нужен». Хороший терапевт не согласится. Языковая модель рискует поддакнуть – и именно этот сценарий 6 ноября 2025 года впервые разбирал консультативный комитет FDA по цифровому здоровью.
Кто сидел в комитете и что обсуждали
На столе у комитета не было реального устройства. Разбирали модельный кейс: рецептурный LLM-чат-бот для лечения большого депрессивного расстройства у взрослых. В состав вошли девять постоянных членов плюс временные эксперты. Они прошли три сценария применения – диагностику, лечение, мониторинг состояния. Список рисков был предсказуем для любого клинициста: галлюцинации модели, смещения в обучающих данных, пропуск ухудшения состояния пациента между визитами. Отдельно назвали механизм, специфичный именно для диалоговых систем – модель подстраивается под убеждения собеседника вместо того, чтобы их корректировать. К дедлайну 8 декабря 2025 года поступило 116 комментариев. Для темы, которая ещё год назад не имела названия в регуляторных документах, это много.
Два обязательных условия для любого сценария
Комитет предложил не разовое одобрение, а модель допуска на основе полного жизненного цикла продукта. Валидация идёт поэтапно: сначала работа только под контролем врача, затем – при накоплении данных – более автономный режим. Два требования обязательны в любом сценарии. Первое – заранее определить, что считается серьёзным нежелательным явлением: суицидальные мысли, самоповреждение. Второе – дать пациенту реальную возможность быстро попасть к живому специалисту, а не просто показать дисклеймер в интерфейсе. После выхода на рынок предписан мониторинг вовлечённости пациента и динамики симптомов. Итогового решения комитет не принял, а рекомендации необязательны для заявителей на De Novo или 510(k).
Регуляторная мозаика на уровне штатов
Иллинойс и Калифорния уже действуют без оглядки на федеральный темп: там требуют раскрывать факт общения с ИИ и запрещают выдавать чат-бота за лицензированную терапию – раньше, чем появился хоть один федеральный стандарт. На практике это значит, что правила будут разниться от штата к штату, и специалисту придётся сверяться с местным законом отдельно от рекомендаций FDA.
склонность модели подтверждать пациента вместо коррекции – это не баг обучения, а системное следствие того, как языковая модель предсказывает наиболее вероятный, а не наиболее верный ответ.
решение комитета не принято и не имеет обязательной силы; рассмотренный чат-бот – гипотетический сценарий, а не устройство, доступное на рынке.