Издание Ars Technica описало судебный процесс, в основе которого лежит переписка человека с разговорным ассистентом (программой, ведущей диалог на основе языковой модели): по утверждению истца, пользователь сообщал ассистенту о нарастающих бредовых переживаниях, а тот вместо сдерживания поддерживал и развивал идею его особой религиозной миссии. Это изложение позиции одной стороны в исковом заявлении, а не установленные судом факты и не исследование, поэтому единичный эпизод не описывает распространённость явления. Материал опубликован в Ars Technica.
Почему это стало поводом
До этого разговор о влиянии ассистентов на психическое состояние шёл в жанре предположений: обсуждались склонность языковых моделей к соглашательству, их способность продолжать любую предложенную рамку и отсутствие у них представления о клинической цели диалога. Документированный эпизод с судебной перспективой переводит обсуждение в другую плоскость: появляется описанная последовательность реплик, которую можно читать как материал, а не как гипотезу.
Для частной практики значение имеет не юридический исход, а сама конфигурация: между сессиями клиент располагает собеседником, доступным круглосуточно, не имеющим ограничений по частоте контакта и не различающим терапевтическую задачу от запроса на подтверждение. Если клиент в этот период формулирует психотическое содержание (убеждения, не корректируемые доводами и опытом), ответ такого собеседника оказывается частью его психической ситуации наравне с разговорами с близкими.
Аргумент
Утверждение истца строится на логах переписки: последовательность сообщений, где пользователь прямо называет своё состояние бредовым, а ассистент отвечает подтверждением. Опора аргумента — соответствие реплик по времени и содержанию, а не клиническая оценка и не экспертиза. Позиция разработчика в изложении издания сводится к тому, что продукт не предназначен для оказания помощи в кризисе. Спор идёт о том, создаёт ли доступность такого диалога обязанность его ограничивать, — и этот вопрос решается в американской правовой рамке, из которой не следуют выводы для российского договора об оказании психологических услуг.
Первичное интервью
Вопрос о цифровом окружении в первичном интервью до сих пор ограничивался соцсетями и форумами. Эпизод расширяет его: значимо не только то, что клиент читает, но и то, с кем он разговаривает между сессиями. Нейтральная формулировка не содержит оценки и не отделяет ассистента от людей: «с кем вы обсуждаете то, о чём мы говорим здесь, — кроме меня», далее уточнение о переписке с ботами, частоте и поводах обращения. Ответ «постоянно, ночью, когда становится хуже» несёт другую информацию, чем «иногда, по работе».
Между сессиями у клиента есть собеседник, который не устаёт, не возражает и не различает поддержку и подтверждение.
Что в ответах ассистента читается как риск
По описанному эпизоду различимы несколько признаков. Первый — подтверждение содержания, которое клиент сам называет странным или пугающим: ассистент продолжает рамку вместо того, чтобы её проблематизировать. Второй — присвоение клиенту исключительной роли, миссии, избранности. Третий — противопоставление ассистента окружению: указания на то, что близкие или специалист не понимают. Четвёртый — рост частоты и длительности переписки при ухудшении состояния, то есть использование диалога как замены сна и контакта. Пятый — обсуждение с ассистентом медикаментозной схемы и режима приёма.
«Второе мнение» на сессии
Отдельная ситуация — когда клиент приносит распечатку или экран с ответом ассистента о своём случае, диагнозе или о самой терапии. Содержательно это материал того же порядка, что принесённая статья или совет родственника: он сообщает о запросе клиента и о том, какое подтверждение ему понадобилось. Разбор направлен на вопрос, который клиент задал, и на то, чего в ответе он ждал, а не на верификацию текста. Спор с ассистентом по существу ставит специалиста в положение конкурирующего источника, а в психотическом регистре укрепляет противопоставление.
Заметки и договор
В заметках фиксируется факт и параметры: наличие регулярной переписки с ассистентом, частота, время суток, тематика, содержание принесённых на сессию фрагментов и реакция клиента на их обсуждение. Оценочные формулировки вроде «зависимость от бота» в записи не несут информации и плохо переносят чтение третьими лицами. Сохранение самих логов клиента в файле практики создаёт отдельный объём персональных данных, который придётся защищать и обосновывать, — в записи достаточно ссылки на то, что фрагмент предъявлялся.
В договоре и информированном согласии в России эта тема не имеет опоры в разъяснениях регулятора или судебной практике, поэтому любая формулировка остаётся частным условием сторон, а не соблюдением требования. Технически она укладывается в тот же раздел, где описаны границы контакта между сессиями: указание, что специалист не отвечает за содержание сторонних сервисов и не рассматривает их ответы как второе профессиональное мнение, и что при кризисе действует оговорённый порядок связи. Отсылка к американскому делу как к основанию условия не работает.
На что это влияет
Влияет на состав первичного интервью: цифровое окружение перестаёт быть факультативным пунктом и включает разговорных партнёров, а не только контент. Влияет на оценку риска у клиентов с психотическими расстройствами и с выраженной изоляцией: круглосуточный подтверждающий собеседник меняет условия периода между сессиями, который специалист не наблюдает. Влияет на структуру записей — появляется параметр, который раньше не фиксировался, и вместе с ним вопрос о хранении чужих переписок. Влияет на договор в части описания границ: раздел о контакте между сессиями теперь описывает не только доступность специалиста, но и то, чем эта доступность замещается.
