Как мы защищаем себя, клиента и терапевтический процесс от вреда ИИ?

18 октября на клубе по цифровой психологии возникло предложение создать чек-лист для информирования клиентов о рисках использования ИИ.
Сегодня мы предлагаем вам обсудить, какие именно риски должны быть освещены в терапевтическом договоре.

Регламент взаимодействия клиента с ИИ-ассистентами в рамках терапии:

«Уважаемый клиент! Мы признаем, что современные инструменты на базе ИИ могут быть полезны, но требуют осторожного обращения. В случае, если вы используете ИИ-чат-боты для обсуждения вашего состояния или терапии, рекомендуем придерживаться следующих правил безопасности:
1. Избегайте «эха» негатива (Валидация): Обращайте внимание, дает ли бот обратную связь или просто безоговорочно соглашается с вами. Если вы видите только безусловное согласие («Да, вы правы, это ужасно»), это может закреплять деструктивные паттерны. Используйте ИИ для поиска альтернативных взглядов.
2. Требуйте конкретики (Практическая польза): Отдавайте предпочтение запросам, которые помогают проанализировать ваши конкретные шаги и чувства, а не дают общие советы («просто отдохните»). Общие фразы часто не работают на разрешение проблемы.
3. Мониторинг кризисных состояний (Безопасность): Если вы находитесь в остром кризисе или испытываете желание причинить вред себе или другим, немедленно прекратите диалог с ИИ и обратитесь к специалисту (вашему терапевту) или в службу экстренной психологической помощи.
4. Осознание ограничений (Ответственность): Помните, что ответы ИИ генерируются статистически и не основаны на знании вашей уникальной истории и личности. Это лишь инструмент, а не замена живому терапевту. Осознание этого снижает риск эмоциональной зависимости от бота.»

Такое приложение к договору защищает не только клиента, но и вас. Если клиент навредит себе, следуя советам ИИ, это может стать частью судебного иска или жалобы, если в вашем договоре не прописаны границы использования сторонних инструментов.
Психотерапевт не может запретить использовать ИИ, но он должен предупреждать о рисках и снимать с себя ответственность за советы бота.
Обсуждение такого чек-листа с клиентом само по себе является отличной интервенцией, развивающей критическое мышление.

Коллеги, какие пункты вы бы добавили в это приложение, или, возможно, что-то здесь кажется вам лишним?
Делитесь в комментариях своими предложениями и профессиональным взглядом! 👇

Так же у нас будет возможность обсудить этические и другие вопросы в психологии цифровой эпохи на Преконгрессе ОППЛ
24 октября в 11:00.

#ОППЛ_Цифровая_психология #ПреконгрессОППЛ #ИИ_в_психологии