Искусственный интеллект в психологии и психотерапии

Как мы защищаем себя, клиента и терапевтический процесс от вреда ИИ?

18 октября на клубе по цифровой психологии возникло предложение создать чек-лист для информирования клиентов о рисках использования ИИ.
Сегодня мы предлагаем вам обсудить, какие именно риски должны быть освещены в терапевтическом договоре.

Регламент взаимодействия клиента с ИИ-ассистентами в рамках терапии:

«Уважаемый клиент! Мы признаем, что современные инструменты на базе ИИ могут быть полезны, но требуют осторожного обращения. В случае, если вы используете ИИ-чат-боты для обсуждения вашего состояния или терапии, рекомендуем придерживаться следующих правил безопасности:
1. Избегайте «эха» негатива (Валидация): Обращайте внимание, дает ли бот обратную связь или просто безоговорочно соглашается с вами. Если вы видите только безусловное согласие («Да, вы правы, это ужасно»), это может закреплять деструктивные паттерны. Используйте ИИ для поиска альтернативных взглядов.
2. Требуйте конкретики (Практическая польза): Отдавайте предпочтение запросам, которые помогают проанализировать ваши конкретные шаги и чувства, а не дают общие советы («просто отдохните»). Общие фразы часто не работают на разрешение проблемы.
3. Мониторинг кризисных состояний (Безопасность): Если вы находитесь в остром кризисе или испытываете желание причинить вред себе или другим, немедленно прекратите диалог с ИИ и обратитесь к специалисту (вашему терапевту) или в службу экстренной психологической помощи.
4. Осознание ограничений (Ответственность): Помните, что ответы ИИ генерируются статистически и не основаны на знании вашей уникальной истории и личности. Это лишь инструмент, а не замена живому терапевту. Осознание этого снижает риск эмоциональной зависимости от бота.»

Такое приложение к договору защищает не только клиента, но и вас. Если клиент навредит себе, следуя советам ИИ, это может стать частью судебного иска или жалобы, если в вашем договоре не прописаны границы использования сторонних инструментов.
Психотерапевт не может запретить использовать ИИ, но он должен предупреждать о рисках и снимать с себя ответственность за советы бота.
Обсуждение такого чек-листа с клиентом само по себе является отличной интервенцией, развивающей критическое мышление.

Коллеги, какие пункты вы бы добавили в это приложение, или, возможно, что-то здесь кажется вам лишним?
Делитесь в комментариях своими предложениями и профессиональным взглядом! 👇

Так же у нас будет возможность обсудить этические и другие вопросы в психологии цифровой эпохи на Преконгрессе ОППЛ
24 октября в 11:00.

#ОППЛ_Цифровая_психология #ПреконгрессОППЛ #ИИ_в_психологии

Коллеги, напоминаем, что совсем скоро пройдет самое главное событие года - Конгресс ОППЛ, а в уже в эту субботу мы встречаемся на Преконгрессе!

Выступят специалисты в области цифровой психологии, чтобы поделиться своими наработками и профессиональными решениями непростой задачи: включить технологии ИИ в нашу практику так, чтобы это приносило пользу развитию терапевтического процесса.

Мы рады сообщить, что Преконгресс будет открывать Президент ОППЛ Виктор Викторович Макаров, а так же с приветственным словом выступит искусственный интеллект!

Формат Преконгресса подразумевает возможность дискуссии, поэтому приходите обсудить самые свежие профессиональные новости, мы ждем вас 24.10 в 11:00.

Регистрация на Преконгресс для членов ОППЛ oppl.ru/webinars/i...

Трансляция на рутуб для всех rutube.ru/video/8dfa...

🤖 На днях в нашем Клубе мы обсуждали возможности и границы чат-ботов в психотерапии, и как раз вышло новое исследование на эту тему. Немецкие учёные опросили 812 пациентов психотерапевтической клиники университетской больницы. У всех был диагноз из раздела психических расстройств МКБ-10, чаще всего депрессия (у трёх из четырёх). Их спросили, обращались ли они к чатботам по вопросам психического здоровья. Треть, 245 человек (30,1%), ответили «да», в основном называя ChatGPT.

📊 Из этой трети те, кто находился в кризисе 67,7% сочли опыт бесполезным, а 32,2% полезным. Что считать кризисом, каждый решал сам. Также стоит указать, что это были данные одной клиники и самоотчёты, поэтому они не позволяют судить, приносят ли чатботы пользу или вред.

🔎 Авторы исследования пришли к выводу, что вопрос о чатботах может быть полезен при первичной оценке состояния пациента, особенно про использование в кризисе, усиление симптомов и замену живой поддержки.

💭 Меня заинтересовала доля тех, кому опыт в кризисе показался полезным. Для кризисных состояний нужны чёткие границы, системы безопасности и протоколы. При этом, если части людей опыт помог, возможно, стоит думать о чатботах как об очень осторожном дополнении к терапии под наблюдением специалиста. Приглашаем коллег к совместной разработке критериев безопасности для таких ситуаций.

Автор поста: Ирина Баширова, кризисный психолог.
Источник: DOI: 10.2196/104297

#ОППЛ_Цифровая_психология #Клуб_Искусственный_Интеллект #ИИ_в_психологии

«А я спросил у чат-бота…» — за этой фразой клиента могут стоять поиск поддержки, сомнения или желание перепроверить психолога. Как этот опыт меняет нашу работу?

18 октября на встрече Клуба вместе с ведущей Софьей Кузнецовой и спикером Алёной Черновой, клиническим психологом, обсуждали возможности ИИ и границы его применения.

Алёна представила результаты исследования и модель, в которой психолог помогает клиенту подготовиться к диалогу с чат-ботом, а затем осмыслить полученный опыт.

Коллеги делились практикой использования ИИ для домашних заданий и подготовки к супервизии, обсуждали доверие и конфиденциальность. Что происходит, когда содержание сессии загружают в нейросеть? Если после общения с ботом стало легче, сохранится ли результат через полгода?

Звучали конкретные предложения - собирать и разбирать ошибки ИИ, разрабатывать рекомендации для клиентов и критерии качества цифровых инструментов.

Спасибо всем, кто делился опытом, задавал вопросы и дискутировал! Именно так возникают темы для исследований и совместной работы.
Запись встречи «Психолог VS Чат-бот как инструмент психологической поддержки»:
https://rutube.ru/video/c6c30e93bed8f4f6…

Если вы ещё не были в Клубе — присоединяйтесь. Быть экспертом в нейросетях необязательно. Ваши наблюдения и профессиональные вопросы помогут продолжить разговор.

📅 24 октября — Преконгресс
📅 6 ноября — секция на Конгрессе ОППЛ.
📅 14 ноября — Постконгресс, большая клубная встреча. Обсудим поднятые вопросы и направления дальнейшей работы.

Сохраните даты и следите за анонсами. А какую тему вам хотелось бы разобрать на следующей встрече?

#ОППЛ_Цифровая_психология #Клуб_Искусственный_Интеллект #ИИ_в_психологии

К психологу и/или к чат-боту. Что ищет человек в каждом из этих разговоров?

В сентябре журнал JMIR Mental Health опубликовал исследование с участием 349 пользователей из Бельгии, обращавшихся к ИИ за психологической поддержкой.

Среди основных причин выбора чат-бота - круглосуточная доступность и ощущение, что начать такой разговор проще, чем обратиться к человеку. При этом большинство опрошенных уже получали профессиональную психологическую помощь раньше или на момент исследования.

А что в России?
Весной 2026 года исследовательское агентство MAGRAM MR изучило, как люди используют ИИ для психологической поддержки. В онлайн-опросе участвовали 1209 совершеннолетних жителей российских городов с населением более 10 тысяч человек.

По опубликованным данным, 37% опрошенных обращались к ИИ для решения конкретной проблемы, а не из любопытства.

Получается, за поддержкой к ИИ обращаются и люди, чаще знакомые с работой психолога. Что они находят в этих разговорах?
Возможность высказаться между встречами?
Помощь в осмыслении переживаний?
И где возникают риски?

Исследование описывает опыт пользователей, но не доказывает эффективность или безопасность чат-ботов как терапии.

18 октября в 10:00 обсудим это на открытой онлайн-встрече Клуба «Искусственный интеллект в психологии и психотерапии»:

Тема «Психолог VS Чат-бот как инструмент психологической поддержки».

Ведущая - Софья Александровна Кузнецова.
Спикер - Алена Анатольевна Чернова.
_______

Посмотреть встречу можно будет в прямой трансляции на Rutube.
Можете оставлять свои вопросы по теме в комментариях - ответим на них во время встречи.

Для регистрации с целью личного участия - напишите в личные сообщения админу канала или оставьте в комментариях сообщение (мы с вами свяжемся).

А вы обсуждаете с клиентами их опыт общения с ИИ?

#ОППЛ_Цифровая_психология #Клуб_Искусственный_Интеллект #ИИ_в_психологии

«Психолог VS Чат-бот как инструмент психологической поддержки»

Уважаемые коллеги!

Приглашаем вас принять участие в открытой встрече Клуба "Искусственный интеллект в психологии и психотерапии", посвященной одной из самых актуальных и неоднозначных тем на стыке современной науки, практики и технологий: «Психолог VS Чат-бот как инструмент психологической поддержки».

Искусственный интеллект всё активнее внедряется в сферу ментального здоровья: нейросети дают рекомендации 24/7, помогают справляться с тревогой и предлагают алгоритмизированные методы самопомощи. Вместе с тем возникает множество профессиональных, этических и методологических вопросов о границах применения ИИ в этой чувствительной области.

Ведущая встречи: Кузнецова Софья Александровна - аккредитованный медицинский психолог, полимодальный психотерапевт, член рабочей группы Комитета по Цифровой психологии и антропологии ОППЛ.

В качестве спикера выступит: Чернова Алена Анатольевна - клинический психолог, действительный член ОППЛ, преподаватель ОППЛ межрегионального уровня, член ученого и академического советов международной академии научной психотерапии (АС МАНП), ученый секретарь комитета по науке и технологиям ОППЛ.

Ключевые фокусы нашей дискуссии:

⦁ Эффективность и ограничения чат-ботов как инструментов психологческой помощи,

⦁ Безопасность и конфиденциальность: риски передачи персональных и чувствительных данных алгоритмам.

⦁ Перспективы профессии: нейросети как инструментальный помощник специалиста или потенциальная угроза профессиональному полю?

Формат встречи предполагает открытый диалог, обмен профессиональным мнением, разбор практических кейсов и исследований.

📅 18 октября в 10-00

Будем рады видеть вас среди участников и услышать ваше профессиональное мнение!

Для участия, пожалуйста, подтвердите свое присутствие в личном сообщении администратору до 17.10 включительно.

Может ли ИИ определить суицидальное поведение?

Эксперимент с ИИ и клиническими текстами на выявление суицидального поведения от коллег мексиканского Центра исследований науки и образования.

Можно ли по записи 📝 первичного интервью автоматически различить суицидальное поведение? В качестве материала взяли 374 обезличенные записи и проанализировали с помощью ИИ. В 11 из них суицидального поведения не было, в остальных 363 были мысли, планирование или попытка.

Для задачи авторы выбрали классический алгоритм машинного обучения, который давал 86% правильных ответов. 📊 Записи с суицидальным поведением модель узнавала в 97% случаев, записи без него только в 9% - помним, что это не случайная выборка из населения, а именно те случаи, которые дошли до врачей. В реальной жизни пропорции были бы другими. Да, модель работает не идеально, но всё же лучше, чем просто случайное угадывание.

🔎 В медицине гораздо опаснее пропустить человека, который действительно нуждается в помощи, чем лишний раз направить к специалисту того, у кого всё в порядке. Поэтому такой перекос был намеренный: модель специально настроена минимизировать пропуски опасных случаев. Эти результаты не позволяют говорить о готовности моделей к самостоятельному выявлению суицидального поведения. Но работа задаёт точку отсчёта - что можно получить из очень коротких записей при малом числе данных.

Друзья! Позвольте подвести некоторые итоги прошедшей открытой супервизии.
1) ИИ супервизия не нуждается в обратной связи от супервизанта. А вот живые участники группы нуждаются.
2) Возможность для супервизанта получить материал от ИИ для рефлексии после прошедшей супервизии. Этот материал - очень весомый бонус, потому что супервизант получает возможность не торопясь обдумать, прорефлексировать, проанализировать и добавить к прошедшей супервизии очень структурированный обзор с ключевыми фокусами и выделенными позициями.
3) отчётливо видно, что ИИ не включён во внутренние процессы, а является только внешним наблюдателем. Поэтому динамика группы, контрперенос, идентификации - это всё мимо машины 😅

🔸Также я вижу, что появляются совсем разные виды ИИ-супервизий: ИИ как супервизор, супервизия роли ИИ в клиентских процессах, влияние на терапевтический контакт...
Это разные форматы и они должны быть заявлены как рамка конкретной встречи. Это ещё стоит переварить и подумать, как реализовать на практике.
🔸А ещё, судя по всему, появится метасупервизия кейсов супервизионных решений от ИИ. Здесь будет идти речь про промпты (правильная формулировка запросов), про специфику ИИ-решений на выборке ряда супервизионных встреч.
🔸И совершенно точно мы не обойдём такую тему, как ревность и зависть к ИИ у самих специалистов!

⚡ Оставайтесь с нами и следите за анонсами следующих встреч!

Уважаемые коллеги!
Завтра в 10:00 по московскому времени начнется открытая супервизионная группа с фокусом на ИИ от Комитета по цифровой психологии ОППЛ
📅 Ещё раз: четверг, 8 октября, с 10:00 до 11:30. Формат — открытая онлайн группа.
🔎 Что будет: разберём случай и обсудим, как использование ИИ клиентом или терапевтом влияет терапию.
💡 Что получат участники: услышать мнение и опыт коллег и найти ориентиры для работы с ИИ в терапии.
Ведущий — Антон Картамышев, аккредитованный супервизор ОППЛ с правом зачёта часов. Модератор — Софья Кузнецова, супервизор ОППЛ.

Ссылка на подключение к Zoom будет в чате по супервизии за час до встречи: https://vk.me/join/kCoz8cg2PP0XW0ByXDKDF42Jnft7LXIMO8I=

Ждём вас ❤️

Коллеги! Запись Первого открытого клуба «ИИ в психологии и психотерапии» открыта для вас в нашем сообществе https://vk.ru/wall-239939807_71

Присоединяйтесь, впереди нас ждет еще много интересных мероприятий!