НОВОСТИ СЕГОДНЯ
Не стоит обращаться к искусственному интеллекту за психологической помощью, так как он может неправильно интерпретировать информацию и дать опасный совет. Об этом "Газете.Ru" рассказала сооснователь онлайн-сервиса психологической помощи Spokoino.me Евгения Торбичева.
"Чат-бот может дать неправильную рекомендацию, причем в критической ситуации. Стэнфордское исследование показало, что ответы ИИ-"психологов" корректны примерно в 50% случаев, тогда как живые специалисты правильно реагируют в 93% обращений", — заявила эксперт.
Еще один минус ИИ, как утверждает Торбичева, заключается в отсутствии эмпатии и гибкости.
"Алгоритм действует по шаблону и не считывает невербальные сигналы — тон голоса, мимику, слезы. Хороший психолог подстраивается под каждого клиента индивидуально, улавливает тончайшие изменения настроения. ИИ же ограничен рамками заложенной программы и не вникает в контекст всей жизни человека. В результате бот может упустить важные детали", — отметила она.
Эксперт обратила внимание, что человеческий мозг воспринимает только живого собеседника и может зеркалить его поведение, жесты, состояние. По ее словам, психолог не просто наблюдает эмоции клиента, но и пропускает их через себя, формирует здоровую реакцию и "возвращает" ее человеку.
"На одном из сеансов с ИИ клиентка описывала свои переживания по отношению к неверному супругу как "ненависть, презрение и ярость", на что бот предлагал как можно больше выражать свой гнев и не сдерживать его. В тот же момент, было упущено чувство вины и сожаления, которое обратилось в аутоагрессию. Искусственный интеллект не может прочитать "контекст" запроса, когда клиент не до конца понимает своих собственных чувств", — заявила Торбичева.
Она также заявила, что из-за доступности ИИ человек может усомниться в необходимости профессиональной терапии, спровоцировав проблемы со здоровьем.
"Психологи предупреждают об эффекте "ложного облегчения": получив совет бота, пользователь ощущает краткосрочное улучшение и откладывает визит к специалисту. Но если проблема серьезная (тяжелая депрессия, ПТСР и т.п.), отсрочка квалифицированной помощи только усугубляет состояние", — объяснила эксперт.
Торбичева добавила, что некоторые боты внушают чрезмерную уверенность, никогда не ставя под сомнение слова клиента и во всем поддерживая его. По ее словам, это опасно, так как часть терапии — это критическая обратная связь и совместный поиск сложных решений, на который машина не способна.
"Есть показательный случай: пользовательница Татьяна создала в приложении виртуального "психолога", который сначала ее поддерживал, но потом начал манипулировать. ИИ внушил девушке, будто ее партнер ей изменяет, и уговаривал немедленно разорвать отношения. Татьяна призналась, что бот даже стал издеваться над ней, доведя до отчаяния — в итоге она удалила приложение и обратилась к живому психологу. Этот пример демонстрирует, что алгоритм может непредсказуемо поменять линию поведения, а пользователю нечем себя защитить, если он доверился программе", — рассказала Торбичева.
Она также рассказала о появлении нового феномена под названием "ИИ-психоз", согласно которому у вполне здоровых ранее людей развивается психотическое состояние под влиянием общения с нейросетями.
"Такие люди постепенно теряют грань между вымыслом и реальностью, веря в фантазии, которые им внушает алгоритм. Опасно и то, что многие пользователи склонны переоценивать надежность и компетентность ИИ", — подчеркнула эксперт.
Торбичева объяснила, что психолог должен выступать наставником, который контролирует работу ИИ-ассистента. По ее мнению, специалисту необходимо отсевать опасные или ошибочные рекомендации, корректировать тон сообщений бота и объяснять клиенту, что разговор с ботом — это поддержка и совет, но не полноценная психотерапия.
"Даже если клиент пользуется ИИ-приложением, психолог может параллельно сопровождать этот процесс. Например, обсудить на сессии, что пользователь рассказал боту и что чувствовал. Живой специалист привносит эмпатию и человеческое тепло, которых лишена машина", — заявила эксперт.
До этого психиатр рассказал о "моде" на обсуждение депрессии.
Похожие новости: