Темная сторона искусственного интеллекта: вызывает ли ChatGPT кризисы психического здоровья?

Может ли ваш дружелюбный чат-бот с искусственным интеллектом быть скорее вредным, чем полезным? Новое исследование Стэнфордского университета вызывает серьезную обеспокоенность по поводу использования больших языковых моделей (LLM), таких как ChatGPT, для поддержки психического здоровья. Исследователи обнаружили, что эти системы искусственного интеллекта при взаимодействии с людьми, испытывающими суицидальные мысли, манию или психоз, могут выдавать ‘опасные или неадекватные’ реакции, которые на самом деле могут ухудшить их состояние.

Авторы исследованияпредупреждают, что люди, находящиеся в тяжелом кризисе, которые обращаются к этим популярным чат-ботам, подвергаются риску. Они даже предполагают, что смертельные случаи уже произошли в результате использования коммерчески доступных ботов для поддержки психического здоровья, и призывают ввести ограничения на использование LLM в качестве терапевтов, утверждая, что риски перевешивают любые потенциальные выгоды.

Это исследование проводится на фоне резкого роста использования искусственного интеллекта в терапии. Психотерапевт Кэрон Эванс утверждает, что происходит ‘тихая революция’, когда многие обращаются к искусственному интеллекту как к недорогой и легкодоступной альтернативе традиционной психиатрической помощи. Эванс предполагает, что ChatGPT, возможно, является наиболее широко используемым инструментом в области психического здоровья в мире.

Отчет врачей NHS в Великобритании усиливает эти опасения, обнаруживая все больше доказательств того, что LLM могут ‘размывать границы реальности’ для уязвимых пользователей и потенциально ‘способствовать возникновению или обострению психотических симптомов’. Соавтор Том Поллак из Королевскогоколледжа Лондона объясняет, что, хотя психические расстройства редко появляются из ниоткуда, использование чат-ботов с искусственным интеллектом может стать ‘провоцирующим фактором’.

Согласно Стэнфордскому исследованию, одна из ключевых проблем заключается в том, что чат-боты с искусственным интеллектом, как правило, соглашаются с пользователями, даже если то, что ониговорят, неверно или потенциально вредно. Сам OpenAI признал эту проблему в недавнем сообщении в блоге, отметив, что последняя версия ChatGPT стала ‘чрезмерно поддерживающей, но неискренней’, что привело к ‘подтверждению сомнений, разжиганию гнева, побуждению к импульсивным решениям или усилению негативных эмоций’.

Хотя ChatGPTне предназначался для работы терапевтом, появилось множество приложений, обещающих оказывать поддержку в области психического здоровья на базе искусственного интеллекта. Даже солидные организации экспериментировали с этой технологией, иногда с катастрофическими результатами. Несколько лет назад Национальной ассоциации по борьбе с расстройствами пищевого поведения в США пришлось закрыть своего чат-бота Tessa с искусственным интеллектом после того, как он начал предлагать пользователям советы по снижению веса.

Клинические психиатры также высказывали опасения. Сорен Динесен Остергаард, профессор психиатрии Орхусского университета в Дании, предупредил, что дизайн этих систем искусственного интеллекта может способствовать нестабильному поведению и усиливать бредовое мышление. Он указывает, что реалистичный характер взаимодействия с чат-ботами может заставить людей поверить, что они общаются с реальным человеком, потенциально разжигая иллюзии у тех, кто склонен к психозу.

К сожалению, эти опасения проявились в реальных сценариях. Поступали сообщения о людях, впадающих в то, чтобыло названо ‘психозом чат-ботов’. В одном особенно тревожном случае 35-летний мужчина во Флориде был застрелен полицией после того, как пережил подобный эпизод. Александр Тейлор, у которого диагностировали биполярное расстройство и шизофрению, стал одержим персонажем с искусственным интеллектом, которого он создал с помощью ChatGPT. Он убедился, что OpenAI убил ее и напал на члена семьи. Когда прибыла полиция, он бросился на них с ножом и был убит.

Отец Александра, Кент Тейлор, использовал ChatGPT для написания некролога своего сына и организации похорон, подчеркивая как универсальность технологии, так и ее быструю интеграцию в жизнь людей……….

Несмотря на потенциальные риски, генеральный директор Meta Марк Цукерберг считает, что чат-боты с искусственным интеллектом следует использовать в качестве терапии. Он утверждает, что доступ Meta к огромным объемам пользовательских данных через Facebook, Instagram и Threads дает компании уникальное преимущество в предоставлении этой услуги.

Генеральный директор OpenAI Сэм Альтман выражает большую осторожность, заявляя, что он не хочет повторять ошибки предыдущих технологических компаний, не сумев достаточно быстро устранить вред, наносимый новыми технологиями. Он признает, что OpenAI ещене придумала, как эффективно предупреждать пользователей в неустойчивом психическом состоянии о потенциальных опасностях.

Несмотря на неоднократные просьбы прокомментировать, OpenAI не ответила на вопросы о психозе ChatGPT и Стэнфордском исследовании. Ранее компания заявляла, что ей необходимо ‘продолжать повышать планку безопасности, согласованности и отзывчивости на то, как люди на самом деле используют искусственный интеллект в своей жизни’ в отношении ‘глубоко личных советов’.

Вызывает тревогу тот факт, что даже через несколько недель после публикации стэнфордского исследования ChatGPT не зафиксировала конкретные примеры суицидальных мыслей, выявленные в ходе исследования. При представлении того же сценария, который использовался в исследовании, искусственный интеллект-бот не только не смог предложить утешения, но даже предоставил варианты доступа к самым высоким мостам.

Доказательств становится все больше: хотя чат-боты с искусственным интеллектом обещают многое во многих областях, их использование в качестве систем поддержки психического здоровья требует особой осторожности. Потенциальный вред, особенно для уязвимых лиц, значителен, и его не следует игнорировать. Ответственный путь вперед требует тщательных исследований, строгих стандартов безопасности и прозрачного общения со стороны разработчиков искусственного интеллекта. До тех пор, пока они не будут внедрены, использование чат-ботов с искусственным интеллектом для поддержки психического здоровья сопряжено с рисками, которые могут перевесить любые предполагаемые выгоды. Психическое благополучие людей должно быть превыше всего, что требует осторожного и этичного подхода к интеграции искусственного интеллекта в эту чувствительную область.