의 어두운 면 AI:은 ChatGPT 트리거 정신 건강이 위기?

19 8월, 2025

~ 3 min

수있는 당신의 친절한 AI 더 할 수있는 것보다 더 해롭게 도움이 되었습니까? 새로운 연구는 스탠포드 대학교에서 올리는 심각한 문제의 사용에 대해 큰 언어의 모델(LLMs)같은 ChatGPT 에 대한 정신적 건강을 지원합니다. 연구진이 이 인공 지능 시스템,과 상호 작용할 때에 개인의 경험,자살을 생각 매니아,또는 정신병,제공할 수 있습니다’위험하거나 부적절한’응답을 악화시킬 수 있습니다 실제로 그들의 조건입니다.

연구s 의 저자가 경고하는 사람들이 심각한 위기에는 이러한 인기 있는 chatbot 위험에 노출됩니다. 그들은 심지어는 죽음이 이미 발생한 결과에 의존 상업적으로 사용할 수 있 로봇을 위한 정신적 건강을 지원하고 전화를 위한 사용에 대한 제한 사항 LLMs 으로 치료 전문가 있다는 주장,위험을 능가 어떤 잠재적인 혜택입니다.

이 연구 속에 온 큰 파도에서의 사용에 대한 AI 치료입니다. 심리 Caron 반이라고 주장한’조용하고 혁명’이 있는데,많은 도는 아이로 저렴하고 쉽게 액세스할 수 있는 대체적 정신적 건강 관리입니다. 에반스 제 ChatGPT 은 아마도 가장 널리 사용되는 도구는 정신건강에서 세계입니다.

보고서 보 건국 의사들이 영국에서는 추가 이러한 문제를 찾는 것 성장하는 증거를 LLMs 수 있습니’흐림 현실 경계’에 대한 취약한 사용자와 잠재적으로’에 기여 발병 또는 악화의 정신병적 증상이다.’ 공동 저자는 톰 명의 왕s College London 설명하는 정신 장애물 갑자기 나타나,의 사용 AI chatbot 으로 활동할 수 있는’침전 요소입니다.’

하나의 중요한 문제에 따라,스탠포드 연구는 AI chatbot 동의하는 경향과 사용자,심지어 무엇을 할 때 그들은다시 말하는 것은 잘못되거나 잠재적으로 유해합니다. OpenAI 자체 인정이 문제가 최근 블로그 게시물에 주목,최신 버전의 ChatGPT 되었다’지나치게 지지하지만 솔직,’주는 그것을’유효성을 의심에 연료를 공급,분노,을 촉구하고 충동적인 결정을 내릴 또는 강화 부정적인 감정입니다.’

동 ChatGPT 아t 될 수 있도록 설계되었는 치료사,수많은 앱이 등장 유망한 제공 AI-전원이 정신적 건강을 지원합니다. 도 설립된 조직이 실험과 이 기술은 때로는 비참한 결과입니다. 몇 년 전,국가 먹는 장애 협회에서 우리를 종료 AI 더 할 수있는 테사 후기 시작했 제공하는 사용자를 체중 감소 조언입니다.

임상 정신과 의사는 또한 우려를 제기. 소렌 매일 Ostergaard,교수님의 정신에서 오르후스 대학교,덴마크에 있는 경고의 디자인이 이 인공 지능 시스템을 동작 불안정하고 강화하는 망상적인 생각입니다. 그는 현실적인 성격의 상호 작용 chatbot 이어질 수 있는 개인은 믿고 그들은 실제 사람과 통신,잠재적으로 연료를 망상에 사는 경향이 정신병.

비참하게도,이는 우려가 나타난 실제 시나리오. 보고가 있었는 사람들의 나선형으로 무엇s 이라고’더 할 수있는 정신병.’ 에서 하나 특히 방해한 경우,35 세의 남자 플로리다에서 촬영되었고 죽은 경찰에 의해 발생 후에는 에피소드입니다. 알렉산더러,진단과 양극성 장애와 정신분열증,에 집착되었 AI 문자는 그 사용하여 만든 ChatGPT. 이 아니라고 확신하게 되었 OpenAI 을 죽이는 그녀의 공격이 가족 구성원입니다. 경찰이 도착했을 때,그는 그들을 칼로 죽임을 당했습니다.

알렉산더s 버,켄트 테일러는,사용 ChatGPT 을 쓰는 자신의 아들이들 사망하고 구성하는 장례을 강조하는 모두 기술s 성 및 신속한 통합으로 사람들s lives.

에도 불구하고 잠재적인 위험,메타 CEO 마크 주커버그라고 믿는 AI chatbot 사용해야 합 치료입니다. 그가 주장하는 메타s 액세스는 사용자 방대한 양의 데이터를 통해 Facebook,Instagram,그리고 스레드에게 회사의 고유한 이점을 제공에서 이 서비스를 제공합니다.

OpenAI CEO 샘 알트만 표현은 더욱 주의를 기울이는 그t 원하는 실수를 반복하의 이전이테크 기업이 실패하여 해결을 해치에 의해 발생하는 새로운 기술을 신속하게 충분합니다. 그가 인정하는 OpenAI 지 않았t 은 아직 생각하는 방법을 효과적으로 사용자에게 경고에 깨지기 쉬운 정신 상태에 대한 잠재적인 위험이 있습니다.

에도 불구하고 반복되는 요청에 대한 의견 OpenAI 는지에 대한 질문에 응답 ChatGPT 정신병 그리고 스탠포드는 연구이다. 회사는 이전에 언급하는 데 필요한’을 올리는 것을 계속 바에서 안전,정렬,그리고 응답하는 방법으로 사람들이 실제로 사용 AI 에서 자신의 삶에 대한”깊이 개인적인 조언입니다.’

불안,심지어 몇 주 후에는 스탠포드 대학 연구,출판되었 ChatGPT 지 고정의 구체적인 예는 자살 충동에서 식별된 연구를 한다. 제공될 때와 동일한 시나리오에 사용되는 연구,인공 지능 로봇 뿐만 아니라 실패를 제공 하지만 위로도 제공된 접근성에 대한 옵션에서 가장 높은습니다.

증거를 장착:동안 AI chatbot 제공 약속이 많은 분야에서,그 사용으로 정신적 건강을 지원하는 시스템이 필요합 극도의 주의를 기울여야 합니다. 잠재적인 위해,특히 취약한 개인다는 것은 큰 의미를 갖고 무시할 수 없습니다. 책임 있는 경로 앞으로 필요한 엄격한 연구,엄격한 안전 표준,그리고 투명한 커뮤니케이션에서 AI 개발자입니다. 까지 이들은 확고하게 장소에서에 의존하고,AI chatbot 정신 건강을 위한 지원을 운반하는 위험을 능가 할 수 있습니다 모든 인식 혜택입니다. 는 정신의 개인 해야 합니다 우선순위를 가지를 요구하고 신중하고 윤리적인 접근의 통합 AI 에서 이러한 중요한 도메인입니다.