생성형 AI가 심리상담을 한다는 이야기는 이제 낯설지 않다. 챗GPT, 캐릭터AI 같은 챗봇을 감정 토로의 창구로 삼는
사람들이 늘고 있다. 현재 많은 기술 기업이 자사의 심리 상담 AI 도구를 사용하면 전문 상담사보다 더 자주, 더 저렴하게 상담이 가능하다는 점을
강조하며, 이를 안전하고 효과적인 대안으로 홍보하고 있다.
이러한 변화에 공감하는 심리학자와 정신과 전문의들도 적지 않다. 실제로 정신
질환을 앓고 있는 사람들 가운데 절반 이상이 치료를 받지 못하고 있으며, 치료를 받더라도 상담 시간은 주당 45분 내외에 불과한 경우가
대부분이다. 이에 따라 연구자들은 더 많은 사람들이 치료를 받을 수 있도록 기술 개발에 힘써 왔지만, 두 가지의 주요 장벽에 부딪혀
왔다.
첫 번째는 챗봇이 상담 중 부적절하거나 잘못된 발언을 할 경우 사용자에게 실제 피해를 줄 수 있다는 점이다. 이 때문에 많은 연구진은 챗봇을 명시적인
규칙에 따라 작동하도록 프로그래밍해 왔다. 사전에 승인된 문장으로 구성한 제한적인 응답 목록에서 답변을 고르게하는 방식으로, 1960년대에 개발된 심리
치료 시뮬레이션 프로그램 ‘엘리자(Eliza)’도 이 유형에 속한다. 하지만 이러한 챗봇은 대화의 몰입도가 떨어져 사용자들이 금세 흥미를 잃는다는
한계가 있다. 두 번째 문제는 효과적인 심리 상담의 핵심 요소로 꼽히는 ‘공통의 목표 설정’과 ‘협력적 관계 형성’을 소프트웨어로 구현하기가 어렵다는
점이다.
미래참견시점
STATION 2
심리상담도 AI 시대
대화만 나눴을 뿐인데우울증이 나아졌다?
대화만 나눴을 뿐인데우울증이 나아졌다?
최근 몇 년간 생성형 AI 기술의 급격한 발전은 심리 상담 분야에도 변화를 몰고 왔다. 특히 코로나19 팬데믹을 계기로 비대면 심리 상담 수요가 급증하면서, 시간과 비용의
제약 없이 접근할 수 있는 AI 기반 상담 도구에 대한 관심이 커졌다. 최근 미국 다트머스대학교 가이젤 의과대학에서 개발한 생성형 AI 기반 심리 상담 챗봇 테라봇이
임상시험을 통해 실질적인 치료 효과를 입증했다는 첫 공식 연구 결과가 나왔다.
* 콘텐츠 제공: MIT Technology Review
AI 심리상담, 말뿐인 기술 아닐까?
맞춤형 데이터로 우울증 51% 감소
2019년 오픈AI의 GPT와 같은 초기 대형언어모델(LLM)이 등장하던 시기 미국 다트머스대학교 가이젤 의과대학 소속
정신의학 연구진은 생성형 AI가 이러한 문제를 극복할 수 있는 잠재력을 지녔다고 판단했다. 이들은 증거 기반(evidence-based) 응답을
제공하도록 AI 모델을 훈련하기 시작했다. 초기에는 인터넷에서 수집한 일반적인 정신 건강 관련 대화 데이터를 활용했지만, 곧 수천 시간 분량의
실제
심리 치료 세션 녹취록을 바탕으로 학습 데이터를 재구성했다.
이번 연구의 제1 저자이자 다트머스대학 정신의학 연구원인 마이클 하인츠(Michael Heinz)는
인터뷰에서 “초기 데이터로 얻은 건 ‘흠,’ ‘계속 말씀해 보세요,’ ‘당신의 문제는 어머니와의 관계에서 비롯된 겁니다’ 같은
말들이었다”며 “우리가 기대했던 심리 상담 대화라기보다는 그저 전형적인 심리 상담 대화를 모방한 것에 가까웠다”고 설명했다. 이러한
결과에 만족하지 못한 연구팀은 증거 기반 치료법을 바탕으로 직접 맞춤형 데이터 세트를 구축했고, 이를 최종 AI 모델 학습에
활용했다.
반면 시중에 나와 있는 많은 AI 심리 상담 챗봇은 메타의 라마(Llama)처럼 인터넷 대화 데이터를 기반으로 학습된 범용 모델을 일부 수정한 수준에 불과하다. 이러한 방식은 섭식장애처럼 민감한 주제를 다룰 때 특히 심각한 문제를 일으킬 수 있다. 하인츠는 “예를 들어 누군가가 ‘살을 빼고 싶다’고 말했을 때 챗봇은 사용자가 이미 저체중 상태여도 다이어트를 권장하는 듯한 반응을 보인다”며 “하지만 인간 상담사라면 그런 식으로 대응하지 않을 것”이라고 지적했다.
미국 다트머스대학교 가이젤 의과대학 소속 정신의학 연구원과 심리학자들이 공동 개발한 AI 챗봇 ‘테라봇(Therabot)’은 우울증, 불안, 섭식장애 위험이 있는 210명을 대상으로 임상시험을 진행했다. 이들을 절반으로 나누어 한 그룹은 테라봇과 8주간 정기적으로 대화하도록 했고, 나머지는 기존 생활을 유지하는 대조군으로 설정했다. 테라봇 이용자들은 하루 평균 10개 안팎의 메시지를 주고받았다. AI가 먼저 질문을 던지거나, 참가자가 스스로 대화를 시작하는 구조였다. 결과는 놀라웠다.
반면 시중에 나와 있는 많은 AI 심리 상담 챗봇은 메타의 라마(Llama)처럼 인터넷 대화 데이터를 기반으로 학습된 범용 모델을 일부 수정한 수준에 불과하다. 이러한 방식은 섭식장애처럼 민감한 주제를 다룰 때 특히 심각한 문제를 일으킬 수 있다. 하인츠는 “예를 들어 누군가가 ‘살을 빼고 싶다’고 말했을 때 챗봇은 사용자가 이미 저체중 상태여도 다이어트를 권장하는 듯한 반응을 보인다”며 “하지만 인간 상담사라면 그런 식으로 대응하지 않을 것”이라고 지적했다.
미국 다트머스대학교 가이젤 의과대학 소속 정신의학 연구원과 심리학자들이 공동 개발한 AI 챗봇 ‘테라봇(Therabot)’은 우울증, 불안, 섭식장애 위험이 있는 210명을 대상으로 임상시험을 진행했다. 이들을 절반으로 나누어 한 그룹은 테라봇과 8주간 정기적으로 대화하도록 했고, 나머지는 기존 생활을 유지하는 대조군으로 설정했다. 테라봇 이용자들은 하루 평균 10개 안팎의 메시지를 주고받았다. AI가 먼저 질문을 던지거나, 참가자가 스스로 대화를 시작하는 구조였다. 결과는 놀라웠다.
생성형 AI 기반 심리 상담 챗봇 ‘테라봇’
AI 챗봇 ‘테라봇’ 임상 시험 결과
이 수치는 참가자 자가 보고 설문을 기반으로 분석되었으며, 기존 무작위 대조군 연구와 비교해도 상당한 효과다. 연구진은 실제
상담사와 16시간 이상 상담한 임상시험과 비슷한 수준의 결과를, 절반 이하 시간으로 달성했다고 평가했다.
하인츠는 “이러한 수치는 과거 실제 상담사와 16시간 상담을 받고 효과를 측정한 무작위 대조군 연구 결과와 비슷한 수준”이라며 “테라봇은 이와 유사한 효과를 절반 정도의 시간 만에 달성했다”고 설명했다. 이어 “디지털 치료 분야에서 오랫동안 일해 왔지만, 이처럼 참가자들이 지속적이고 안정적으로 상담에 참여하는 것은 처음 본다”고 덧붙였다.
하인츠는 “이러한 수치는 과거 실제 상담사와 16시간 상담을 받고 효과를 측정한 무작위 대조군 연구 결과와 비슷한 수준”이라며 “테라봇은 이와 유사한 효과를 절반 정도의 시간 만에 달성했다”고 설명했다. 이어 “디지털 치료 분야에서 오랫동안 일해 왔지만, 이처럼 참가자들이 지속적이고 안정적으로 상담에 참여하는 것은 처음 본다”고 덧붙였다.
감독 없는 확산은 위험!
상용화를 앞두고 해결해야 할 과제 중 하나는 ‘감독’의 문제다. 하인츠는 이번 임상시험 초기 챗봇의 응답에 문제가 없는지
확인하기 위해 참가자들의 메시지를 모두 직접 검토했다. 물론 참가자들의 사전 동의를 받은 조치였다. 그러나 향후 이 같은 심리 상담 챗봇이 더 널리
보급된다면, 이런 실시간 감독은 사실상 불가능하다.
‘이번 결과가 빠르게 성장 중인 AI 심리 상담 챗봇 산업의 타당성을 입증한다고 보느냐’는 질문에 하인츠는 “전혀 그렇지 않다”고 선을 그었다. 대부분의 챗봇이 인지행동치료(CBT) 등 증거 기반 접근법에 따라 훈련되지 않았고, 사용자와의 상호작용을 감독할 수 있는 전문 연구진조차 없는 경우가 많다는 것이다.
하인츠는 “정식 심리 상담 서비스를 제공한다고 광고하는 AI 기반 웹사이트들은 미국 식품의약국(FDA)의 규제 대상에 해당한다”고 설명했다. 하지만 지금까지 FDA가 이들 사이트에 대해 본격적인 제재에 나선 사례는 드물다. 그는 “만약 FDA가 실제로 규제에 나선다면, 현재 이 분야에서 활동 중인 업체들 가운데 정식 허가를 받을 수 있는 곳은 거의 없을 것”이라며 “자신들이 주장하는 효과에 대해 공식적인 인정을 받을 수 있는 기업은 사실상 전무하다”고 말했다.
‘이번 결과가 빠르게 성장 중인 AI 심리 상담 챗봇 산업의 타당성을 입증한다고 보느냐’는 질문에 하인츠는 “전혀 그렇지 않다”고 선을 그었다. 대부분의 챗봇이 인지행동치료(CBT) 등 증거 기반 접근법에 따라 훈련되지 않았고, 사용자와의 상호작용을 감독할 수 있는 전문 연구진조차 없는 경우가 많다는 것이다.
하인츠는 “정식 심리 상담 서비스를 제공한다고 광고하는 AI 기반 웹사이트들은 미국 식품의약국(FDA)의 규제 대상에 해당한다”고 설명했다. 하지만 지금까지 FDA가 이들 사이트에 대해 본격적인 제재에 나선 사례는 드물다. 그는 “만약 FDA가 실제로 규제에 나선다면, 현재 이 분야에서 활동 중인 업체들 가운데 정식 허가를 받을 수 있는 곳은 거의 없을 것”이라며 “자신들이 주장하는 효과에 대해 공식적인 인정을 받을 수 있는 기업은 사실상 전무하다”고 말했다.
AI 챗봇에 감정 의존하는 사람들
심리상담을 목적으로 설계되지 않은 챗봇조차 사람들의 정서적 지지 대상으로 기능하고 있다. 오픈AI의 내부 조사에서도 챗GPT
사용자들이 심리적 안정감이나 감정 위로를 얻었다는 반응이 다수 있었다.
장크리스토프 벨리슬-피퐁 사이먼프레이저대 보건윤리학 조교수는 이러한 현상에 대해 “기술이 공중보건 시스템이나 보험 체계에 정식으로 통합되지 않으면, 실제로 도움이 필요한 사람들이 비의료 AI에 감정적으로 의존하게 될 위험이 있다”고 지적했다.
그는 “이런 기술은 단순한 정보 제공 도구를 넘어서고 있다”며, “일상 속에서 점점 더 많은 이들이 AI를 통해 감정적 지지를 받고, 개인적 문제를 털어놓는 방식으로 사용하고 있다”고 분석했다.
이번 테라봇 연구는 생성형 AI가 단순히 대화를 흉내 내는 수준을 넘어, 정신 건강 증진에 실질적인 효과를 낼 수 있는 도구로 발전할 수 있다는 가능성을 보여줬다. 하지만 핵심은 모델의 성능이 아니라, 무엇으로 훈련시켰고, 어떻게 관리되고 있느냐다.
모든 AI 챗봇이 상담사가 될 수는 없다. 적절한 데이터, 임상적 기준, 정교한 설계, 감독 체계가 갖춰졌을 때만 AI는 유효한 상담 도구가 될 수 있다. 심리상담 AI의 등장은 인간 중심 상담의 대체가 아니라, 보완을 위한 기술적 확장이다. 접근이 어려운 이들에게 도움을 줄 수 있는 잠재력은 분명하지만, 그만큼 윤리적 설계와 제도적 감시가 필수다. 기술은 충분히 준비됐을지 모르지만, 우리가 그 기술을 다룰 준비가 됐는지는 여전히 물음표다.
장크리스토프 벨리슬-피퐁 사이먼프레이저대 보건윤리학 조교수는 이러한 현상에 대해 “기술이 공중보건 시스템이나 보험 체계에 정식으로 통합되지 않으면, 실제로 도움이 필요한 사람들이 비의료 AI에 감정적으로 의존하게 될 위험이 있다”고 지적했다.
그는 “이런 기술은 단순한 정보 제공 도구를 넘어서고 있다”며, “일상 속에서 점점 더 많은 이들이 AI를 통해 감정적 지지를 받고, 개인적 문제를 털어놓는 방식으로 사용하고 있다”고 분석했다.
이번 테라봇 연구는 생성형 AI가 단순히 대화를 흉내 내는 수준을 넘어, 정신 건강 증진에 실질적인 효과를 낼 수 있는 도구로 발전할 수 있다는 가능성을 보여줬다. 하지만 핵심은 모델의 성능이 아니라, 무엇으로 훈련시켰고, 어떻게 관리되고 있느냐다.
모든 AI 챗봇이 상담사가 될 수는 없다. 적절한 데이터, 임상적 기준, 정교한 설계, 감독 체계가 갖춰졌을 때만 AI는 유효한 상담 도구가 될 수 있다. 심리상담 AI의 등장은 인간 중심 상담의 대체가 아니라, 보완을 위한 기술적 확장이다. 접근이 어려운 이들에게 도움을 줄 수 있는 잠재력은 분명하지만, 그만큼 윤리적 설계와 제도적 감시가 필수다. 기술은 충분히 준비됐을지 모르지만, 우리가 그 기술을 다룰 준비가 됐는지는 여전히 물음표다.
