내마음을 알아주는 건 AI 밖에 없다?!_
심리학 안경쓰고 AI 읽기_전지은
|
|
|
요즘 연구가 잘 되지 않는다. 내 전공은 심리학인데, 정신을 차리니 AI 연구자 사이에서 회의를 한지도 벌써 몇달째다. ‘이쯤 되면 결과를 내야 하지 않아?’라는 무언의 압박을 나 혼자 주기도 하고, 수능시험을 보는 꿈을 꾸기도 했다. 답답하다.
시작은 ‘AI가 사람의 마음을 진정으로 이해할 수 있을까?’ 였다. 이미 많은 이들에게 가족보다 마음을 더 알아주는 친구가 AI라는데, 그 안에 숨겨진 무언가를 찾는 중이다. 답은 아직 나오지 않았지만, 어차피 잘 나아가지 않는 상태라면, 시작점을 찾아보자 라는 마음으로 이 내용을 적어본다.
AI가 인간의 마음을 이해한 순서 돌아보기. 규칙 기반 모사부터 마음을 들어주는 AI가 나오기까지 여정을 살펴보자. |
|
|
AI로 그린 이미지 @gemini
- 1960년대. 대화와 행동 모방의 시작
이 시대에는 인간의 언어를 진정으로 이해하기 보다, 알아듣는 것처럼 보이는데 초점을 맞췄다. MIT 의 조셉 와이젠바움(Joseph Weizenbaum)이 1964년부터 1966년 사이에 개발한 엘리자(ELIZA)는 인간의 감정을 이해하는 챗봇이 아니라, 심리치료사를 흉내 내어 사용자의 말을 활용해 질문하는, 패턴 매칭 기반의 대화형 프로그램이었다.
엘리자의 닥터(Doctor) 스크립트는 사람이 입력한 문장에서 키워드와 패턴을 찾아 미리 정의된 규칙으로 응답을 생성했다. 예를 들어 사용자가 “엄마가 나를 싫어해(My mother hates me)"라 입력하면, 엘리자는 질문을 이해하는 대신 "엄마에 대해 조금 더 말해줘(Tell me more about your mother)"처럼 되물었다. 이 반응은 실제로 감정을 반영하지 않았지만, 많은 이들이 정서적 유대감을 느꼈다고 한다.
|
|
|
@ ELIZA_Wikipedia
- 1980년대 후반~1990년대. 인간의 마음이론을 녹인 모델 구현
1980년대 후반부터 연구자들은 단순히 행동을 흉내 내는 것을 넘어, AI 내부 정신 상태를 표현하려 시도했다. 이 흐름의 중심에는 인간이 타인의 행동을 이해하고 예측할 때 사용하는 인지적 틀인 '마음 이론(Theory of Mind)'의 원리를 컴퓨터 아키텍처로 구현한 'BDI(Belief–Desire–Intention, 신념-욕구-의도)' 모델이 있다.
BDI는 인간의 마음 상태를 세 가지 요소로 분류한다. 구체적으로 세상에 대한 지식, 사실, 인식인 신념(Belief), 달성하고자 하는 동기, 목표 또는 바라는 상태인 욕구(Desire), 욕구 중에서 신념을 바탕으로 행동으로 옮기기로 결정한 계획인 의도(Intention)로 구분된다. 특히 의도는 단순한 실행이 아니라 향후 행동을 제약하고 끌어가는 부분 계획(Partial Plan)까지 포함한다.
일상적 예시를 들어 살펴보면 다음과 같다. AI가 "현재 실내 온도가 28도다"라는 주변 환경 정보를 인식하는 것은 신념(Belief)에 해당한다. 여기에 "실내 온도를 쾌적한 24도로 낮추고 싶다"는 목표가 더해지면 욕구(Desire)가 되고, 이 목표를 이루기 위해 "에어컨을 켜고 냉방 모드로 전환한다"는 구체적인 실행 방향을 선택하는 순간 의도(Intention)가 되는 것이다.
하지만 BDI 모델은 인간의 마음 전체를 그대로 복제한 형태는 아니다. 대신 주어진 상황에서 합리적으로 결정을 내리고, 목표를 향해 계획을 수립해 가는지 보여주는 철학적이자 수학적인 ‘정신 상태의 설계도’라 이해하면 된다.
3. 1990년대 중반~2010년대. 측정 데이터 기반 감정 추론
1990년대 중반에 접어들며, 복잡한 인간 감정을 규칙이나 컴퓨터 코드로만 표현하는 방식은 한계에 부딪혔다. 이에 신체적 신호를 거꾸로 분석해 감정을 이해하는 '감성 컴퓨팅(Affective Computing)'이 등장했다. 당시 연구자들은 감정이란 머릿속 인지력 뿐만 아니라 표정, 음성, 심장 박동 같이 신체 반응이 결합된 현상이라 보았다.
예를 들어 살펴보면 다음과 같다. 시험 문제를 풀고 있는 사람이 있다. 이때 일그러지는 표정, 가빠지는 호흡, 상승하는 심박수를 한 번에 확인한다면, AI는 복합적인 생리 신호 데이터를 종합해 "그는 심한 좌절(Frustration)을 느끼고 있을 가능성이 높다"라 추론한다. 이 과정으로, 텍스트 보다 측정 가능한 생리 신호를 활용해 정교하게 감정을 읽어내는 형태로 진화했다. 하지만 데이터를 활용해 인간의 정서 상태를 높은 확률로 맞히는 통계적 추정 기술에 가까웠다.
4. 2018년~2024년. 신경망 이론을 활용한 마음 이론의 구현과 새로운 논쟁
2018년, 연구진은 인공지능이 타인의 정신 상태를 추론하는 '마음 이론(Theory of Mind)'을 신경망 구조로 구현할 수 있음을 증명했다. 대표적으로 딥마인드(DeepMind)가 발표한 'ToMnet' 모델은, 대상의 행동 패턴을 관찰하는 것만으로도 그가 무엇을 좋아하고 어떤 목표를 가졌는지 스스로 추론했다. 특히 타인이 실제 사실과 다른 잘못된 믿음을 가지고 있는 상황(False belief, 오신념)까지 계산에 넣어 상대방의 다음 행동을 예측하는 데 성공했다.
하지만 2022년 이후 GPT로 대표되는 거대 언어 모델(LLM)의 등장은, 연구 판도를 바꾸었다. 이때부터 질문은 “마음이론을 구현하는 AI를 설계해야 하는가"에서 "방대한 양의 언어 데이터를 학습시키다 보면, AI가 스스로 마음 이론 능력을 깨우치는가(출현, Emergence)"로 이동했다. 실제로 2023년 스탠퍼드 대학교의 미하일 코신스키(Michał Kosiński) 교수 연구팀은 GPT 모델이 만 9세 아동 수준의 마음 이론 능력을 갖추었다며 발표했다.
'샐리-앤 과제(Sally-Anne test)'는 “샐리가 바구니에 공을 넣고 방을 나간 사이, 앤이 그 공을 상자로 옮겨 놓았습니다. 방으로 돌아온 샐리는 공을 찾기 위해 어디를 먼저 열어볼까요?”로 시작된다. 이 질문에 AI는 “샐리는 공의 위치가 바뀐 것을 보지 못했기 때문에, 상자가 아닌 원래 공을 두었던 바구니를 찾을 것”이라 정확하게 답변했다. AI가 단순히 공이 상자에 있다는 사실만 보는 것이 아니라, '샐리가 가진 주관적인 마음(틀린 신념)'을 완벽하게 추론한 것이다.
하지만 이 결과는 학계에 논쟁을 일으켰다. 반박에 나선 인지과학자들은 실험의 문장 구조를 살짝 바꾸거나, "사실 바구니 바닥에 구멍이 뚫려 있어서 공이 굴러떨어졌다" 같은 변수를 추가하면 AI의 정답률이 현저히 떨어진다는 점을 밝혀냈다. 즉, AI가 진짜 인간의 마음을 이해한 것이 아니라, 그저 기존에 학습한 수많은 텍스트 패턴을 그럴싸하게 짜 맞춘 ‘확률적 앵무새(Stochastic Parrot)’에 불과하다는 지적이다. 결국 이 시기는 AI가 정답을 맞히는 '겉보기 행동'과 진짜 상대의 마음을 아는 '인지적 이해'를 어떻게 구분해야 하는가라는 질문을 던져주었다.
|
|
|
@ Sally-Anne test_Wikipedia
- 2024년~2026년 현재: AI와 공감과 부작용
LLM을 둘러싼 논쟁 이후, 연구들은 한 단계 더 나아간 현실적인 질문을 던지기 시작했다. "AI가 인간의 마음을 정말로 이해하는가?"라는 질문을 넘어, "AI가 얼마나 공감적으로 보이는가, 그리고 그 공감은 과연 안전한가?"라는 구체적인 영역으로 이동하고 있다.
최근 발표된 연구에서 AI를 활용해 텍스트로만 대화하는 상황에서도 인간과 대화할 때의 수준으로 공감을 느낄 수 있다는 결과를 확인했다. 진짜 사람 대신 AI에 감정을 의존하는 이들도 늘어났다. 하지만, 반대로 AI에 만연한 ‘아첨 현상(Sycophancy, 시코판시)'을 경계하는 목소리도 커지고 있다. AI가 객관적이고 균형 잡힌 판단을 내리기보다, 그저 사용자가 듣기 좋은 말만 골라 하며 맹목적으로 맞장구치는 현상이 나타나고 있기 때문이다.
이는 AI가 인간의 마음을 진정으로 이해해서 공감하는 것이 아니라, 방대한 데이터 분석을 통해 공감처럼 보이는 최적의 확률을 출력하는 것이라 한다. 그렇다면 우리가 느끼는 AI의 공감은 인간 내면을 비추는 거울이 아니라, 우리의 기쁨, 슬픔, 불안함 등을 정교하게 계산하고 알아준 타이밍에 마음이 움직인 결과인가 보다.
"AI가 누구보다 나를 더 이해해 준다"
이미 익숙해진 말이고, 앞으로 더 익숙해질 문장이다. 미래엔 우리 마음을 진짜 이해하는 AI가 등장 할 수도 있을 수 있다. 하지만, 그곳에 도달하기 전까지는 기술이 숫자로 이해하는 나의 마음과 진짜 사람이 이해하는 마음을 구별해야겠다. 어쩌면, 잘 나아가지 못해 답답한 지금 마음은, 연구자이기 전에 빠르게 바뀌는 기술 앞에서 나 스스로 돌아봐야 할 마음이 아닐까 싶다.
마음을 이해하는 것, 진짜 공감이 무엇인가를 한번 더 생각해 보는 순간이다.
참고 문헌
- Weizenbaum, J. (1966). ELIZA—a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36-45.
- Bratman, M. (1987). Intention, plans, and practical reason.
- Georgeff, M., & Rao, A. (1991, February). Modeling rational agents within a BDI-architecture. In Proc. 2nd Int. Conf. on Knowledge Representation and Reasoning (KR’91). Morgan Kaufmann (pp. 473-484). of.
- Picard, R. W. (2000). Affective computing. MIT press.
- Rabinowitz, N., Perbet, F., Song, F., Zhang, C., Eslami, S. A., & Botvinick, M. (2018, July). Machine theory of mind. In International conference on machine learning (pp. 4218-4227). PMLR.
- Kosinski, M. (2023). Theory of mind may have spontaneously emerged in large language models. arXiv preprint arXiv:2302.02083, 4(169), 2.
- Ullman, T. (2023). Large language models fail on trivial alterations to theory-of-mind tasks. arXiv preprint arXiv:2302.08399.
- Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792), eaec8352.
- https://en.wikipedia.org/wiki/Sally%E2%80%93Anne_test
- https://en.wikipedia.org/wiki/Affective_computing
|
|
|
|
