AI를 두고 ‘확률적 앵무새’라는 비판이 제기된다. 그럴듯한 문장을 만들어내지만 정작 의미는 이해하지 못한다는 주장이다. 그러나 인간의 뇌 역시 끊임없이 미래를 예측하며 작동한다는 연구들도 있다. AI는 이해하는가, 예측하는가. 이 오래된 질문은 결국 지능의 본질을 향한다.

의미를 모르는 앵무새라는 비유

앵무새를 키우는 주인은 어느 날 앵무새가 “사랑해”라고 말했다고 해서 가슴 설레지 않는다. 앵무새가 사랑의 의미를 이해했을 리 없다. 단지 훈련된 음성을 뱉어냈을 뿐이다. 흔히 인공지능을 확률적 앵무새에 비유하는 것은 이런 맥락이다. AI와 대화를 나누다 보면 정말 의식을 가진 것처럼 느껴져 섬뜩해지곤 한다. 확률적 앵무새론자들은 이를 착각으로 치부하며 인공지능이 실제 개념을 이해하지 못한다는 점을 강조한다.
확률적 앵무새라는 용어가 널리 퍼진 것은 2021년 3월 발표된 논문 「확률적 앵무새의 위험」에서 비롯됐다. 논문 제목에서 드러나듯 팀닛 게브루(Timnit Gebru) 등의 저자 4명은 LLM(대형언어모델)의 발전으로 인해 사람들이 인공지능의 출력을 과대 해석할 위험을 경고했다. 그들은 LLM을 “의미에 대한 어떤 참조도 없이 작동하는 확률적 앵무새”라고 불렀다.
이와 비슷하게 LLM을 다음 단어 예측기계 또는 다음 단어 자동 완성기라고 낮춰 부르기도 한다. 예를 들어 네이버 검색창의 자동완성 기능은 “삼성전자”라는 단어 다음에 “주가”라는 단어가 올 것을 예측하지만 그렇다고 네이버 검색기가 ‘삼성전자 주가’라는 총체적 개념을 이해하는 것은 아니다. 2023년 언어학자 노암 촘스키(Noam Chomsky)와 그 제자들이 《뉴욕타임스》에 기고한 칼럼도 이런 비판 대열에 서 있다. 그들은 인간의 정신은 ‘굼뜬 통계적 패턴 매칭 엔진’이 아니라고 강조하면서, 인간 정신은 설명을 만들어낸다는 점에서 인공지능과 다르다고 구별했다.
이러한 ‘확률적 앵무새’ 또는 ‘다음 단어 예측기’라는 비유적 설명은 LLM의 너무나 인간스러운 답변에 현혹되지 않고 또 과도한 의미 부여를 하지 않도록 경고한다는 점에서 설득력과 지지를 얻어왔다.

예측하는 뇌와 예측하는 AI

하지만 이에 대한 반론도 만만치 않다. 확률적 앵무새라는 단어는 자칫 인공지능의 진짜 잠재력을 과소평가하게 만든다는 주장이다. 인공지능을 ‘확률적 앵무새’나 ‘다음 단어 예측기’라는 표현 속에 가두지 말자고 주장하는 사람들은 이렇게 말한다.

“만약 AI가 확률적 앵무새라면
인간도 마찬가지다.”

특히 뇌과학 연구자들은 인간의 뇌가 일종의 ‘다음 상황 예측 기계’처럼 작동한다는 데 주목한다. 유니버시티 칼리지 런던(UCL)의 신경과학 교수 칼 프리스턴(Karl Friston)은 일찍이 2010년 논문에서 생명체는 세계에 대한 내부 모델을 만들고, 이 모델을 바탕으로 보고 듣는 감각을 추론하며 예상한다고 주장했다. 생명체에게 있어 지각이란 세계를 해석하고 예측하는 일이며, 행동은 세계를 내 예측에 맞게 다시 조율하는 일이다. 학습은 그 예측 모델 자체를 수정하는 것이다. 그는 인간의 뇌가 예측의 놀라움을 최소화하도록 내부의 생성모델(Generative Model)을 끊임없이 갱신한다고 주장했다.
철학계에서도 뇌가 예측기계라는 주장은 오래전부터 있었다. 호주 모나시대학 교수인 철학자 야콥 호비(Jakob Hohwy)는 2013년 저서 《예측하는 마음》에서 “예측 오차 최소화가 뇌가 하는 일의 전부다”라고 주장했다. 철학자 앤디 클라크(Andy Clark)는 2016년 저서 《불확실성을 서핑하기》에서 인간의 마음을 ‘예측 기계’로 설명했다. 그는 인간의 뇌는 밀려오는 감각의 파도를 가만히 맞아들이기만 하는 해변이 아니라 파도의 방향과 높이 등을 예측하고 몸을 움직여 그 파도를 타려는 서퍼에 가깝다고 말한다.
뇌 이론 연구자인 제프 호킨스(Jeffrey Hawkins)는 2004년 저서에서 “지능이란 과거의 기억을 바탕으로 아직 오지 않은 것을 예측하는 능력이다”라고 썼다. 그는 2021년 저서 《천 개의 뇌》에서는 더 구체적으로 뇌 속 신피질의 여러 피질기둥이 각자 세계 모델을 만들고 감각-운동 예측 시스템을 구성한다고 설명한다.

중국어 방이 남긴 오래된 논쟁

AI는 확률적 앵무새인가 아닌가. 이 질문은 철학계에서 이제는 고전이 된, 중국어 방 논쟁을 떠오르게 한다. 철학자 존 설(John Searle)은 1980년 흥미로운 사고실험을 제안했다. 당신이 어떤 고립된 방 안에 갇혀 있다고 하자. 당신은 영어 화자로서 중국어를 전혀 모르며 중국어와 일본어도 구별할 수 없다. 그런데 이 방 안에 어떤 중국어 기호들이 차례로 입력으로 들어오고 있다. 당신은 입력된 중국어 묶음을 보고 영어로 설명된 규칙표를 따라 기호를 조작해 중국어 묶음을 출력으로 내보낸다. 규칙표가 워낙 정교해서 방 밖에 있는 사람이 보면 마치 당신이 중국어로 잘 소통하는 것처럼 보인다. 하지만 당신은 여전히 중국어를 이해하지 못하며 규칙을 따라하고 있을 뿐이다. 존 설은 이 사고실험에서 인공지능(당시로서는 컴퓨터)은 진정으로 인간의 언어를 이해할 수 없다는 점을 보이려 했다. 하지만 존 설의 발표 직후부터 반론은 끊이지 않았다. 심리학자이자 철학자인 네드 블록은 ‘방’과 ‘방 속의 사람’을 나누지 말고 전체를 합친 시스템으로 봐야 한다고 주장했다. 인간의 그 어떤 뉴런 하나도 중국어를 이해하는 것은 아니지만, 분명히 중국인들은 중국어를 이해하고 있다. 방속의 사람은 중국어를 이해하지 못할 수 있지만, 방 전체의 시스템은 중국어를 이해한다고 볼 수 있다는 뜻이다.
노벨상 수상자인 제프리 힌튼 교수는 2023년 CBS와의 인터뷰에서 “다음 단어를 예측하려면 문장들을 이해해야 한다. 다음 단어를 정말 정확하게 예측하려면 매우 지능적이어야 한다”고 말했다. 힌튼 교수의 제자이자 OpenAI의 공동창업자이기도 한 일리야 수츠케버는 2023년 인터뷰에서 “다음 토큰을 잘 예측한다는 건 그 토큰이 만들어지게 한 배후의 현실을 이해한다는 뜻이다”라고 설명했다.

이해의 경계는 어디에 있는가

물론 확률적 앵무새라는 표현을 반박하는 사람들조차도 인공지능이 사람의 뇌와 완전히 똑같다는 주장을 펼치는 것은 아니다. 몸이라는 물질을 가지고 진화적으로 발전해 온 인간의 뇌와 AI는 구조적으로 다를 수 있다. 특히 LLM은 인공지능의 여러 모델 유형 가운데 하나에 불과하다는 점에서 LLM의 한계를 지적하는 확률적 앵무새론은 여전히 의미가 있다.
하지만 인공지능의 발전 가능성을 지나치게 폄하하려는 시도는 우리 사람의 뇌 역시 일종의 기계로서 작동하는 측면이 있다는 사실에 가로막힌다. 때때로 확률적 앵무새라는 비판은 아직은 충분히 발전하지 못한 현재 수준의 인공지능을 지칭하는 임시적이고 과도기적인 표현처럼 보이기도 한다. 아무도 어쭙잖게 “사랑해”를 외치는 앵무새에게 가슴 설레지 않는다. 하지만 미래에 정말 유창한 문장으로 사람과 구별되지 않게 말하는 앵무새가 출현한다면, 그 앵무새가 사랑을 이해하지 못한다고 단언할 수 있을까?