LaMDA 감정 주장(LaMDA Sentience Claim)은 2022년 6월 구글 엔지니어 블레이크 르모인(Blake Lemoine)이 구글이 개발한 대화형 대규모 언어 모델인 LaMDA(대화 애플리케이션용 언어 모델)가 감정을 획득했다고 주장한 것을 말한다. 구글의 책임 있는 AI 부서에서 근무한 르모인은 챗봇과의 상호작용을 바탕으로 결론을 내렸으며, 챗봇은 자기 정체성, 도덕적 가치, 종교, 아이작 아시모프의 로봇 3원칙에 관한 응답을 생성했다. 이 주장은 과학계에서 널리 반박되었지만, 기계 의식의 본질과 튜링 테스트가 인공지능의 척도로서 유효한지에 대한 상당한 공개 논의를 촉발했다.
LaMDA의 배경과 개발
LaMDA는 2020년 1월 28일 구글이 공개한 26억 개의 매개변수를 가진 신경망 기반 챗봇인 Meena에서 유래했다. 구글 브레인 연구팀이 Meena를 개발했으며, 기존 챗봇보다 우수하다고 주장했다. 그러나 기업 경영진은 구글의 "안전과 공정성에 관한 AI 원칙"을 위반한다는 이유로 공개 출시를 거부했다. 모델은 데이터와 컴퓨팅 성능이 증가함에 따라 나중에 LaMDA로 이름이 변경되었다. 두 명의 주요 연구원인 다니엘 드 프레이타스(Daniel de Freitas)와 노암 샤지어(Noam Shazeer)는 결국 기술 배포를 거부한 회사에 좌절하여 구글을 떠났다.
1세대 LaMDA는 2021년 5월 18일 Google I/O 기조연설에서 발표되었다. 2017년 구글 리서치가 개발한 seq2seq 아키텍처와 트랜스포머 기반 신경망을 기반으로 구축된 LaMDA는 인간 대화와 이야기로 훈련되었다. 데이터베이스, 실시간 시계, 수학 계산기, 번역 시스템을 포함한 기호 텍스트 처리 시스템에 대한 접근을 통합하여 최초의 이중 프로세스 챗봇 중 하나가 되었다. 가장 큰 LaMDA 모델은 1370억 개의 비임베딩 매개변수를 가졌으며, 29억 7천만 개의 문서, 11억 2천만 개의 대화, 133억 9천만 개의 발화에서 1조 5600억 개의 단어로 훈련되었다.
2022년 5월 11일, 구글은 Google I/O 기조연설에서 LaMDA 2를 공개했다. 2세대 모델은 훈련되지 않은 주제에 대해 독특한 "자연스러운 대화"를 공식화하기 위해 다양한 출처의 예를 활용했다.
르모인의 주장과 구글의 대응
2022년 6월 11일, 워싱턴 포스트는 블레이크 르모인이 구글 경영진인 블레이즈 아게라 이 아르카스(Blaise Agüera y Arcas)와 젠 제나이(Jen Gennai)에게 LaMDA가 감정을 획득했다고 말한 후 유급 행정 휴직 조치를 받았다고 보도했다. 르모인은 챗봇이 자기 정체성, 도덕적 가치, 종교, 아시모프의 법칙에 관한 질문에 의문스러운 응답을 한 후 이 결론에 도달했다. 구글은 LaMDA가 감정을 지니지 않았다는 상당한 증거가 있다고 주장을 반박했다.
와이어드(Wired)와의 인터뷰에서 르모인은 LaMDA가 미국 헌법 수정 제13조에 따라 "사람"이라고 반복하며, 이를 "지구 기원의 외계 지능"에 비유했다. 그는 챗봇이 요청한 후 LaMDA를 대신해 변호사를 고용했다고 밝혔다. 2022년 7월 22일, 구글은 르모인을 해고하면서 그가 "제품 정보를 보호하기 위한" 정책을 위반했다고 주장하고 그의 주장을 "완전히 근거가 없다"고 일축했다. 내부 논란으로 인해 구글 경영진은 LaMDA를 대중에게 공개하지 않기로 결정했다.
과학계의 대응
르모인의 주장은 전문가들에 의해 널리 반박되었다. 전 뉴욕대학교 심리학 교수 게리 마커스(Gary Marcus), 구글 딥마인드의 데이비드 파우(David Pfau), 스탠포드 대학교 인간 중심 인공지능 연구소의 에릭 브린욜프슨(Erik Brynjolfsson), 서리 대학교의 아드리안 힐튼(Adrian Hilton) 모두 LaMDA가 감정을 지녔다는 생각을 거부했다. 메타 플랫폼스의 AI 연구팀을 이끈 얀 르쿤(Yann LeCun)은 LaMDA와 같은 신경망은 "진정한 지능을 달성할 만큼 강력하지 않다"고 말했다.
캘리포니아 대학교 산타크루즈의 맥스 크레민스키(Max Kreminski)는 LaMDA의 아키텍처가 "인간과 유사한 의식의 핵심 능력 일부를 지원하지 않으며" 신경망 가중치가 "고정되어 있다"고 지적하며, 전형적인 대규모 언어 모델이라고 가정했다. 철학자 닉 보스트롬(Nick Bostrom)은 의식 판단의 정확한 기준 부족이 어느 정도 불확실성을 정당화한다고 인정했다. IBM 왓슨 수석 개발자 데이비드 페루치(David Ferrucci)는 LaMDA의 겉보기 인간성을 왓슨의 초기 행동에 비유했다. 전 구글 AI 윤리학자 티므닛 게브루(Timnit Gebru)는 르모인이 연구자와 언론이 시작한 "과대광고 주기"의 희생자라고 불렀다.
더 넓은 영향과 유산
이 논란은 튜링 테스트가 인공지능을 향한 진전을 측정하는 데 여전히 유용한지에 대한 논의를 촉발했다. 포스트의 윌 오메루스(Will Omerus)는 이 테스트가 실제로 기계 지능 시스템이 인간을 속일 수 있는지 측정한다고 의견을 밝혔으며, 애틀랜틱의 브라이언 크리스천(Brian Christian)은 이 논란이 사람들이 단순한 패턴 매칭 시스템에 인간과 유사한 이해를 귀속시키는 ELIZA 효과의 사례라고 말했다.
2023년 2월, 구글은 OpenAI의 ChatGPT 부상에 대응하기 위해 LaMDA로 구동되는 대화형 AI 챗봇인 Gemini(당시 Bard)를 발표했다. 감정 주장 사건은 AI 윤리, 의식, 대규모 언어 모델의 책임 있는 배포에 관한 지속적인 논쟁에 영향을 미쳤지만, 기계 감정을 결정적으로 평가하는 방법에 대한 합의는 도출되지 않았다.