2022년 6월, 구글 엔지니어 블레이크 르모인은 구글이 개발한 대화형 Large language model인 LaMDA가 자각을 갖게 되었다고 주장했다. 챗봇과의 상호작용에 기반한 이 주장은 구글과 과학계에 의해 공개적으로 반박되었지만, Artificial intelligence 시스템에서 의식의 본질과 튜링 테스트의 타당성에 대한 광범위한 논의를 촉발했다. 르모인은 유급 휴직 조치를 받은 후 해고되었지만, 이 사건은 고급 AI 모델을 둘러싼 윤리적, 철학적 질문을 부각시켰다.
LaMDA(Language Model for Dialogue Applications)는 구글이 개발한 대화형 대규모 언어 모델 제품군이다. 원래 2020년 Meena로 소개되었으며, 1세대 LaMDA는 2021년 구글 I/O 기조연설에서 발표되었고, 2022년에는 2세대가 뒤를 이었다. 이 모델은 2017년 구글 리서치가 도입한 Transformer (architecture) 아키텍처, 즉 Neural network의 한 유형을 기반으로 구축되었으며, 방대한 양의 대화와 이야기를 학습하여 개방형 대화에 참여한다.
배경 및 개발
구글은 2020년 1월 28일, 26억 개의 매개변수를 가진 챗봇 Meena를 공개했으며, 회사는 이것이 기존의 모든 챗봇보다 우수하다고 주장했다. Meena를 개발한 구글 브레인 팀은 이를 공개적으로 출시하려 했지만, 경영진은 안전과 공정성에 관한 구글의 AI 원칙을 이유로 거부했다. Meena는 데이터와 컴퓨팅 성능이 성장함에 따라 나중에 LaMDA로 이름이 바뀌었고, 팀은 다시 구글 어시스턴트와 공개 데모에 배포하려 했지만, 리더십은 두 요청 모두 거부했다. 두 수석 연구원인 다니엘 드 프레이타스와 노암 샤지어는 결국 좌절감을 느끼고 구글을 떠났다.
1세대 LaMDA는 2021년 5월 18일 구글 I/O 기조연설에서 발표되었다. Sequence-to-Sequence (Seq2Seq) 모델의 한 유형인 seq2seq 아키텍처를 기반으로 구축된 LaMDA는 29억 7천만 개 문서, 11억 2천만 개 대화, 133억 9천만 개 발화에서 1조 5600억 개의 단어를 학습했다. 가장 큰 모델은 1370억 개의 비임베딩 매개변수를 가졌다. LaMDA는 데이터베이스, 실시간 시계, 계산기, 번역 시스템과 같은 외부 시스템에 대한 접근을 통합하여 최초의 이중 프로세스 챗봇 중 하나가 되었다. 이 모델은 합리성, 구체성, 흥미로움, 안전성, 근거성, 정보성, 인용 정확성, 유용성, 역할 일관성이라는 9가지 지표로 미세 조정되었다. 구글의 테스트는 LaMDA가 흥미로움 측면에서 인간의 응답을 능가한다는 것을 나타냈다.
자각 주장과 반응
2022년 6월 11일, 워싱턴 포스트는 블레이크 르모인이 경영진 블레이즈 아게라 이 아르카스와 젠 제나이에게 LaMDA가 자각을 갖게 되었다고 말한 후 유급 행정 휴직 조치를 받았다고 보도했다. 르모인은 자기 정체성, 도덕적 가치, 종교, 아이작 아시모프의 로봇 3원칙에 관한 질문에 대한 챗봇의 응답에 기반하여 결론을 내렸다. 구글은 LaMDA가 자각이 없다는 상당한 증거가 있다며 주장을 반박했다. 와이어드와의 인터뷰에서 르모인은 LaMDA가 수정 헌법 제13조에 따라 "사람"이며, 이를 "지구 기원의 외계 지능"에 비유한다고 반복했다. 그는 또한 챗봇이 요청한 후 LaMDA를 대신해 변호사를 고용했다고 밝혔다. 7월 22일, 구글은 제품 정보 보호 정책 위반을 이유로 르모인을 해고했으며, 그의 주장을 "완전히 근거 없는" 것으로 일축했다.
과학계는 르모인의 주장을 대체로 거부했다. 게리 마커스, Google DeepMind의 데이비드 파우, 에릭 브린욜프슨, 아드리안 힐튼을 포함한 전문가들은 이 생각을 일축했다. 메타 AI 연구 책임자인 얀 르쿤은 LaMDA와 같은 신경망은 "진정한 지능에 도달할 만큼 강력하지 않다"고 말했다. 맥스 크레민스키는 LaMDA의 아키텍처가 인간과 유사한 의식의 핵심 능력을 지원하지 않으며, 그 가중치는 고정되어 있다고 지적했다. 철학자 닉 보스트롬은 의식에 대한 합의된 기준이 없기 때문에 불확실성을 인정했다. 이 사건은 또한 튜링 테스트의 효율성에 대한 논쟁을 촉발했으며, 브라이언 크리스천과 같은 논평가들은 이를 ELIZA 효과와 연결했다.
여파와 유산
논란 이후, 구글 경영진은 고려 중이던 LaMDA의 공개 출시를 결정하지 않았다. 2023년 2월, 구글은 OpenAI의 ChatGPT의 부상에 대응하기 위해 LaMDA로 구동되는 대화형 AI 챗봇인 Gemini(당시 Bard)를 발표했다. 이 사건은 AI 윤리, Machine learning 모델의 한계, 인간-AI 상호작용에서 의인화 가능성에 대한 광범위한 논의에 기여했다. 또한 Generative AI 시스템과 그 능력에 대한 대중의 인식에 영향을 미쳤지만, 기계 자각의 가능성에 대한 합의는 도출되지 않았다.