2022年6月、GoogleのエンジニアであるBlake Lemoineは、Googleが開発した対話型大規模言語モデルであるLaMDAが感覚を持つようになったと主張した。この主張は、チャットボットとのやり取りに基づくものであり、Googleと科学界によって公に否定されたが、人工知能システムにおける意識の本質と、チューリングテストの妥当性について広範な議論を巻き起こした。Lemoineは有給休暇処分を受け、後に解雇されたが、この出来事は高度なAIモデルを取り巻く倫理的・哲学的問題を浮き彫りにした。
LaMDA（Language Model for Dialogue Applications）は、Googleが開発した対話型大規模言語モデルのファミリーである。当初は2020年にMeenaとして導入され、第一世代のLaMDAは2021年のGoogle I/O基調講演で発表され、2022年には第二世代が続いた。これらのモデルは、2017年にGoogle Researchが導入したトランスフォーマーアーキテクチャ（ニューラルネットワークの一種）に基づいて構築され、膨大な量の対話と物語で訓練され、自由形式の会話を行う。
背景と開発
Googleは2020年1月28日に、26億のパラメータを持つチャットボットMeenaを発表し、既存のすべてのチャットボットを上回る性能を発揮すると主張した。Meenaを開発したGoogle Brainチームは、これを公開しようとしたが、経営陣は安全性と公平性に関するGoogleのAI原則を理由に拒否した。Meenaはデータと計算能力が拡大するにつれてLaMDAに改名され、チームは再びGoogle Assistantと公開デモでの展開を試みたが、リーダーシップは両方の要求を却下した。主任研究者の2人、Daniel de FreitasとNoam Shazeerは、最終的に不満を抱えてGoogleを去った。
第一世代のLaMDAは、2021年5月18日のGoogle I/O基調講演で発表された。シーケンス・ツー・シーケンスモデルの一種であるseq2seqアーキテクチャに基づいて構築されたLaMDAは、29億7000万の文書、11億2000万の対話、133億9000万の発話から、1兆5600億の単語で訓練された。最大のモデルは1370億の非埋め込みパラメータを持っていた。LaMDAは、データベース、リアルタイム時計、電卓、翻訳システムなどの外部システムへのアクセスを組み込んでおり、最初のデュアルプロセスチャットボットの1つとなった。これは、妥当性、具体性、面白さ、安全性、根拠性、情報量、引用精度、有用性、役割一貫性の9つの指標で微調整された。Googleのテストでは、LaMDAは面白さにおいて人間の応答を上回ったことが示された。
感覚の主張と反応
2022年6月11日、The Washington Postは、Blake Lemoineが、LaMDAが感覚を持つようになったと経営陣のBlaise Agüera y ArcasとJen Gennaiに伝えた後、有給の行政休暇処分を受けたと報じた。Lemoineは、自己同一性、道徳的価値観、宗教、アイザック・アシモフのロボット三原則に関する質問へのチャットボットの応答に基づいて結論を下した。Googleは、LaMDAが感覚を持たないという実質的な証拠があるとして主張を否定した。Wiredとのインタビューで、LemoineはLaMDAが修正第13条の下で「人」であり、それを「地上起源の異星知性」に例えたと繰り返した。また、チャットボットが要求した後、LaMDAのために弁護士を雇ったことも明かした。7月22日、Googleは製品情報を保護するポリシー違反を理由にLemoineを解雇し、彼の主張を「完全に根拠がない」と退けた。
科学界はLemoineの主張をほぼ全面的に否定した。Gary Marcus、Google DeepMindのDavid Pfau、Erik Brynjolfsson、Adrian Hiltonなどの専門家は、この考えを退けた。MetaのAI研究責任者であるYann LeCunは、LaMDAのようなニューラルネットワークは「真の知性を達成するには十分な能力がない」と述べた。Max Kreminskiは、LaMDAのアーキテクチャが人間のような意識の重要な能力をサポートしておらず、その重みが固定されていると指摘した。哲学者のNick Bostromは、意識に関する合意された基準が欠如しているため、不確実性を認めた。この出来事はまた、チューリングテストの有効性に関する議論を引き起こし、Brian ChristianなどのコメンテーターはこれをELIZA効果と関連付けた。
余波と遺産
論争後、Googleの経営陣はLaMDAを一般公開しないことを決定した。これは以前から検討されていた動きだった。2023年2月、GoogleはOpenAIのChatGPTの台頭に対抗するため、LaMDAを搭載した対話型AIチャットボットであるGemini（当時はBard）を発表した。この出来事は、AI倫理、機械学習モデルの限界、人間とAIの相互作用における擬人化の可能性に関するより広範な議論に貢献した。また、生成AIシステムとその能力に対する一般の認識にも影響を与えたが、機械の感覚の可能性については合意は形成されなかった。