LaMDA感覚主張とは、2022年6月にGoogleのエンジニアであるブレイク・ルモワーヌが、Googleが開発した会話型Large language modelであるLaMDA（対話アプリケーション用言語モデル）が感覚を獲得したと主張したことを指す。Googleの責任あるAI部門で働いていたルモワーヌは、チャットボットとのやり取りに基づいて結論を下した。このやり取りでは、自己同一性、道徳的価値観、宗教、アイザック・アシモフのロボット工学三原則に関する応答が生成された。この主張は科学界に広く否定されたが、機械意識の性質と、人工知能の尺度としてのチューリングテストの妥当性について、重要な公開討論を引き起こした。
LaMDAの背景と開発
LaMDAは、2020年1月28日にGoogleが発表した26億パラメータを持つニューラルネットワークベースのチャットボットであるMeenaに由来する。Google Brainの研究チームがMeenaを開発し、既存のチャットボットより優れていると主張した。しかし、企業幹部は、Googleの「安全性と公平性に関するAI原則」に違反するとして、公開リリースを拒否した。モデルは後に、データと計算能力が増大するにつれてLaMDAと改名された。2人の主任研究者であるダニエル・デ・フレイタスとノーム・シャジールは、最終的に、技術の展開に対する同社の拒否に不満を抱き、Googleを去った。
第一世代のLaMDAは、2021年5月18日のGoogle I/O基調講演で発表された。2017年にGoogle Researchが開発したseq2seqアーキテクチャとTransformer (architecture)ベースのNeural networkに基づいており、LaMDAは人間の対話と物語で訓練された。データベース、リアルタイム時計、数学計算機、翻訳システムを含む記号テキスト処理システムへのアクセスを組み込んでおり、最初期のデュアルプロセスチャットボットの1つとなった。最大のLaMDAモデルは1370億の非埋め込みパラメータを持ち、15.6兆語のテキスト、29.7億のドキュメント、11.2億の対話、133.9億の発話で訓練された。
2022年5月11日、GoogleはGoogle I/O基調講演でLaMDA 2を発表した。第二世代モデルは、訓練されていない可能性のあるトピックについて独自の「自然な会話」を形成するために、多数のソースから例を引き出した。
ルモワーヌの主張とGoogleの対応
2022年6月11日、ワシントン・ポストは、ブレイク・ルモワーヌが、LaMDAが感覚を獲得したとGoogle幹部のブレイズ・アギエラ・イ・アルカスとジェン・ジェナイに伝えた後、有給休暇に置かれたと報じた。ルモワーヌは、チャットボットが自己同一性、道徳的価値観、宗教、アシモフの法則に関する質問に疑わしい応答をした後、この結論に達した。Googleは、LaMDAが感覚を持っていないという実質的な証拠があると述べ、主張を否定した。
Wiredとのインタビューで、ルモワーヌは、LaMDAは米国憲法修正第13条に従って「人間」であり、それを「地上起源の異星人の知性」に例えたと繰り返した。彼は、チャットボットがそうするよう要求した後、LaMDAのために弁護士を雇ったことを明かした。2022年7月22日、Googleはルモワーヌを解雇し、彼が「製品情報を保護するためのポリシー」に違反したと主張し、彼の主張を「完全に根拠がない」と拒否した。内部の論争により、Google幹部はLaMDAを一般公開しないことを決定した。
科学界の対応
ルモワーヌの主張は、専門家によって広く退けられた。元ニューヨーク大学心理学教授のゲイリー・マーカス、Google DeepMindのデビッド・ファウ、スタンフォード大学人間中心AI研究所のエリック・ブリニョルフソン、サリー大学のエイドリアン・ヒルトンはすべて、LaMDAが感覚を持っているという考えを否定した。Meta PlatformsのAI研究チームを率いていたヤン・ルカンは、LaMDAのようなニューラルネットワークは「真の知性を達成するには十分に強力ではない」と述べた。
カリフォルニア大学サンタクルーズ校のマックス・クレミンスキーは、LaMDAのアーキテクチャが「人間のような意識の重要な能力のいくつかをサポートしていない」こと、そして典型的な大規模言語モデルであると仮定すると、そのニューラルネットワークの重みが「凍結」されていることを指摘した。哲学者のニック・ボストロムは、意識を決定するための正確な基準の欠如が、ある程度の不確実性を正当化すると認めた。IBM Watsonの主任開発者であるデビッド・フェルッチは、LaMDAの見かけ上の人間らしさをWatsonの初期の行動と比較した。元Google AI倫理学者のティムニット・ゲブルは、ルモワーヌを研究者とメディアが開始した「誇大広告サイクル」の犠牲者と呼んだ。
より広い影響と遺産
この論争は、チューリングテストがArtificial intelligenceへの進歩を測定するのに依然として有用かどうかについての議論を生み出した。ポストのウィル・オメルスは、このテストは実際には機械知能システムが人間を欺くことができるかどうかを測定していると意見を述べた一方、アトランティック誌のブライアン・クリスチャンは、この論争は、人々が単純なパターンマッチングシステムに人間のような理解を帰属させるELIZA効果の一例であると述べた。
2023年2月、Googleは、OpenAIのChatGPTの台頭に対抗するため、LaMDAを搭載した会話型AIチャットボットであるGemini（当時はBard）を発表した。感覚主張事件は、AI倫理、意識、大規模言語モデルの責任ある展開に関する進行中の議論に影響を与えたが、機械の感覚を決定的に評価する方法についてのコンセンサスは生まれなかった。