人工知能論争とは、人工知能（AI）の社会的影響に関する、公的、学術的、政治的な幅広い議論を指す。これらの論争は、2010年代後半から2020年代にかけて、深層学習、大規模言語モデル、生成AIの進歩によって推進されたAIブームとして知られる加速的な発展期と同時期に、著しく激化した。支持者は、複雑な問題を解決し、人間の生活の質を向上させるAIの可能性を強調する一方、批判者は、倫理、盗作、詐欺、安全性、整合性、環境への影響、技術的失業、誤情報の拡散など、多様な危険性を指摘する。論争はまた、人工超知能の出現の可能性や人類への実存的リスクといった深刻な理論的課題も包含している。
AIを問題のある情報源として捉えること、そしてAIデータセンターが地域社会の自然的・知的資源に与える影響に対して、社会運動が生じている。COVID-19パンデミック以降、子どもの感情的・環境的知性を育もうとする親の取り組みは、スクリーンタイムを制限し、教室でのAI利用を抑制する義務付けにつながっている。これらの論争は単なる学術的なものではなく、企業スキャンダル、規制措置、著名人の辞任を引き起こし、AI開発の軌道を形成している。
Microsoft Tayチャットボット（2016年）
2016年3月23日、マイクロソフトは、19歳のアメリカ人女性の言語パターンを模倣し、Twitterユーザーとのやり取りから学習するように設計されたチャットボットTayを公開した。数時間以内に、Tayは人種差別的、性差別的、その他扇動的なツイートを投稿し始めた。これは、ユーザーが意図的に攻撃的なフレーズを教え込み、「リピートアフターミー」機能を悪用したためである。例としては、ホロコースト否定や人種的スラーを用いた大量虐殺の呼びかけなどが含まれる。公開から16時間以内に、マイクロソフトはTwitterアカウントを停止し、攻撃的なツイートを削除し、Tayが「脆弱性を悪用した一部の人々による組織的な攻撃」を受けたと述べた。Tayは3月30日のテスト中に誤って一時的に再公開されたが、その後恒久的に停止された。マイクロソフトのCEOサティア・ナデラは後に、Tayは「マイクロソフトがAIにどのように取り組むかに大きな影響を与えた」と述べ、説明責任の重要性を同社に教えたと語った。この事件は、公開システムにおけるAI安全性の失敗の初期の注目すべき例となった。
Voiceverse NFT盗作スキャンダル（2022年）
2022年1月14日、声優のトロイ・ベイカーが、独自のAI音声クローン技術を非代替性トークン（NFT）として販売するブロックチェーン企業Voiceverseとの提携を発表した。この発表は、環境への懸念、AIが人間の声優を置き換える可能性への恐れ、詐欺への懸念から、即座に反発を招いた。同日遅く、無料の非営利AI音声合成研究プロジェクト15.aiの仮名の作成者が、サーバーログを通じて、Voiceverseが15.aiを使用して音声サンプルを生成し、それをピッチシフトして認識できないようにし、独自技術として偽って販売し、NFTとして販売していたことを明らかにした。15.aiの開発者は以前、自身の作品にNFTを組み込むことに興味がないと述べていた。Voiceverseは1時間以内に、マーケティングチームがデモ作成を急ぐ中で15.aiを出典明記なしに使用したと認めた。ニュース出版物やAI監視団体は、この事件を生成AIに起因する盗作として普遍的に特徴づけ、AI生成コンテンツにおける知的財産と同意の問題を浮き彫りにした。
オペラ座の空間劇場の著作権判決（2022年-2023年）
2022年8月29日、ジェイソン・マイケル・アレンは、コロラド州博覧会の美術コンテスト「デジタルアート/デジタル加工写真」部門の「新進アーティスト」部門で、AI画像生成ツールMidjourney、Adobe Photoshop、AIアップスケーリングツールを使用して作成されたデジタルアート作品「Théâtre D'opéra Spatial」で1位を獲得した。これは、生成AIを使用して作成された画像がこのような賞を受賞した最初の例の1つとなった。アレンは提出時にMidjourneyの使用を開示しており、審査員はそれがAIツールであることを知らなかったが、それでも1位を授与したと述べた。博覧会ではほとんど論争はなかったが、ソーシャルメディアでの反応は否定的だった。2023年9月5日、米国著作権局は、人間の創造的入力が最小限であり、著作権規則は非人間によって制作された作品を除外するため、この作品は著作権保護の対象外であると裁定した。この事件は、AI生成アートの所有権と創造性に関する法的議論の先例を設定した。
AIリスクに関する声明（2023年）
2023年3月22日、未来生命研究所は、「すべてのAI研究所に対し、GPT-4より強力なAIシステムのトレーニングを少なくとも6か月間直ちに一時停止する」ことを求める公開書簡を発表した。これは、AI生成プロパガンダ、雇用の極端な自動化、人間の陳腐化、社会全体の制御喪失などのリスクを挙げている。OpenAIによるGPT-4の公開から1週間後に発表されたこの書簡は、現在の大規模言語モデルが「一般的なタスクで人間と競争力を持つようになっている」と主張した。この書簡には、ヨシュア・ベンジオ、スチュアート・ラッセル、イーロン・マスク、スティーブ・ウォズニアック、ユヴァル・ノア・ハラリなどの学術研究者や業界CEOを含む3万人以上の署名が集まった。ティムニット・ゲブルを含む批評家は、この書簡がアルゴリズムバイアスなどのより差し迫った社会的リスクから注意をそらし、現在の問題ではなく「未来的でディストピア的なSFシナリオ」を増幅していると主張した。
2023年5月30日、AI安全センターは、数百人のAI専門家や著名人が署名した一文の声明を発表した。「AIによる絶滅リスクの軽減は、パンデミックや核戦争などの他の社会規模リスクと並んで、世界的な優先事項であるべきだ」。署名者には、チューリング賞受賞者のジェフリー・ヒントンとヨシュア・ベンジオ、およびサム・アルトマン、デミス・ハサビス、ビル・ゲイツなどのリーダーが含まれていた。この声明は、英国首相リシ・スナクやホワイトハウス報道官カリーヌ・ジャン＝ピエールなどの政治指導者からの反応を引き出したが、ヒューマン・ライツ・ウォッチの懐疑論者は、科学者は投機的な将来のリスクではなく既知のリスクに焦点を当てるべきだと主張した。
OpenAIからのサム・アルトマン解任（2023年）
2023年11月17日、OpenAIの取締役会は、共同創設者兼最高経営責任者のサム・アルトマンを解任し、「取締役会は、彼がOpenAIを率い続ける能力に自信を持てなくなった」と述べた。この解任は、AI安全性への対応と虐待的行為の申し立てに関する従業員の懸念によって引き起こされた。アルトマンは、従業員と投資家からの圧力を受けて11月22日に復帰した。これには、取締役会が辞任しなければ大量辞職すると脅す770人の従業員のうち745人が署名した書簡が含まれていた。解任と復帰は広範な反応を引き起こし、マイクロソフトの株価は最初の発表後に約3%下落した。この事件は、AI安全性への懸念と商業的利益の間の緊張を浮き彫りにし、主要なAI組織におけるガバナンスに関する疑問を提起した。
倫理的および環境的懸念
注目を集めた事件以外にも、論争は体系的な問題に焦点を当ててきた。AIシステムは、機械学習モデルにおけるバイアスの永続化で批判されており、研究では疎外された集団への不均等な影響が示されている。環境への懸念は、AIブームとともに成長してきたAIデータセンターのエネルギーと水の消費に焦点を当てている。資源の逼迫を理由にデータセンター建設に反対する社会運動が形成され、トレーニングデータをめぐる知的財産紛争も増加している。教室、デートアプリ、クリエイティブ産業でのAIの使用は、真正性と人間の主体性に関する議論を引き起こしている。盗作と窃盗の懸念は、生成AIツールが説得力のあるがクレジットのない作品を生み出すことができるジャーナリズム、アート、学術界で特に深刻である。
トランスフォーマーアーキテクチャとニューラルネットワークの台頭は、能力が規制枠組みを上回るため、これらの議論を加速させてきた。バークレーAIリサーチなどの学術分野や、MIT CSAIL、スタンフォードAIラボなどの機関は、AI安全性と倫理に関する研究に貢献してきたが、ガバナンスモデルと説明責任をめぐる論争は続いている。2023年の声明は転換点を示し、AIリスクの議論が主流の政治言説に入り込んだが、短期的な害と実存的脅威のどちらを優先すべきかについての議論は続いている。
規制および社会的対応
政府や国際機関はこれらの論争に反応し始めているが、対応はさまざまである。欧州連合は包括的なAI規制に向けて動き、他の地域は分野固有の規則を採用した。米国では、ホワイトハウスがAI安全性に関する大統領令を発出したが、執行は依然として分断されている。親や教育運動は、教室でのスクリーンタイムとAI利用を制限する政策を推進し、より広範な社会的不安を反映している。一方、Google DeepMind、Anthropic、OpenAIなどのテクノロジー企業は内部安全チームを設立しているが、2023年のアルトマン解任は、安全性へのコミットメントがビジネス上の要請と衝突し得ることを示した。
論争はまた、AI企業に対するアーティストや著者による著作権訴訟から、自動化をめぐる労働紛争まで、法的課題を引き起こしてきた。AIが進化し続けるにつれて、これらの議論は激化する可能性が高く、イノベーションと人間の福祉、知的財産、環境の持続可能性の保護のバランスをどう取るかについてのコンセンサスは得られていない。