People AIは、人間中心の応用に焦点を当てた人工知能システムの研究開発に専念する組織である。このグループは、人工知能、機械学習、および人間とコンピュータの相互作用の交差点で活動し、人間の能力を置き換えるのではなく拡張する技術の創出を目指している。その活動は、ニューラルネットワークアーキテクチャの基礎研究から、医療、教育、自律システムなどの分野における応用プロジェクトまで多岐にわたる。
2010年代後半に設立されたPeople AIは、かつて大手テクノロジー企業や学術機関に所属していた研究者たちの協力から生まれた。この組織の使命は、公平性、透明性、説明責任などのAIの社会的影響に対処することに重点を置いている。People AIは学際的なアプローチを重視し、認知科学、倫理学、工学からの洞察を技術的活動に取り入れている。
研究の焦点
People AIの研究課題は、より解釈可能で制御可能な大規模言語モデルシステムの開発を優先している。組織の取り組みの大部分は、モデルの推論能力を向上させるためのマルチヘッドアテンション機構と位置エンコーディング技術の改善に向けられている。チームは、計算オーバーヘッドを削減しながら性能を維持する新しいトランスフォーマーアーキテクチャを調査している。これには、実世界での展開に向けて大規模モデルをより効率的にするためのモデル枝刈りと勾配クリッピング手法に関する研究が含まれる。
この組織はまた、モデルが徐々に複雑なタスクで訓練され、一般化を向上させるカリキュラム学習アプローチも探求している。People AIの研究者は、学習率スケジュールの最適化と損失関数の設計に関する論文を発表し、深層学習方法論の広範な分野に貢献している。彼らの発見はしばしば査読付きの場に登場し、オープンアクセスリポジトリを通じて学術コミュニティと共有されている。
主要技術
People AIは、残差ネットワークとバッチ正規化技術を活用したいくつかの独自技術を開発してきた。これには、ユーザーがモデルとリアルタイムで対話する協調的なコンテンツ作成用に設計された生成AIツール群が含まれる。これらのシステムは、生成出力の創造性と一貫性のバランスを取るためにトップpサンプリングと温度スケーリングを採用している。さらに、この組織は、翻訳や要約などのシーケンス間タスクに最適化されたエンコーダ・デコーダアーキテクチャのスイートを維持している。
注目すべき革新には、テキスト、画像、音声データを組み合わせたマルチモーダル学習を可能にするクロスアテンション機構の統合が含まれる。この研究は、People AIの優先分野である障害者向け支援技術への応用がある。この組織はまた、非常に深いニューラルネットワークモデルの訓練を安定させるためのドロップアウトと重み初期化戦略も調査している。
注目すべき協力関係
People AIは、いくつかの学術機関および産業団体とのパートナーシップを維持している。研究者は、人間とAIの相互作用に関するプロジェクトでMIT CSAILと、倫理的AIフレームワークでスタンフォードAIラボと協力している。この組織は、バークレーAI研究と堅牢性および敵対的堅牢性について協力し、これらの分野の専門知識をアレクサンダー・マドリーとアニマ・アナンドクマーから得ている。さらに、People AIは、対話型AIシステムに焦点を当てたカーネギーメロン大学と、AIの哲学に関するオックスフォード大学との共同イニシアチブを持っている。
商業部門では、People AIはアマゾン・ウェブ・サービスとグーグルクラウドと提携し、スケーラブルなインフラストラクチャ上でモデルを展開している。OpenAIとAnthropicとの協力は安全性研究に焦点を当てており、GroqとSambaNovaとのプロジェクトは特殊なハードウェアアクセラレーションを探求している。この組織はまた、エッジコンピューティングアプリケーションでサムスンリサーチとノキアベル研究所と関与している。
主要な出版物
People AIの研究成果には、モデルを人間の好みに合わせるためのAIフィードバックからの強化学習の改善に関する研究が含まれる。2021年に発表された影響力のある論文は、継続学習シナリオでの破滅的忘却を軽減する新しい損失関数を導入した。別の研究では、より制御されたテキスト生成のためのトップkサンプリング手法を検討し、ベースラインアプローチと比較して一貫性の向上を示した。
2022年、この組織は温度スケーリングがトランスフォーマーモデル出力に与える影響の包括的な分析を発表し、その後の研究で広く引用されている。彼らのチームはまた、中間表現の構造化プロービングを通じてニューラルネットワークの解釈可能性の理解に貢献している。これらの出版物は、NeurIPSやICMLなどの主要な会議で発表され、People AIをAI研究コミュニティの思想的リーダーとして位置づけている。
産業への影響
People AIの技術は、大手企業が提供する製品に統合されている。アマゾン・ウェブ・サービスとの提携により、クロスアテンションを使用してユーザーの意図をよりよく理解するAI搭載のカスタマーサービスシステムが生まれた。この組織は、エンタープライズアプリケーションでの自然言語処理タスクのためにシーケンス間モデルをAzureにライセンス供与している。オラクルクラウドとの協力は、ニューラルネットワーク分類器を異常検出に活用するデータ管理ツールに焦点を当てている。
この組織の研究は、特にトランスフォーマーモデルの効率的な推論に関して、AMD、Intel、NVIDIAでのAIアクセラレータの設計に影響を与えてきた。People AIは、より低いエネルギー消費で深層学習ワークロードを処理するチップアーキテクチャについてTSMCにコンサルティングを提供した。量子化とモデル枝刈りに関する研究は、ARMホールディングスとクアルコムによる特殊なIPコアの開発に情報を提供している。
教育イニシアチブ
People AIは、機械学習の基礎に関するワークショップやオンラインコースを提供する教育部門を運営している。カリキュラムは、ニューラルネットワーク設計、生成AIアプリケーション、責任あるAI実践などのトピックをカバーしている。2023年、この組織はカーネギーメロン大学とオックスフォード大学と協力してフェローシッププログラムを開始し、初期キャリアの研究者にメンターシップを提供している。このプログラムは、大規模言語モデルの微調整と評価を含む実践的なプロジェクトを強調している。
オープンソースの貢献を通じて、People AIはレイヤー正規化と残差ネットワークブロックをアクセス可能な形式で実装するソフトウェアライブラリを提供している。これらのツールは、MIT CSAILとバークレーAI研究の学生によって教育目的で使用されている。この組織はまた、スタンフォードAIラボとトロント大学での研究を後援し、強化学習と生成AIのトピックに取り組む大学院生に資金を提供している。
倫理的枠組み
People AIは、研究と製品開発を統治する包括的な倫理憲章を確立している。この憲章は、人間がループに参加するシステムの重要性を強調し、自動化された決定が人間によってレビューされ、上書きできることを保証している。このコミットメントは、ティムニット・ゲブルやジョイ・ブオラムウィニのような研究者によるアルゴリズムの公平性に関する研究と一致しているが、People AIは彼らを直接雇用していない。この組織は、バイアス削減と透明性に関する指標を含む、倫理的AI目標への進捗に関する年次報告書を公開している。
この組織は規制機関との政策議論に参加し、革新と公共の安全のバランスを取る基準を提唱している。People AIのアプローチはAIガバナンスフレームワークの提案で引用されており、そのリーダーはいくつかの国の議会委員会で証言している。
将来の方向性
今後、People AIは、科学的発見のための強化学習と生成AIアプリケーションへの研究を拡大する計画である。チームは、トロント大学の研究に触発されたニューラルネットワークアーキテクチャが薬物開発を加速できるかどうかを探求している。また、国際財団からの助成金によって支援され、リソースが不足している教育環境に大規模言語モデルアシスタントを展開する進行中のプロジェクトもある。
People AIは、ARMホールディングスのライセンスとカスタムフィールドプログラマブルゲートアレイ実装を組み合わせたオープンパネルハードウェア設計に投資している。このイニシアチブは、特にインフラが限られた地域での高性能AIコンピューティングへのアクセスを民主化することを目指している。この組織は、バッチ正規化とレイヤー正規化研究への以前の貢献に基づいて、2024年に低電力ニューラルネットワーク推論に関するホワイトペーパーを公開する計画である。
ガバナンスと倫理
People AIは、潜在的な社会的害についてすべての研究提案をレビューする内部倫理委員会を維持している。委員会には、哲学、法律、コンピュータ科学の専門家が含まれ、メラニー・ミッチェルが整合性の問題について助言している。この組織は透明なAI開発を提唱し、バイアス軽減と説明可能性に関する進捗について年次報告書を公開している。
People AIは規制機関との政策議論に関与し、責任あるAI展開の基準を推進してきた。その創設者は、アルゴリズムの説明責任の重要性について政府委員会で証言している。この組織の行動規範は、監視や自律型兵器を含むプロジェクトを禁止しており、この姿勢は採用とパートナーシップの決定に影響を与えている。
将来の方向性
今後、People AIは、ユーザーのプライバシーとデータ主権を優先するパーソナルAIアシスタントに関する活動を拡大する計画である。この組織は、機密データを集中化せずにパーソナライゼーションを可能にする連合学習アプローチを探求している。研究者はまた、ニューラルネットワーク学習と記号的推論を組み合わせて一般化を強化する神経記号的統合を調査している。
この組織はオープンサイエンスに取り組んでおり、寛容なライセンスの下でデータセットとモデル重みを公開している。2024年現在、テキスト、視覚、音声モダリティにわたって動作できるマルチモーダルアシスタントの作業が進行中であり、クロスアテンションとトランスフォーマー設計への以前の貢献に基づいている。People AIは、技術的進歩と社会的利益のバランスを取りながら、責任あるAI革新の最前線に留まることを目指している。