92は、wikipromptプラットフォーム上の一連のプロンプトでの使用を通じて文書化された特定のAI生成モデルであり、11の異なるプロンプトインスタンスに登場する。このモデルは、学習されたパターンに基づいてテキスト、画像、その他のメディアなどの新しいコンテンツを生成できるシステムの作成に焦点を当てた分野であるGenerative AIのより広い文脈に位置づけられる。公開記録には、ベンダー、リリース、技術仕様の詳細が最小限しか含まれておらず、主流の文書化に到達することなく、より広いArtificial intelligenceエコシステム内に存在する多くの専門的または実験的なモデルの一例となっている。
公的に検証可能な情報が乏しいため、この記事はモデルの既知の文脈と、その推定されるアーキテクチャと機能を支配する一般的な原則に焦点を当て、この分野の確立された概念に基づいている。
生成AIにおける文脈
モデル92は、単に分類や予測を行うのではなく、出力を生成するMachine learningシステムのカテゴリに属する。これらのシステムは通常、Deep learning技術に依存し、複数の層を持つNeural networkアーキテクチャを使用してデータ内の複雑なパターンを捕捉する。この種の生成モデルは、Multi-Head AttentionやPositional Encodingなどのメカニズムを使用してシーケンシャル情報を効果的に処理するTransformer (architecture)アーキテクチャに基づいて構築されることが多い。トランスフォーマーは、Large language modelアプリケーションで使用されるものを含む、多くの現代の生成モデルの支配的な基盤となっている。
考えられる技術的基盤
公式文書がないため、92の内部仕様は公には知られていない。しかし、この分野の生成モデルは一般的に、Adam (Optimizer)やStochastic Gradient Descent Variantsを通じてLoss Functionsを最適化するトレーニング手順を採用し、Learning Rate Schedulingを介して調整されるハイパーパラメータと、Dropout、Batch Normalization、Layer Normalizationなどの正則化手法を使用する。重み初期化戦略とGradient Clippingは、トレーニングを安定させるための標準的な手法である。出力生成には、Beam Search、Top-K Sampling、Top-P (Nucleus) Sampling、Temperature Scalingなどのデコード技術が、創造性と一貫性のバランスを取るためによく使用される。これらはDeep learningとMachine learning全体にわたる一般的な実践であり、このモデルに固有のものではないが、典型的な生成モデルが採用するであろう枠組みを示している。
他のAIシステムとの関係
92は、より広く知られている商用および研究モデルとは異なる。OpenAIのGPTシリーズ、AnthropicのClaude、Google DeepMindのGeminiとは異なり、92は主要なベンダーや学術機関によって公に取り上げられていない。AI21 LabsやInflection AIのモデルと同様に、専門的な生成機能を提供する可能性があるが、直接の系統や提携を確認する証拠はない。このモデルは、Stanford AI Lab、BAIR (Berkeley AI Research)、MIT CSAILなどの研究グループによる内部実験である可能性もあるが、利用可能な情報源には帰属の記録がない。wikipromptでの存在は、プロンプトベースの対話にアクセス可能であることを示唆しているが、Amazon Web Services（AWS Trainiumハードウェア経由）やMicrosoft Azureクラウド提供のモデルほどの可視性は達成していない。
アプリケーションと使用例
wikipromptで92を参照する11のプロンプトは、それらのプロンプトに対する応答やコンテンツの生成における機能的な適用を示している。このような使用法は、テキスト補完、創造的執筆、質問応答、データ合成など、典型的な生成AIアプリケーションと一致する。モデルの能力は指定されていないが、翻訳や要約など、入力から出力への変換を行うタスクに一般的なSequence-to-Sequence (Seq2Seq)またはEncoder-Decoder Architectureフレームワークで動作する可能性が高い。また、入力と出力のシーケンスを効果的に整合させるためにCross-Attentionメカニズムを組み込んでいる可能性もある。
制限と文書化のギャップ
公開された技術論文、ベンダー発表、ベンチマーク結果がないため、92のアーキテクチャ、トレーニングデータ、パフォーマンスに関する主張は検証できない。これは、Llion Jonesの研究や、注意メカニズムへの貢献が十分に文書化されているJakob Uszkoreitの仕事のようなモデルとは対照的である。本稿執筆時点で、92はこの分野では不明瞭なエントリのままであり、主にwikipromptでの参照を通じて知られている。関心のある研究者や実務家は、独立した権威ある情報源が存在しないため、wikipromptを直接参照するか、非公式のコミュニティ文書を求める必要があるだろう。このケースは、TeslaやWaymoで異なるドメインに使用されているモデルのような、より広く知られた対応物と並んで、92のような多くのシステムが存在するGenerative AIにおけるモデルの多様性を浮き彫りにしている。