プロンプトとは、生成AIモデル（大規模言語モデルや画像生成器など）に与えられる自然言語による入力であり、望ましい出力を引き出すために用いられる。プロンプトは、単一の短い指示から、例、制約、書式要件を含む複雑な多段階の仕様まで、多岐にわたる。
プロンプトの種類
プロンプトは、対話の形態に応じていくつかの異なる形式を取る。システムプロンプトは、会話全体に対する永続的な指示とペルソナを設定し、通常はエンドユーザーからは隠されている。一方、通常の会話入力はユーザープロンプトと呼ばれることが多い。画像生成や動画生成では、ネガティブプロンプトが、主となる記述的プロンプトとは別に、出力から除外すべき内容を指定する。望ましい入力と出力の動作の実例を含むプロンプトはフューショット学習プロンプトと呼ばれ、指示のみを提供するゼロショットプロンプトとは対照的である。
プロンプトエンジニアリング
より良い出力を確実に得るためにプロンプトを意図的に設計する実践は、プロンプトエンジニアリングとして知られている。モデルに回答前に段階的に推論するよう求めるチェーン・オブ・ソートプロンプティングなどの手法は、基礎となるモデルが変わらなくても、プロンプトの言い回しや構造がモデルの出力品質を大幅に変え得るという経験的観察から生まれた。この感受性は、インコンテキスト学習、すなわち言語モデルが基礎となる重みを更新することなく、プロンプト自体に存在する情報に基づいて行動を適応させる能力と密接に関連している。
リスク
プロンプトは、ユーザーや、ますます増加する外部データがモデルの行動を制御する主要なインターフェースであるため、重要な攻撃面でもある。ジェイルブレイクは、モデルの安全性トレーニングを回避するために設計されたプロンプトであり、プロンプトインジェクションは、モデルが処理するウェブページや文書などのコンテンツに隠された悪意のある指示を指し、ユーザーの知らないうちにAIシステムの行動を乗っ取ることができる。プロンプトインジェクションは、AIエージェントシステムが現実世界の行動を取る能力を与えられるにつれて、特に深刻な懸念となっている。なぜなら、注入が成功すると、エージェントが単に悪いテキストを生成するのではなく、そのツールを誤用する可能性があるからである。
重要性
生成AIシステムの利用方法におけるプロンプトの中心性は、効果的なプロンプトの共有、洗練、取引に特化した非公式のコミュニティやマーケットプレイスを生み出し、同時に、特定の言い回しが成功するか失敗する理由を理解するための学術的関心も集めている。一部の研究者は、モデルがより高性能になり、意図を推測する能力が向上するにつれて、手動によるプロンプト作成の価値は、コンテキストエンジニアリングと時々に呼ばれるより広範な実践、すなわちモデルがアクセスできる情報、ツール、履歴のよリ完全なセットをキュレーショんするこトに関わル実践に比べて相対的に低減すルと主張しテいる。