プロンプト

プロンプトは、タスクの出力をガイドするためにモデルに提供される入力です。指示、質問、例、コンテキスト、または制約を含むことがあります[1]。

プロンプトは、ユーザーまたは製品がAIシステムに何を望んでいるかを示します。短い質問、長いタスクの概要、例のセット、貼り付けたドキュメント、フォーマットのルール、またはこれらすべての組み合わせであることがあります。多くの製品では、ユーザーが表示するメッセージは、モデルが見ている完全なプロンプトのようなコンテキストの一部に過ぎません。

製品はユーザー入力とシステムレベルの指示、例、取得された文章、会話履歴、ツール結果、出力制約を組み合わせる可能性があります。良いプロンプト設計は出力を明確かつ役立たせます。しかし、真実性、安全性、ソースの支持、幻覚の回避を保証するものではありません。

プロンプティングは通常のユーザーがAI出力を改善する最も簡単な方法の一つです。"これをもっと良く書け"のような曖昧な要求は方向性がありません。より強力なプロンプトはタスク、対象読者、ソース資料、スタイルの制約、成功基準を指定します。これにより、モデルはユーザーのニーズに近い答えを生成できます。

プロンプティングも重要である理由は、多くのAI製品が隠されたプロンプトのアセンブリに構築されているからです。アプリケーションはモデルを呼び出す前に、ポリシー指示、取得された知識ベースのセクション、例、フォーマットルールを追加するかもしれません。ユーザーは表示されるチャットメッセージがすべてのリクエストであると仮定してはなりません。

プロンプト学習の調査「Pre-train, Prompt, and Predict」では、タスク情報が従来のタスク固有のトレーニング設定だけでなく、プロンプトを通じて表現される広範なNLPのパターンとしてプロンプトが説明されています [1]。Richbayユーザーにとっての実践的な教訓は、プロンプトが使用中に生成をガイドすることであり、トレーニングとは異なり、モデルのパラメータを自分で更新しないということです。

実用的なプロンプトにはいくつかの部分があります。タスクは何をすべきかを示します。コンテキストは使用する資料を提供します。オーディエンスは答えが誰向けかを示します。制約は長さ、フォーマット、トーン、または除外を設定します。例は望ましいパターンを示します。レビュー指示はモデルに不確実性をフラグ付けたり、主張と提案を分離するように求めます。

製品において、プロンプト設計はいくつかのレイヤーで行われます。システム指示は役割とセーフティの境界を設定するかもしれません。アプリケーションレベルの指示はワークフローを定義するかもしれません。検索されたセクションは証拠を提供するかもしれません。ツールの結果は現在のデータを追加するかもしれません。ユーザーのメッセージは目に見える質問を尋ねるかもしれません。モデルの出力は、ユーザーがタイプした最後の文だけでなく、集約された要求によって形作られます。

プロンプト設計はトレーニングとは別です。トレーニングは使用前にモデルパラメータを変更します。プロンプティングはリクエスト中にタスク固有のコンテキストを提供します。プロンプトはそのインタラクションでモデルの振る舞いを変えることができますが、それはモデルの下層を人間のように永久的に教えるものと説明してはなりません。

従業員が職場のポリシーを要約するAIアシスタントを必要としていると想像してください。弱いプロンプトは「これを要約してください」とだけ言います。より良いプロンプトは「提供されたポリシーをフロントラインサポートスタッフ向けに5つのポイントで要約してください。ポリシーのテキストのみを使用してください。国、顧客プラン、またはマネージャーの承認に依存するルールを明記してください。」と言います。

より強力なプロンプトはタスク、対象、ソース境界、フォーマット、リスクフラグを提供します。出力はより使いやすくなるかもしれませんが、ユーザーは依然としてポリシーを確認する必要があります。アシスタントが返金が許可されていると述べた場合、ソースが実際にその主張を支持している必要があります。プロンプトの質は方向性を改善しますが、ソースの検証は真実を確認します。

最大の誤解は、プロンプトエンジニアリングで真実を強制できると考えることです。明確なプロンプトは曖昧さを減らし、出典を求める、不確実性を要求する、根拠のない主張を避けることができます。しかし、モデルが正しい証拠を知り、取得し、使用することを保証することはできません。

もう一つの誤解は、プロンプトがユーザーが書いたチャットメッセージだけであるということです。実際の製品では、プロンプトはソフトウェアによって構成されることがあります。ユーザーは一つのボックスを見ているかもしれませんが、モデルはシステムの指示、取得されたコンテキスト、例、以前のやり取り、およびツールの出力を受ける可能性があります。

プロンプティングはプライバシーやセキュリティのリスクを生む可能性があります。ユーザーはポリシーを確認せずに機密データをツールに貼り付けるかもしれません。攻撃者はドキュメント、メール、ウェブページ、または取得されたセクションに指示を隠すかもしれません。OWASPのプロンプトインジェクションガイドラインでは、AIシステムが処理する外部コンテンツに悪意のある指示が現れる間接的な攻撃について説明しています [2]。

NISTは、ジェネレーティブAIの出力、誤用、信頼性を、より良い表現だけでなく、ガバナンスと評価が必要なリスクとして扱っています[3]。プロンプトは慎重な行動を求めるかもしれませんが、製品は高リスクなタスクにおいてソースチェック、許可、モニタリング、および人間のレビューが必要です。

プロンプトを送信する前に、尋ねてください：どのタスクを希望していますか？モデルが使用すべきソース素材は何ですか？何を避けるべきですか？どのフォーマットが必要ですか？機密データが含まれていますか？このタスクには一次ソース、人間の専門家、または二重チェックが必要ですか？

回答を受け取った後には、次の質問をします。どの主張が重要ですか？どの主張が提供されたソースで裏付けられていますか？モデルは制約を守りましたか？欠けている詳細を創作しましたか？答えが間違っていた場合、損害をもたらすことはありますか？良いプロンプトは作業の始まりです。検証は作業が信頼できるかどうかを決定します。