AI アシスタント

このガイドでは、AIアシスタントとは、人間がタスクを完了するのを補助するためにAI機能を使用する製品またはワークフローインターフェースを指します。その機能や自律性のレベルは製品によって異なります。

「AIアシスタント」とは、技術的な定義が統一されていない進化中の製品カテゴリです。日常的な使用では、人間が文章作成、要約、検索、計画、コード作成、分析、整理、次のステップを取るのを補助するソフトウェアを指します。アシスタントは言語モデル、検索、メモリ機能、ツール、ワークフロールールを使用するかもしれませんが、これらのコンポーネントはすべてのAIアシスタント製品で必須ではありません。

アシスタントは、下位のモデルと同じではありません。モデルは出力を生成またはスコア付けします。アシスタントはその上に構築された製品レイヤーです: インターフェース、指示、権限、ツール、メモリの選択、検索、セーフティルール、ログ、およびフローの受け渡し。いくつかのアシスタントはテキストの下書きのみを行います。いくつかはツールを呼び出せます。いくつかは承認後に制限付きのアクションを取ることができます。これらの違いは重要です。

人々は検索、オフィスソフトウェア、コードエディタ、サポートデスク、学習ツール、デザイン製品、ブラウザ、モバイルアプリでAIアシスタントと出会います。ラベルはシステムを個人的で能力があるように感じさせますが、これは役に立ちますが、責任の所在を曖昧にすることもあります。役に立つインターフェースでも、ソフトウェアであり、その限界があります。

CHIガイドラインでは、人間とAIの相互作用において、期待を設定し、文脈に応じた情報を表示し、効率的な修正をサポートし、ユーザーのフィードバックを可能にするパターンが強調されています[1]。これらの考え方はアシスタントに適しています。なぜなら、ユーザーはシステムが何ができるかを理解し、失敗したときに修正し、リスクが高まったときにコントロールを維持する必要があるからです。

チームにとって、アシスタントはいくつかのAI機能を1つのワークフローにまとめることができるため魅力的です。サポートアシスタントは、チケットを分類し、ポリシーを検索し、返信を下書きし、エスカレーションを提案するかもしれません。システムは時間を節約しますが、各機能には独自の境界とレビュー経路が必要です。

シンプルなアシスタントはユーザーのプロンプトを言語モデルに送信し、生成された答えを表示する。より複雑なアシスタントは、システム指示、以前の会話、取得されたドキュメント、アカウントデータ、ツールの出力、フォーマットルールを含むプロンプトを構成する。その後、製品はユーザーに何を表示するか、および必要な場合のアクションを決定する。

メモリ機能は製品機能であり、モデルが人間のように記憶していることを証明するものではありません。製品は好みや要約を保存し、後続のコンテキストに挿入する可能性があります。保存された情報には制御が必要です。表示、編集、削除、無効化、ポリシーの明確さなどです。これらの制御がなければ、メモリはプライバシーや期待の問題を引き起こす可能性があります。

ツールアクセスとエージェンシー行動には、別個の権限、制御、およびレビューの境界が必要です。メールを下書きできるアシスタントは、メールを送信できるアシスタントとは異なります。カレンダーを検索できるアシスタントは、ミーティングを予約できるアシスタントとは異なります。エージェンシー行動は、単にアシスタントラベルから仮定されるのではなく、より高い制御ワークフローとして扱う必要があります。

内部のHRアシスタントを想像してください。従業員が「2か月間、別の州でリモートワークできますか？」と尋ねます。アシスタントはHRポリシーを検索し、従業員の場所を尋ね、ポリシーを要約し、マネージャーにメッセージを下書きします。正しい権限とレビューなしに、その手配を勝手に承認したり、給与記録を更新したり、法的ガイドラインを送信したりしてはなりません。

良いアシスタントは、ポリシーのソースを提示し、不確実性を述べ、不足している詳細を特定し、税、法、雇用のルールが適用される可能性がある場合は、質問を人間の所有者にルーティングする必要があります。役立つのは、アシスタントが自信を持って聞こえることではありません。役立つのは、アシスタントが権限を明確に保ちながらタスクを整理することです。

最大の誤解は、AIアシスタントが自動的にAIエージェントになると考えることです。一部のアシスタントはツールを横断して計画し、アクションを取ることができます。しかし多くのアシスタントは、単に答えたり、下書きしたり、要約したりするだけです。エージェントのような振る舞いは、製品設計、権限、ツール、メモリ、アクションループに依存します。

もう一つの誤解は、アシスタントが製品でユーザーが見ることができるすべてのことを知っているということです。それは、選択されたコンテキストのみを受け取る可能性があります。ファイル、アカウント記録、または以前の会話へのアクセスがない可能性があります。また、ユーザーが見ることができない製品の指示を持っている可能性もあります。ユーザーは、特に重要な決定において、使用された情報について尋ねるべきです。

AIアシスタントは、幻覚を起こし、目的を誤解し、権限を越えて行動し、機密データを暴露したり、ユーザーが見かけ上完璧なインターフェースに過度に依存する可能性があります。OECDはAIシステムを、環境に影響を与える出力をもつ機械ベースのシステムとして定義しており、これはアシスタントの出力と行動を文脈の中で検証する必要性に合致しています[2]。NISTはAIリスク管理を継続的なライフサイクルの責任として定義しています[3]。

実際のリスクは境界のない委任です。アシスタントがツールにアクセスできる、プライベートドキュメントを取得できる、好みを記憶できる、またはユーザーの代わりに行動できる場合、製品には許可チェック、ロギング、レビュー、ロールバック、明確なユーザー制御が必要です。アシスタントができることが多いほど、制御モデルが目に見えるべきです。

AIアシスタントに頼る前に、尋ねてください：どのタスクを補助していますか？その裏にあるモデルやシステムは何か？どのコンテキストを使用していますか？ツールやプライベートデータにアクセスできますか？アクションを取ることができますか、それともただ提案するだけですか？結果を検査、修正、または元に戻すことができますか？最終的な決定は誰が所有していますか？

アシスタントを原稿作成、要約、整理、検索、作業準備に使用してください。アシスタントが金銭、健康、法務、雇用、顧客アカウント、セキュリティ、プライベートデータ、または取り消せないアクションに触れた場合は、遅くしてください。役立つアシスタントは、作業を簡単にしながら、証拠、制限、責任を明確に保つべきです。