人工知能

人工知能は広範な分野であり、実際の使用では、入力からどのように予測、コンテンツ、推奨、または決定を生成するかを推論する機械ベースのシステムを通じて現れます。これは明示的または暗黙的な目的のために行われます [1]。

AIは1つの製品、1つのモデル、1つのパーソナリティではありません。これは、通常、ある種の知覚、パターン認識、計画、予測、言語の使用、または意思決定支援を必要とするタスクを実行するために構築されたシステムの広範なカテゴリです。スペルチェッカー、詐欺検出器、推薦システム、画像分類器、チャットボット、ドキュメントアシスタントなどはすべてAIを含む可能性がありますが、それらは同じように動作するわけではありません。

役立つマインドモデルは単純です：AIシステムは入力を受け取り、ルール、モデル、データ、または学習されたパターンを通じて処理し、出力を生成します。その出力はスコア、ラベル、ランク、生成された段落、次に実行すべきアクションの提案、または決定ルートである可能性があります。この出力は人々が作業を早くするのを助けますが、文脈、制限、および責任の確保が必要です。

AIは通常のソフトウェアの中に現れています。人々は検索、執筆、翻訳、経費の承認、履歴書のレビュー、サポートチケットの分類、スパムの検出、長文の要約などを行うときにAIに出会います。AIはしばしばなじみのあるツールの中にあり、ユーザーはシステムが情報の保存から答えの推論に移行したことに気づかないかもしれません。

そのシフトは重要です。推論された出力は検証された事実とは異なります。推奨は過去のデータのパターンを反映するかもしれませんが、生成された答えは文脈を欠いて完璧に見えるかもしれません。リスクスコアは優先順位付けには役立ちますが、データ、目標、または展開設定が間違っている場合、不公正または信頼できない可能性があります。NISTはAIリスク管理をライフサイクル活動としてフレームワーク化しています。なぜなら、リスクは設計、データ収集、テスト、展開、モニタリング、使用中に発生する可能性があるからです[2]。

Richbayにとって、AIリテラシーはこの区別から始まります。AIは魔法ではなくても役立ちます。判断を置き換えることなく作業をサポートできます。ユーザーは、システムが何をしているのか、どの証拠を使ったのか、何が間違える可能性があるのか、最終的な行動の責任者は誰なのかを尋ねる必要があります。

AIシステムは通常、目標、入力、それらの入力を出力に変換する方法、および周囲のワークフローを持っています。目標は「これらの検索結果をランク付けする」、「おそらく詐欺を検出する」、または「返信を下書きする」かもしれません。入力はテキスト、画像、センサー読み取り、クリック、記録、またはユーザーのプロンプトかもしれません。方法には手書きのルール、機械学習モデル、言語モデル、検索システム、またはいくつかの技術の組み合わせが含まれるかもしれません。

一部のAIシステムは狭く静かです。スパムフィルターはメールをラベル付けするだけかもしれません。ルートプランナーは移動時間を推定するかもしれません。信用リスクモデルは人間のレビュアーにスコアを生成するかもしれません。生成AIシステムはテキスト、画像、コード、音声、または要約などのコンテンツを作成するため、より目立ちます。それらは依然としてAIシステムであり、AIというカテゴリから分離されているわけではありません。

AIシステムは自律性においても異なります。いくつかは単に提案するだけです。いくつかは人間が承認した後に動作します。いくつかは自動アクションをトリガーします。リスクが高いほど、システムの自律性が高いほど、出力に頼る前に、監督、テスト、ログ記録、上訴の経路、フォールバック動作を定義することがより重要になります。

週に数百通のカスタマーエメールを受け取る小さな会社を想像してください。AIアシストサポートワークフローは各メッセージを読み取り、トピックを予測し、優先順位を割り当て、応答を提案し、関連するソースポリシーを表示します。サポート担当者は提案をレビューし、編集し、最終的な返信を送信します。

そのワークフローにはいくつかのAIタスクが関与している可能性があります。分類はトピックを予測します。ランク付けはどのチケットが緊急かを決定します。検索はポリシーテキストを見つける。言語モデルは返信を下します。人間のレビュアーは顧客の事実、ポリシー、トーン、約束された行動が正しいかを確認します。この全体のワークフローを「AI」と呼ぶことは役立ちますが、どの部分がどの出力を生成したかを尋ねることの方が役立ちます。

一般的な誤解は、AIが人間のような理解を意味することです。一部のシステムは印象的な言語を生成したり、複雑なパターンを認識したりできますが、それがあなたが行うように状況を理解しているとは限りません。システムはスコアを最適化している、パターンをマッチングしている、または文脈から可能性の高いテキストを生成しているかもしれません。

もう一つの誤解は、AIが常に機械学習であるということです。機械学習は現代のAIの主要な一部ですが、AIはそれより広範です。一部のシステムは、学習されたモデルとルール、データベース、検索、ワークフローソフト、および人間のレビューを組み合わせています。違いを理解することで、ユーザーは信頼性についてより良い質問をすることができます。

AIシステムは、目的が明確でない、データが不完全である、モデルが新しい環境で異なる動作をする、ユーザーが出力を誤解する、または周囲のワークフローがシステムにあまりにも多くの権限を与えるために失敗することがあります。また、プライバシー、セキュリティ、公平性、透明性、責任のリスクも生じます。NISTは信頼できるAIの特性として、妥当性、信頼性、安全性、セキュリティ、責任、透明性、説明可能性、プライバシー強化、バイアス管理を示しています[2]。

実際のリスクはAIが間違っていることだけではありません。人々が出力の信頼度を過剰に信じる可能性があることです。生成された段落は整ったように見えます。スコアは客観的に見えるかもしれません。推奨は個人向けのように見えます。それぞれの場合に正しい質問は、この出力の裏付けとなる証拠は何で、それが間違っていた場合にどうなるかです。

AI出力に頼る前に、尋ねてください：システムがどのタスクを行っていますか？どの入力を受信しましたか？出力は事実、予測、推奨、または生成された言葉ですか？それを支持するソースやデータはありますか？誰がそれを確認していますか？誰かに不公正な影響を与える可能性がありますか？プライベートまたは機密データを含んでいますか？システムが不確実または誤っている場合のフォールバックはありますか？

低リスクの下書きや整理には、AIは役立つ補助となることができます。健康、お金、雇用、安全、法的権利、顧客アカウント、またはプライベートデータに関する決定には、より強力な証拠、人間の所有権、明確なレビュー経路を必要とします。良いAIの使い方は盲目的な信頼ではありません。限界が明確な構造化された支援です。