AIと生産性

わかりやすいプロンプトを書き、長い文書を要約し、AIの回答を使う前に確認し、お客様の情報をチャットに入力しないようにします。

AIと生産性

AIが自信ありげに話しても間違っていることがある理由

言語モデルは統計的な確率にもとづいて、1語ずつ回答を生成します。そのため、事実が間違っていても、回答は完全に自信があるように聞こえます。

T1なめらかな下書きの文T2もっともらしい誤ったトークンG1確認の関門(元の文書)T3訂正された正確な記述
T1なめらかな下書きの文T2もっともらしい誤ったトークンG1確認の関門(元の文書)T3訂正された正確な記述

文を組み立てる仕組み:言語モデルは、統計的な学習データにもとづいて、なめらかな下書きの文をトークンごとに生成します。

AIの回答を使う前の確認

AIの回答を使う前に確認するAIアシスタントは、確信ありげでも誤った回答をすることがあります。GoogleとMicrosoftはどちらも、回答をもとに行動する前に、ほかの情報源と照らし合わせて確認するよう案内しています。1誤りがある前提で使うGeminiアプリはときに不正確な情報を出すことがあります2情報源リンクつきのサイドパネル3「情報源」ボタンなしその回答にリンクなし4リンクを開いて内容を読むページの内容が回答と一致する5信頼できる情報源公式ページか提供元6人物の名前回答の再確認7低評価フィードバックを送る
AIの回答を使う前に確認するAIアシスタントは、確信ありげでも誤った回答をすることがあります。GoogleとMicrosoftはどちらも、回答をもとに行動する前に、ほかの情報源と照らし合わせて確認するよう案内しています。1誤りがある前提で使うGeminiアプリはときに不正確な情報を出すことがあります2情報源リンクつきのサイドパネル3「情報源」ボタンなしその回答にはリンクなし4リンクを開いて内容を読むページの内容が回答と一致する5信頼できる情報源公式ページか提供元6人物の名前回答の再確認7低評価フィードバックを送る
  1. 間違いが起こるものと考えておきます。Googleは、Gemini Appsが不正確な情報を生成する場合があり、間違った情報を事実のように示す「ハルシネーション」が起こりうると説明しています。
  2. 「ソース」ボタンを探します。パソコンのGeminiでは、回答の下部か回答の中に「ソース」ボタンが表示されます。選ぶと、リンクが並ぶサイドパネルが開きます。
  3. 限界を知っておきます。Googleによると、すべての回答に関連リンクが付くわけではありません。「ソース」ボタンがなければ、その回答にGeminiはリンクを付けていません。
  4. リンクを開いて読みます。ページの内容が回答の内容と合っているかを確認します。
  5. 信頼できる情報源と比べます。Microsoftは、同じプロンプトでも結果が変わることがあるため、回答を信頼できる情報源と照らし合わせるよう勧めています。価格、規則、期限については、公式ページか提供元で確認します。
  6. 人物に関する内容は、特に注意して確認します。Googleは、特に人物に関する回答は再確認するよう勧めています。
  7. 間違った回答は報告します。Geminiでは「thumbs down」ボタンをクリックして、フィードバックを送ります。医療、法律、金融に関する助言は、アシスタントに頼らないでください。

AIが自社の業務データを使う仕組み

無料のAIアシスタントは、顧客への返信の下書きづくりに役立ちます。Googleは機密情報を入力しないよう求めているため、氏名、電話番号、銀行情報はチャットに入れません。

ヒントから、ご自身のシステムへ