この記事で分かること
- AIの動作や判定の説明を求める相手として、何が挙がっているか
- 説明の項目が変わると、求め先の並びがどう変わるか
- 組織の中で重要とされている説明は、どの項目か
業務にAIを入れて、出てきた結果を社内の判断に使う。そういう場面が増えていないでしょうか。
あとになって、なぜその結果になったのかを聞かれます。聞いてくるのは、社内の別の部署か、取引先です。答えようとしても、判断に使った出力には、説明に足りる根拠まで入っていません。
説明を求める先は、聞く内容で分かれています。
経験が浅いまま、半分を超える人が説明を求められている
説明を求める先を聞いているのが、IPAテクニカルウォッチ「AIの動作・分析・利用等の説明に関する意識調査」です（IPA、AIの動作・分析・利用等の説明に関する意識調査）。2026年3月13日から24日に実施され、回収は2,000人です。大企業と中小企業、製造業と非製造業の4象限で、それぞれ500人を集めています（同調査、アンケート概要）。
回答者の91.9%が、いま業務でAIを使っています（同調査、SC4）。生成AIを使っているのは81.5%、判定（分類）AIは44.9%です（同調査、SC6）。
原典は、この二つを分けて聞いています。そして判定（分類）AIについてだけ、「精度の根拠」を説明の項目に立てています（同調査、問11-2）。生成AIには、その項目がありません（同調査、問11）。
原典は、経験の長さも聞いています。まとめに「業務AI利用者の70％以上がAI経験3年未満である」とあります（同調査、調査結果のまとめ）。五つの区分の最多は「2025年1月以降」で、695人の34.8%です（同調査、問2-2）。
説明を求められる場面は、実際に起きています。原典は、AIの動作や判定について「組織のだれか、あるいはあなたの顧客から説明を求めたり求められたりすることがありますか」と十の項目で聞いています（同調査、問11）。あると答えた人は、どの項目でも54.8%から57.4%です（同調査、問11）。最多は「判定AIの精度の根拠、またはその精度で問題ないとする根拠」で1,147人の57.4%でした（同調査、問11-2）。
説明の求め先は、9項目すべてで書籍・Webが1位
原典の設問は、誰が説明を提供するかを尋ねています。設問文は「あなたの職場のAI利用において、理解を助ける説明を提供するのは、もし可能であれば、どこ（どの組織）が望ましいと感じますか」で、選択肢八つから最大三つを選ぶ形です（同調査、問16）。
提供する相手を挙げることは、聞く相手を挙げることと同じです。選択肢は、書籍・Web、ガイドライン等を発行する公的機関、AIモデルの提供ベンダー、利用するAIサービスの提供ベンダー、所属組織の法務やITの専門家、AIに詳しい職場の同僚や私的な友人、コンサルタント、その他です（同調査、問16）。
説明の項目は九つあり、そのすべてで1位が書籍・Webでした（同調査、問16）。
望ましい相手とは別に、いま実際にどこから情報を得ているかも聞かれています（同調査、問7）。七つの情報源で、利用した経験がある人の最多は「所属組織のAI研修・同僚等」で1,108人の55.4%です（同調査、問7-5）。AIモデルベンダーの提供情報は1,029人の51.5%、AIを用いたサービスベンダーの提供情報は1,017人の50.9%でした（同調査、問7）。
どの情報源も、半分近くの人が使ったことがありません。ベンダーの提供情報を「利用したことがない」と答えたのは、モデルベンダーで971人、サービスベンダーで983人です（同調査、問7）。
基本知識だけ、求め先が一つに集まっている
1位が同じでも、集まり方が違います。
「AIの基本知識」では、書籍・Webが817人で40.9%です（同調査、問16-1）。2位の公的機関が457人で22.9%、3位のAIモデルの提供ベンダーが407人で20.4%（同調査、問16-1）。
1位と3位の差は20.5ポイントです（同調査、問16-1）。
残る8項目では、書籍・Webは26.5%から31.4%の範囲に収まります（同調査、問16）。40.9%という数字は、基本知識だけのものです。
判定の経緯と学習データでは、2位がベンダーに入れ替わる
「AIの個々の判定に関する経緯説明」を見ます。書籍・Webが565人で28.3%、2位がAIモデルの提供ベンダーで513人の25.7%、3位が利用するAIサービスの提供ベンダーで429人の21.5%、4位が公的機関で409人の20.5%です（同調査、問16-3）。
同じ入れ替わりが、あと二つの項目で起きています。「AIの学習データの信頼性情報」では、利用するAIサービスの提供ベンダーが475人の23.8%で、公的機関の404人・20.2%を上回ります（同調査、問16-6）。「生成AIの不適切な質問事例」でも、同じベンダーが485人の24.3%で、公的機関の431人・21.6%より多いです（同調査、問16-4）。
ベンダーに求められているのは、モデルの中身と、学習に使ったものと、使い方の事例です。公的機関に求められているのは、法制と規則です。「AIに関する法制・規則の最新情報」では公的機関が495人の24.8%で、ベンダーを上回ります（同調査、問16-9）。
組織の中で重要とされているのは、判定の経緯と精度の根拠
では、何を説明する必要があるのか。原典は、組織内への説明が重要かを10項目で聞いています（同調査、問12）。
重要とどちらかといえば重要を足した数で、1位が「判定AIの判定の経緯、および利用者がどう対処したかの説明」で979人の49.0%、2位が「判定AIの精度の根拠、またはその精度で問題ないとする根拠」で958人の47.9%です（同調査、問12）。
最下位は「生成AIの学習データに関する説明」で861人の43.1%でした（同調査、問12）。どんなデータで学習したかよりも、目の前の判定の理由が先に求められています。
説明が難しい理由も聞かれています。課題の1位は「説明する側のAI利用の知見が足りず、うまく説明できない」で1,042人の52.1%です（同調査、問13）。
原典は、ベンダーへの信頼も測っています。「AIベンダーが正しい情報を生成AIに学習させていると思う」に同意したのは33.1%でした（同調査、問20-6）。
そのベンダーが何をしているかについても、聞かれています。「AIのリスクを低減するためのベンダーの取り組み」について、知識・知見がないと答えたのが735人の36.8%です（同調査、SC7-12）。内容を他の人に説明できるは270人の13.5%でした（同調査、SC7-12）。
明日からできること
決めるのは、いま使っているAIについて、聞く先と聞く内容です。
聞く先を三つに分けて書き出します。基礎の知識は自分で調べる。判定の経緯と学習に使ったものはベンダーに聞く。法制と規則は公的機関の資料を見る。原典の九つの項目は、この三つに分かれていました。
ベンダーに聞く内容は、更新や追加の相談をする場で出します。先に聞いておくのは二つです。その判定になった理由をどこまで出せるか、その精度でよいとする根拠は何か。原典で組織内の重要度が1位と2位だった項目です（同調査、問12）。
答えが出てこないこともあります。そのときに分かるのは、説明できない範囲がどこかということです。範囲が分かれば、その部分に人の確認を挟む場所が決まります。
社内向けには、聞いた答えを置く場所を決めます。原典のまとめに「説明提供のタイミングはAI利用時に自ら要求する、への要請が一位である」とあります（同調査、調査結果のまとめ）。使う人が必要になったときに見に行ける場所が要ります。
原典では、コンサルタントは9項目すべてで最下位の並びで、5.4%から7.5%です（同調査、問16）。説明そのものを当社に求める人は、多くありません。当社の役目は、聞く先と質問を決める作業を支援することです。返ってきた答えをどう判断するかの基準づくりも、そこに入ります。