AIの責任はだれが負う？提案はAIに任せても実行は人が握るべき理由

更新日：2026/10/27

監修者：吉田 篤三

MOCO Works株式会社代表取締役。SEO業界10年以上の経験を持ち、AIライティングツールの開発にも携わる。ChatGPT登場以前よりAIを活用し、業務効率化を推進中。本ブログもAIを用いて執筆し、校正・校閲・リライトを経て公開。 記事作成・リライト代行サービスについては『』※弊社公式HP

AIの責任は、運用上は、提案を受けて実行を握り、結果を受け止める人間が持つものと考えます。 AIは候補を出し、下書きを作り、推奨まで示せます。しかし間違えたときに、お客様や取引先へ説明するのはAIではありません。

この記事で扱うのは、法的な責任の判断ではなく、運用上の責任の置き方です。

AIを仕事に入れる判断をする立場なら、「任せた結果が間違っていたら、だれの責任になるのか」が気になるはずです。弊社（MOCO Works株式会社）はAIを実際の業務に入れており、「提案まではAI、実行は人」を基本にしています。

ただし、どこまで任せるかは今も検討中で、完成した答えではありません。

この記事では、AI責任の所在、提案から決定までの3段階、弊社の責任の分け方、人が提案を止めた場面を順に紹介します。

この記事でわかること

  • AIが間違えたとき、責任を負うのはだれか
  • 提案・推奨・決定の3段階で、責任の持ち方がどう変わるか
  • 弊社が、AIに任せる範囲を責任でどう分けているか
  • 承認ボタンを押すだけでは、なぜ責任を果たせないのか

AIが間違えたとき責任はだれが負うのか

AIが間違えたときも、お客様や取引先に向き合う役目は、AIを使う側の事業者にあります。AIは提案を出す道具であり、結果を受け止める立場にはありません。

国のガイドラインも、同じ向きの整理です。「AI事業者ガイドライン」（第1.2版）は、総務省と経済産業省がまとめた指針です。

責任を負うことと、そのための前提条件を整えることを、ガイドラインは「アカウンタビリティ」と呼びます。各主体で責任者を明らかにするよう求めてもいます。※1 つまり、AIに責任を割り当てる話ではなく、AIを作る・提供する・使う事業者の側で責任者を決める話です。

ただし、このガイドラインは法的拘束力のない指針です。個別の事案でだれがどこまで法的責任を負うかは、契約や法令によって変わります。この記事は、運用の考え方を扱います。

AIが間違えたときの責任は、実行を握って結果を受け止める人が負う

AI責任の所在は立場ごとに分けて考える

AI責任は、AIを作る人、提供する人、使う人という立場ごとに分けて考えます。「AIの責任」と一括りにすると、だれの話なのかが見えなくなるためです。以下の2つに分けて整理します。

開発者・運営者・利用者で責任が分かれる

AI責任の考え方は、AIに関わる立場が3つあることからはじまります。AI事業者ガイドライン（第1.2版）は、AIに関わる事業者を3つに分けています。※1 AIを開発する「AI開発者」、サービスに組み込んで提供する「AI提供者」、事業で使う「AI利用者」です。

AI責任は、AIを開発する人、提供する人、使う人の立場ごとに分けて考える

なお、AI責任の用語解説は、開発者・運営者・利用者の3者を並べています。※2 この記事の呼び方は、国のガイドラインに合わせて「提供者」です。

同じ会社が複数の立場を兼ねることもあります。ガイドラインにも、同一の事業者が複数を兼ねる場合があると書かれています。※1 例えば、AIを組み込んだ仕組みを自社で作り、自社の業務で使う会社は、提供者と利用者を兼ねる形です。

用語解説では、AI責任を、AIが引き起こした損害や誤情報などについて、開発者・運営者・利用者のどこが責任を負うかを問う概念と説明しています。※2

ただし、だれがどこまで責任を負うかは、事案ごとに契約や法令で決まります。この記事では、個別の判断には立ち入りません。

責任の帰属先はだれかを先に決める

責任の帰属先は、問題が起きる前に決めておきます。起きてから決めようとすると、だれの責任かという議論からはじまってしまうためです。

ガイドラインも、関係者間の責任を、契約や社会的な約束などで明確にするよう求めています。※1 ツールを選ぶ段階では、最終的にだれが責任を負う設計なのかを確かめます。提供元の免責条項を盲信すると、自社が負う責任を見落とすおそれがあるためです。※2

ここで先に決めるのは、責任を持つ「人」です。AIに責任を割り当てる話ではありません。

AI責任が変わる提案から決定までの3段階

AIに任せる範囲は、候補を出す、推奨する、決定するの3段階に分けて考えます。 同じAIでも、段階が変わると、人が持つ責任が変わるためです。

候補は人が選び、推奨は人が承認か却下し、決定は人が方針を先に決める

この3段階は、あるブログの整理です。※3 業界で決まった標準ではありませんが、段階ごとの責任を考える手がかりになります。以下の3つに分けて見ていきます。

候補を出す段階

候補を出す段階で、AIは選択肢と根拠を並べ、どれを採るかは人が選びます。この段階の論点は、AIの見落としを許容できるかどうかです。※3

候補の出し方に偏りがあれば、見落としが生まれることもあります。そのため、候補は「すべてそろっている」と決めつけず、足りないものがないかを人が見ます。

推奨する段階

推奨する段階では、AIが1案を優先して示し、人がそれを承認するか却下します。この段階の論点は、現場が推奨を盲信しない設計になっているかです。※3

推奨は有力な案にすぎず、決まったことではありません。弊社でも、AIの提案のうちいくつかを採用し、実際にサイトへ反映しています。

ただし、提案が妥当かどうかは、常に人が判断します。

決定する段階

決定する段階でAIが動かしているのは、AI自身の判断ではありません。人や組織があらかじめ決めた方針を、AIが速く実行しているだけです。※3 そのため、人が持つ責任は、方針と止める条件を先に決めることになります。

この段階の論点は、誤作動を止められるかどうかです。※3 「AIに決定を任せる」という言い方は、人が方針を決めたという事実を見えにくくします。

弊社でAIに実行を任せない責任の分け方

弊社は、お客様に影響が出るものと、自分で責任を取れるものを分けて、AIに任せる範囲を決めています。実行を握るかどうかの基準は、責任を取れるかどうかです。以下の3つの考え方で進めています。

お客様に影響が出るものは人が実行を握り、責任を取れる範囲だけAIに任せる

責任を取れるかどうかで分ける

分ける軸は、責任を取れるかどうかです。お客様のところに影響が出るものは、人が実行を握ります。自分たちで責任を取れる範囲のものは、AIに任せる余地があります。

世のなかの整理も近い形です。あるAI活用の解説では、送信、公開、削除、支払い、決裁は、人が握るものとされています。※4

ただし、弊社の分け方はまだ検討中で、完成形ではありません。

自動で通すのは動作と影響範囲が問題ないものだけ

自動で通すのは、動作に問題がなく、影響範囲も大きくないと判断できるものだけです。弊社は、動作が問題ないかどうか、影響範囲が大きいかどうかの2点で判断しています。

自動で通す範囲は、固定していません。自動で動かしても問題ないと判断できたものを、少しずつ増やしている途中です。あるIT責任者の取材でも、承認が要るかどうかは、元に戻せるものか戻せないものかで分けるという考え方が語られています。※5

仕組みができていないものは自動にしない

手順や判断の基準が、まだ仕組みになっていないものは、自動の対象にしません。自動で動かす前に、まず人が仕組みを作ります。

AIの提案を人が止めた3つの場面

人がAIの提案を止めたのは、裏取りの足りない数値変更、既存の仕組みの見落とし、仕組みの上塗りの3つの場面でした。 どの提案も、もっともらしく見えたため、人の目で確かめる必要がありました。以下の3つを順に紹介します。

人が止めたAIの提案は、裏取りなしの数値変更、既存の仕組みの見落とし、仕組みの上塗り

数値の変更を重ねようとした提案

運用中の数値を変えた2〜3日後に、AIがその変更へさらに変更を重ねる提案を出したことがあります。実際の数字を確認しないまま、感覚に近い値で変更案を作っており、裏取りがありませんでした。

人が止めたのは、この変更案です。数字を確かめていない提案は、根拠のある提案とはいえません。

既存の仕組みを確認せず新しく作ろうとした提案

ある業務のAIが、成果物を機械で検査する新しい仕組みを作る案を出しました。AI自身が、提案のなかで、既存のテンプレートや検査がすでにあるかは未確認だと書いていたのです。実際には、同じ機能の検査が社内にすでにありました。

結論は、テンプレートを1つ足すだけにして、新しい仕組みは作らないことです。未確認のまま出された提案を、確かめてから判断したことで、仕組みを増やさずに済みました。AIが自分で未確認と書いた点こそ、人が最初に見る点です。

AIが意図より先走る例は、あるAI事業者が公開した資料にも書かれています。誤解した指示で作業データの保管先を削除した例や、稼働中のデータの置き場の作り替えを試みた例です。※6

仕組みの上塗りで直そうとした提案

既存の仕組みを直すために、その上へ別の新しい仕組みをくっつける提案もありました。その提案は、仕組みが複雑になり、弊社の考え方にも合わないため、人が止めています。

完成報告をうのみにすると責任は人に戻る

AIの「完成しました」という報告は、中身を確かめるまで、完成とは扱いません。うのみにして渡した場合、間違いの責任はそのまま人に戻るためです。

完成報告は中身を確かめてから渡さないと、間違いの責任は人に戻る

弊社では、完成報告の中身を見てみると、手抜きや裏取り不足が見つかることがありました。だからこそ、うのみにせず、中身を確かめてから渡します。

AIの出力をそのまま相手に渡さないことを、弊社は原則にしています。そのまま渡すと、確認の手間を相手に押しつけ、相手の時間を奪うことになるためです。

ガイドラインも、AI利用者に確認を求めています。出力の精度とリスクの程度を理解し、リスク要因を確かめたうえで使う、という内容です。※1 確認が済むまで、AIの出力は下書きです。

承認ボタンを押すだけでは責任を果たせない

承認ボタンを押すだけでは、責任を果たしたことにはなりません。承認する人が内容を見ていなければ、確認の形だけが残るためです。以下の2つに分けて整理します。

承認は数を絞り、取り消せない操作や影響が大きい操作だけを人に残す

手動の承認はほとんど通ってしまう

確認画面で手動の承認を求める方式には、限界があるとの指摘です。あるAI事業者の記事には、自社のAIツールの利用で、ユーザーが確認画面の93%を承認している、という記述があります。※6 同じ記事には、承認を重ねるうちに人が内容を注意して見なくなる「承認疲れ」が起きる、との説明もあります。※6

この93%は、その事業者が自社の利用について書いた数字で、集計元・母数・期間は原文に書かれていません。数字そのものが、確認の形骸化を直接示すわけでもありません。一般的な統計としては受け取らないでください。

別の取材では、「レビュー疲れ」が身近なリスクとして語られています。AIが人の点検できる量より多くの作業を生み、人が中身を見ずに承認印を押すだけになる状態です。※5

影響が大きい操作だけを人に残す

対策は、人が承認する操作を絞ることです。重大な判断や取り消せない判断は人が担い、低リスクな作業の振り分けやレビューはAIが手伝える、という整理が示されています。※5

承認の数を減らすのは、手を抜くためではありません。人が見るべきものに目を向けるためです。

ただし、自動で判定する仕組みも万能ではありません。ある事業者は、自社の仕組みの評価で、実際に先走った操作52件のうち17%を見逃したと書いています。※6

件数が小さい点は、その事業者自身が断っています。自動で通す範囲を広げるときも、人が見直す前提は残すべきでしょう。

AI責任を人が持つために決めておくこと

AI責任を人が持つには、実行の前に決めておくことが3つあります。後から決めようとすると、問題が起きた場面で判断が割れるためです。以下の3つに分けて見ていきます。

変更の前の取り決め、提案までの範囲の書面化、危ない操作の仕組みでの停止が必要

変更の前に狙いと戻し先を決める

運用中の数値を変えるときは、変更する前に、狙い、見る指標、効果を確認する日、戻し先の4つを決めます。戻し先が決まっていれば、変更がうまくいかなかったときも、被害を小さく止められます。

この4つは弊社の決めごとで、業界で標準とされているものではありません。取り消せない操作を危険な操作として扱う考え方は、他社の取り組みにも見られます。※6

提案までにとどめる範囲を書面にする

AIが提案までにとどめる範囲は、口頭ではなく書面にします。弊社は、本番の変更は実行せず、提案までにとどめる決まりを、社内共通の文書にしています。担当ごとに範囲が違うと、どこまで任せて良いかが人によって変わるためです。

国のガイドラインが、関係者間の責任の所在を契約や約束で明確にするよう求めているのと同じ考え方です。※1 下書きの作成までを範囲にしている業務もあります。

危ない操作は仕組みで止める

危ない操作は、お願いではなく仕組みで止めます。外部への送信や、履歴を壊すような操作は、AIが実行しようとしても止まる設計にしています。決まりを守るかどうかを、AIの判断に委ねないためです。

世のなかでも、決裁や支払い、削除のような操作は、AIの権限からそもそも外しておく考え方が示されています。※4 ただし、仕組みで止めれば十分とは考えていません。人の見直しも残しています。

責任を負う人はAIの提案を疑い続ける

責任を負う人は、AIの提案を疑い続ける必要があります。AIを使うこと自体が目的ではなく、AIを本当に使うべきか、出力を本当に認めて良いかを決めるのは、使う側の人間だからです。

AIの出力は、もっともらしく見えることがあります。それでも、根本の問いに立ち返ると、論点がずれていることがある、というのが弊社の体感です。

AIに任せる誘惑が強まるほど、確認がチェックを入れるだけの作業になりやすい、という指摘もあります。※5 AIの提案は役に立ちます。それでも、妥当性を判断するのは常に人間です。

責任の置き場所を決めてからAIを入れる

AIを入れる前に、責任をどこに置くかを決めておけば、AIの提案を活かしやすくなります。 実行を握る人、提案までにとどめる範囲、止める操作の3つを先に決めてから、AIに任せる範囲を広げていきます。

AI導入の考え方で迷ったときは、AI導入のご相談はMOCO Worksのお問い合わせからお寄せください。

AIを使う側の実践は、弊社代表の記録サイトNEFSにもまとめています。

参考・出典情報

Facebook X, Twitter
Hatena Bookmark LINE
Pocket RSS Feed