AIの嘘(ハルシネーション)でクレーム!損害賠償の責任は誰に?

質問

AIが作成した業界の解説記事をそのまま自社ブログに載せたところ、内容がデタラメで読者からクレームが来ました。AIの嘘(ハルシネーション)による損害や信用の失墜は、誰が責任を負うのでしょうか。

質問者の本音を深堀
AIが勝手に嘘をついたから悪くない。

ヨリビズ弁護士の回答
  • 責任は「その記事を公開した会社(あなた)」が100%負います。AI開発会社は規約で免責されているため責任をとりません。AIはもっともらしい嘘をつくため、人間の目による事実確認(ファクトチェック)が不可欠です。

【解説】

生成AIは「確率的に正しい言葉を繋ぎ合わせているだけ」であり、事実関係を理解しているわけではありません。そのため、実在しない判例や架空の法律、誤った数値を自信満々に出力します(ハルシネーション)。

対策:

1. ヒューマンインザループ: AIの出力結果をそのまま公開(コピペ)するのではなく、必ず専門知識を持つ人間が内容を裏付け・修正するプロセスを組み込む。

2. 免責事項の明記: 万が一に備え、サイト内に「本記事の内容の正確性について一切の責任を負いません」等の免責事項を記載しておくことも重要です。