質問
自社のカスタマーサポートに生成AIチャットボットを導入したいです。もしAIが勝手に「全額返金します」などと誤った約束を顧客にしてしまった場合、会社はその約束を守る法的義務が生じるのでしょうか。
【質問者の本音を深堀】
AIのミスだから会社はノーダメージでしょ。
ヨリビズ弁護士の回答
- 会社が約束を守らされる（法的義務が生じる）可能性が非常に高いです。海外の判例でも、企業のサイト上のAIチャットボットが顧客に提示した割引や返金の条件は、企業としての正式な回答とみなされ、責任を問われています。
【解説】
自社のサイトに設置したAIチャットボットは、顧客から見れば「企業の担当者」そのものです。
対策：
1. プロンプトの制限（システム的対策）: AIに対し「返金、値引き、契約の解除に関する権限は持たない。これらの質問には『人間のオペレーターに代わります』と返答せよ」と強力なシステムプロンプトを設定する。
2. 免責事項の提示: ボットの起動画面に「AIによる自動応答のため、回答の正確性は保証されず、正式な契約条件を構成するものではありません」と明記する。
3. 定期的なテスト: 定期的に意地悪な質問を入力し、想定外の約束をしないかテストを行う必要があります。
