自社のサイトやアプリにAIチャットを置く前に、AI事業者ガイドラインで確かめておくこと

「問い合わせ対応にAIチャットを置きたい」という相談は、この一年でかなり増えました。

技術的には、数日で動くものが作れます。難しいのは、動いたあとです。料金を間違えて答えた。契約の条件を勝手に言い切った。お客様がチャット欄に会員番号と住所を書き込んだ。どれも、公開してから気づくことが多い問題です。

日本には、こうした場面で事業者に何を求めるかをまとめた資料があります。AIのサービスを設計して実装している立場から、関係するところだけ抜き出します。私は弁護士ではないので、最終的な判断は原文と専門家に確認してください。

法律とガイドラインの関係

2025年6月4日に公布された「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）は、内閣府のページによると同年9月1日に全面施行されました。この法律が事業者に求めているのは、第7条の「活用事業者の責務」で、AIの活用に努めることと、国や自治体の施策に協力することです。罰則の規定はありません。

画面の設計に関わる具体的なことが書かれているのは、総務省と経済産業省のAI事業者ガイドラインです。最新版は2026年3月31日に公表された第1.2版です。ガイドライン自身が「非拘束的なソフトロー」と書いている通り、守らなければ罰せられるものではありません。ただ、取引先のセキュリティチェックや社内の稟議で、このガイドラインに沿っているかを聞かれることがあります。

AIチャットを置く会社は「AI提供者」

ガイドラインは、AIに関わる事業者を「AI開発者」「AI提供者」「AI利用者」の三つに分けています。AI提供者の定義は、AIシステムを「アプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとして」提供する事業者です。

外部のAIモデルを使って、自社のサイトやアプリにお客様向けのチャットを置く会社は、ここに入ります。チャットを使うお客様は、ガイドラインの言葉では「業務外利用者」です。

脚注には、AI提供者が担う役割として「UI/UX 設計」がはっきり書かれています。つまり、ここから先は画面の話です。

ガイドラインが求めていることを、画面に置き換える

第4部の「AI提供者に関する事項」から、チャットに関係するところを五つ選びました。

1. AIを使っていることを伝える。 提供後の情報提供として、「AI を利用しているという事実、活用している範囲、適切/不適切な使用方法等」を、平易かつアクセスしやすい形で示すことが挙がっています。画面で言えば、チャットの最初に、これはAIが答えていること、何について答えられて何には答えられないかを短く書くことです。人の担当者とまぎらわしい名前やアイコンにしないことも、ここに含まれると考えています。

2. 個人情報を入れないように伝える。 AI利用者への説明として「個人情報を入力する際の留意点」、さらに「個人情報の不適切入力について注意喚起する」ことが挙がっています。入力欄のすぐ近くに、会員番号やカード番号を書かないでほしいと一行あるだけで、入力される量は変わります。それでも書かれたときのために、ログに残す前に伏せる仕組みも用意しておくと安心です。

3. 間違えたときのリスクを先に考える。 実装の段階で、不適切な出力などのリスクを最小限に抑える方法として「ガードレール技術等」を検討することが求められています。料金、契約、医療や法律のように、間違えると損害につながる話題は、AIに答えさせずに公式のページや人の窓口へ案内する。どの話題をそちらに回すかを決めるのは、技術より先に、事業側の仕事です。

4. 変えたら知らせる。 システムを更新した場合に「更新内容及びその理由」を伝えることが挙がっています。使っているAIモデルを入れ替えると、同じ質問への答え方が変わります。お知らせのページに一行残す運用を、最初から決めておくのがいいと思います。

5. 規約とプライバシーポリシーを用意する。 サービス規約を作成し、プライバシーポリシーを明示することも挙がっています。チャットの画面から一度のタップで届く場所に置きます。入力された内容をどの会社に送り、どのくらい保存するかの書き方は、海外のAI APIに顧客の入力を送る製品の記事で詳しく書きました。

公開したあとに続けること

ガイドラインは、公開して終わりにしていません。提供後の項目として、適切な目的で使われているかを定期的に検証すること、プライバシーの侵害に気づいたら対処すること、新しい攻撃手法を確認して脆弱性に対応することが挙がっています。入出力を定期的に評価してバイアスを監視することも求められています。

実務では、週に一度、実際の会話を何十件か読む時間を取るのが一番効きます。答えられなかった質問、人の窓口に回った質問、お客様が怒っている会話。この三つを見れば、FAQに足すべきことも、AIに答えさせるべきでないことも見えてきます。

最初の打ち合わせで

AIチャットの導入を検討している場合、最初の打ち合わせでは三つを教えてください。今どんな問い合わせが多いか。間違えて答えると困る話題は何か。そして、人の窓口に引き継ぐときの連絡先と受付時間です。

この三つがわかれば、AIに任せる範囲と、人に戻す範囲を、画面を作る前に決められます。