海外のAI APIに顧客の入力を送る製品で、設計の段階で決めておくこと

AIを使った機能のPoCは、たいてい海外の事業者のAPIに、実際の文章をそのまま送るところから始まります。速く作れますし、それで正しいと思います。

問題になるのは、製品にするときです。法務やお客様の情報システム部門から「顧客のデータはどこに送られて、どう扱われるのか」と聞かれ、答えを用意していないことに気づく。そこから画面や処理を作り直すと、リリースの予定はほぼ確実にずれます。

AIを組み込んだ製品を設計してきた立場から、最初に決めておくべきことを書きます。私はデザイナーで、弁護士ではありません。最終的な判断は、必ず専門家と一緒にしてください。ここで書くのは、その相談の前に、製品の側で準備しておけることです。

個人情報保護委員会が求めていること

個人情報保護委員会は2023年6月2日、生成AIサービスの利用に関する注意喚起を出しています。事業者向けの部分は短く、要点は二つです。

一つ目は、個人情報を含むプロンプトを入力する場合、それが特定した利用目的の範囲内かを十分に確認すること。

二つ目は、本人の同意なく個人データを含むプロンプトを入力し、そのデータが応答の出力以外の目的で扱われると、法律に違反する可能性があること。だから、入力するなら、AIの事業者がそのデータを機械学習に使わないことなどを十分に確認すること。

これは社内で ChatGPT を使う場面を想定した文章に見えますが、自社の製品に AI を組み込む場合も、顧客の入力を事業者に送るという点では同じ構図です。

海外の事業者に送るということ

もう一つ確認しておきたいのが、個人情報保護法の28条です。外国にある第三者に個人データを提供する場合、原則として、あらかじめ本人の同意が必要になります。同意を得るときは、その国の個人情報の保護の制度や、提供先が取る措置などの情報を、本人に提供しなければなりません。

例外は、委員会が日本と同等の水準にあると認めた国の事業者である場合と、相手が委員会規則の基準に合う体制を整えている場合です。後者の場合も、提供した側には、相手の措置が続いているかを確かめる義務が残ります。

自社の製品がどの道を取るのかは、契約の内容によって変わるので、ここは専門家に確認してください。設計の側で大事なのは、どの道を取るにしても、次の三つの決定が必要になるということです。

一つ目：APIの設定を確認し、記録しておく

AIの事業者ごとに、データの扱いは違います。そして、それは管理画面の設定や契約で変えられることが多いです。

たとえば OpenAI のデータの扱いに関するドキュメントには、次のことが書かれています。

• API に送られたデータは、オプトインしない限り、モデルの学習には使われない
• 不正利用の監視のためのログは、最大30日間保存される
• 保存しない設定（Zero Data Retention）は、事前の承認が必要
• データの保存先として日本を選べるが、日本で選べるのは保存だけで、処理の地域は選べない

最後の点は見落とされやすいところです。「日本のリージョンを選んだから国内で完結している」とは限りません。

使う事業者が決まったら、学習への利用、保存期間、保存と処理の場所、契約書の名前を、一枚の表にしておくことを勧めます。お客様の情報システム部門から質問票が届いたとき、この表がそのまま答えになります。モデルや事業者を変えるたびに、この表も更新します。

二つ目：送る前に削る

いちばん効果があるのは、そもそも送らないことです。

AIに必要なのは、多くの場合、文章の意味です。名前や電話番号、住所そのものは必要ありません。送る前に、氏名を「顧客A」、電話番号を「電話番号1」のような記号に置き換え、応答が戻ってきてから自社のサーバーで元に戻す。この処理を最初から組み込んでおけば、送るデータの性質がかなり変わります。

もう一つは、顧客の記録を丸ごと送らないことです。要約したいのが問い合わせの本文だけなら、送るのは本文だけにします。開発中は全部送ったほうが楽なので、ここは意識して決めないと、そのまま製品に残ります。

注意したいのは、病歴など、法律で「要配慮個人情報」とされる情報です。これを取得するには、原則として本人の事前の同意が必要です（20条2項）。自由に文章を入力できる欄があると、ユーザーは思った以上に詳しく書きます。健康や家族のことを書き込みそうな用途なら、入力欄の近くに「病名や持病は入力しないでください」と書くか、その用途を想定した同意の画面を用意します。

三つ目：説明と同意を、使う瞬間に出す

プライバシーポリシーの奥に一行書いてあるだけでは、ユーザーは知らないままです。

私が勧めているのは、AIの機能を初めて使うときに、短い説明を出すことです。どの事業者に、どの国に送るのか。学習に使われるかどうか。保存されるならどのくらいの期間か。三行か四行で収まります。28条の同意を取る道を選ぶなら、ここに送り先の国の制度などの説明へのリンクを添えて、そのまま同意の画面にします。

あわせて、AIを使わない方法を残しておくと、同意しない人がサービス全体から離れずに済みます。手で入力する、担当者に送る、といった逃げ道です。

同意を取ったなら、いつ、どの版の説明に同意したかを記録しておきます。説明の内容を変えたとき、誰がどの版を見たのかが分からないと、もう一度全員に聞くしかなくなります。

自社の側に残るデータも決める

AIの事業者の設定ばかりに目が行きがちですが、自社のサーバーにもデータは残ります。プロンプトと応答をログに保存していれば、そこには顧客が入力した文章がそのまま入っています。

開発中は、不具合を調べるために全部のログを残しておくのが普通です。製品にするときは、何を、何日間残すのかを決め、期限が来たら自動で消える仕組みにします。調査に必要なのが処理の時間やエラーの種類だけなら、本文は残さない選択もできます。

AIの事業者に保存期間を聞く前に、自社のログの保存期間を答えられるようにしておく。質問票の多くは、両方を聞いてきます。

最初の打ち合わせで

AIを組み込んだ製品を準備している場合、最初の打ち合わせでは三つを教えてください。ユーザーがどんな情報を入力するか。使う予定のAIの事業者とプラン。そして、いまのプライバシーポリシーです。

データの流れを一枚の図にするところから始めれば、法務との相談も、画面の設計も、同じ図を見ながら進められます。