なぜ顧客データをAIに学習させないと決めたか
私はNiraiCardというお客様向けサービスの設計で、お客様のデータを外部AIに学習させない、という方針を決めました。2026年7月19日にこの設計方針を承認し、現在も実装の土台にしています。理由は単純で、お客様が「保存していい」と言ったことと「AIへの回答材料として送っていい」と言ったことは、まったく別の話だからです。この二つを混ぜてしまうと、お客様は自分のデータがどこまで使われているのか分からなくなります。
なぜ「学習させない」と決めたのか
私が最初に引っかかったのは、「使うほど賢くなるAI」という言葉の中身でした。多くの人はこの言葉を、AIモデル自体がお客様のデータを取り込んで賢くなる、という意味で受け取ります。しかし私がNiraiCardで作りたかったのは、モデルの重みを書き換えることではありません。お客様本人が承認した記憶が増えること、検索の精度が上がること、フィードバックによって回答のランキングが良くなること。この三つで「賢くなる」を実現する設計にしました。
モデルそのものを再学習させれば、お客様の名刺情報や会話メモが、どこか別の場所で別の目的に使われる可能性を否定しきれません。私はそのリスクを取らないと決めました。
具体例：NiraiCardの最小送信設計
私がうちで実際に組んだ設計はこうです。
まず、お客様のデータはNiraiCardの中（Supabaseという本人スコープのデータベース）に保持します。名刺、会議の履歴、メモ、資料、会話から本人が承認した記憶がここに入ります。
外部のAI（ChatGPT）に送るのは、質問に関連する部分だけを検索で絞り込んだ最小限の文脈のみです。全件はできる限り送りません。この「全件送信を禁止」というルールは、私が設計文書に明記した不変条件です。
さらに、ソースごとに送信の可否を個別に選べるようにしました。名刺、カレンダー履歴、メモ、資料、会話記憶、これらは一つずつオン・オフできます。初期値はすべてOFFです。お客様が自分で選ぶまで、何も外部には送られません。
名刺の情報でいうと、氏名・会社名・役職・業種・関係メモの必要部分は送信可能な項目にしていますが、名刺画像そのもの、OCRで読み取った生の全文、住所、電話番号、メールアドレスは原則として除外しています。連絡文を作りたいという要望があっても、実際の電話番号やメールアドレスの値を送らずに文章だけ作れる場合は、値を送らない設計にしました。
もう一つ大事にしたのが、生成にかかる費用の扱いです。私はOCS側で契約しているAPIキーへ自動でフォールバックしない、という判断もしました。お客様のChatGPT利用枠が上限に達したときに、こっそりOCS側の有料APIへ切り替えることはしません。利用上限に達したら、その旨を明示し、キーワード検索や予定表示など無料でできる範囲は続けられるようにし、生成だけを止めます。
監査の記録も、本文は残しません。何件、どの種類の情報を、いつ送ったか、という件数と種類だけを記録し、会話の中身そのものは監査ログに複製しない設計にしています。
今すぐできる一歩
もし読者の方が、自分のお店や会社でAIツールを導入しようとしているなら、まず確認していただきたいことが一つあります。それは「そのAIツールは、お客様の情報をどこに保存し、外部のどのサービスに、どこまで送っているか」を、提供元に直接聞くことです。
「保存していい」と「外部のAIに送っていい」が同じ扱いになっていないか。全件を丸ごと送る設計になっていないか。この二点を尋ねるだけで、そのツールがどれだけデータを大事に扱っているかが見えてきます。私はこの質問に即答できないサービスには慎重になるべきだと考えています。
まとめ
- 私はNiraiCardの設計で、お客様の記憶をAIモデルに再学習させず、承認された記憶と検索精度の改善で「賢くなる」を実現する方針にした
- 保存の同意と、外部AIへの送信の同意は別のものとして分け、ソースごとに個別にオン・オフできるようにした
- 名刺画像や電話番号、住所などの機微な項目は原則除外し、質問に関連する最小限の文脈だけを送る設計にした
お客様のデータを預かる以上、便利さと引き換えに信頼を切り売りしないこと。これがうちの一番の基準です。でーじ大事なところなので、これからも崩さずにいきます。
