Google AI Studioが「削除しました」と表示しながら実データを保持していた疑惑が浮上した。しかも脆弱性報奨金プログラムに通報した研究者は、わずか60秒で自動BAN。ハッカーニュースで55ポイントを集めるこの騒動は、単なるバグ話ではない。AIベンダーの「削除」という言葉が信用に値するのか、企業が今すぐ問い直すべき事件である。
何が起きたか
事の発端は、Google AI Studioの挙動を検証していた一人の研究者による通報だ。AI Studioは、ChatGPTのように会話や画像生成を試せる開発者向けの実験場サービスで、Gemini APIの入口としても急成長している。月間検索ボリュームは33,000。世界中の開発者が実運用の前段階として使い、機密性のあるプロンプトや業務データを流し込んでいる。
問題は、ユーザーが「削除」ボタンを押した際、UI上は削除完了と表示されるにもかかわらず、バックエンドにデータが残存していたという指摘だ。研究者はこの挙動をGoogleのVRP（脆弱性報奨金プログラム）に報告した。ところが返ってきたのは受領確認ではなく、60秒での自動アカウント凍結。ハッカーニュースで55ポイントを集め、Medium記事が拡散した。Google側の公式説明は現時点で確認できない。
なぜこのニュースが重要か
これはGDPRやAPPI（改正個人情報保護法）の観点で極めて危うい事案だ。「削除された」というUI表示は、法的には「消去請求への応答」と解釈されうる。表示と実態に乖離があれば、それは技術的不具合ではなく、事業者としての虚偽表示にあたる可能性がある。企業がAI Studioに顧客データを流し、削除ボタンで消したつもりでいた場合、監督当局への説明責任が丸ごと自社に跳ね返ってくる構図だ。
さらに深刻なのは、通報者を60秒でBANする運用の意味である。VRPは本来、外部の善意の目でセキュリティを補強する仕組みだ。それが自動化された結果、報告した瞬間に口封じされるなら、この制度は機能停止に等しい。推定だが、Googleは大量のスパム通報を自動フィルタで捌く過程で、正当な指摘まで巻き添えにしている。「AIによる審査の自動化」が、ガバナンスの根幹を蝕む典型例と見るべきだ。
過剰評価への反論
「大手だから安心」「グローバル基準で運用されているから任せて大丈夫」というAI Studioへの盲信を、私は真っ向から否定する。DR100の巨人が提供するプラットフォームであっても、削除ロジックの実装と、通報応対の運用は別部隊の仕事だ。片方が完璧でも、もう片方が壊れていれば、ユーザーから見た信用はゼロになる。
そして日本企業に多い誤解を指摘しておく。「Googleの利用規約に書いてあるから守られている」という思い込みだ。規約上の削除義務と、実装上の削除挙動が一致している保証は、監査ログなしには得られない。にもかかわらず、多くの現場は無料枠のAI Studioで顧客リストを要約させ、議事録を投げ込み、コードに顧客名を残したまま生成している。今回の疑惑が事実なら、それらは「消したつもり」のまま、どこかのストレージに眠り続けている可能性がある。
無料であることのコストは、後から請求される。しかも支払うのは、あなたの顧客の信頼という通貨だ。VRP自動BANが示すのは、ベンダーが問題を認識する速度より、隠蔽する速度のほうが速くなっている現実である。ここに気づかず「便利だから使う」で押し通す経営判断は、そろそろ限界だ。
経営者として次に取るべき動き
第一に、AI Studioを含む全ての生成AIサービスについて、「削除」表示を鵜呑みにせず、監査ログの提出を契約単位で要求すること。UI表示ではなく、バックエンドでの消去証跡が唯一の証拠だ。
第二に、自社の脆弱性通報窓口を今日中に点検すること。外部研究者からの指摘を自動フィルタで弾く運用になっていないか、直近3か月の通報対応ログを人間の目で確認せよ。Googleと同じ失敗を、規模の小さい自社でやれば致命傷になる。
第三に、業務データをAIに流す前に、削除・保持ポリシーを契約書に明文化すること。SLAレベルで消去期限と証跡提出義務を書き込まないなら、そのAIは業務利用の対象から外すべきだ。便利さの前で立ち止まる勇気が、今ほど問われる局面はない。