OpenAIがEU圏のChatGPTとCodexに電子透かしを導入する。AI規制AI Actへの対応だが、編集すれば消えるという抜け道をOpenAI自身が認めている。「人間が一度触れば透かしは消える」という設計は、本当にコンプライアンスの名に値するのか。経営者が今、腹を括って決めるべき開示ルールの話をする。
何が起きたか
OpenAIは、EU圏で提供するChatGPTおよびCodexが生成するテキストに、電子透かしを埋め込むと発表した。電子透かしとは、人の目には見えない識別マークを文章中に埋め込み、後から機械的に「これはAIが書いたものだ」と検出できる仕組みを指す。背景にあるのはEUのAI規制、通称AI Actである。生成コンテンツの出所明示義務が段階的に施行される中で、プロバイダ側が検出可能性を担保する動きの一環だ。ただしOpenAI自身が、文章を編集するとこの透かしは消えやすいと認めている。つまり、コピペして一部書き換えるだけで、検出のしようがなくなる。規制対応の体裁は整うが、実効性は限定的だ。日本国内のChatGPT利用者には直接影響しないが、EU向けコンテンツを扱う日本企業は無関係ではいられない。
なぜこのニュースが重要か
このニュースを「技術的な小さなアップデート」として片付けると、経営判断を誤る。重要なのは2点ある。第一に、EU圏に向けた広告、プレスリリース、商品説明、カスタマーサポート文面などが、第三者によって機械的に「AI生成か否か」を判定され得る時代が始まったという事実だ。競合企業、規制当局、メディア、場合によっては消費者団体が、あなたの会社のEU向け発信を検査する手段を手にする。第二に、OpenAIが「編集すれば消える」と最初から自白している点である。これは企業にとって抜け道でもあるが、同時に罠でもある。「編集すれば消えるのだから開示義務から逃げられる」と判断して運用した企業は、AI Actの精神ではなく文言の裏をかいたと見なされ、罰則対象になる危険がある。制裁金は全世界売上の最大7%。日本法人のEU子会社であっても容赦はされない。透かしの技術的欠陥に乗じるのは、短期的な効率と引き換えに巨額のリスクを飲む行為だ。
過剰評価への反論
「OpenAIが規制対応に本腰を入れた」という評価には、強く釘を刺しておきたい。この透かしは、はっきり言って規制当局向けのアリバイ工作である。編集で消える透かしは、本気で出所追跡をするための技術ではない。本気ならば、ChatGPTが暗号学的に検証可能な署名トークンを出力に埋め込み、APIレベルで検証エンドポイントを提供する設計になっているはずだ。そうなっていないのは、OpenAI自身が「検出されすぎると顧客が離れる」というジレンマを抱えているからだと推定する。企業顧客はAI生成を悟られたくない。消費者はAI生成に警戒する。この二つを両立させる唯一の解が「あってないような透かし」なのだ。
さらに言えば、EU圏限定という線引き自体が示唆的だ。グローバルに展開すれば技術的に簡単なはずの機能を、わざわざ地域制限している。これは「規制がある場所にだけ最低限の対応をする」という典型的なコンプライアンス・ミニマリズムであり、AIガバナンスへの誠実な姿勢とは言い難い。日本の経営者が「OpenAIがここまでやるなら自社も安心」と判断するなら、それはOpenAIの政治的計算に乗せられている。透かしは信頼の証ではなく、免罪符である。
経営者として次に取るべき動き
第一に、EU圏に発信するすべてのテキストコンテンツについて、AI利用の有無と編集プロセスを記録する社内ログを48時間以内に設計せよ。透かしの有無に頼らず、自社で証拠を持つことが唯一の防衛策である。第二に、「AI生成文を人の手で編集してから公開する」運用を社内標準として明文化せよ。これは透かし回避の裏技ではなく、品質管理と開示責任の両立という正当な業務プロセスとして位置付けること。第三に、顧客向けの開示ポリシーを今期中に策定し、ウェブサイトとサービス利用規約に明記せよ。EU向けだけでなく、国内顧客にも適用する。先に自主ルールを敷いた企業が、将来の日本版AI規制が到来したときに、追加コストゼロで対応完了できる。透かしという受動的な技術に守ってもらう時代は、もう終わっている。