metaが自社SNSに投稿された利用者の写真を、AIが勝手に加工して「別バージョン」として提案する新機能を、公開からわずか数日で撤回した。炎上の速度は速く、撤回の判断も速い。だがこの一件、単なるUI設計ミスで片付けてはならない。同意設計とブランド毀損という、AI時代の経営リスクが凝縮された事例だ。
何が起きたか
metaは、Facebook・Instagramに投稿された利用者の写真を、同社のAIが自動的に加工し、「こんなバージョンはいかがですか」と改変案を提示する新機能を導入した。しかし、顔や体のラインを本人の同意なくAIが書き換えていた点に批判が集中。「勝手に痩せさせられた」「別人の顔になっている」といった声がSNSで拡散し、数日で機能停止に追い込まれた。
問題の核心は、機能そのものではなく設計思想にある。デフォルトでオン、オプトアウト方式。つまり利用者が明示的に拒否しない限り、自分の写真がAIの改変対象になっていた。metaは過去にもCambridge Analytica事件でデータ同意問題を経験しているにもかかわらず、同じ轍を踏んだ。
なぜこのニュースが重要か
この一件は、AI機能を「とりあえず全ユーザーに展開して反応を見る」というシリコンバレー流の実験主義が、生成AI時代にはもはや通用しないことを示した象徴事例だ。
写真の「改変」は、単なるレコメンド機能とは質が違う。それは本人のアイデンティティに手を突っ込む行為である。痩身加工、肌の明度変更、顔の造形変更——これらはすべて、身体イメージや自己肯定感に直接作用する。特にInstagramは過去に「若年女性のメンタルヘルスに悪影響を与える」という内部文書がリークされ、米議会で追及された経緯がある。それを知りながらAIで自動加工提案を仕込んだのだとしたら、これは無知ではなく確信犯だ。
ナレーションで紹介された「ザッカーバーグは悪影響を知りながら平然と実行する純粋な悪ではないか」という現場の声は過激だが、構造的には的を射ている。metaにとってエンゲージメント指標は宗教であり、その前では倫理は劣後する。この優先順位が変わらない限り、同じ炎上は形を変えて繰り返される。推定だが、今回のブランド毀損コストは広告主離脱を含めれば数百億円規模に達する。
過剰評価への反論
「metaは素早く撤回した、対応は評価できる」という論調がすでに出ている。私はこれに真っ向から反対する。
第一に、数日で撤回できたということは、数日で炎上規模を測定できるインフラを持っていたということだ。つまり炎上リスクは事前に想定できた。にもかかわらずリリースしたのは、「炎上しても撤回すれば済む」という計算があったからだ。これは反省ではなく、計算されたリスクテイクである。撤回スピードを称賛するのは、放火犯の消火活動を褒めるようなものだ。
第二に、AI機能撤回は今回で終わらない。metaは生成AI領域でOpenAIやGoogleに周回遅れという焦りがあり、Llamaのオープン戦略でも収益化に苦戦している。焦った企業は同意設計を軽視する。過去の行動パターンから見て、metaは半年以内に類似の「同意グレー」機能を別の形で再投入すると推定する。
第三に、日本のSNS運用担当者が「metaがやっているから」と追従してAI自動加工を導入すれば、日本市場の炎上耐性はさらに低いため、被害は米国より大きくなる。metaの失敗を他山の石にできない企業は、自社ブランドで同じ授業料を払うことになる。
経営者として次に取るべき動き
第一に、自社サービスに実装済み・実装予定のAI機能を全てリストアップし、「オプトインかオプトアウトか」を今週中に監査せよ。デフォルトオンになっているものは、原則すべてオフに切り替える。売上への短期影響より、撤回時の毀損コストのほうが桁違いに大きい。
第二に、AI学習素材としての顧客データ利用について、利用規約とは別に「明示的同意フロー」を設計する。規約に埋め込んだ同意は、生成AI時代には同意とみなされない。これは法務ではなく経営マターとして扱うべきだ。
第三に、AI機能のリリース判定会議に「撤回コスト試算」を必須項目として加える。ブランド価値の毀損額、広告主離脱リスク、規制当局対応コスト——この3点を数値化しない稟議は通さない。スピードは正義だが、撤回前提のスピードは自殺行為である。metaの失敗から学べる企業だけが、AI時代の信頼を勝ち取る。