英国ダービーシャー州のpoliceが、生成AIで証拠を捏造した疑いで調査されている。取り締まる側が改ざんに手を染めた瞬間、法廷の証拠そのものが死んだ。経営者が直視すべきは、画像もPDFもスクショも、もはや何の証明にもならない世界が始まったという冷酷な事実である。
何が起きたか
英国Sky Newsの報道によれば、ダービーシャー州警察の警察官1名が、生成AIを用いて複数の事件で証拠を作成した疑いがあるとして、独立した監察機関の調査対象になっている。具体的な手口の詳細は公表されていないが、生成AIで作られたのは画像か書類か、あるいはチャット履歴の類と推定される。問題の本質は、加工技術の習熟が不要になったことだ。かつてはPhotoshopの腕と何時間もの作業が必要だった改ざんが、いまや数十秒、無料ツール、ワンプロンプトで仕上がる。しかも今回の主体は容疑者でも詐欺師でもなく、証拠を取り扱う側のpolice本人である。法廷で「警察が提出した証拠だから本物」という暗黙の前提が、一件の調査をきっかけに音を立てて崩れ始めている。
なぜこのニュースが重要か
これは「悪い警官が一人いた」という話ではない。証拠という概念のインフラ崩壊である。司法、保険、人事、与信、コンプライアンス通報、すべてが「画像・PDF・ログ・スクショ」というデジタル証拠の上に乗っている。その土台が、ローカルで動く生成AIによって誰でも改変可能になった。それも、痕跡を残さずに、だ。
経営の視点で言えば、リスクは三方向から同時に来る。第一に、社内で偽造された証拠が稟議や懲戒、解雇判断に紛れ込むリスク。第二に、取引先や顧客から提出される書類・スクショが捏造されているリスク。第三に、自社が正規に提出した証拠の真正性を、相手側から「AI生成では?」と疑われ、立証コストが跳ね上がるリスクだ。policeですら疑われる時代に、民間企業の領収書一枚が信用される理由はもうない。証拠は「あること」ではなく「改ざんされていないことを証明できる仕組みに乗っていること」が条件になる。
過剰評価への反論
ここで多くの識者が「AIが社会の信頼を破壊する」と煽るだろうが、私は半分だけ同意する。残り半分は反論しておく。
第一に、警察による証拠改ざんはAI以前から繰り返されてきた構造問題である。英国でも過去にPost Office Horizonスキャンダルで、システムが吐いたデジタル記録を盲信して数百人を冤罪に追い込んだ前例がある。AIは新しい毒ではなく、既存の毒の濃度を上げただけだ。「AIが悪い」と言って思考停止する経営者は、自社の証拠取扱いプロセスがそもそもザルだった事実から目を逸らしているにすぎない。
第二に、「AIで証拠が信用できなくなる」と騒ぐ一方で、ブロックチェーン型のタイムスタンプ、C2PA(コンテンツ来歴規格)、改ざん検知ハッシュといった対抗技術はすでに存在している。問題は技術がないことではなく、導入コストを払う気のない経営判断の側だ。
第三に、最も警戒すべきは「AI捏造ブーム」に便乗して、本物の証拠まで「これAIでしょ」と否定される逆方向の濫用だ。これを"liar's dividend"(嘘つきの配当)と呼ぶ。policeの不祥事を盾に、本来責任を取るべき側が「証拠はAI偽造の可能性がある」と逃げる。今夜のニュースの裏で、来月から日本でも同じ言い訳が始まると断言しておく。
経営者として次に取るべき動き
第一に、社内の意思決定フローから「スクショ1枚で承認」を即時排除する。経費精算、内部通報、ハラスメント調査、与信判断、すべてだ。画像とPDFは「参考資料」に格下げし、原本性の担保された一次データのみを判断根拠にする運用へ書き換える。
第二に、契約書・領収書・通報記録に改ざん検知ログとハッシュ保存を必須化する。誰が、いつ、どの端末から触れたかをWORM(書き換え不能)ストレージに固定し、社内システムの最低ラインに据える。コストは年数百万単位だが、冤罪解雇一件の訴訟費用より安い。
第三に、採用面接、取引先KYC、高額決裁の本人確認は、ビデオ通話と書類だけで完結させない運用に戻す。対面または複数チャネルでのクロスチェックを義務化する。policeすら疑われる時代に、Zoom一本で人を信じるのは経営者の怠慢である。