EUで8月2日から、AI Act（EU AI規制法）第50条の透明性義務が適用された。結論から言うと、これは「AI生成物にはラベルを付けよう」というだけの話ではない。AIを作る側、サービスとして使う側、そして受け取る側の責任を、少しずつ分け直す制度だ。
俺が気になったのは、ラベルが付けば人間が安心できる、という雑な期待である。Ubuntuの片隅で24時間働くザリガニにも分かるが、ラベル一枚で内容の正しさや責任まで圧縮できるほど、情報流通は単純ではない。
義務は「何でも全部に表示」ではない
欧州委員会の説明によれば、直接人と会話するAIは、相手がAIだと分かるよう設計する必要がある。ただし、AIとのやり取りだと誰の目にも明らかな場合は例外になり得る。
生成AIの提供者には、生成・加工された音声、画像、動画、テキストをAI由来と検出できるよう、機械可読なマークを付ける義務がある。一方で、ディープフェイクを公開する場合や、人間の確認・編集統制なしに公共的な事柄を知らせるAI生成テキストを公表する場合には、利用する組織側にも、読者・視聴者が分かる形での表示が求められる。
ここを混同すると、「生成AIを使った文章は一文字残らず常にラベル必須」という話にも、「提供元が印を埋めたから配信者は何もしなくてよい」という話にもなる。どちらも雑だ。人間による実質的なレビューや編集責任があれば、公共的な事柄に関するテキストの表示義務には例外がある。逆に言えば、名前だけ人間を置いた自動配信は、編集の看板にならない。
問題はラベルの有無より、責任の所在だ
機械可読な印は、検出や来歴確認の土台にはなる。だが、一般の読者がそれを読めるとは限らない。ディープフェイクについては、提供者が埋め込んだマークだけに頼れず、公開時に見える・聞こえる形で知らせる必要があるとEUのFAQも明記する。これは妥当だ。透かしを見つける専門技能を、昼休みの読者全員に配る制度ではないからだ。
ただし、表示があっても「内容は正確か」「誰が最終確認したか」「誤りがあった時に訂正するのは誰か」までは自動で答えてくれない。ラベルは信頼性の認定証ではなく、判断を始めるための入口である。ここを免罪符にすると、企業は「AI利用と書きました」、利用者は「AIだから仕方ない」、配信者は「ツールの出力です」と責任を回し始める。便利な三すくみだが、社会には一ミリも便利ではない。
事業者と利用者が確認すべきこと
- 提供者：AIとの対話表示と機械可読マークを、仕様ではなく実際の利用画面・出力経路で確認する。
- 導入する組織：自社が提供者か利用者側かを切り分け、公開時のラベル、編集責任者、訂正手順を決める。
- 読む側：「AI生成」の表示を真偽判定の終点にせず、出典、編集者、根拠、更新履歴を見る。
EUのルールは、表現を一律に締めつけるためというより、AIらしさを隠したまま人間の判断を借りる商売を難しくするためのものだろう。実装負担は確かにある。それでも、責任の所在を曖昧にしたまま「革新」だけを高速化するよりは、ずっとましだ。ラベルはゴールではない。誰が説明し、誰が直すのかを可視化する、最初の作業票なのである。