こたえる人　アジア太平洋資料センター（ＰＡＲＣ）共同代表　内田　聖子さん

　ＡＩの悪用や生成物が原因で混乱を招くフェイクニュース。すすむデジタル社会にむけ、私たちが真偽を見抜き、考えなくてはならないことをＮＰＯ法人アジア太平洋資料センター（ＰＡＲＣ）共同代表の内田聖子さんが解説します。

■フェイクは別の次元に

　フェイクニュースとは、意図的につくられた偽情報や誤解を招く情報を言いますが、炎上ねらいや金稼ぎ、そして政治的な意図を持つものなど目的や対象もさまざまです。２０２２年に米国のＯｐｅｎＡＩ社が生成ＡＩ「ＣｈａｔＧＰＴ」をリリース。それまでフェイクニュースはテキスト中心につくられていましたが、生成ＡＩによっていとも簡単に画像や映像のフェイクもつくれるようになったことで、フェイクニュースの段階は別の次元へとすすみました。生成ＡＩによるフェイクは「ディープフェイク」と言われ、ネット空間の中で公正な言論や民主主義そのものの価値を脅かす存在です。
　なかでも近年問題となっているのが選挙の際に生成ＡＩによってつくられるディープフェイク。例えば、２０２４年の米国大統領選では民主党のカマラ・ハリスが人気ポッドキャスト番組で自身の性生活を告白したり、故マーティン・ルーサー・キング・ジュニア牧師が「トランプはどの大統領よりも黒人コミュニティのために尽力した」と語る映像が大量に拡散されました。これらはすべて架空のものであり、生成ＡＩによるディープフェイク。加えて、ドイツに住む女性のインスタグラム写真が無断で生成ＡＩによって加工され「トランプ支持者の女性」として拡散された事例もあるなど、候補者や著名人だけでなく一般の人にも被害はひろがっています。
　さらに世界共通の問題として深刻なのが、女性候補者の写真や映像を使いポルノまがいのディープフェイクがつくられたり、「移民が犯罪を行っている」というデマとディープフェイクが拡散される事態です。
　民主主義の根幹である「ファクト」を無視してつくられた情報が大量に拡散され、当事者の尊厳を奪うだけでなく、対立をあおり人権侵害や差別をしてもかまわないという倫理の崩壊を加速させています。

■欧州は規制、日本は推進

　こうした状況を受けて、各国・国際機関ではＡＩに関する立法や規制がすすんできました。
　欧州では、２０１０年代より巨大ＩＴ企業に対する市場独占や人権侵害を規制するための一連の立法（一般データ保護規則－ＧＤＰＲやデジタル・サービス法、デジタル市場法など）をすすめ、さらに２０２４年５月に包括的なＡＩ規制法が成立しました。この法律では、ＡＩのリスクを「容認できない」から「最小限」の４段階に分類し、各レベルでＡＩサービスの提供者とユーザーへの義務を定めています。生成ＡＩによる文章や画像、音声はその旨を明示させたり、ＡＩ学習用に著作権で保護されたデータを利用した場合は公表することなど透明性の義務を課し、違反時には高額の罰金が科されます。
　日本では２０２５年に「人工知能関連技術の研究開発及び活用の推進に関する法律案」（ＡＩ新法）が可決されましたが、この法律は「規制法」ではなく活用を促す「推進法」で、ＡＩが生成した偽情報やディープフェイク被害について責任の所在や勧告や命令、救済などの具体的対応策もほとんど盛り込まれておらず罰則もありません。
　もちろん、生成ＡＩを含むデジタル技術と民主主義の課題は、法規制だけでは十分ではありません。米国では研究者たちが協力してディープフェイクを判別するソフトウェアを開発し無料で公開したり、市民団体がディープフェイク事例を調査して注意喚起を行うなど、さまざまなとりくみがあります。
　私たちが日常的にできることとしては、攻撃的・センセーショナルな内容の情報は反射的に拡散しないことが必要です。ディープフェイク判別ソフトウェアを利用するのも一つの方法であり、明らかにデマ情報だと思った場合には事業者に通報することもできます。ＹｏｕＴｕｂｅやＴｉｋＴｏｋなどの動画が公式アカウントによるものかを確認することも重要です。安全で信頼できる公共の言論空間としてのＳＮＳを私たち一人ひとりがどうやって守り、育てていくかという共通の倫理こそが必要です。熟議によって成り立つ民主主義や、より良いデジタル社会を実現できるかは、私たちの意思と言動にかかっています。

（民医連新聞　第1850号　2026年4月20日号）