https://www.jiji.com/jc/article?k=2021050400388
2021年05月05日07時13分
![「ディープフェイク」強まる懸念 ＡＩで偽映像、犯罪利用も―「法整備検討を」 [ひよこ★]->画像>2枚](https://www.jiji.com/news2/kiji_photos/202105/20210504ax05S_p.jpg)
【図解】改ざんされた記者会見写真
![「ディープフェイク」強まる懸念 ＡＩで偽映像、犯罪利用も―「法整備検討を」 [ひよこ★]->画像>2枚](https://www.jiji.com/news2/kiji_photos/202105/20210504at30S_p.jpg)
真っ暗な東京・渋谷の大型スクリーンに、小池百合子都知事の顔が浮かぶ画像。合成写真として投稿されたが、実際の風景と誤解させる形で拡散された（ツイッターより）
写真上で別の人と顔を入れ替えるアプリが人気を集めるなど、誰でも気軽に作れるようになった合成映像。一方で、人工知能（ＡＩ）を使って精巧に合成された「ディープフェイク」と呼ばれる偽映像が、デマや犯罪に利用されているとして海外で社会問題化している。被害は国内でも広がりつつあり、専門家は法整備の必要性を訴える。
「許されるものではない」。加藤勝信官房長官は４月１２日、自身の写真が改ざんされ、ツイッターで拡散されたと明らかにした。震度６強の地震発生後、笑顔で記者会見しているような写真で、ニュース映像を基に表情を加工したとみられる。
加藤氏はこうした偽情報が国民に混乱を与えかねないとして、政府として対策を検討すると述べた。ツイッター上では、あるユーザーが真っ暗になった渋谷の大型スクリーンに小池百合子東京都知事の顔が浮かぶ合成写真を投稿したところ、緊急事態宣言下の本物の風景と誤解されるような形で拡散されたこともある。
映像や画像の加工による犯罪被害や人権侵害は、米国などで既に深刻化している。インターネット上には、ポルノ映像の出演者の顔をハリウッド女優らに差し替えた「フェイクポルノ」が氾濫。被害は著名人にとどまらず、一般人が身近な人を陥れる目的でディープフェイクを使った事件も報道された。
オバマ元大統領がトランプ大統領（当時）を「完全なばか者」と罵倒したり、フェイスブックのマーク・ザッカーバーグＣＥＯが「何十億もの人から盗まれたデータを、１人の男が管理する世界を想像してみて」と語り掛けたりする偽動画も存在。国内では昨年１０月以降、芸能人のフェイクポルノを配信した男らが名誉毀損（きそん）容疑などで逮捕される事件が相次いだ。
明治大ガバナンス研究科の湯浅墾道教授（情報法）は「偽映像の作製自体を禁止するのは表現の自由もあり難しい。ただ、選挙に影響するような政治的意図がある偽映像は取り締まれるよう、法整備や体制づくりを急ぐべきだ」と指摘。フェイクポルノなどの被害者が、すぐに削除を要請できるような仕組みをつくる必要性も訴えた。
2021年05月05日07時13分
【図解】改ざんされた記者会見写真
真っ暗な東京・渋谷の大型スクリーンに、小池百合子都知事の顔が浮かぶ画像。合成写真として投稿されたが、実際の風景と誤解させる形で拡散された（ツイッターより）
写真上で別の人と顔を入れ替えるアプリが人気を集めるなど、誰でも気軽に作れるようになった合成映像。一方で、人工知能（ＡＩ）を使って精巧に合成された「ディープフェイク」と呼ばれる偽映像が、デマや犯罪に利用されているとして海外で社会問題化している。被害は国内でも広がりつつあり、専門家は法整備の必要性を訴える。
「許されるものではない」。加藤勝信官房長官は４月１２日、自身の写真が改ざんされ、ツイッターで拡散されたと明らかにした。震度６強の地震発生後、笑顔で記者会見しているような写真で、ニュース映像を基に表情を加工したとみられる。
加藤氏はこうした偽情報が国民に混乱を与えかねないとして、政府として対策を検討すると述べた。ツイッター上では、あるユーザーが真っ暗になった渋谷の大型スクリーンに小池百合子東京都知事の顔が浮かぶ合成写真を投稿したところ、緊急事態宣言下の本物の風景と誤解されるような形で拡散されたこともある。
映像や画像の加工による犯罪被害や人権侵害は、米国などで既に深刻化している。インターネット上には、ポルノ映像の出演者の顔をハリウッド女優らに差し替えた「フェイクポルノ」が氾濫。被害は著名人にとどまらず、一般人が身近な人を陥れる目的でディープフェイクを使った事件も報道された。
オバマ元大統領がトランプ大統領（当時）を「完全なばか者」と罵倒したり、フェイスブックのマーク・ザッカーバーグＣＥＯが「何十億もの人から盗まれたデータを、１人の男が管理する世界を想像してみて」と語り掛けたりする偽動画も存在。国内では昨年１０月以降、芸能人のフェイクポルノを配信した男らが名誉毀損（きそん）容疑などで逮捕される事件が相次いだ。
明治大ガバナンス研究科の湯浅墾道教授（情報法）は「偽映像の作製自体を禁止するのは表現の自由もあり難しい。ただ、選挙に影響するような政治的意図がある偽映像は取り締まれるよう、法整備や体制づくりを急ぐべきだ」と指摘。フェイクポルノなどの被害者が、すぐに削除を要請できるような仕組みをつくる必要性も訴えた。
