5年前（2019年）、『フェイクニュース〜新しい戦略戦争兵器』を書評で取り上げました。ここ数年はAI技術の急速な進展により、ディープフェイクの巧妙さを加速させながら世界を駆け巡る様相を呈しています。
ディープフェイクは、2017年末にアダルト動画の人物と著名人の顔を合成したフェイクポルノがアメリカで公開されたことから注目されるようになりました。ディープフェイクのアプリケーションが公開されたことを機に、誰もがそれを活用できるようになりました。
ディープフェイクは、その後さらに生成AIの技術を利用し、本物や現実と区別かつかないほどリアルな人物の画像、音声さらには動画を創出する、あるいは事件や事故などさまざまな事象を写真から容易に加工することを可能にするほど急速に進化しています。
実際には発言していないことをさもその人の発言のように捏造する、災害などの被害に関する偽情報をソーシャルメディアに投稿する行為は、これまでにも繰り返されていて後を絶ちません。
今日では、ディープフェイクと検索すれば、トップニュースにいくつも上がってくるほどです。
なお、ディープフェイクという言葉は、デジタル技術を悪用した場合にのみ使われ、最近増えているニュースなどをAIアナウンサーが読み上げる、あるいはエンターテイメント分野などで活用される場合には、「シンセティックメディア」と呼ばれています。
著者と本書について
著者の笹塚和俊は、東京大学大学院での博士課程後、米国カリフォルニア大学ロサンゼルス校客員研究員、インディアナ大学客員研究員などを務め、現在は東京工業大学の環境・社会理工学員准教授。専門は計算社会科学で、ビッグデータ分析、計算モデルなどを駆使して社会現象とその課題解決を研究しています。
本書の内容について、
“学術論文や公開されている記事などを計算社会科学の視点から読み解き、一般読者向けに平易な言葉で解説することを試みた。”
と述べています。
ディープフェイクのこれまでの流れと手法、AI技術や仕組み、それが社会に浸透していくことで浮かび上がる課題など、ディープフェイクに関して俯瞰的に知識を得ることができるでしょう。
死語となる“Seeing Is Believing”
序章と第1章では、ディープフェイクのはじまり、その後の経緯と進展などが事例を交えて紹介し、全体の流れを理解できるようになっています。
英語には“Seeing Is Believing”（見ることは信じること）という言葉、日本語の同意語では「百聞は一見にしかず」ということわざがあります。
2019年、Nature Machine Intelligence誌に “When seeing is no longer believing”（見ることはもはや信じることではない）という論文が発表され「ディープフェイクはフェイクニュースの新たな側面である」と述べ、それが人々や社会における新たなリスクとなると警鐘を鳴らしました。
2022年、ウクライナのゼレンスキー大統領が国民に降伏を呼びかけるディープフェイクによる動画、2023年のトランプ元大統領が逮捕される情報は、一般のメディア（新聞や雑誌、テレビなど）でも記事やニュースとして取り上げられたので、覚えている人も多いでしょう。
国内でも、地震や台風、大雨など土砂災害時には、ソーシャルメディアを使ってデマ（偽情報）を発信する人が、残念ながら必ず現れます。最近でも能登半島の地震による津波のフェイク動画が世界中に拡散したニュースがありました。また、SNSで著名人の画像（写真）を利用した投資詐欺などが急増し、その被害額は数百億円に達しています。
そうしたデマやフェイク情報を作る手法は、テキスト→画像→動画へと、テクノロジーの進展と影響であっという間に進化し、選挙介入や社会の攪乱、分断をもたらします。
ディープフェイクによる、そうしたコンテンツ（画像、音声、動画など）が日常に溢れる社会となれば、見ることによる信頼性を損ない、社会を不安と不信、さらには混乱に陥れるリスクが高まってしまいます。
さまざまなディープフェイクで使われている技術やその手法について紹介されていますが、それでも、こうした技術をさらに更新する技術が次々と現れます。本書で紹介されている技術も、数年後には古い技術になり、まったく新しく、しかもより簡単で精巧ディープフェイクが制作できる技術が登場してくるでしょう。しかも、そうした技術にも生成AIが大きく影響しています。
ディープフェイクは、すでに他国の選挙などの政権や政治制度、社会を混乱に陥れたり、その国を第三者の意図したいように動かしたいと思う悪意ある国や人たちからの干渉に晒されています。
本書中に紹介されている「○○は存在しない」という事例で紹介されている子どもや猫の画像はとてもリアルで、実物だと勘違いしても不思議ではありません。
贋作だらけになるネット空間
第2章では、そうしたディープフェイクに関する主な技術とその仕組みについて、かなり詳しい内容の説明にページが割かれています。
ここでは、AIの定義、主要な技術、歴史などについて一通り学べる内容となっています。
AIには、「識別」と「生成」の2つがあり、前者は入力データを分類するモデル。後者はそのデータの特徴をとらえて本物のようにデータやコンテンツを生み出すモデル。これまでは、機械学習の識別モデルだったのですが、ここ数年では画像、音声、映像などを使い、それらがディープフェイクで利用される生成AIが急増しています。
この章でも、それぞれの技術的な特徴についてさまざまな事例を使いながら紹介しています。しかしやや専門的な内容になっているので、すべてを一度に理解するのは難しいかもしれません。
インターネット空間にディープフェイク情報が増加し続け、検索結果の上位に表示されるようになり、SNSなどのソーシャルメディアでもそうしたフェイク情報だらけになる。そうすると見抜くのが困難なほどの巧妙な情報により、人間の思考や行動が左右されるあるいは人格が形成されてしまう懸念が高まり、社会にとって大きなリスクをもたらします。
そうしたフェイク情報を生成AIが学習することで、歪で偏った情報や知識をさらに増やすという悪循環に陥り、フィルターバブル、エコーチェンバー現象も増大していきます。
映画などの映像などにおけるSFX（特殊効果）は、当初はそれとわかる稚拙なものでした。またフィルム撮影の時代では、撮影や映像に関する高度な技術と多大な予算が必要であったころから、今日のデジタル時代のVFX（視覚特殊効果）では、実際の映像なのかCGだけで制作された映像なのか判別が難しいほどです。
しかもそうしたVFX映像を制作する場合も、かつては高度な技術や専門知識が必要だったころから、現在では一般の人たちが自宅のPCなどで制作できるほどにまで進展しています。
ディープフェイクへの備えよ
後半の２つの章（第3章、第4章）では、私たちはディープフェイクにどのように備え、あるいはどう対処や対応していくべきかについて、全体の3分の1ほどのページを割いて述べています。
現在のディープフェイクは、フェイクだと見抜くのが容易ではないほどのリアリティを手に入れましたしかし、見抜くためのいくつかのポイントがあります。
その1つが「まばたき」です。現在のAI技術でも、人間が自然に発する生理的信号を完全に再現するのは難しく、人が2〜3秒ごとにする「瞬き」はその１つです。
それでも、人が見抜くのが難しいほどのリアルさをディープフェイクが手に入れたことで、AIにその真贋を判定させようとするのは当然です。ニューヨーク州立大学の研究グループは、この「まばたき」に着目し、フェイク画像を見抜くAIモデルを開発しました。
また「メディア・ フォレジック」という技術では、デジタルメディアの中に残された証拠を調査・解析したり、改ざんや捏造防止技術などデジタル法科学領域のプロジェクトで、2021年からは「セマンティック・フォレンジック」プログラムとして開始。これには、グーグルやニューヨーク大学など産学連携によるプロジェクトです。
それでも、生成AIによるディープフェイクコンテンツ、それを検出するAIの発達とは、イタチごっこが続くことは避けられないでしょう。
こう考えてみてください、もし美術展に出かけてその中に数点の巧妙な贋作が含まれていたとしても、それを本物と信じて鑑賞してしまうことを。
到来しつつある「インフォカリスプ」社会
視聴覚メディアを介し、人々を巧妙に操作、誘導することができるほど、生成AIの技術は発達しています。今後も加速度的に進化していくことは不可避でしょう。
本書は、ディープフェイクや関連技術や仕組み、そうした状況がもたらすことによってもたらされる社会的な問題、可能性をも含めた功罪まで多面的に知ることができます。米国だけではなく、日本をはじめとした世界各国がディープフェイク対策を進め、企業（マイクロソフト、アマゾンなど）、研究機関（国立情報研究所など）、大学（MIT、カリフォルニア大学など）について、現状と今後についても述べています。またディープフェイクを対象にした法的な規制の整備などについても述べています。
ミシガン大学のテクノロジー専門家は、虚偽が溢れ、あらゆる情報が信じられなく未来を、「インフォメーション」（情報）と「アポカリプス」（黙示録）を組み合わせた造語、「インフォカリスプ」（情報の黙示録）と表現しています。
学校カリキュラム「情報学」の必要性
本書を読むと、企業や組織にいる人たちあるいはフリーランスで仕事をする人たちはもちろん、広い社会の一員として生活している人たちすべてに、情報リテラシーが求められる時代にすでに入っていることを、本書を読んだ人は誰でも感じることでしょう。
学校教育のカリキュラムに基礎学（国語、算数、理科など）と同様に、情報学（メディアリテラシー）が不可欠な時代になると、おそらくだれでも感じるに違いないでしょう。小学生や中学生だけではなく、幼稚園児もスマートフォンなどデジタル機器を携帯し、そうした機器から情報や知識を得たり、コミュニケーションする時間が長くなっています。
新しい技術の登場は、多くの人びとの生活を変える力があります。最初は誰でも歓迎しますが、それが普及して社会にするにつれ、やがてそれがもたらす新たな懸念や危惧、弊害や課題が浮き上がってきます。技術そのものは意志を持ちませんが、意図をもってそれを利用するのは人間です。悪意をもった人が利用すれば、それは武器となるのです。
【おすすめ記事】
▼【書評】『フェイクニュース〜新しい戦略的戦争兵器』（一田和樹：角川新書）
▼【イベントレポート】AIと「意図せざること」について——21世紀を牽引するAI都市としての米国シアトルの実情にふれて
▼【書評】『メディア・リテラシー〜世界の現場から』（菅谷明子：岩波新書）
