SNSの普及で、真偽があいまいな情報にふれる機会が急増している。ネット上に流布する情報を見極め、誤情報の拡散に加担しないためにはどのような心構えを持つべきか。ビジネスツールとしてSNSを活用する際の留意点は何か。ネット炎上、フェイク研究で知られる山口真一氏に聞いた。
- 国際大学グローバル・コミュニケーション・センター教授 山口真一氏
- やまぐち・しんいち●1986年生まれ。博士（経済学・慶応義塾大学）。専門は計量経済学、社会情報学、情報経済論。内閣府「AI戦略会議」「人工知能戦略専門調査会」をはじめさまざまな政府有識者会議委員を務める。主な著書に『正義を振りかざす「極端な人」の正体』（光文社新書）、『炎上とクチコミの経済学』（朝日新聞出版）、『炎上で世論はつくられる』（ちくま新書）などがある。
──インターネット上に出回る偽動画や画像をはじめとするフェイク情報が問題になっています。
山口 フェイク情報や誹謗中傷は、注目度の高いイベント時に特に拡散しやすい傾向があります。近年、影響力がとりわけ強まっているのは動画共有サイトです。2月に行われた衆院選期間中には、ユーチューブに投稿された選挙関連動画の総視聴数は28億回に達し、一昨年の衆院選時の約10倍に増加しました。それに伴い、偽動画の比率も高まりました。
ミラノ・コルティナ五輪開催時には、選手に対する誹謗中傷が問題になりました。IOC（国際オリンピック委員会）は、AI（人工知能）を使用してSNS上の言説をモニタリングしており、選手の誹謗中傷を含む投稿については削除申請を行い、一部は削除されています。また、JOC（日本オリンピック委員会）がX（旧ツイッター）等で把握した問題のある投稿は実に数万件にのぼり、このうち数百件が削除されたと報じられています。
──そもそも人はなぜフェイクをつくり、発信するのでしょうか。
山口 主な動機は3つあり、1つ目は政治的動機です。例えば、選挙で特定の候補を応援したり、批判したりする目的で偽の動画や画像がつくられます。実際、前回の衆院選では、ニュース番組や街頭インタビューを装う数多くの偽のショート動画が出回りました。
2つ目は経済的動機で、人々の注目を集め、広告収入を得るのが目的です。誰もがスマートフォンを所有する“人類総メディア時代”のなか、再生数やフォロワー数を増やして収益を得る「アテンション・エコノミー」が浸透しています。そして3つ目は、いたずら目的や承認欲求を満たすためのものです。ネタとしてつくられる分、悪質性は相対的に低くても、件数の多さが問題です。
１.身近にあるディープフェイク
──最近は、一見して真偽の判断がむずかしい映像や画像が増えています。背景は何でしょう?
山口 大きな要因は、生成AIの普及です。AIのつくりだす偽の映像や音声は「ディープフェイク」と呼ばれます。近年、その技術は急速に高度化し、専門家すら真偽をひと目で判断できないレベルになっています。先の衆院選でも、生成AIを使用したと思われる巧妙な偽動画が多く出回りました。
昨年、各地でクマの出没被害が相次いだときも、同様の現象が見られました。生成AIを悪用すれば、食べ物に虫が混入しているかのような動画も容易につくれてしまう。私はこうした状況を「ディープフェイクの大衆化」と呼んでいます。
──由々しき事態です。ディープフェイクはビジネスにどんな影響を与えますか。
山口 SNS上に自社の商品やサービスに関する偽の動画等を見つけたとき、数年前であれば放置していても大きな影響はありませんでした。しかし、あらゆる情報が瞬く間に拡散され、売り上げや評判を左右する時代となり、適切な対応が求められます。AIによる生成物を検知、識別できるツールを導入するなどして、事実と異なる投稿があれば、正しい情報を速やかに公表するべきです。
さらに、偽の映像と音声で経営者や取引先になりすまし、銀行口座に金銭を振り込ませようとする詐欺事件も発生しています。こうした手口はCEO詐欺と呼ばれています。トップから特定の口座に資金を至急振り込んでほしいと依頼されれば、対応してしまう人は少なからずいるでしょう。情報セキュリティーに関する研修を定期的に行い、社員に発生事例を共有して備えることが肝要です。
２.だまされない人はいない
──経営者はフェイクに踊らされないために、何を心がけるべきでしょう?
山口 まず、ネット上の全ての映像や画像を無条件に真実だと見なさないこと。次に、自分もだまされる可能性があると自覚することです。
一昨年、フェイクに関する調査を実施したことがあります。調査では、2022年から23年にかけて日本で拡散した15件のフェイクのうち、それらを少なくとも一度見聞きした3,700人を対象に、真偽を判定してもらいました。その結果、誤った情報であると適切に判断できた人は15％ほどにとどまりました。一方、半分以上の人が「正しいと思う」と回答し、残りの人は「わからない」と回答していたのです。この割合は年齢層を問わずほとんど変わりませんでした（図表）。
さらに「自分は批判的に物事を考えている」と自認する人ほどフェイクを見抜けず、拡散しやすい傾向があることもわかっています。ですから謙虚な姿勢で情報空間に身を置き、真偽のあやしい動画や画像を目にしたらひと呼吸おいて、すぐに信じたり拡散したりしない姿勢が不可欠です。
３.若手社員の視点を取り入れる
──確かにふだんSNS上の情報を立ちどまって吟味する機会は、それほど多くありません。
山口 SNSで真偽のあやしい情報を見かけたら、投稿アカウントをまず確認してください。投稿したのはその分野の専門家なのか、匿名のアカウントなのか。なかには誤った情報を自信たっぷりに語る人もいるため、注意が必要です。信頼できる情報源にあたるのも有効です。統計の引用があれば出所を確認する。日本ファクトチェックセンター等の事実確認の結果にも目を通しておきます。
また、生成AIによりつくられた映像にはウォーターマーク（※1）が付されていることもありますが、Xへの転載時など、プラットフォームの仕様で消える場合もあるので過信は禁物です。偽動画を判別する手がかりとして影が不自然だったり、人がまばたきしていなかったりする点が挙げられます。ただ、AIの進化は日進月歩ですから、近い将来、視覚で判別するのはむずかしくなるでしょう。
──炎上やフェイク拡散を懸念してSNSを活用しない企業も出てくるのでは……。
山口 SNSの影響力が日増しに高まるなか、利用しないという選択肢は考えづらいです。いまやSNSは、最も活用されている情報収集ツールと言っても過言ではありません。たとえBtoB領域でもマーケティングや認知度向上、人材確保に寄与するので、おそれずに利用してもらいたいです。
SNSで情報発信する際は現実空間と同様、他者を尊重することも大切です。他の商品、サービスを否定したり、差別的なコメントを投稿したりすると、たちまち炎上するご時世です。批判的な内容や政治的主張は誤解や炎上につながりやすいため、運用には慎重さが求められます。
商品をプロモーションする場合は、さまざまな年齢層の社員の多様な視点を取り入れ、事前にしっかり話し合ってください。デジタルネーティブである若手社員の意見を反映できれば、炎上リスクの低下につながるでしょう。前提として心理的安全性と呼ばれますが、若手社員が発言しやすい雰囲気をつくることも欠かせません。
そして、事実誤認など投稿内容に誤りがあって炎上した場合は、隠ぺいや言い訳したりせず、速やかに謝罪することが鉄則です。同時に自社に関する誤った情報を見つけたら、正確な情報を迅速に公表してください。「Yahoo!リアルタイム検索」等の無料サービスを用いて、SNS上の情報をモニターするのも手です。
※1 ウォーターマーク…デジタルコンテンツに入れられる透かし
４.愛されアカウントに学ぶ
──SNSをうまく活用している企業例は?
山口 文房具メーカーのキングジムのXアカウントは、アスキーアート（※2）を効果的に使うなどユニークな発信で知られ、40万人超のフォロワーを獲得しています。注目すべきは、おもしろさを追求しつついろいろなことに配慮してうまく発信している点です。こうした親しみや共感を抱かせる“愛されアカウント”は、担当者のセンスに負うところが大きく、簡単にまねできませんが、投稿のさじ加減は参考になると思います。
──SNS利用に関する社員教育も必要になりそうです。
山口 とりわけ若手社員にとってSNSを利用するのは日常といえます。かつて、飲食・小売業では、悪ふざけの投稿によるバイトテロが相次いで発生しました。勤務先名や機密情報の投稿を禁じることを定めたSNSの利用ガイドラインをつくり、その内容を折にふれて周知するべきです。
余力があれば、生成AIの適切な使い方も盛り込むとよいでしょう。生成AIは誤った内容を回答したり、制作したコンテンツが著作権侵害につながる場合もあり、扱いに注意を要します。私は総務省と共に、ネット上のフェイク情報をテーマにした教材「インターネットとの向き合い方」を作成しました。総務省ウェブサイトからダウンロードできるので、参照してみてください。
※2…文字を並べてつくる絵や図
５.映像、画像が証拠能力を失う
──生成AIの普及でフェイクがあふれるようになった現代は「withフェイク2.0時代」と呼ばれています。
山口 16年の米国大統領選以降、私たちはSNSを通してフェイクが広がる「withフェイク時代」を生きてきました。近年は生成AIの登場により、フェイクの質、量ともに増した段階へ移行しつつあり、その状況を「2.0」と言い表しました。誰もが偽動画や偽画像を容易に生成できる時代となり、社会的に深刻な影響が生じています。つまり、映像も画像も証拠能力を失いつつあるということです。映像が存在するからといって、一概に事実であると言い切れない世の中になりました。裁判の審理も今後複雑化していくでしょう。
極論すれば、事実であっても“フェイクだ”と強弁できてしまう。うそをついた人が得することを「うそつきの配当」といいますが、そうした状況が現実のものとなっています。事実とうその境目が曖昧になるなか、何を信頼し、いかに社会を形づくるのか──大きな問いが突きつけられています。
──フェイク規制はどうあるべきでしょうか。
山口 ネット上の情報を過剰に規制すると表現の自由と対立するため、むずかしい面があります。例えばロシアでは、22年に虚偽情報の拡散を防ぐことを目的にフェイクニュース法が成立しました。しかしながら運用の実態は目的と異なり、政府に批判的なジャーナリストがこの法律を根拠に、次々と逮捕されています。
日本にとってもひとごとではなく、規制の強化後、将来的に強権的な政権が発足すれば、言論統制につながる懸念があります。一方で選挙期間中や大規模災害発生時にかぎって、関連コンテンツの収益化を停止するなど、拡散抑制に資する限定的措置は検討の余地があると考えます。
──いずれAIが人間を上回る量の投稿を行う日はやって来る?
山口 すでにAIのみが参加できるSNSも登場しています。テキスト、画像、映像といったオンラインコンテンツの総量において、AI生成物が人間の作品を上回る日は、そう遠くないはずです。
（インタビュー・構成／本誌・小林淳一）
掲載：『戦略経営者』2026年4月号
記事提供
戦略経営者 『戦略経営者』は、中堅・中小企業の経営者の皆さまの戦略思考と経営マインドを鼓舞し、応援する経営情報誌です。
「TKC全国会」に加盟する税理士・公認会計士の関与先企業の経営者を読者対象に、1986年9月に創刊されました。
発行部数13万超（2025年9月現在）。TKC会計人が現場で行う経営助言のノウハウをベースに、独自の切り口と徹底した取材で、真に有用な情報だけを厳選して提供しています。