SNS上の偽・誤情報にAIで立ち向かうSakana AIの取り組み

この記事のまとめ

総務省の事業としてSNS上の偽・誤情報対策を支援するAIシステムをSakana AIが開発しました。
背景には、安全保障における「情報力」の重要性と、国内で高度なAI技術を保有する必要性があります。
技術的には、「可視化」「判定」「対策」の3段階で構成され、新しい論調の自動抽出、画像・動画の加工検知、AIエージェントによるファクトチェック、エージェントベースモデル「Shachi」を用いたSNS空間シミュレーションなどが特徴です。
これにより、偽情報の早期発見と、効果的なカウンター発信の事前予測が可能になります。

2026年3月16日、Sakana AIは総務省の「インターネット上の偽・誤情報等への対策技術の開発・実証事業（令和7年度）」において、SNS空間の可視化、偽情報判定、対策案立案を支援するシステムを開発したことを発表しました。

SNS上に流れる偽情報や誤情報は、政治、安全保障、社会不安などに深刻な影響を与える可能性があります。こうした課題に対して日本発のAI技術で対抗することを目指しています。

なぜ「情報力」と国内技術が重要なのか

現代の安全保障は、軍事力だけでなく、情報空間での優位性が大きな意味を持ちます。その中で、SNS上の偽情報・誤情報は、世論を操作し、社会の分断を引き起こし、ひいては国家の意思決定に影響を与えかねない「武器」にもなり得ます。

こうした状況に対し、海外のプラットフォームやAIモデルに依存しすぎると、有事の際に情報の制御や分析ができなくなるリスクがあります。そのため、日本国内で高度なAI技術を保有し、自前で情報空間を可視化・分析・対策できる体制を整えることが、このような取り組みの重要な背景となっています。

3つの柱：可視化・判定・対策

この取り組みでは、SNS上の偽・誤情報問題に対して、大きく3つのステップでアプローチします。

SNS空間の可視化：新しい論調を自動で見つけ出す

まず、SNS上に流れる膨大な投稿の中から、新しい「論調（ナラティブ）」を自動的に抽出し、階層ツリーとして可視化する技術が用いられています。

これは「ノベルティサーチ技術」と呼ばれ、従来のキーワード検索や単純なクラスタリングとは異なり、まだ誰も気づいていない新しい言説や、徐々に広がりつつある論調を自律的に発見することを目指します。

例えば、ある政治的な出来事をきっかけに、特定の主張がSNS上で少しずつ拡散し始めたとします。この技術を使うことで、その主張がどのような構造で広がっているのか、どのようなユーザー層に支持されているのかを、階層的なツリーとして把握することができます。

偽情報の判定：画像・動画の加工検知とAIエージェントによるファクトチェック

次に、偽情報そのものを判定する技術が組み込まれています。

今回の取り組みでは、Sakana AIが独自に開発したモデルと、既存のフロンティアモデル（最先端の大規模言語モデルなど）を組み合わせることで、画像や動画の加工を検知したり、AIエージェントによる自動ファクトチェックを行ったりします。

これにより、単にテキストの内容だけでなく、画像や動画といった視覚情報も含めて、情報の信頼性を多角的に評価することが可能になります。

対策案の立案：SNS空間シミュレーションとカウンター発信の検証

最後に、偽情報への「対策」を支援する技術が特徴的です。

この取り組みでは、Sakana AIが自社開発したエージェントベースモデル（ABM）フレームワーク「Shachi」を用いて、SNS空間のシミュレーションを行います。

エージェントベースモデルとは、現実のユーザーを模した多数の「エージェント」をコンピューター上に作り、それぞれの行動ルールや相互作用を設定することで、社会現象をシミュレートする手法です。

このShachiを使ってSNS上に仮想的なユーザー（ペルソナ）を生成し、特定の偽情報が流れた場合に、どのようなカウンター発信（反論や正しい情報の拡散）が有効かを事前に検証します。

今後の展望

今回のSakana AIの取り組みが実用化されれば、偽情報・誤情報への対応は大きく変わる可能性があります。

従来、偽情報への対応は、人間のファクトチェッカーや専門家が個別に対応するケースが多く、対応のスピードや網羅性に限界がありました。今回の取り組みが目指すのは、AIによって偽情報を早期に発見し、その影響をシミュレーションで予測し、効果的なカウンター発信を支援する「自動化された防衛システム」のようなものです。

今後は、インテリジェンス（情報分析）の領域でのAI社会実装をさらに進めていくことが期待されています。

見解

Sakana AIが開発した独自システムは、単にAIで偽情報を検知するだけでなく、「どのような情報がどのように広がるのか」をシミュレーションし、その上で「どのような対策が有効か」を検証するという、非常に実践的なアプローチを取っています。

偽情報問題は、技術的な検知だけでなく、人々の心理や社会構造、コミュニケーションのダイナミクスと深く結びついています。エージェントベースモデルを用いてSNS空間を再現し、対策の効果を事前に試せるという発想は、こうした複雑な問題に対して、AIならではの新しい切り口を提供していると言えます。

また、国内でこうした高度なAI技術を開発・保有することは、情報空間における主権を守るという観点からも重要な意味を持つと考えられます。今後、今回のような取り組みが、どのように社会実装され、実際の偽情報対策に役立っていくのか、その展開が注目されます。