米スタンフォード大学などに所属する研究者らが、「ソーシャルメディアのアルゴリズムが、反民主的なコンテンツや政治的な見方に触れさせることで、短期間に感情的な二極化をつくることができる」という論文を公表したことを、ITmediaNewsが紹介をしています。

元の論文は、物理学・数学・コンピューターサイエンスなどにおける査読前論文を公開するサーバー「arXiiv」で見ることができます。

実験の概要はこうです。

まず、Pew Research Center の定義を使用して、政治家や政策に言及する政治的コンテンツを識別。各投稿を党派的な敵意や非民主的な行動への支持といった8つの要素からスコアリング。政治的な敵意の強い投稿をフィードの上位に表示するグループと、下位に表示するグループに参加者をわけて、10日間でそれぞれの変化を検証しました。

その結果、敵意の強いコンテンツへの減少させたグループは対立する党派への好意を2.11％上昇させました。逆に、増加させたグループでは行為が2.48％減少したのです。

さらに気になるのは、こうしたアルゴリズムの操作をしていたことに、気が付かなかったという人が参加者の75％近かったことです。意図的に変化をさせられていても、多くの人にはわからないということですね。

今後、生成AIの時代をむかえ政治的なコンテンツも量産されるようになり、中にはカルト的な思想や民主主義を破壊しようとするプロパガンダなども含まれることも懸念されます。

今回の論文は査読前のものですが、アルゴリズムが政治的対立をもたらすだけではなく、それを抑える効果があることも示唆しています。その点にも注目したいです（瀬）

タイトル画像はトランプ氏のXと当該論文より