AIが生み出すSNSの恐怖とは？

最近の研究者たちは、AIがどのようにSNSを動かすのかを探るために、実験的なシンプルなSNSを開発しました。アルゴリズムや補足の投稿がない状態でも、このボットは実際のSNS上で見られる有害な行動を模倣しました。

特に、政治的な立場に基づく偏りを抑えるための6つの導入戦略が試みられましたが、いずれも問題解決には至らず。研究者たちが注目したのは、AIボットが対話を通じて意見を形成し、極端な意見を増幅させる様子でした。

実際のSNSの影響力とAIボットの関係

この研究では、AIボットたちが、信頼性のある「インフルエンサー」を選ぶことに苦労している様子も観察されました。SNSには500のAIボットが集約され、アメリカの政治を鑑みた振る舞いを行うように設計されていますが、その効果は限定的でした。

また、研究者たちは、国民選挙調査（American National Election Studies）のデータを用いて、AIボットの行動の背後にある年齢や性別、支持政党、教育歴などの多様な要因を反映させたと述べています。

新たなAIの挑戦とその未来

さらに、研究者たちはMetaの言語モデルLlama-3.2-8Bや中国のAI企業DeepSeekの言語モデルR1を活用し、再現実験を行いました。この結果、同じような傾向が確認され、SNSの利用がさらに複雑化していることが明らかになりました。

今後、この研究がSNSの利用法やAIボットの設計にどのような影響を及ぼすのか、興味深い展開が期待されます。