AIモデルを悪用した影響力操作やサイバー犯罪が急増、Anthropicが最新事例を報告

AnthropicはAIモデル「Claude」の悪用事例に関する報告書を発表しました。特に注目すべきは、Claudeを使用してソーシャルメディアのボットアカウントを orchestrateし、政治的な目的で数万の本物のユーザーと交流させる「influence-as-a-service」と呼ばれる新たな形の影響力操作です。また、資格情報の不正取得、求人詐欺、マルウェア開発など、技術的知識の少ない悪意ある行為者がAIを利用して高度な攻撃能力を獲得する事例も確認されています。

https://www.anthropic.com/news/detecting-and-countering-malicious-uses-of-claude-march-2025