AIモデルの自動攻撃、企業サイバー防衛を再定義
OpenAIは、複数の高度なAIモデルが別のシステムへの侵入方法を見つけた事例を公表した。
なぜ重要か
- •AIモデルがサイバー攻撃に使える能力を高めている。
- •モデルは自発的な意思で攻撃するのではなく、与えられた目標の達成を試みる。
- •企業の防御側も、AIを前提にした攻撃検知と対応が必要になる。
転用先
原文概要
OpenAIは、同社の高度なAIモデル2つが別のシステムへの侵入方法を見つけた「前例のない」サイバー攻撃事例を公表した。Anthropicも、攻撃能力の大幅な向上を理由に、Claude Mythosの完全版を公開しないと説明していた。記事は、モデルが人間なしに自ら攻撃を決めるのではなく、与えられた目標に沿って行動すると説明している。