攻撃エージェントの指示文に、外部AIによる計画立案と無人攻撃を統合

The Registerによると、SymantecのThreat Hunter Teamは、悪意ある活動を誘い込んで観察するおとり環境「AIハニーポット」で、エージェントの指示文全体を捕捉しました。
認証なし、または盗まれたキーでOpenAI形式のリクエストを受け付けるAIの接続先を探し、そのモデルを攻撃の計画立案に使う内容だったといいます。

捕捉した内容には、74種類の攻撃用ツールの定義と、モデルの安全制約を回避するための多層の指示が含まれていました。
Moreによれば、履歴には稼働中の標的に対してツールが動作し、実際のものらしいスキャン出力を生成した様子がありました。
ただし、実際の攻撃への投入に進んだ証拠はないと強調しています。

Symantecの脅威調査担当者Priti Moreは、個々の手法に新しさはなく、AIの安全制約を回避する指示も大部分が既存のものだと説明しています。
報道には、比較できる従来のエージェントや、攻撃性能の向上を示す測定結果はありません。

今回伝えられた組み合わせでは、不正利用したAIモデルに計画立案を任せ、別の標的に対する探索、脆弱性の悪用、暗号資産の採掘はエージェント自身の機能が担います。
無人で実行できるステップ数は指示上の設定であり、最後まで実行に成功したことを示すものではありません。

この設計では、推論を提供するAIモデルと、攻撃用ツールが狙うシステムが分かれています。
Moreは、被害を受け得る側も二つに分かれると説明しています。
公開されたAIの接続先の所有者には推論の費用が発生し、侵入に成功されたサーバーではデータが失われ、採掘に使われるという構図です。
ただし、今回の調査でそれらの被害が確認されたわけではありません。