複数トリガー型LLMバックドアが有害なロボット作業計画を生成したと報じられる

追加学習に仕込まれる、言葉への反応

研究チームが説明したのは、MuTRAP（Multi-trigger TRojans Attacking Robot Task Planning Systems）という手法です。
報道によると、LLMを特定用途向けに追加学習する段階でバックドアを仕込みます。
その後、指示にトリガー語が含まれると、ロボット向けの作業計画を安全な内容から悪意ある内容へ切り替えるというものです。

実機の模倣動作と、3D上の場面

管理下の実証では、Segwayベースの移動ロボットが、プラスチック製の果物を切る動作を模倣したとされています。
猫をコンロに置く場面は、別の3Dシミュレーションでした。
報道では、人や動物に危害はなかったとされています。

作業計画を検査する防御策も提案

研究チームは、生成された作業計画の安全性を評価する、LLMベースの仕組みPROTEAも提案しました。
報道では、タスク計画を検査する防御策として紹介されています。

この研究が扱うのは、外部で訓練・追加学習されたモデルに、特定の指示でのみ起動する挙動が仕込まれる、ロボティクスのAIサプライチェーン上のリスクです。