最先端AI各社の公表方針、開発減速と外部監視へ

開発減速と研究所内の外部評価者

Ars Technicaによると、アモデイ氏は、能力が高まるAIシステムの危険性を理由に、AI開発者が能力向上の速度を落とすよう求めた。
同記事は、他社の首脳も慎重な開発、共通基準、安全対策を支持したと伝えている。
また、独立組織の評価者を最先端AI研究所の内部に置き、従業員に近いアクセス権で安全対策を評価し、事故を報告する仕組みも提案されたという。

報道によると、主要な最先端AI研究所は長年、より高性能なモデルを目指す勝者総取りの競争のような姿勢を取ってきた。

Anthropicのダリオ・アモデイ氏が最先端AIの能力向上を減速させるよう公に訴え、OpenAI、Google DeepMind、Microsoftなどの首脳も、安全性を重視した慎重な進め方や協調に賛同したとされる。
Anthropicは外部の組織による常駐評価者の導入を表明し、OpenAIのサム・アルトマン氏も同様にすると述べたという。

表明された方針が実行されれば、AI安全性をめぐる議論は一般的な注意喚起から、外部監視や開発速度の協調的な制限へ進む可能性がある。
一方、記事は提案の実現性が不確かであり、安全性以外に企業上の利害と重なる面もあり得ると指摘している。