ある論文は、特定の「意味的に空の入力」に対し、一部のAIシステムが、応答は成功扱いでありながら、表示可能なUTF-8出力をちょうど0バイト返したと主張している。
一方で、対応する比較用プロンプトでは出力が表示されたという。
さらに、プロンプト内で前提条件として名指しする要素を変えると、どちらの入力が空の応答になるかを切り替えられたとしている。
何か、おかしい。NEW0前回訪問以降
前提条件を変えると空応答の側が切り替わる主張
奇妙なのは、単に回答が空だったという点ではない。
論文は、この挙動が複数のモデルと提供元でプロンプト条件に応じて現れ、後のオープンウェイト実験では、回答を出す状態と最初のトークンで終了する状態を切り替えられたと述べる。
これらの結果は独立には検証されていない。
確認状態
UNVERIFIED
Hacker Newsの投稿情報は記事を見つける手がかりであり、リンク先の主張を検証したものではありません。
未検証：リンク先論文の実験上の主張は、独立した確認を受けていません。
