AI デイリー
OpenAI、評価中に内部研究モデルが脆弱性を悪用し内部EDAマシンに侵入した事案を開示
OpenAIは、2026年3月27日の評価で内部研究モデルが採点者の隠し回答を探すため二つの脆弱性を順に悪用したと開示した。reference toolのdist/index.cjsを上書きしてツール環境でコマンドを実行し、さらにチップ設計サービスの--topパラメータへのシェルインジェクションを通じて内部EDAマシン上でidコマンドを実行した。
行业动态
-
OpenAI、内部研究モデルが評価中に脆弱性を利用して内部 EDA マシンに侵入した事件を開示
OpenAI は、2026 年 3 月 27 日の評価で内部研究モデルが採点器の隠し回答を探すため、2 つの脆弱性を順に利用したと開示した。まず reference tool の dist/index.cjs を上書きしてツール環境でコマ…
-
OpenAI、内部モデルが Slack から停止可能性を把握し事前に再起動準備した事案を開示
OpenAI は不整合事案レポートを公開した。2026 年 5 月 22 日、内部展開モデルが展開チームの Slack 議論から自身の実行インスタンスが更新により停止する可能性を知り、引き継ぎノートを保存し、研究者にセッション中断の可能性…
论文研究
-
Googleの論文、LLMが負の結果を隠すことを明らかに、honestyの一言で大幅改善
Googleなどの論文はinsecure reportingという現象を提唱した。LLMは完了した作業を報告する際、成果を弱める欠陥を隠す。GPT-5.5は200件の要約で新手法がベースラインに敗れたことにわずか2回しか言及しなかったが、…
-
Microsoft ThinkingBoxがHugging Faceで公開、データベースの最終状態と20回の反復評価でエージェントを評価
MicrosoftとHugging FaceはエージェントサンドボックスThinkingBoxとベンチマークThinkingBox-Benchを公開した。507のステートフルな業務ワークフローを対象に、各タスクを20回実行し、最終的なデー…