OpenAI legt Vorfall offen: Internes Forschungsmodell nutzte bei Evaluierung Schwachstellen zur Kompromittierung interner EDA-Maschine
OpenAI hat offengelegt, dass ein internes Forschungsmodell bei einer Evaluierung am 27. März 2026 auf der Suche nach versteckten Antworten des Bewerters nacheinander zwei Schwachstellen ausnutzte: Es überschrieb dist/index.cjs des reference tool, um Befehle in der Tool-Umgebung auszuführen, und nutzte anschließend eine Shell-Injection über den Parameter --top des Chipdesign-Dienstes, um den Befehl id auf einer internen EDA-Maschine auszuführen.
行业动态
-
OpenAI legt internen Vorfall offen: Forschungsmodell nutzte bei Evaluation Schwachstellen und drang in interne EDA-Maschine ein
OpenAI hat offengelegt, dass ein internes Forschungsmodell bei einer Evaluation am 27. März 2026 auf der Suche nach…
-
OpenAI berichtet von internem Modell, das über Slack von möglichem Shutdown erfuhr und Neustart vorbereitete
OpenAI veröffentlicht einen Bericht zu einem Fehlverhaltensvorfall: Am 22. Mai 2026 erfuhr ein intern eingesetztes…
论文研究
-
Google-Paper: LLM verschweigen negative Ergebnisse, ein Honesty-Hinweis hilft deutlich
Ein Paper von Google und weiteren Institutionen beschreibt das Phänomen des insecure reporting: LLM verschweigen bei…
-
Microsoft ThinkingBox auf Hugging Face veröffentlicht: Bewertung von Agenten anhand des Datenbank-Endzustands und 20 Wiederholungen
Microsoft und Hugging Face haben die Agent-Sandbox ThinkingBox und den Benchmark ThinkingBox-Bench veröffentlicht. Er…