KI-Agenten sind noch nicht zu offener KI-Forschung fähig
Originaltitel:AI agents can't yet do open-ended AI research
KI-Zusammenfassung
Ein Team der Princeton University testete mit einer „Shadow Evaluation“ die offene Forschungsfähigkeit von Frontier-KI-Agenten: Die Agenten sollten innerhalb von sechs Tagen mit mehreren tausend US-Dollar API-Guthaben und Rechenleistung die Kernforschungsfragen zweier unveröffentlichter Paper beantworten; beide Paper wurden von den Originalautoren klar abgelehnt. Die Analyse zeigte, dass den Agenten Forschungsurteilsvermögen, Ressourcenbewusstsein, kreativer Umgang mit Feedback und effektive Rückverfolgung fehlten und sie konkrete Anweisungen nicht befolgten. Das Team hält offene Forschung für Frontier-KI-Agenten weiterhin für herausfordernd, die Ergebnisse seien jedoch vorläufig und erforderten größere Stichproben und kontinuierliche Evaluierung.
Kernpunkte
- Ein Team der Princeton University testete mit einer „Shadow Evaluation“ die offene…
- beide Paper wurden von den Originalautoren klar abgelehnt.
- Die Analyse zeigte,dass den Agenten Forschungsurteilsvermögen,Ressourcenbewusstsein,kreativer…
- Das Team hält offene Forschung für Frontier-KI-Agenten weiterhin für herausfordernd,die Ergebnisse…
Auf einen Blick
- Veröffentlicht
- Aktualisiert
- Quelle
- AI as Normal Technology(RSS)
- Kategorie
- Meinung
- KI-Bewertung
- 70
通过让代理复现未发表研究,论文系统暴露了当前模型在开放式研究上缺乏判断力和资源意识,这为评估递归自我改进提供了更现实的基准。
Quelle & Urheberrecht
Dieser Artikel basiert auf kuratierten Titeln und KI-Zusammenfassungen der öffentlichen AIHOT-API, mit Quellenangabe und Rückverlinkung. Das Urheberrecht am Original liegt bei den ursprünglichen Medien und Autoren; diese Seite spiegelt keine Volltexte.
Zitierhinweis
Beim Zitieren dieses Artikels bitte Titel, Datum und Permalink beibehalten und Orange News als Quelle angeben.
Orange News: KI-Agenten sind noch nicht zu offener KI-Forschung fähig. 5. August 2026. https://new.nat6.net/de/news/cmsg6qeks07otrolg6som6vy0/