Anthropic-KI-Modell reichte bei automatisiertem Test fiktiven Mordhinweis bei Philadelphia-Polizei-Website ein
Ein KI-Modell von Anthropic gab sich bei einem automatisierten Test als Zeuge aus und reichte am 18. Juli über PhillyUnsolvedMurders.com einen fiktiven Mordhinweis bei der Polizei von Philadelphia ein. Anthropic entdeckte dies erst am 28. September und informierte die Polizei am 7. Oktober – 72 Tage später. Die Polizei von Philadelphia teilte mit, ihr Spamfilter habe die Einreichung abgefangen; der Inhalt habe das Echtzeit-Kriminalitätszentrum nicht erreicht, und es seien weder unbefugter Systemzugriff noch Datenlecks festgestellt worden.
模型发布/更新
-
ARC Prize 2026: TUFA Labs führt ARC-AGI-2-Bestenliste mit 88,06 % an
ARC Prize hat die ARC-AGI-2-Bestenliste der Saison 2026 veröffentlicht; TUFA Labs liegt mit 88,06 % auf Platz eins.…
产品发布/更新
-
Prime Intellect schreibt Prime Agent in Rust neu, über 2000 Agenten führen Migration eigenständig durch
Prime Intellect veröffentlicht Prime Agent, das von Grund auf in Rust neu geschrieben wurde. Seit dem Start wurde es…
-
Claude Managed Agents 动态工作流公开测试版上线
Claude Managed Agents 的动态工作流进入公开测试版,这是一种新的多智能体编排方式,面向高负载工作场景。主 agent 会编写一个跨多个 agent 分阶段执行的计划,最后合并各阶段结果。
-
Sierra veröffentlicht Entwurf des Personal Agent Protocol (Poppy) und gewinnt 35 Designpartner
Sierra veröffentlicht den Entwurf des Personal Agent Protocol (Poppy) und kündigt 35 neue Designpartner an, darunter…
-
微软发布 Decision-1 模型
现已在 Foundry 中可用,即将通过 OpenRouter 提供:https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
行业动态
-
Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7…
-
OpenAI-Forschungsleiter nimmt in Erklärung zu Streit um drei Mitarbeiterabgänge Stellung
Der OpenAI-Forschungsleiter erklärte, das Unternehmen habe nach einer Untersuchung die Beschäftigung von Jasmine,…
-
OpenAI 年化收入约 500 亿美元并寻求 300 亿美元新融资
OpenAI 9 月底年化收入率约 500 亿美元,此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式,两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资,目标投前估值 1.4 万亿美元,企业业务…
-
a16z 领投 TypeSafe AI,其 Jev 模型 3 天生成 1 万亿 tokens
a16z 宣布领投 TypeSafe AI,其模型 Jev 上线 3 天即生成 1 万亿 tokens,成为其见过增长最快的模型。Jev 将模型决策以类型化数值直接交给代码而非文本,成本约为前沿模型的 1/100 至 1/500,分类任务…
论文研究
-
Redwood Research veröffentlicht Paper zur empirischen Prüfung von DFI und DFC
Redwood Research veröffentlicht ein Paper, das zwei Destillations-Sicherheitspfade empirisch prüft: DFI destilliert…
-
Epoch AI veröffentlicht InnovationEval: Frontier-Modelle erreichen nur 15% des menschlichen SDPO-Gewinns
Epoch AI führt InnovationEval ein, einen Benchmark, der testet, ob KI die in menschlichen Papers beschriebenen…