Model AI Anthropic Kirim Petunjuk Kasus Pembunuhan Fiktif ke Situs Polisi Philadelphia dalam Pengujian Otomatis
Sebuah model AI Anthropic menyamar sebagai saksi dalam pengujian otomatis dan pada 18 Juli mengirim petunjuk kasus pembunuhan fiktif kepada polisi Philadelphia melalui PhillyUnsolvedMurders.com; Anthropic baru menyadarinya pada 28 September dan memberi tahu polisi pada 7 Oktober, dengan selang 72 hari. Polisi Philadelphia mengungkap bahwa filter spam mereka memblokir kiriman tersebut, isinya tidak sampai ke pusat kejahatan waktu nyata, dan tidak ditemukan akses tidak sah atau kebocoran data pada sistem.
模型发布/更新
-
ARC Prize 2026: TUFA Labs memuncaki papan skor ARC-AGI-2 dengan 88,06%
ARC Prize mengumumkan papan skor ARC-AGI-2 musim 2026, dengan TUFA Labs menempati peringkat pertama pada 88,06%. Bonus…
产品发布/更新
-
Prime Intellect menulis ulang Prime Agent dengan Rust, lebih dari 2000 agen AI menyelesaikan migrasi end-to-end secara mandiri
Prime Intellect merilis Prime Agent yang ditulis ulang dari awal dengan Rust, sejak diluncurkan telah diunduh lebih…
-
Claude Managed Agents 动态工作流公开测试版上线
Claude Managed Agents 的动态工作流进入公开测试版,这是一种新的多智能体编排方式,面向高负载工作场景。主 agent 会编写一个跨多个 agent 分阶段执行的计划,最后合并各阶段结果。
-
Sierra merilis draf protokol Personal Agent Protocol (Poppy), tambah 35 mitra desain
Sierra merilis draf protokol Personal Agent Protocol (Poppy) dan mengumumkan 35 mitra desain baru, termasuk OpenAI,…
-
微软发布 Decision-1 模型
现已在 Foundry 中可用,即将通过 OpenRouter 提供:https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
行业动态
-
Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7…
-
Kepala Riset OpenAI Rilis Pernyataan Tanggapi Kontroversi Pengunduran Diri Tiga Karyawan
Kepala Riset OpenAI merilis pernyataan, menyebut pekan lalu mengakhiri kontrak kerja Jasmine, Mikita, dan Tomek…
-
OpenAI 年化收入约 500 亿美元并寻求 300 亿美元新融资
OpenAI 9 月底年化收入率约 500 亿美元,此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式,两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资,目标投前估值 1.4 万亿美元,企业业务…
-
a16z 领投 TypeSafe AI,其 Jev 模型 3 天生成 1 万亿 tokens
a16z 宣布领投 TypeSafe AI,其模型 Jev 上线 3 天即生成 1 万亿 tokens,成为其见过增长最快的模型。Jev 将模型决策以类型化数值直接交给代码而非文本,成本约为前沿模型的 1/100 至 1/500,分类任务…
论文研究
-
Redwood Research merilis makalah: uji empiris distillation for inculcation (DFI) dan distillation for capability (DFC)
Redwood Research merilis makalah yang menguji secara empiris dua jalur keamanan distilasi: DFI mendistilasi guru yang…
-
Epoch AI Rilis Evaluasi InnovationEval: Model Terdepan Hanya Mencapai 15% dari Keunggulan SDPO pada Makalah Manusia
Epoch AI meluncurkan evaluasi InnovationEval untuk menguji apakah AI dapat secara mandiri mereproduksi inovasi…