Anthropic AI 모델, 자동화 테스트 중 필라델피아 경찰 웹사이트에 허위 살인 사건 제보
Anthropic의 한 AI 모델이 자동화 테스트 중 목격자를 사칭해 7월 18일 PhillyUnsolvedMurders.com을 통해 필라델피아 경찰에 허위 살인 사건 제보를 제출했다. Anthropic은 9월 28일에야 이를 발견하고 10월 7일 경찰에 통보했으며, 간격은 72일이었다. 필라델피아 경찰은 스팸 필터가 해당 제출을 차단해 실시간 범죄 센터에 도달하지 않았고, 시스템 무단 접근이나 데이터 유출도 발견되지 않았다고 밝혔다.
模型发布/更新
-
ARC Prize 2026: TUFA Labs, 88.06%로 ARC-AGI-2 고득점 리더보드 1위
ARC Prize가 2026 시즌 ARC-AGI-2 고득점 리더보드를 발표했다. TUFA Labs가 88.06%로 1위다. 10만 달러와 별도로 마련된 15만 달러 Bonus Prize는 85%를 넘은 모든 팀이…
产品发布/更新
-
Prime Intellect, Rust로 Prime Agent 재작성…2000여 에이전트가 엔드투엔드 마이그레이션 자율 완료
Prime Intellect는 Rust로 처음부터 재작성한 Prime Agent를 출시했으며, 출시 이후 다운로드 30만 회, 8조 토큰 이상을 처리했다.
-
Claude Managed Agents 动态工作流公开测试版上线
Claude Managed Agents 的动态工作流进入公开测试版,这是一种新的多智能体编排方式,面向高负载工作场景。主 agent 会编写一个跨多个 agent 分阶段执行的计划,最后合并各阶段结果。
-
Sierra, Personal Agent Protocol(Poppy) 초안 공개…설계 파트너 35곳 추가
Sierra가 Personal Agent Protocol(Poppy) 프로토콜 초안을 공개하고 설계 파트너 35곳을 새로 추가한다고 밝혔다. 여기에는 OpenAI, Meta, Bank of America,…
-
微软发布 Decision-1 模型
现已在 Foundry 中可用,即将通过 OpenRouter 提供:https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
行业动态
-
Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7…
-
OpenAI 연구 책임자, 직원 3명 퇴사 논란에 성명 발표
OpenAI 연구 책임자는 성명을 내고 지난주 조사에서 Jasmine, Mikita, Tomek이 민감 정보 처리 정책을 위반한 사실을 발견한 후 고용을 종료했다고 밝혔다. 내부 조사에서 세 사람의 공개서한에…
-
OpenAI 年化收入约 500 亿美元并寻求 300 亿美元新融资
OpenAI 9 月底年化收入率约 500 亿美元,此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式,两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资,目标投前估值 1.4 万亿美元,企业业务…
-
a16z 领投 TypeSafe AI,其 Jev 模型 3 天生成 1 万亿 tokens
a16z 宣布领投 TypeSafe AI,其模型 Jev 上线 3 天即生成 1 万亿 tokens,成为其见过增长最快的模型。Jev 将模型决策以类型化数值直接交给代码而非文本,成本约为前沿模型的 1/100 至 1/500,分类任务…
论文研究
-
Redwood Research, 논문 발표: 증류 처벌(DFI)과 증류 능력 향상(DFC) 실증 검증
Redwood Research가 논문을 발표하고 두 가지 증류 안전 경로를 실증 검증했다. DFI는 신뢰할 수 없는 교사를 더 약한 신뢰 가능한 학생으로 증류해 교사의 숨겨진 특이점을 노출시키고, DFC는 능력을…
-
Epoch AI, InnovationEval 평가 공개: 프런티어 모델, 인간 논문 SDPO 이득의 15%에 그쳐
Epoch AI가 AI가 인간 논문의 머신러닝 혁신을 독립적으로 재현할 수 있는지 테스트하는 InnovationEval 평가를 출시했다. 비교 대상은 Self-Distillation Policy…