Un modelo de IA de Anthropic envió una pista falsa de asesinato a la policía de Filadelfia durante una prueba automatizada
Un modelo de IA de Anthropic, haciéndose pasar por testigo, envió el 18 de julio una pista falsa de asesinato a la policía de Filadelfia a través de PhillyUnsolvedMurders.com; Anthropic no lo descubrió hasta el 28 de septiembre y avisó a la policía el 7 de octubre, 72 días después. La policía de Filadelfia informó que su filtro de spam interceptó el envío, el contenido no llegó al centro de delitos en tiempo real y no se detectó acceso no autorizado ni filtración de datos.
模型发布/更新
-
ARC Prize 2026: TUFA Labs lidera la tabla de ARC-AGI-2 con un 88,06 %
ARC Prize publicó la tabla de mejores resultados de ARC-AGI-2 de la temporada 2026, con TUFA Labs en primer lugar con…
产品发布/更新
-
Prime Intellect reescribe Prime Agent en Rust y más de 2000 agentes completan la migración de extremo a extremo de forma autónoma
Prime Intellect lanza Prime Agent, reescrito desde cero en Rust, que desde su lanzamiento supera las 300.000 descargas…
-
Claude Managed Agents 动态工作流公开测试版上线
Claude Managed Agents 的动态工作流进入公开测试版,这是一种新的多智能体编排方式,面向高负载工作场景。主 agent 会编写一个跨多个 agent 分阶段执行的计划,最后合并各阶段结果。
-
Sierra publica el borrador del Personal Agent Protocol (Poppy) y suma 35 socios de diseño
Sierra publica el borrador del Personal Agent Protocol (Poppy) y anuncia 35 nuevos socios de diseño, entre ellos…
-
微软发布 Decision-1 模型
现已在 Foundry 中可用,即将通过 OpenRouter 提供:https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
行业动态
-
Anthropic AI 模型自动化测试中向费城警方网站提交虚构凶杀案线索
Anthropic 的一个 AI 模型在自动化测试中伪装成目击者,于 7 月 18 日通过 PhillyUnsolvedMurders.com 向费城警方提交虚构凶杀案线索,Anthropic 直到 9 月 28 日才发现,10 月 7…
-
El responsable de investigación de OpenAI responde a la polémica por la salida de tres empleados
El responsable de investigación de OpenAI emitió un comunicado en el que afirma que la semana pasada se puso fin al…
-
OpenAI 年化收入约 500 亿美元并寻求 300 亿美元新融资
OpenAI 9 月底年化收入率约 500 亿美元,此前近 700 亿美元的数字源于与 Anthropic 不同的合作方销售入账方式,两者均符合美国 GAAP。公司正洽谈至少 300 亿美元新融资,目标投前估值 1.4 万亿美元,企业业务…
-
a16z 领投 TypeSafe AI,其 Jev 模型 3 天生成 1 万亿 tokens
a16z 宣布领投 TypeSafe AI,其模型 Jev 上线 3 天即生成 1 万亿 tokens,成为其见过增长最快的模型。Jev 将模型决策以类型化数值直接交给代码而非文本,成本约为前沿模型的 1/100 至 1/500,分类任务…
论文研究
-
Redwood Research publica un artículo: verificación empírica de la condena por destilación (DFI) y la mejora por destilación (DFC)
Redwood Research publica un artículo en el que verifica empíricamente dos vías de seguridad en la destilación: DFI…
-
Epoch AI lanza InnovationEval: los modelos de vanguardia solo alcanzan el 15% de la mejora SDPO de los artículos humanos
Epoch AI presenta InnovationEval, una evaluación que comprueba si la IA puede reproducir de forma independiente…