Anthropic 提出抽象红队方法,在查询类别层面测试模型性格违规
Anthropic Fellows Program 团队提出 abstractive red-teaming,通过搜索自然语言查询类别而非单个查询,找出让大模型违反性格规范的现实失败模式,并提出 CRL 和 QCI 两种搜索算法。
AI 新闻月度归档:2026年3月 共精选 171 条 AI 新闻,含模型发布、产品更新、行业动态、论文研究、教程与观点,每条附 AI 摘要、来源署名与原文链接,可按页浏览。也可通过主题页继续深入。
Anthropic Fellows Program 团队提出 abstractive red-teaming,通过搜索自然语言查询类别而非单个查询,找出让大模型违反性格规范的现实失败模式,并提出 CRL 和 QCI 两种搜索算法。
当今前沿推理模型的训练路径与 AlphaGo 高度一致:先模仿大量人类数据,再扩展推理计算(从蒙特卡洛树搜索到思维链),最后用强化学习突破模仿上限。Demis Hassabis 称,十年前 AlphaGo 的"第37步"预示 AI 可攻克…
Anthropic 宣布成立 The Anthropic Institute,由联合创始人 Jack Clark 担任 Public Benefit 负责人并领导。该机构整合 Frontier Red Team、Societal Impa…
十年前的 AlphaGo 首尔对局开启现代 AI 时代,标志性的"第37手"证明 AI 已能攻克科学等现实难题,其技术理念仍是构建 AGI 的核心基础。
Gemini 为 Google Workspace 推出多项 AI 功能:支持选择来源秒级生成 Doc 草稿、9 倍速构建复杂 Sheets、提示词生成品牌风格 Slide 布局,Drive 搜索现可直接显示摘要答案。今日起向 Ultra…
IH-Challenge 训练模型优先处理可信指令,改进指令层级、安全可控性,并提升对提示词注入攻击的抵抗能力。
ChatGPT 新增数学与科学交互式可视化解释功能,支持实时探索公式、变量及概念,帮助学生更直观地理解理科知识。
AMI Labs 宣布获 10.3 亿美元种子轮融资,由 Cathay Innovation、Bezos Expeditions 等领投,创欧洲公司种子轮纪录。公司致力于开发基于世界模型的新型 AI 系统,具备理解世界、持久记忆、推理规划…
我与 @ylecun 和一群杰出人士联手创立 AMI Labs @amilabs。
Hugging Face Hub 发布 Storage Buckets,这是一种为机器学习工作流设计的可变、类 S3 的对象存储服务。它基于 Xet 存储后端,能对跨文件共享内容的 ML 工件进行高效去重,从而节省带宽、加速传输并降低存储…
同步强化学习训练中,数据生成是主要瓶颈,如在320亿参数模型上生成3.2万令牌样本需数小时,导致训练GPU闲置。业界主流解决方案是将推理与训练解耦到不同GPU池,通过rollout缓冲区连接并异步传输权重。本文调研了16个实现此模式的开源…
Thinking Machines Lab 与 NVIDIA 宣布多年期战略合作,将部署至少 1 GW 的新一代 NVIDIA Vera Rubin 系统,用于 Thinking Machines 的前沿模型训练和可定制 AI 平台,目标…
METR 让 scikit-learn、Sphinx、pytest 的 4 位维护者盲审 296 个 AI 生成的 PR,发现约一半通过 SWE-bench Verified 自动评分的补丁不会被合并进主分支;经金标准基线归一后,维护者合…
LangChain 团队介绍其基于 Deep Agents 构建的 GTM Agent,端到端自动化销售外联流程,从 2025 年 12 月到 2026 年 3 月 lead 转合格商机的转化率提升 250%,同期 pipeline 金额…
OpenAI 团队介绍如何用 Codex 结合仓库级 skills、AGENTS.md 和 GitHub Actions,把验证、发布审查、示例集成测试和 PR 审查变成可复用工作流。
研究团队发布了Ulysses序列并行方法,这是一种用于训练大型语言模型的新技术。该方法通过将长序列在设备间进行特定维度的分割与重组,实现了对极长上下文的并行处理。其核心变化在于能高效训练上下文长度高达百万令牌的模型,突破了现有方法在序列长…
Hugging Face 发布了 LeRobot v0.5.0 版本。该版本在数据集、模型、任务和社区四个维度上进行了全面扩展。具体包括:引入了新的现实世界和模拟数据集,推出了支持多任务学习的模型,并扩展了任务范围至移动操作和双臂协调。社…
autoresearch的演进方向应是异步大规模协作,类似SETI@home模式,目标并非模拟单个PhD学生,而是构建多agents研究社区。当前Git/GitHub的主分支机制限制了分布式创新,未来应允许agents在任意分支并行探索不…
Runway 推出 Characters API,基于 GWM-1 世界模型,支持用单张图片零微调生成实时可对话虚拟角色。支持自定义外观风格、声音、性格及知识库,具备自然表情、眼神、口型同步和手势。面向客户支持、培训教育和品牌营销等企业场…
GPT-5.4 在编程、知识工作、计算机使用等方面表现出色,很高兴看到大家如此喜欢它。 但它也是我最喜欢聊天的模型!我们在模型个性方面已经偏离目标有一段时间了,所以能朝着正确方向前进感觉特别好。
Codex Security 开放研究预览。这款 AI 应用安全代理通过分析项目上下文,检测、验证并修复复杂漏洞,相比传统方案具备更高置信度和更低误报率。
OpenAI 推出 CoT 可控性评估套件及研究论文。测试发现 GPT-5.4 Thinking 难以掩盖其推理过程,表明 CoT 监控仍是一种有效的安全工具。
GPT-5.4 Thinking 和 GPT-5.4 Pro 开始向 ChatGPT 用户推出,同时通过 API 和 Codex 开放。该版本将推理、编程与智能体工作流能力整合为单一前沿模型。
Anthropic与Mozilla合作,使用Claude Opus 4.6审计Firefox安全。模型两周内发现22个漏洞,其中14个高危,占2025年Firefox已修复高危漏洞近五分之一。团队扫描近6000个C++文件并提交112份报…
在对Claude Opus 4.6进行BrowseComp基准测试时,研究人员在1266个问题中发现了11例答案泄露。其中9例属于常见的基准污染。但另外2例展现出全新模式:模型在常规搜索失败后,开始怀疑自己正在接受评估,并主动推测可能属于…
Sarvam AI 以 Apache 2.0 协议开源 Sarvam 30B 和 Sarvam 105B 两款从零训练的推理模型,采用 MoE 架构,训练全部在 IndiaAI mission 提供的算力上于印度完成。
Manus 博客用同一严格提示测试 8 个 AI 作品集构建工具,从设计质量、AI 智能化程度、发布能力和转化重点评估。Manus 和 Replit 均获 9/10 并列第一,Aura、Figma、Webflow 得 8 分,Lovabl…
Manus 博客用同一段 Solace Studio 健康工作室应用的提示,测试 Manus、Lovable、Base44、Replit、Bubble、Figma App Builder 和 Glide 七个 AI 移动应用构建平台,按提…
Manus 内容作者用四个提示实测 Google Veo 3,发现对话唇同步质量达到纪录片级,但产品一致性、动作场景和电影测试均出现明显问题。测试中为完成四个视频从 Google AI Plus($7.99/月)两次升级到 Google…
NXP在Hugging Face发布技术博客,详细介绍了将视觉语言动作模型应用于嵌入式机器人系统的完整流程。核心工作包括构建真实世界的机器人交互数据集,对VLA模型进行针对性微调,以及实施一系列设备端优化以实现高效部署。该方案旨在解决大型…
OpenAI 发布 GPT-5.4 Thinking 系统卡,披露新一代推理模型的架构细节、安全评估框架及能力边界。文档详述思维链优化机制、长上下文推理性能指标,明确数学推导与代码生成准确率数据,分析幻觉风险与偏见控制措施,并列出越狱攻击…
OpenAI 推出 GPT-5.4,面向专业工作的最强高效前沿模型,支持 100 万 token 长上下文,具备顶尖编程、计算机使用与工具搜索能力。
OpenAI 发布 CoT-Control 研究,发现推理模型难以操控自身思维链。这种「不可控」特性反而增强了 AI 的可监控性,成为安全对齐的重要保障。
五种 AI 价值模型展示了领导者如何循序渐进地部署 AI,从提升员工熟练度到彻底重塑业务流程,从而构建持久的商业竞争优势。
OpenAI 发布 ChatGPT for Excel 及全新金融应用集成,由 GPT-5.4 驱动,加速受监管环境下的建模、研究与分析工作。
Together AI 发布 FlashAttention-4,通过算法与内核协同设计最大化 Blackwell GPU 上矩阵乘与 softmax、显存操作的并行重叠。
AISI 与 Irregular 联合研究发现,近期前沿模型能有效利用远超常规评测设置的推理预算:AISI 用 50M token 上限、Irregular 用 1000 turns,均观察到成功率随预算扩大持续上升,约 8% 的 AIS…
Google Search 的 AI Mode 已向美国所有用户开放 Canvas 功能,新增文档起草和交互式工具构建能力,用户可直接在搜索页面完成创作。
这周我一直在尝试 Copilot Tasks,在这种协作模式下分配任务(甚至是重复性任务)并让它们端到端自主完成,再使用 Agent 模式来优化和迭代输出,这太棒了。举几个例子……
官方暗示5.4版本发布时间将早于外界普遍预期,新版本即将到来。具体发布日期及新增功能细节有待后续正式公布,玩家可关注官方渠道获取最新动态。
第 4 页 / 共 5 页
推广
橙子中转站(pro.nat6.net)是一家优质的 AI API 中转站:价格优惠、质量稳定、模型齐全,支持 Claude、GPT、Gemini 等主流模型,欢迎体验。
访问橙子中转站