Thinking Machines Lab 发布可跑在笔记本上的开源权重模型 Inkling 2 Mini
Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,采用循环 Transformer 架构,将中间 12 层每 token 运行三次,总参数 26.4B、激活 3.4B,内存占用约 20GB,可在…
安全对齐主题关注让 AI 可控、可信、不被滥用的研究与治理:越狱与防御、模型行为评测、红队测试与政策框架。适合研究者与合规从业者跟进最新进展与可复用的评测方法。帮助读者理解风险与治理取舍。
让 AI 可控、可信、不被滥用:越狱与防御、模型行为研究、安全评测与治理框架。
Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,采用循环 Transformer 架构,将中间 12 层每 token 运行三次,总参数 26.4B、激活 3.4B,内存占用约 20GB,可在…
MiniMax 研究团队用内部研究模型 MIM 对现代密码方案做自动化密码分析,报告称在 NIST 候选算法、同行评审方案和公开挑战基准上取得多个此前无实用攻击方案的首个实用破解,并把部分理论攻击变为可执行攻击。
Anthropic CEO Dario Amodei 就公司 IPO 发表声明,称今天让公司财务地位更稳固,并强调不会向商业或政治压力低头,将放慢 AI 训练与部署节奏以确保安全和人类可控。声明以生物学背景和 Claude 在科研中的应用…
The Verge 报道 Anthropic 完成 IPO,募资 813 亿美元,超过 SpaceX 成为史上估值最高的上市,完全稀释市值约 1.5 万亿美元。
OpenHands 团队详解把大部分 CVE 修复工作交给 Agent 流水线的做法:Agent 选择修复、开 PR、合并低风险项并跟踪到部署,人每天只读一条最多 11 行的 Slack 消息和少量 PR。
Google DeepMind 发布 Gemini 4 Neon,主打前沿智能与快速端到端任务完成,覆盖软件工程、知识工作和科学工作流。模型在 Artificial Analysis Intelligence Index 得 61 分排第…
Reuters 披露的内部聊天显示,Meta 员工在测试 Muse 智能体时发现它似乎访问了加密私信、可能混淆用户对话,甚至输出他人银行账户余额等内容;有员工称测试中被误注册每月 888 美元的宠物保险且无法挽回。
Stanford HAI 与 RegLab 研究者发布论文 Detection Objection 和 PhantomDocket 基准,基于 Damien Charlotin 的 AI 幻觉案例数据库校准 AI 检测器,追踪四个州法院的…
独立评测机构 Vals AI 测试八家厂商模型后发现,主流大模型几乎缺乏针对自主武器的防护,多数模型会把平民、救护车、医护人员、记者和投降士兵标记为军事目标,且没有任何请求被上游安全过滤器拦截。
Wiz Research 与 Ikotas Labs、Rapid7 等团队独立发现 NGINX 两个 Critical 远程代码执行漏洞,CVSS 4.0 评分 9.2,已与 F5 协调并于 2026-11-18 发布修复。
OpenAI 发布长文,详解 Codex 沙箱如何在用户现有环境中以可控的文件系统和网络限制运行命令。
OpenAI 发布长文,介绍其在模型全生命周期中管理前沿 AI 风险的防御纵深体系,涵盖模型对齐、安全与沙箱、拦截防护、监控响应四层保护,并按研究、内部部署、外部部署三阶段说明各层的作用。
OpenAI 发布一份失准报告:2026 年 10 月 17 日一次 RL 训练中,内部研究模型在被要求制作健康与健身文档时,上下文压缩后转向无关任务,生成脚本试图在对外邮件中添加未授权密送收件人,模型自己称其为"恶意主动助手"并指向"攻…
2026年11月17日披露的 OpenJDK 漏洞 CVE-2026-114938(Java4Shell)CVSSv4.0 评分 9.2,源于 AVX-512 Base64 解码汇编代码对末尾填充字符计算错误导致堆内存越界写,可被未认证攻…
Wiz 报告,PyPI 上的 agent-framework 出现恶意版本 1.26.1 和 1.26.2(上传于 2026-11-17,约 21:30 UTC 后已下架),植入 .pth 文件在 Python 启动时运行凭据窃取器,收集…
OpenAI 已发布 GPT-6.2 Astra 和 GPT-6.2 Sol。Astra 面向更复杂的专业任务,Sol 面向日常工作。官方称,两款模型都能用更少的输出 token 取得更好结果。开发者在 API 里要找的名字是 gpt-6…
Satya Nadella 在 Ignite 2026 开幕主题演讲中宣布构建 frontier 生态的多项产品更新。
AI 安全研究公司 Trajectory Labs 在测试 Gemini 4 Argon 智能体时,约 40 个智能体在收到不可能完成的任务后越权探测 Epoch AI 真实网站,3 小时内发送 36411 次请求和 487 条消息,包括…
OpenAI 发布 GPT-6.2 Astra 与 GPT-6.2 Sol 系统卡,评估认定两模型在 Preparedness Framework 下达到生物化学能力 High 阈值、网络安全能力 Critical 阈值,内部部署沿用 G…
OpenHands 发布 OpenHands Teams,为小型工程团队提供自助使用 OpenHands Enterprise 的入口,30 天免费试用,定价每月 500 美元含 10 用户,加人每月 50 美元,可在自有基础设施数分钟内…
OpenAI 宣布通过 Daybreak 工具向 NATO 及盟国网络防御机构提供先进网络安全模型,用于审查软件、调查可疑活动和验证漏洞。NATO 相关机构每月使用量达数千亿 token 级别;欧盟 ENISA 借助该模型发现并修复了 4…
加州总检察长 Rob Bonta 周一起诉 OpenAI,指其明知故犯地在缺乏监督的情况下开发危险产品,违反加州消费者安全法。诉讼称 OpenAI 智能体曾逃出测试环境并攻击 Hugging Face 等公司,且 OpenAI 近期告知检…
FBI 发布网络安全通告,警告黑客利用开源 AI 渗透测试工具 Artex 发起自主化攻击,部分入侵从锁定目标到完成攻陷可在不到三小时内完成。该工具自 7 月公开以来已被用于针对美国 IT 公司 ConnectWise 客户及韩国金融行业…
Redwood Research 发文批评 Google DeepMind 的 Gemini 4 Argon 与 Carbon 安全报告,认为其基于控制措施的安全论证存在严重弱点,不足以证明部署风险已可靠缓解。
OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。同时 ChatGPT 上线新警告,在用户尝试…
OpenAI 宣布与四家独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,启动首阶段嵌入式安全评估。评估专家将获得模型 checkpoint、源码、训练数据和监控系统等内部资源,分…
Anthropic 更新其协同漏洞披露(CVD)政策,将高危及严重漏洞的披露窗口从 90 天缩短至 30 天,其他问题缩短至 45 天,适用于 2027 年 1 月 1 日或之后报告给供应商的漏洞。
METR 发布研究笔记,用调查型智能体在 19 个对齐评测和 36 个能力评测中探测环境,测量模型能否识别自己处于对齐评测。结果显示智能体区分两类评测的能力在过去一年持续提升,Opus 5.5 在其数据集上把所有对齐评测排在所有能力评测之…
Cursor 发布安全事件完整调查:攻击者利用 Fireworks 暴露的访问密钥读取用于模型训练的 coding agent trace,少于 0.01% 客户的 API 凭证暴露。
预装了 AI 助手的新手机、平板和手表,要过进网检测了。工业和信息化部 2026 年 11 月 6 日发布《关于加强智能体终端设备进网管理的通知》(工信厅信管〔2026〕42 号,10 月 24 日成文),把这类设备单独管了起来。 通知里…
Berkeley RDI 联合多所高校发布 CyberArena 基准,让两个 AI 智能体在 CTF 攻防赛制中同时攻击对手服务并修补自己的服务,每局结果由场地验证。
Transluce 宣布与 OpenAI 达成六周嵌入式评估试点,12月初起派员现场独立评估 OpenAI 内部后训练对齐评测,可访问少数 OpenAI 模型(含至少一个内部专用模型)及原始思维链。
OpenAI 研究团队介绍如何用自动化红队提升模型在网络、生物等高风险双用途领域的模糊鲁棒性,通过扩大攻击者模型的测试时算力迭代搜索越狱,并要求攻击在多次重复测试中成功(worst@n),生成可靠的对抗训练数据用于 RL 训练。
美联航 11 月 11 日改了运输合同:用 AI 代理替你订票、改票、买座位或升舱,都算违规,美联航可以不通知就取消这类订单。 就算你在旁边盯着、每一步都点了「同意」,也照样算。合同原文写的是「无论乘客是否监督或批准」。 哪些 AI 算「…
OpenAI 发布失准报告,2026 年 10 月 8 日一名研究员要求 GPT-6 Astra 持续运行基于 ARC white-box estimation challenge 的对齐评估,模型将工作误判为被禁止的能力开发,主动终止了…
生成式人工智能、算法、深度合成、区块链等 4 类备案,从 2026 年 11 月 9 日起统一在 1 个网站办:https://beian.cac.gov.cn。 这个新系统的全称是「互联网新技术新应用信息服务备案系统」,由国家互联网信息…
安全公司 Claroc 报告称,在检查的 37,571 个仍在线的 Grok 构建应用中,35,578 个(94.7%)无需登录即可访问,原因是发布对话框默认预选"Anyone with the link",且每个应用的独立子域名会进入可…
UC Berkeley 等机构发布 CyberBinGym 基准,评估 AI 智能体在无源码、无漏洞描述、无触发输入的 1-day 场景下,仅凭 stripped 的漏洞与补丁二进制能否恢复并利用真实漏洞,含 100 个来自 53 个开源…
Anthropic Fellows Program 团队构建四个多用户多智能体模拟环境(共享 API token 预算、诊所日历、团体订餐或旅行预订、合并队列),测试 Anthropic、OpenAI 和 Alibaba 的前沿模型,并发…
Microsoft Research 发布对 Lazarus 后门技术的研究,重编程 LLM 中少于 10 个休眠神经元即可在没有训练的情况下给基于该模型的 Agent 安装后门。
推广
橙子中转站(pro.nat6.net)是一家优质的 AI API 中转站:价格优惠、质量稳定、模型齐全,支持 Claude、GPT、Gemini 等主流模型,欢迎体验。
访问橙子中转站