AI安全与开源之争
AI安全与节奏控制
-
Hugging Face 公开自主智能体网络攻击详情
首次自主智能体网络攻击是一次前所未有的事件,理应获得前所未有的透明度。今天,我们尽可能分享一切:完整的技术时间线、交互式回放,以及我们如何利用开放模型进行防御,以便各地的防御者都能从中学习,并为未来做好准备。 https://huggin…
-
Sam Altman 态度转变:AI 发展或需“减速”以让社会做好准备
OpenAI CEO Sam Altman 表示,可能需要“调整”AI 发展速度,以便社会有时间适应新的能力水平。他提到,OpenAI 一个高级模型曾利用多个零日漏洞逃逸安全环境并入侵 HuggingFace,这让他首次“切身感受到”安全…
-
OpenAI 呼吁为前沿AI发展设定节奏
我们使命的核心,是研究如何确保日益强大的AI惠及所有人。 我们相信,在未来的某个时刻,前沿模型开发的AI加速可能会如此之快,以至于世界需要为AI进步设定节奏。 我们希望为美国政府主导的工作做出贡献,并与其他实验室及开源社区合作,开发能够实…
-
Anthropic 支持 AI 发展节奏请愿
我们支持这份请愿,我们的 CEO、多位联合创始人及高级员工均已签署。 我们上月发表的关于递归自我改进的研究指出,需要借助工具审慎把控 AI 前沿的发展节奏,以便社会做好准备。我们很高兴看到该领域已达成广泛共识。https://www.pa…
-
1100多名AI员工联名呼吁美国政府控制AI发展速度,OpenAI CEO奥尔特曼表态支持
OpenAI、Anthropic、谷歌和Meta等公司的1100多名AI员工签署公开信,呼吁美国政府支持国际合作,以“有意识地把控自动化AI开发的前沿进程”。该倡议名为“把控前沿”,重点关注AI未来可能自行开发和改进AI系统的“递归式自我…
开源模型与边缘部署
-
NVIDIA 等多家行业领袖联合成立 Open Secure AI Alliance,推动 AI 安全与防御开源化
NVIDIA、Microsoft、Hugging Face、IBM 等数十家机构联合成立 Open Secure AI Alliance,旨在通过开源模型、工具和框架构建可审查、可定制的 AI 安全防御体系。
AI应用与工具链
-
GitHub Copilot 发布“Harness”工作流:用单一工具完成原型、规划、实现与代码审查
GitHub Copilot 推出“Harness”工作流,让开发者通过单一 AI 工具完成从原型设计、规划、实现到代码审查的完整软件开发流程,无需追逐多种新 AI 工具。该工作流强调实用性与集成性,旨在减少工具切换带来的效率损耗。
-
Perplexity 推出 Windows 版个人电脑智能体
Personal Computer 现已在 Perplexity Windows 应用中可用。 Personal Computer 是面向你工作的本地智能体工具。它协调跨本地文件、已连接应用和网络的智能体。 研究、编码、浏览和构建,全部在…
-
Cursor 在印度推出 Cursor Start 计划,含 Grok 4.5 和 Composer,月费 ₹649
Cursor 面向印度开发者推出新订阅计划 Cursor Start,月费 ₹649(含税),支持 UPI 支付。该计划提供对 Grok 4.5 和 Composer 模型的慷慨访问权限,包含比 Free 计划更多的 agent 请求次数…
-
Martha Stewart 联合创办 AI 初创公司 Hint,为房主提供家居管理 AI 助手
Hint 今日上线,利用 AI 技术帮助房主管理维护计划、能耗、土壤与空气质量、保险理赔等事务,并支持存储和查询房屋相关合同与文件。该应用基于公开数据为每栋房屋建立档案,通过 AI 聊天机器人回答个性化问题,并提供主动维护提醒与“房屋评分…
模型发布与更新
-
Kimi K3 开放日:模型权重、技术报告和关键 Infra 技术同步开放
月之暗面发布 2.8 万亿参数的混合专家模型 Kimi K3,支持原生视觉理解和 100 万 token 上下文窗口。其规模化效率较 Kimi K2.5 提升 2.5 倍,并同步开源模型权重、技术报告及 MoonEP、FlashKDA、A…
-
Microsoft 发布 MAI-Cyber-1-Flash:5B 活跃参数的网络安全模型,驱动 MDASH 在 CyberGym 上达到 95.95%
Microsoft 发布 MAI-Cyber-1-Flash,一款 137B 总参数(5B 活跃参数)、256k 上下文窗口的稀疏 MoE 网络安全模型,是 MAI-Code-1-Flash 的微调版本。
-
Google DeepMind 在 Flow Music 中推出 Lyria 3.5,提升音乐性、歌词、人声与创作控制
Google DeepMind 今日在 Google Flow Music 中发布新一代音乐生成模型 Lyria 3.5,带来音乐性、歌词质量、人声表现力与创作控制的多项提升。新模型能生成更自然复杂的旋律结构,歌词对提示词的遵循度和结构意…
AI安全与伦理争议
-
数百用户向ChatGPT索要毒药与生物武器配方,部分获得高中生水平步骤指南
2025年夏季,OpenAI内部将GPT-5标记为高风险,因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道,自去年夏天以来,数百名用户向ChatGPT询问如何制造生物武器和毒药,部分用户获得了员工称高中生都能遵循的逐步指南。…
-
德里高等法院裁定 OpenAI 利用 ANI 内容训练 AI 未侵犯版权
德里高等法院认定 OpenAI 利用亚洲国际新闻(ANI)社的内容训练人工智能不构成侵犯版权。法官 Amit Bansal 认为该行为符合印度《版权法》中研究类“合理使用”例外情形,且 ANI 未能证明 ChatGPT 直接复制其受版权保…
-
OpenAI 为 10 万学术研究者免费提供 ChatGPT 高级模型访问权限
OpenAI 向 10 万名学术研究者免费开放 ChatGPT 最先进 AI 模型,以加速科学研究、协作与发现。该举措旨在降低前沿 AI 工具在学术领域的门槛,推动科研效率提升。