OpenAI 与 DeepMind 合作研究从人类偏好中学习
OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数,避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为,是构建安全 AI 系统的一步。
AI 新闻月度归档:2017年6月 共精选 1 条 AI 新闻,含模型发布、产品更新、行业动态、论文研究、教程与观点,每条附 AI 摘要、来源署名与原文链接,可按页浏览。也可通过主题页继续深入。
OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数,避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为,是构建安全 AI 系统的一步。
推广
橙子中转站(pro.nat6.net)是一家优质的 AI API 中转站:价格优惠、质量稳定、模型齐全,支持 Claude、GPT、Gemini 等主流模型,欢迎体验。
访问橙子中转站