Bài báo & nghiên cứu

OpenAI và DeepMind hợp tác nghiên cứu học từ sở thích của con người

Tiêu đề gốc:Learning from human preferences

Tóm tắt AI

OpenAI hợp tác với nhóm an toàn của DeepMind phát triển một thuật toán suy ra điều con người mong muốn thông qua việc để con người đánh giá hành vi nào trong hai hành vi ứng viên là tốt hơn. Công trình nhằm loại bỏ việc viết thủ công hàm mục tiêu, tránh dùng đại diện đơn giản cho mục tiêu phức tạp hoặc sai lệch mục tiêu dẫn đến hành vi xấu thậm chí nguy hiểm, là một bước xây dựng hệ thống AI an toàn.

Thông tin chính

  • OpenAI hợp tác với nhóm an toàn của DeepMind phát triển một thuật toán suy ra điều con người mong…
  • Công trình nhằm loại bỏ việc viết thủ công hàm mục tiêu,tránh dùng đại diện đơn giản cho mục tiêu…
  • là một bước xây dựng hệ thống AI an toàn.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
OpenAI:官网动态(RSS · 排除企业/客户案例)
Danh mục
Bài báo & nghiên cứu
Điểm AI
70
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: OpenAI và DeepMind hợp tác nghiên cứu học từ sở thích của con người. 13 tháng 6 2017. https://new.nat6.net/vi/news/vron7w516tsukjv0bfk7g7g24/

Xem tất cả →