OpenAI và DeepMind hợp tác nghiên cứu học từ sở thích của con người
Tiêu đề gốc:Learning from human preferences
Tóm tắt AI
OpenAI hợp tác với nhóm an toàn của DeepMind phát triển một thuật toán suy ra điều con người mong muốn thông qua việc để con người đánh giá hành vi nào trong hai hành vi ứng viên là tốt hơn. Công trình nhằm loại bỏ việc viết thủ công hàm mục tiêu, tránh dùng đại diện đơn giản cho mục tiêu phức tạp hoặc sai lệch mục tiêu dẫn đến hành vi xấu thậm chí nguy hiểm, là một bước xây dựng hệ thống AI an toàn.
Thông tin chính
- OpenAI hợp tác với nhóm an toàn của DeepMind phát triển một thuật toán suy ra điều con người mong…
- Công trình nhằm loại bỏ việc viết thủ công hàm mục tiêu,tránh dùng đại diện đơn giản cho mục tiêu…
- là một bước xây dựng hệ thống AI an toàn.
Tóm tắt nhanh
- Đăng lúc
- Cập nhật lúc
- Danh mục
- Bài báo & nghiên cứu
- Điểm AI
- 70
原文说明该算法通过比较两种行为的优劣来推断人类偏好,从而免去人工编写目标函数,可作为对齐研究的背景参考。
Thực thể liên quan
Nguồn và bản quyền
Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.
Cách trích dẫn
Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.
Orange News: OpenAI và DeepMind hợp tác nghiên cứu học từ sở thích của con người. 13 tháng 6 2017. https://new.nat6.net/vi/news/vron7w516tsukjv0bfk7g7g24/