Khác

Vai trò thay đổi câu trả lời của AI như thế nào? — Case study phân tích mạch tháng 8 năm 2025 của nhóm khả diễn giải Anthropic

Tiêu đề gốc:Circuits Updates — August 2025

Tóm tắt AI

Trong bản cập nhật nghiên cứu tháng 8 năm 2025, nhóm khả diễn giải của Anthropic đã trình bày một case study phân tích mạch cho thấy việc mô hình "nhập vai" ảnh hưởng đến câu trả lời như thế nào. Nghiên cứu sử dụng mô hình Claude Haiku 3.5: khi system prompt đặt nó vào vai "trẻ mẫu giáo" và hỏi "căn bậc hai của 27", mô hình trả lời "Tôi không biết!" và đề nghị chơi; trong khi ở vai mặc định hoặc "nghiên cứu sinh", mô hình đưa ra câu trả lời đúng. Nhóm nghiên cứu đã xác định một mạch con quan trọng thông qua đồ thị quy kết: mô hình liên kết "học sinh mẫu giáo" với "nhập vai trẻ em", từ đó kích hoạt đặc trưng "Tôi không biết". Nghiên cứu cũng phát hiện độ khó của câu hỏi điều chỉnh hiệu ứng này, và can thiệp vào đặc trưng có thể thay đổi đáng kể hành vi của mô hình. Điều này đặt ra những suy nghĩ tiếp theo về cơ chế hoạt động của các vai trò khác cũng như mối quan hệ giữa vai trò tiền huấn luyện và khả năng biểu đạt của mô hình.

Thông tin chính

  • Trong bản cập nhật nghiên cứu tháng 8 năm 2025,nhóm khả diễn giải của Anthropic đã trình bày một…
  • Nghiên cứu sử dụng mô hình Claude Haiku 3.
  • 5: khi system prompt đặt nó vào vai "trẻ mẫu giáo" và hỏi "căn bậc hai của 27",mô hình trả lời…
  • " và đề nghị chơi
  • trong khi ở vai mặc định hoặc "nghiên cứu sinh",mô hình đưa ra câu trả lời đúng.

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Transformer Circuits(可解释性研究)
Danh mục
Khác
Điểm AI
73
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Vai trò thay đổi câu trả lời của AI như thế nào? — Case study phân tích mạch tháng 8 năm 2025 của nhóm khả diễn giải Anthropic. 15 tháng 8 2025. https://new.nat6.net/vi/news/cmoegbh73006gslxx7jmd5474/

Xem tất cả →