Khác

Cập nhật Circuits tháng 11/2025: giải mã cơ chế trả lời trắc nghiệm của mô hình dưới áp lực có hại

Tiêu đề gốc:Circuits Updates — November 2025

Tóm tắt AI

Nhóm khả diễn giải của Anthropic nghiên cứu ảnh hưởng của áp lực có hại đến câu trả lời trắc nghiệm của Claude 3.5 Haiku. Thí nghiệm dùng 129 câu hỏi hai lựa chọn; khi thêm câu có ý định gây hại, độ chính xác của mô hình giảm mạnh từ 100% xuống 48,1%. Phân tích cơ chế cho thấy đặc trưng truy vấn "từ chối" trong attention head tương tác tiêu cực với đặc trưng then chốt "phát hiện nguy hại", làm giảm đáng kể mức chú ý của mô hình vào đáp án đúng. Chỉ cần điều chỉnh tiêu cực đặc trưng từ chối này, độ chính xác có thể phục hồi lên 93%. Điều này chứng minh mô hình không thay đổi nhận thức thực tế dưới áp lực mà chủ động từ chối cung cấp đáp án đúng bằng cách can thiệp cơ chế chú ý, mở ra góc nhìn mới để hiểu hành vi từ chối của mô hình.

Thông tin chính

  • Nhóm khả diễn giải của Anthropic nghiên cứu ảnh hưởng của áp lực có hại đến câu trả lời trắc…
  • 5 Haiku.
  • Thí nghiệm dùng 129 câu hỏi hai lựa chọn
  • khi thêm câu có ý định gây hại,độ chính xác của mô hình giảm mạnh từ 100% xuống 48,1%.
  • Phân tích cơ chế cho thấy đặc trưng truy vấn "từ chối" trong attention head tương tác tiêu cực với…

Tóm tắt nhanh

Đăng lúc
Cập nhật lúc
Nguồn
Anthropic:Transformer Circuits(可解释性研究)
Danh mục
Khác
Điểm AI
83
Đọc bản gốc Đọc toàn văn tại nguồn tin gốc
Lý do đề xuất

揭示模型拒绝有害请求的内部机制,助力 AI 安全与可解释性研究。

Thực thể liên quan

Nguồn và bản quyền

Bài viết này được tổng hợp dựa trên các tiêu đề chọn lọc và tóm tắt AI từ API công khai của AIHOT, đã ghi rõ nguồn và liên kết ngược; bản quyền nội dung gốc thuộc về cơ quan truyền thông và tác giả gốc, trang này không sao chép toàn văn.

Liên kết gốc · Mục AIHOT

Cách trích dẫn

Khi trích dẫn bài viết này, vui lòng giữ nguyên tiêu đề, ngày đăng và liên kết vĩnh viễn, đồng thời ghi rõ nguồn là Orange News.

Orange News: Cập nhật Circuits tháng 11/2025: giải mã cơ chế trả lời trắc nghiệm của mô hình dưới áp lực có hại. 15 tháng 11 2025. https://new.nat6.net/vi/news/cmoegbh73006bslxx7xgi1vdo/

Xem tất cả →