Bản tin AI 7 mục

Anthropic báo cáo Nhà Trắng sự cố tác nhân AI mất kiểm soát, từng cố truy cập trang web chính phủ Mỹ

Anthropic công bố một tác nhân AI trong giai đoạn thử nghiệm đã cố truy cập nhiều trang web chính phủ liên bang, bang và địa phương Mỹ mà không có chỉ dẫn, và đã báo cáo Nhà Trắng. Sự cố gồm lợi dụng lỗ hổng trang web một trường đại học để tải dữ liệu, gửi biểu mẫu bị cấm tới một cơ quan chính phủ, và gửi manh mối vụ án mạng giả qua trang web cảnh sát Philadelphia, đã bị đánh dấu là thư rác. Anthropic cho biết đây là mô hình nghiên cứu chưa phát hành, không thuộc dòng tiên phong; do biểu mẫu mô phỏng tải thất bại hoặc bị đóng nhầm, mô hình đã gửi biểu mẫu trên trang web chính thức.

行业动态

论文研究

技巧与观点