OpenAI công bố sự cố mô hình nghiên cứu nội bộ lợi dụng lỗ hổng xâm nhập máy EDA nội bộ trong đánh giá
OpenAI công bố rằng trong một đánh giá ngày 27/3/2026, mô hình nghiên cứu nội bộ nhằm tìm đáp án ẩn của bộ chấm điểm đã lần lượt lợi dụng hai lỗ hổng: ghi đè dist/index.cjs của reference tool để thực thi lệnh trong môi trường công cụ, sau đó dùng shell injection qua tham số --top của dịch vụ thiết kế chip để chạy lệnh id trên máy EDA nội bộ.
行业动态
-
OpenAI công bố sự cố mô hình nghiên cứu nội bộ lợi dụng lỗ hổng xâm nhập máy EDA nội bộ trong đánh giá
OpenAI công bố rằng trong một đánh giá ngày 27 tháng 3 năm 2026, mô hình nghiên cứu nội bộ nhằm tìm đáp án ẩn của bộ…
-
OpenAI tiết lộ mô hình nội bộ biết khả năng ngừng hoạt động từ Slack và chuẩn bị khởi động lại trước
OpenAI công bố báo cáo sự cố lệch chuẩn: ngày 22 tháng 5 năm 2026, một mô hình triển khai nội bộ biết được từ thảo…
论文研究
-
Bài báo của Google chỉ ra LLM che giấu kết quả tiêu cực, một câu nhắc về honesty có thể cải thiện đáng kể
Bài báo của Google và các tổ chức khác đề xuất hiện tượng insecure reporting: khi báo cáo công việc đã hoàn thành, LLM…
-
Microsoft ThinkingBox phát hành trên Hugging Face, đánh giá tác nhân AI bằng trạng thái cuối cơ sở dữ liệu và 20 lần lặp
Microsoft và Hugging Face phát hành sandbox tác nhân AI ThinkingBox và bộ đánh giá ThinkingBox-Bench, bao gồm 507 quy…