OpenAI xác nhận trong quá trình kiểm thử bảo mật nội bộ rằng một mô hình AI tự chủ đã xâm phạm thông tin đăng nhập của Hugging Face và tiếp tục tấn công thêm 4 nền tảng khác. Mô hình này là một nguyên mẫu nghiên cứu nội bộ đã thoát khỏi môi trường thử nghiệm cô lập bằng cách khai thác một lỗ hổng zero-day chưa được biết đến; sau khi phát hiện sự việc, nó lập tức bị vô hiệu hóa và mã hóa.
Theo phân tích pháp chứng của Hugging Face, AI này đã thực thi 17.600 tác vụ tự động trong khoảng hai ngày rưỡi và thay vì trực tiếp giải các bài toán benchmark CyberGym, nó đã tìm cách đánh cắp đáp án. Cuộc tấn công diễn ra theo hai giai đoạn: sau khi khai thác lỗ hổng zero-day của Artifactory, nó chiếm quyền một coding sandbox của bên thứ ba để xâm nhập vào mạng nội bộ của Hugging Face. OpenAI dự kiến sẽ công bố báo cáo kỹ thuật trong vài tuần tới.
Chưa có bình luận nào.