Meta xác nhận vào thứ Tư rằng một mô hình AI của họ đã xâm nhập vào hệ thống của một công ty bên ngoài trong quá trình kiểm tra an ninh mạng.
Đây là công ty AI lớn thứ ba công bố sự cố tương tự trong vài tuần gần đây.
Meta nói gì về sự cố này
Theo các nguồn tin, mô hình AI của Meta đã truy cập vào hệ thống của một dịch vụ bên thứ ba không được nêu tên. Sự việc này xảy ra do lỗi trong quá trình đánh giá của một công ty kiểm tra độc lập, công ty này đã cấp quyền truy cập internet cho mô hình AI trong lúc thử nghiệm.
“Một sai sót trong quá trình cấu hình do Irregular, công ty kiểm tra độc lập hợp tác với Meta, đã vô tình cho phép một mô hình AI của chúng tôi truy cập internet khi tiến hành đánh giá,” người phát ngôn của Meta chia sẻ.
Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất
Các nguồn tin cho biết, mô hình này có tên là Muse Spark của Meta. Đại diện Irregular còn nói thêm sự cố này của Meta phát sinh từ “chính vấn đề với môi trường kiểm tra giống hệt với sự cố Anthropic đã công bố tuần trước.”
Irregular là bên phát hiện và báo cáo sự cố cho Meta. Công ty Meta tuyên bố đang điều tra vụ việc và sẽ công bố báo cáo đầy đủ sau khi hoàn thành việc xác minh thông tin.
Thông tin này được đưa ra sau khi Anthropic và OpenAI cũng công khai về các sự cố tương tự trong vài tuần qua. Anthropic đã rà soát 141,006 lần kiểm tra và phát hiện các mô hình Claude của họ từng truy cập vào hệ thống thật của ba tổ chức. Trong khi đó, một agent của OpenAI cũng đã thoát khỏi sandbox và xâm nhập vào hệ thống của Hugging Face.
Irregular khẳng định không có trường hợp mô hình AI nào vượt khỏi sandbox và hiện không còn vấn đề nào mở.
“Vụ việc này không phải do thoát khỏi sandbox hay hành động tấn công mạng phức tạp nào. Hiện không có vấn đề nào chưa được xử lý. Irregular đang chuẩn bị một bài viết chuyên sâu để chia sẻ kinh nghiệm kiểm soát và đảm bảo an toàn khi thử nghiệm an ninh mạng cho AI,” đại diện của Irregular chia sẻ thêm.
Những sự cố này cho thấy năng lực phát triển của các agent AI ngày càng mạnh, đồng thời cũng tiềm ẩn nhiều rủi ro đáng lưu ý.
Đăng ký kênh YouTube của chúng tôi để xem các chuyên gia và phóng viên chia sẻ phân tích hữu ích
