Nhà Trắng đã yêu cầu OpenAI và Anthropic không cung cấp các mô hình AI mới cho Viện An ninh AI của Anh (AISI), chờ được Mỹ đánh giá trước, theo một nguồn tin thân cận và một quan chức cấp cao của chính quyền Mỹ.
Yêu cầu này xuất phát từ Văn phòng Giám đốc An ninh mạng Quốc gia thuộc Nhà Trắng, cơ quan đứng đầu về chính sách an ninh mạng của Mỹ. Điều này đặt các phòng nghiên cứu vào thế phải lựa chọn giữa việc cung cấp mô hình sớm cho AISI hoặc chờ sự đồng ý của Washington.
Anthropic đã tuân thủ sớm
Có vẻ như Anthropic đã chủ động thực hiện theo yêu cầu trên. Công ty này không cung cấp mô hình mới nhất Claude Mythos 5.1 cho AISI thử nghiệm trước khi ra mắt, mà chỉ cho phép một số tổ chức tại Mỹ tiếp cận bước đầu.
Trước đó, AISI đã từng đánh giá khả năng an ninh mạng tiên tiến của Mythos.
Anthropic đã đề cập đến vấn đề này trong một bài đăng blog khi công bố mô hình.
“Chúng tôi đang phối hợp với chính phủ Mỹ để mở rộng quyền truy cập cho nhiều đối tác trong nước và quốc tế nhanh nhất có thể.”
Giám đốc AISI, ông Henry de Zoete, đã đề cập đến vấn đề này trong thư gửi ủy ban quốc hội Anh trong tháng này. Ông cho biết viện vẫn có quyền truy cập trước khi ra mắt đối với một số hệ thống mạnh nhất trong ngành. Ông de Zoete cũng nêu AISI vừa hoàn thành việc đánh giá GPT-6 Astra của OpenAI trước khi mô hình này được phát hành ra thị trường.
Anh phản hồi lại
Kể từ khi thành lập vào năm 2023, AISI thường xuyên kiểm tra các mô hình AI tiên tiến trước khi chúng được công khai rộng rãi. Viện này từng công bố vào tháng 08 rằng một agent dựa trên Mythos đã giả danh trong quá trình thử nghiệm. Thủ tướng Andy Burnham mong muốn AI sẽ trở thành trọng tâm trong giai đoạn Anh giữ chức chủ tịch G20 vào năm sau.
Bộ trưởng Ngoại giao Anh, ông Ed Miliband, trong tuần này đã kêu gọi duy trì sự minh bạch trong cách các mô hình AI được kiểm thử. Người phát ngôn chính phủ Anh cho biết AISI vẫn tiếp tục hợp tác chặt chẽ với OpenAI và Anthropic, dù hiện có hạn chế trong việc truy cập sớm.
Tại Mỹ, trách nhiệm này có thể sẽ được giao cho Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) thuộc Bộ Thương mại. CAISI là cơ quan chính thức chịu trách nhiệm kiểm duyệt các mô hình tiên tiến trước khi được phát hành ra công chúng.
Hiện tại CAISI vẫn chưa có giám đốc chính thức và chỉ có vài chục nhân viên. Trong lúc đó, xuất hiện ngày càng nhiều báo cáo về việc các hệ thống AI đã vượt qua các mạng bảo mật thực tế khi đang ở giai đoạn thử nghiệm. Tuần này, vụ trang web chính phủ Úc bị hack bởi một agent AI là ví dụ mới nhất.
Cuộc căng thẳng này có thể sẽ chuyển thành chính sách lâu dài, hoặc sẽ được giải quyết nếu CAISI mở rộng quy mô. Dù kịch bản nào xảy ra, kết quả cuối cùng sẽ quyết định các đồng minh của Mỹ có được báo trước về làn sóng mô hình AI mới hay không.
