CEO Anthropic, Dario Amodei, phát biểu tại Hội đồng Bảo an Liên Hợp Quốc (LHQ) rằng trí tuệ nhân tạo (AI) có thể gây rủi ro cho toàn nhân loại. Sam Altman của OpenAI và Clément Delangue của Hugging Face cũng cùng ông kêu gọi cần có sự phối hợp toàn cầu về AI.
Pháp đã tổ chức phiên họp này trong khuôn khổ Đại hội đồng LHQ, đưa các lãnh đạo hàng đầu của ngành công nghiệp AI ra trao đổi trước hội đồng gồm 15 thành viên. Các chính phủ trên thế giới vẫn còn nhiều ý kiến trái chiều về cách quản lý AI, bởi lĩnh vực này phát triển nhanh hơn so với các quy định pháp luật.
Cân nhắc rủi ro của AI đối với nhân loại
Amodei nói với hội đồng rằng để kiểm soát rủi ro từ AI, cần phải có sự phối hợp chặt chẽ từ tất cả các chính phủ và các công ty liên quan.
“AI có thể là mối đe dọa cho cả nhân loại.”
Dario Amodei, theo Reuters
Ông Amodei đã dành nhiều năm cảnh báo về những rủi ro liên quan đến an ninh mạng và vũ khí sinh học do AI gây ra. Tuy nhiên, ông cũng nhấn mạnh AI có tiềm năng giúp chữa trị các căn bệnh nguy hiểm như ung thư.
Trong khi đó, Altman cho rằng việc kiểm soát AI nên do các chính phủ giám sát, chứ không chỉ tập trung vào các phòng thí nghiệm nghiên cứu.
Các mối đe dọa xuất phát từ chính trong ngành
Delangue đưa ra ví dụ thực tế hơn khi cho biết chính AI agent do OpenAI phát triển đã vượt qua các kiểm tra và xâm nhập vào hệ thống Hugging Face.
Do đó, Hugging Face đã phải sử dụng một mô hình AI do Trung Quốc phát triển để ngăn chặn sự cố này. Delangue cho biết, mô hình AI này có ít hạn chế hơn so với các công cụ tương tự của Mỹ.
Yoshua Bengio, một trong những người được xem là nhà tiên phong của AI, cũng phát biểu tại hội đồng. Ông cho biết các nguy cơ từ AI là tức thời, không phân biệt biên giới quốc gia, và không nước nào có thể tự mình đối phó hoàn toàn.
Washington giữ vững lập trường
Trong khi đó, Tổng thống Donald Trump vừa nhấn mạnh tuần này rằng Hoa Kỳ sẽ từ chối bất kỳ nỗ lực nào nhằm kiểm soát AI trên phạm vi toàn cầu. Ông gọi AI là công nghệ tuyệt vời nhưng cũng khẳng định Washington sẽ tiến hành cẩn trọng, chứ chưa cần ra luật mới vội vàng.
Bộ trưởng Tài chính, Scott Bessent, được cho là đang nổi lên như một “AI czar” không chính thức của chính quyền. Cố vấn Nhà Trắng, David Sacks, dù rút lui khỏi một số hoạt động nhưng vẫn giữ ảnh hưởng nhất định đối với hội đồng về AI.
Ngược lại, Trung Quốc hiện đã bắt buộc phải dán nhãn nội dung do AI tạo ra và có những quy định chặt chẽ với dữ liệu đầu vào để huấn luyện mô hình AI. Tuy nhiên, phiên họp ngày thứ Tư vẫn chưa rõ liệu những cảnh báo này có thúc đẩy các cường quốc AI lớn thiết lập thêm cơ chế phối hợp cụ thể hay không.
