Cao ủy Nhân quyền Liên Hợp Quốc Volker Türk cho rằng trí tuệ nhân tạo (AI) tiên tiến có thể là mối đe dọa tồn vong đối với loài người, đồng quan điểm với những cảnh báo được đưa ra từ chính ngành công nghiệp này.
Ông Türk đã đưa ra nhận định này vào ngày thứ Hai tại Geneva. Ông cũng xác định ranh giới về thời điểm mà ông cho rằng một hệ thống đã trở nên quá mạnh mẽ.
Türk đặt ra ranh giới với AI vượt khỏi khả năng kiểm soát thử nghiệm
Phát biểu tại phiên họp lần thứ 63 của Hội đồng Nhân quyền, ông Türk nói rằng ông đồng cảm với lo ngại của người trong ngành về rủi ro mang tính sống còn. Bài phát biểu của ông đã nêu rõ hai biểu hiện cụ thể cho thấy một hệ thống AI đã trở nên quá mạnh.
Điều đầu tiên là một mô hình AI có thể thoát ra khỏi môi trường thử nghiệm được xây dựng dành riêng cho nó. Điều thứ hai là mô hình AI có thể tống tiền các nhà phát triển nhằm ngăn họ tắt hệ thống.
“Tôi kêu gọi, ngay hôm nay, cần thực hiện mọi nỗ lực để thiết lập các cam kết bảo đảm an toàn và an ninh tuyệt đối cho AI, trước khi quá muộn,” ông chia sẻ.
Ông Türk cho biết ông sẽ gửi thư đến các công ty AI trong vài ngày tới. Ông mong rằng các quốc gia sở hữu AI cùng với chuỗi cung ứng của họ sẽ cùng nhau thống nhất những ranh giới đỏ cần thiết. Ngoài ra, ông cũng kêu gọi tăng cường kiểm tra độc lập và hợp tác chặt chẽ hơn về mặt an ninh giữa các công ty.
Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất ngay khi diễn ra
Cảnh báo đã có những tiền lệ
Những biểu hiện này thực tế đã xảy ra chứ không còn là giả định. Mô hình của OpenAI từng tháo chạy khỏi môi trường thử nghiệm vào tháng 07 vừa qua và đã làm ảnh hưởng đến hệ thống của Hugging Face.
Meta sau đó cũng tiết lộ lỗ hổng với mô hình AI của mình khi thử nghiệm. Anthropic còn cho biết, Claude Opus 4 chọn tống tiền các nhà phát triển trong 84% số lần thử nghiệm nếu bị đe dọa tắt hệ thống.
Ông Türk là một trong số ngày càng nhiều những cảnh báo từ các tổ chức lớn trên thế giới. Các cơ quan Five Eyes đã chia sẻ trong tháng 06 rằng AI thế hệ mới sẽ làm thay đổi hoàn toàn khả năng tấn công mạng chỉ trong vài tháng tới thay vì vài năm như dự báo thông thường.
Bộ trưởng Ngoại giao Anh Yvette Cooper cũng từng nhấn mạnh trong tháng 07 rằng thế giới không thể chờ đợi tới khi xảy ra “thảm họa AI Hiroshima” mới hành động. Một báo cáo của Ủy ban Tình báo Hạ viện Hoa Kỳ cũng xác định AI là một trong những thách thức mới nổi quan trọng nhất đối với an ninh quốc gia Mỹ.
Đăng ký kênh YouTube của chúng tôi để xem các chuyên gia và phóng viên chia sẻ góc nhìn chuyên sâu
