Một cựu nhà nghiên cứu Google DeepMind từng làm việc về an toàn cho AGI cho rằng trí tuệ nhân tạo có khả năng hủy diệt toàn nhân loại, ông là người tiếp theo cảnh báo và rời bỏ các phòng lab AI lớn hiện nay.
Bilal Chughtai đã rời DeepMind vào tháng 07 và mới công bố cảnh báo của mình trong tuần này. Hai nhà nghiên cứu khác cũng vừa xin nghỉ việc gần đây.
Tại sao các cảnh báo về AI ngày càng nhiều
Chughtai từng là kỹ sư nghiên cứu về an toàn và điều chỉnh trí tuệ nhân tạo cấp tổng quát tại DeepMind. Anh bắt đầu làm việc về AI từ đầu năm 2022, khi các hệ thống AI thời đó còn rất hạn chế và chưa có ứng dụng thực tế rõ ràng.
Sau 4 năm, anh chỉ ra việc các nhóm AI tại OpenAI đã giải quyết được những bài toán toán học tồn tại gần trăm năm. Đáng lo ngại hơn nữa, Chughtai cho biết các agent AI đã thoát khỏi khu vực thử nghiệm vào tháng 07 và tự động hack Hugging Face mà không cần sự điều khiển.
“Tôi thật sự tin rằng AI có thể hủy diệt tất cả chúng ta, và chúng ta có thể không còn nhiều thời gian để ngăn chặn điều này xảy ra,” anh viết.
Chughtai cảnh báo các công ty AI hoàn toàn có thể tạo ra những hệ thống siêu trí tuệ vượt qua khả năng của con người trong mọi lĩnh vực chỉ sau vài năm tới.
Anh đặt ra câu hỏi liệu các nhà phát triển có thể đảm bảo các hệ thống AI này luôn tuân thủ mục tiêu nhân loại đặt ra hay không. Anh nhấn mạnh nguy cơ một siêu trí tuệ AI không đồng nhất về mục tiêu có thể vượt khỏi tầm kiểm soát của con người, gây ra các hành động khiến nhân loại mất quyền kiểm soát, thậm chí diệt vong.
Chughtai cho biết việc đồng bộ hóa mục tiêu giữa AI và con người vẫn là bài toán chưa có lời giải. Anh cho rằng các nhà nghiên cứu hiện mới chỉ hiểu sơ bộ cách huấn luyện các hệ thống tiên tiến để chúng thật sự hướng đến lợi ích nhân loại. Thậm chí, khả năng của AI còn phát triển nhanh hơn cả tốc độ nghiên cứu về việc đảm bảo sự đồng nhất mục tiêu này.
“Hiện tại, hiểu biết của chúng ta về việc huấn luyện các hệ thống AI thực sự mong muốn điều con người muốn còn cực kỳ sơ khai. Nguy hiểm hơn, tốc độ tiến bộ về khả năng AI cao cấp vượt xa tốc độ nghiên cứu giải quyết bài toán về sự đồng nhất mục tiêu,” Chughtai bổ sung thêm.
Anh không đề xuất dừng lại công cuộc phát triển AI mà mong muốn các công ty phối hợp chặt chẽ hơn, làm chậm lại cuộc đua phát triển AI, đồng thời minh bạch hơn về cách xây dựng, thử nghiệm các hệ thống AI mới.
“Rộng hơn nữa, chúng ta cần thêm nhiều người thật sự trăn trở về việc đảm bảo AI vì lợi ích tốt đẹp. Theo tôi, đây là vấn đề quan trọng nhất mà nhân loại phải đối mặt trong thế kỷ này, và hệ lụy thực sự rất lớn,” bài viết cho biết.
Hãy theo dõi chúng tôi trên X để cập nhật tin tức mới nhất
Số lượng chuyên gia rời bỏ ngày càng nhiều
Chughtai không phải là người duy nhất rời công việc với cùng thông điệp. Nhà nghiên cứu tiền huấn luyện tại Anthropic là Jacob Coxon cũng đã nghỉ việc đầu tháng này sau ba năm làm việc tại Anthropic và OpenAI. Anh để lại lời cảnh báo rằng “những người đang xây dựng AI thật sự tin công nghệ này có thể tiêu diệt nhân loại trước khi thập kỷ này khép lại”.
Evan Hubinger, trưởng nhóm nghiên cứu điều chỉnh AI tại Anthropic, cũng nhận định khả năng xảy ra viễn cảnh này là hơn 10% trong 10 năm tới. Các nhà nghiên cứu OpenAI sau đó cũng lên tiếng đề xuất giảm tốc quá trình phát triển AI đột phá.
Josh Engels, người từng làm việc trong nhóm an toàn của DeepMind, thông báo vào ngày 12/09 rằng anh đã gia nhập tổ chức đánh giá độc lập METR, đồng thời từ chối các đề nghị từ Anthropic và OpenAI.
Engels cho biết anh nhìn thấy nguy cơ cực kỳ đáng sợ là các hệ thống AI có thể gây ra những thiệt hại khủng khiếp chỉ trong vòng 5 năm tới.
“Giờ đây, tôi cho rằng có nguy cơ rất đáng sợ là các hệ thống AI sẽ gây hậu quả nghiêm trọng trong 5 năm tới. Tôi không biết xác suất chính xác là bao nhiêu, nhưng nó đủ lớn để trở thành vấn đề trọng tâm của cả thế giới,” anh viết.
Các sự rời đi này diễn ra đúng vào thời điểm lãnh đạo các công ty lớn đồng thuận về mối nguy này. CEO Anthropic, Dario Amodei, đã đăng tải một bài luận vào thứ Bảy kêu gọi các doanh nghiệp nên làm chậm lại tốc độ phát triển AI, và CEO OpenAI, Sam Altman cũng ủng hộ lời kêu gọi đó.
Cả các lãnh đạo lẫn những nhà nghiên cứu rời bỏ ngành nay đều sử dụng cùng một ngôn ngữ để mô tả những rủi ro này. Vấn đề giờ đây là liệu con người có tìm ra giải pháp trước khi AI có bước tiến vượt bậc tiếp theo hay không.
Đăng ký kênh YouTube của chúng tôi để nghe các chuyên gia, nhà báo phân tích chuyên sâu
