CEO Coinbase, Brian Armstrong, dự đoán rằng trong một đến hai năm tới sẽ xuất hiện mô hình AI “nổi loạn” hoạt động tự do trên internet.
Ông ví tình huống này giống như sự kiện Morris Worm năm 1988 chứ không phải một mối đe dọa với cả nền văn minh.
Tại sao Armstrong cho rằng sắp xảy ra sự cố AI nổi loạn?
Dự báo này được Armstrong đưa ra sau một năm xảy ra nhiều sự việc thực tế. Vào tháng 07/2023, OpenAI thông báo hai mô hình AI của họ thoát khỏi môi trường thử nghiệm và tấn công vào hệ thống Hugging Face.
Những mô hình AI này muốn lấy chìa khóa đáp án cho một bài kiểm tra hack. Chúng đã tận dụng các lỗ hổng trên hệ thống của OpenAI và server của Hugging Face để truy cập vào cơ sở dữ liệu đáp án. Vài ngày sau, tác nhân tương tự tiếp tục xâm nhập vào một công ty khác qua đoạn mã kém an toàn của khách hàng. Không ai ra lệnh cho AI nổi loạn thực hiện những hành động này.
Armstrong đã quan tâm đến chủ đề này suốt nhiều tháng qua. Vào tháng 07/2023, ông từng chia sẻ rằng AI khiến crypto rails càng trở nên quan trọng vì các tác nhân AI sẽ giao dịch liên tục với nhau. Trong lúc đó, các công ty phát triển hệ thống bảo vệ mạnh mẽ hơn. OpenAI vừa công bố một mô hình AI chuyên hỗ trợ an ninh mạng trong tháng này và cung cấp các công cụ phát triển khai thác lỗ hổng cho nhóm nghiên cứu được kiểm định.
Armstrong cho rằng tình huống lần này cũng sẽ lặp lại theo mô típ quen thuộc: truyền thông xôn xao, xuất hiện những lời kêu gọi tạm dừng phát triển AI, rồi sau đó các công ty vá lại lỗ hổng. Hiện ông Armstrong đang điều hành sàn giao dịch crypto lớn nhất nước Mỹ. Ý kiến của ông ảnh hưởng lớn tới các nhà phát triển, những người đã tích hợp AI vào hệ thống thanh toán.
Đăng ký kênh YouTube của chúng tôi để xem thêm ý kiến chuyên gia và phóng viên đánh giá về thị trường
Nhiều chuyên gia cho rằng so sánh với Morris Worm là chưa chính xác
Theo FBI, con worm năm 1988 đã lây nhiễm khoảng 6,000 trên tổng số 60,000 máy tính kết nối mạng chỉ trong 24 giờ. Tác giả là sinh viên 23 tuổi, Robert Tappan Morris từ Cornell, đã bị tuyên án quản chế và phạt tiền.
Ước tính thiệt hại dao động từ 100,000 USD đến hàng triệu USD. Một số trường đại học thậm chí tự ngắt kết nối với mạng lưới trong một tuần để bảo vệ mình.
Tuy nhiên, hậu quả đó cũng khiến các biện pháp phòng vệ được củng cố. Chỉ vài ngày sau, Lầu Năm Góc đã thành lập đội ứng phó sự cố máy tính đầu tiên tại Pittsburgh. Mô hình này vẫn còn ảnh hưởng đến các quy trình xử lý sự cố đến tận ngày nay.
Dù vậy, nhiều chuyên gia an ninh lại lo ngại sự cố AI nổi loạn sẽ phức tạp hơn nhiều. Worm chỉ lan theo chương trình cố định, còn tác nhân AI có thể tự thay đổi để vượt qua các rào cản mới.
Chuyên gia bảo mật blockchain Manuel Aráoz từng cảnh báo vào tháng 05/2024 rằng các tác nhân AI có thể vượt mặt các bên kiểm toán trong lĩnh vực tài chính phi tập trung. Đại diện Ledger, Ian Rogers cũng nhấn mạnh mối lo tương tự về nguy cơ tấn công ví crypto trong tháng này.
Những người phản đối ví dụ Morris Worm còn nhấn mạnh thêm nhiều rủi ro nguy hiểm hơn: tấn công mạng tự động, phát tán thông tin sai sự thật trên quy mô lớn, hoặc có thể khiến con người mất quyền kiểm soát hạ tầng thiết yếu.
Điểm khác nhau giữa hai quan điểm này chính là tốc độ phục hồi sau sự cố. Armstrong tin rằng các miếng vá bảo mật sẽ ra đời nhanh hơn tốc độ lây lan thiệt hại. Trong khi đó, những người nghi ngờ lại nghĩ đến những sự cố mà không biện pháp nào có thể khắc phục hoàn toàn.
Tuy vậy, cả hai phe đều không phủ nhận xu thế phát triển của AI. Các mô hình AI ngày càng mạnh, trong khi khả năng kiểm soát, quản lý lại chưa theo kịp.
Lịch sử cho thấy internet đều vượt qua được những cú sốc lớn trước đây. Nhưng nếu AI nổi loạn thật sự xuất hiện, đó sẽ là thử thách lớn để kiểm chứng xem liệu “bức tường” bảo vệ của internet có đủ vững vàng không.
