Trung Quốc vừa xây dựng thành công một mô hình AI lớn mà không cần dùng chip Nvidia. Giờ đây, OpenAI cũng đã tìm ra cách giảm mạnh số chip Nvidia cần dùng, giúp chi phí suy luận giảm hơn một nửa. Dù vậy, cổ phiếu Nvidia vẫn tăng giá.
Đây chính là điều khó hiểu. OpenAI là một trong những khách hàng lớn của Nvidia (NVDA). Tuy nhiên, cổ phiếu Nvidia lại tăng giá dù OpenAI đang tìm cách giảm nhu cầu chip.
OpenAI cắt giảm chi phí suy luận bằng hai cách
Cách đầu tiên là tối ưu phần mềm. Theo The Information, kỹ sư OpenAI đã giảm được hơn một nửa chi phí suy luận nhờ các phương pháp tối ưu mới. OpenAI chưa công bố chi tiết kỹ thuật.
Việc này giúp giảm số lượng chip Nvidia cần thiết để xử lý một phần lưu lượng ChatGPT. Nhờ đó, OpenAI có thể tiếp tục giảm giá dịch vụ hoặc tăng mức giới hạn sử dụng cho người dùng.
Cách thứ hai là về phần cứng. Vào ngày 24/06/2024, OpenAI và Broadcom (AVGO) đã giới thiệu Jalapeño, chiếc chip tùy chỉnh đầu tiên. OpenAI cho biết, thử nghiệm ban đầu cho thấy hiệu năng trên mỗi watt của Jalapeño vượt trội hơn các chip hàng đầu hiện nay, mà mất chưa đến 9 tháng để phát triển.
Lô chip đầu tiên sẽ được triển khai ở quy mô hàng gigawatt vào cuối năm 2026, với Microsoft là đối tác chính. Hiện nay, phần lớn tác vụ suy luận của OpenAI vẫn dùng chip Nvidia, cho dù OpenAI đã tài trợ mạnh cho dự án chip Broadcom.
Các ông lớn công nghệ tăng tốc tự phát triển chip riêng
OpenAI không phải là đơn vị duy nhất làm vậy. Google đã phát triển riêng dòng tensor processing unit từ năm 2016, Amazon cũng theo sau với chip của mình. Dự báo của TrendForce cho thấy các hệ thống dựa trên ASIC sẽ chiếm tới 27.8% lượng máy chủ AI giao hàng trong năm 2026, mức cao nhất kể từ 2023.
Theo số liệu của TrendForce, tốc độ tăng trưởng của các chip tùy chỉnh lần đầu tiên sẽ vượt qua GPU của Nvidia. Các nhà cung cấp như Broadcom và Marvell đã trở thành đối tác sản xuất chip tùy chỉnh quan trọng trong cuộc đua này.
Ở Trung Quốc, các biện pháp trừng phạt cũng thúc đẩy xu hướng tương tự. Meituan mới đây đào tạo mô hình LongCat-2.0 với 1.6 nghìn tỷ tham số hoàn toàn bằng chip nội địa, không sử dụng bất kỳ phần cứng nào của Nvidia.
Vì sao cổ phiếu Nvidia vẫn tăng giá?
Nguy cơ là có thật, nhưng con số thực tế lại giải thích được sự bình tĩnh của thị trường. Ngày 30/06/2024, cổ phiếu Nvidia tăng gần 2%, nâng giá trị công ty lên khoảng 4.8 nghìn tỷ USD. Theo báo cáo tài chính mới nhất, doanh thu mảng trung tâm dữ liệu tăng 75% lên mức kỷ lục 62.3 tỷ USD chỉ trong một quý.
Phần lớn áp lực dồn vào mảng suy luận, không phải huấn luyện mô hình. Nvidia hiện vẫn nắm tuyệt đối mảng huấn luyện mô hình, nhờ bộ phần mềm CUDA đã gắn bó với các nhà phát triển từ 2006. Các dòng chip riêng hiếm khi đạt được sự linh hoạt như vậy.
Nvidia cũng đang bảo vệ mảng suy luận – mảng mà họ bị cho là đang đánh mất dần thế mạnh. Tại GTC, Nvidia cho biết nền tảng Rubin sắp ra mắt có thể giảm chi phí suy luận trên mỗi token tới 10 lần so với dòng Blackwell. Khi chi phí suy luận rẻ hơn, nhu cầu sử dụng và tổng số lượng tính toán thường sẽ tăng lên đáng kể.
Tuy nhiên, không phải nhà đầu tư nào cũng hoàn toàn tin tưởng. Một số nhà đầu tư đã chuyển sang các công ty chip đối thủ, đặt cược vào xu hướng suy luận đang chuyển dịch mạnh mẽ. Dù vậy, Nvidia đã đưa ra dự báo quý này mà không tính tới doanh thu từ Trung Quốc, nhưng hãng vẫn nhận thấy nhu cầu kỷ lục.
Nvidia hiện vẫn bán hết mọi chip mà họ sản xuất được. Vấn đề thật sự là liệu các khách hàng lớn có thể dừng phụ thuộc Nvidia nhanh hơn tốc độ tăng trưởng của thị trường hay không.
