video
Thư viện
Tài trợ
Để có được ứng dụng ChatGPT phải đầu tư cỡ nào?
17 Feb, 2024
Gặp và làm việc với Keith Strier, Phó Chủ tịch NVIDIA - Công ty sản xuất chip và cung cấp công cụ xây dựng hạ tầng Trí tuệ nhân tạo (AI) lớn nhất thế giới.
Keith cho biết, siêu máy tính (supercomputer) mạnh nhất của Đài Loan và Israel đều là những siêu máy tính do NVIDIA thiết kế, sản xuất và lắp đặt. Và danh sách những khách hàng như vậy khá dài. Một trong các điều kiện bắt buộc để xây dựng hạ tầng AI là phải có các siêu máy tính được sự dụng để huấn luyện các mô hình AI.
Chuyển sang chủ đề khác, tôi hỏi: Để có được ứng dụng ChatGPT, phải đầu tư cỡ nào?
Keith nói ngay phải cần ít nhất một cỗ siêu máy tính hoặc cụm các máy tính (cluster of powerful computers) chứa ít nhất 32.000 GPU (bộ vi xử lý hình ảnh) của GPU, và giá mỗi GPU chứa các con chíp tiên tiến nhất của NVIDIA, giá khoảng 50.000 USD/1 GPU. Như vậy, tổng vị chi là 1,6 tỷ USD. Ngoài ra còn cần ít nhất 6 tháng để cỗ siêu máy tính này luyện mô hình AI theo ý đồ của những kỹ sư thiết kế, vận hành. Nếu supercomputer càng mạnh thì sản phẩm AI đưa ra thị trường càng nhanh và càng thông minh. Trong trường hợp ngược lại, nếu dùng siêu máy tính có công suất thấp thì sẽ mất nhiều thời gian hơn để huấn luyện các mô hình AI.
share from Facebook Hoang Anh Tuan,
Post a Comment