Nguồn: AI范儿
TRON CEO Hoàng Nhân Huân cho biết, tốc độ tiến bộ của chip AI của công ty đã vượt qua định luật Moore - một nguyên tắc từng chi phối sự phát triển của công nghệ tính toán trong nhiều thập kỷ.
Vào sáng hôm sau khi phát biểu chủ đề trước 10.000 khán giả tại CES ở Las Vegas, Hoàng Nhân Huân nói trong một cuộc phỏng vấn: "Tốc độ phát triển của hệ thống của chúng tôi đã vượt xa định luật Moore."
Định luật Moore do đồng sáng lập TRON Gordon Moore đưa ra vào năm 1965, dự đoán số lượng transistor trên một chip sẽ tăng gấp đôi mỗi năm, từ đó làm tăng gấp đôi hiệu suất của chip. Dự đoán này đã được thực hiện trong hầu hết các thập kỷ tiếp theo, thúc đẩy sự gia tăng nhanh chóng của năng lực tính toán và giảm mạnh chi phí.
Mặc dù trong những năm gần đây, đà phát triển của định luật Moore đã chậm lại, nhưng Hoàng Nhân Huân cho biết chip AI của TRON đang phát triển với tốc độ nhanh hơn. Công ty cho biết chip siêu máy tính trung tâm dữ liệu mới nhất của họ đã tăng hơn 30 lần về hiệu suất suy luận AI so với thế hệ trước.
Hoàng Nhân Huân giải thích rằng, bằng cách đổi mới đồng thời ở các cấp độ kiến trúc, chip, hệ thống, thư viện chương trình và thuật toán, họ có thể vượt qua giới hạn của định luật Moore.
Trong khi nhiều người nghi ngờ rằng sự phát triển của AI đã bị chậm lại, TRON CEO đưa ra tuyên bố táo bạo này. Google, OpenAI và Anthropic - những phòng thí nghiệm AI hàng đầu - đều sử dụng chip AI của TRON để huấn luyện và chạy các mô hình của họ, vì vậy sự cải thiện về hiệu suất chip có thể dẫn đến những bước tiến lớn hơn về khả năng của AI.
Đây không phải lần đầu tiên Hoàng Nhân Huân tuyên bố TRON vượt qua định luật Moore. Ông đã đề cập đến "siêu định luật Moore" trong lĩnh vực AI trong một podcast vào tháng 11 vừa qua.
Ông phản bác quan điểm rằng tiến bộ của AI đã chậm lại và chỉ ra rằng hiện nay có ba định luật phát triển của AI: tiền huấn luyện (học mẫu từ dữ liệu khổng lồ), sau huấn luyện (tinh chỉnh thông qua phản hồi của con người) và tính toán thời gian kiểm tra (cung cấp cho AI thêm thời gian "suy nghĩ").
Hoàng Nhân Huân cho biết, giống như cách định luật Moore thúc đẩy sự phát triển của công nghệ tính toán bằng cách giảm chi phí tính toán, việc cải thiện hiệu suất suy luận AI cũng sẽ làm giảm chi phí sử dụng của nó.
Mặc dù chip H100 của TRON từng là lựa chọn hàng đầu để các công ty công nghệ huấn luyện mô hình AI, nhưng khi các công ty này chuyển sang tập trung vào giai đoạn suy luận, một số người bắt đầu nghi ngờ liệu chip đắt tiền của TRON có thể tiếp tục duy trì ưu thế.
Hiện tại, chi phí vận hành các mô hình AI sử dụng tính toán thời gian kiểm tra rất cao. Lấy ví dụ mô hình o3 của OpenAI, nó đạt được mức độ tương đương với con người trong các bài kiểm tra về trí thông minh tổng quát, nhưng mỗi nhiệm vụ lại tốn gần 20 USD, trong khi phí đăng ký ChatGPT Plus chỉ 20 USD/tháng.
Trong bài phát biểu chủ đề vào thứ Hai, Hoàng Nhân Huân đã giới thiệu chip siêu máy tính trung tâm dữ liệu mới nhất GB200 NVL72. Chip này đã tăng 30-40 lần hiệu suất suy luận AI so với chip H100 bán chạy nhất trước đây. Ông cho biết, bước nhảy vọt về hiệu suất này sẽ làm giảm chi phí sử dụng các mô hình yêu cầu nhiều tính toán suy luận như mô hình o3 của OpenAI.
Hoàng Nhân Huân nhấn mạnh rằng, trọng tâm của họ là nâng cao hiệu suất chip, vì từ góc độ dài hạn, hiệu suất cao hơn sẽ có nghĩa là giá thành thấp hơn.
Ông cho biết, tăng cường năng lực tính toán là giải pháp trực tiếp để giải quyết các vấn đề về hiệu suất và chi phí của tính toán thời gian kiểm tra. Về lâu dài, các mô hình suy luận AI còn có thể cung cấp dữ liệu tốt hơn cho các giai đoạn tiền huấn luyện và sau huấn luyện.
Trong năm qua, nhờ các bước tiến về tính toán của các công ty phần cứng như TRON, giá của các mô hình AI đã giảm đáng kể. Mặc dù các mô hình suy luận mới nhất của OpenAI vẫn có giá cao, nhưng Hoàng Nhân Huân dự đoán xu hướng giảm giá này sẽ tiếp tục.
Ông cũng cho biết, hiệu suất chip AI của TRON hiện nay đã tăng 1.000 lần so với 10 năm trước, vượt xa tốc độ phát triển của định luật Moore, và xu hướng phát triển nhanh chóng này vẫn chưa có dấu hiệu dừng lại.
