Elon Musk dùng 'núi tiền' để đào tạo chatbot AI
Bình luận bên dưới một bài đăng trên mạng xã hội X hôm 1/7,ùngnúitiềnđểđàotạviệt nam Elon Musk cho biết phiên bản chatbot mới nhất - Grok 3 - của startup xAI nên là "thứ gì đó đặc biệt"sau khi được đào tạo bằng 100.000 GPU H100.

Musk đang đề cập đến bộ xử lý đồ họa (GPU) H100 của Nvidia, hay còn được gọi là Hopper, thứ đảm nhận xử lý dữ liệu cho các mô hình ngôn ngữ lớn (LLM). Chúng là thành phần quan trọng khi phát triển AI và được xem là “hàng nóng” ở Thung lũng Silicon khi các hãng công nghệ đang chạy đua làm ra các sản phẩm AI thông minh hơn bao giờ hết.
Ước tính, mỗi chip Nvidia H100 có giá 30.000 USD, thậm chí lên tới 40.000 USD. Như vậy, Grok 3 có thể đang được đào tạo bằng “núi tiền” từ 3 đến 4 tỷ USD. Tuy nhiên, theo Insider, không rõ startup của Musk có mua đứt số chip này không. Họ có thể thuê sức mạnh tính toán từ các nhà cung cấp dịch vụ đám mây. Hồi tháng 5, tờ The Information đưa tin xAI đang đàm phán với Oracle để thuê máy chủ đám mây với giá 10 tỷ USD trong nhiều năm.
Dù vậy, các công ty của tỷ phú “lắm tài nhiều tật” cũng đã mua một lượng lớn chip Nvidia H100 trong những năm gần đây. Chẳng hạn, Musk được cho là chuyển đơn hàng Nvidia H100 trị giá nửa tỷ USD từ Tesla sang cho X.
Nếu được đào tạo dựa trên 100.000 GPU, chatbot Grok 3 sẽ là bước tiến lớn so với Grok 2. Trong cuộc phỏng vấn hồi tháng 4, ông chủ Tesla tiết lộ Grok 2 cần khoảng 20.000 chip H100. Cho đến nay, xAI đã phát hành Grok-1 và Grok 1.5. Phiên bản mới nhất chỉ dành cho các tester và người dùng trên X. CEO X mong muốn ra mắt Grok 2 vào tháng 8/2024 và cũng ám chỉ Grok 3 sẽ xuất hiện vào cuối năm nay.
100.000 GPU là con số tương đối lớn. Các “gã khổng lồ” khác như Meta đang dự trữ còn nhiều GPU hơn. Đầu năm nay, CEO Meta chia sẻ sẽ mua khoảng 350.000 GPU Nvidia H100 vào cuối năm. Ngoài ra, công ty mẹ Facebook sẽ sở hữu khoảng 600.000 chip, bao gồm các GPU khác. Nó đồng nghĩa Meta bỏ ra khoảng 18 tỷ USD để xây dựng năng lực AI cho mình.
Việc dự trữ chip H100 cũng góp phần khiến cuộc tuyển dụng nhân tài AI trở nên khốc liệt hơn. Aravind Srinivas, người sáng lập kiêm CEO startup AI Perplexity, chia sẻ thất bại khi muốn chiêu mộ một chuyên gia AI của Meta, một phần vì “bộ sưu tập” chip AI đồ sộ của Zuckerberg.
“Bạn biết họ nói gì không? 'Hãy quay lại khi đã có 10.000 GPU H100”, Srinivas hồi tưởng.
(Theo Insider)
-
Nhận định, soi kèo U20 Iraq vs U20 Jordan, 14h00 ngày 19/2: Tiếp tục dẫn đầuNhận định, soi kèo Samtredia vs Dila Gori, 19h30 ngày 23/5: Không thể cản bướcNhận định, soi kèo Kalmar FF vs IFK Norrkoping, 00h00 ngày 17/5: Chưa thể hồi sinhNhận định, soi kèo Leeds United với Southampton, 18h30 ngày 4/5: Khó tin The SaintsNhận định, soi kèo Al Quwa Al Jawiya vs Al Hudod, 21h00 ngày 20/2: Khó thắng cách biệtNhận định, soi kèo Bhayangkara FC với Persis Solo FC, 15h00 ngày 30/4: Bão tố xa nhàNhận định, soi kèo Helsingborgs vs Skovde, 0h00 ngày 23/5: Khách khó chơiNhận định, soi kèo Ramtha SC với Sahab SC, 0h45 ngày 27/4: Khó có bất ngờNhận định, soi kèo Sociedad vs Midtjylland, 3h00 ngày 21/2: Vượt trộiNhận định, soi kèo Valmieras vs FK Auda, 21h30 ngày 15/05: Đứt mạch đối đầu ấn tượng
下一篇:Nhận định, soi kèo Naft Misan vs Al Karma SC, 18h30 ngày 20/2: Bất phân thắng bại
- ·Soi kèo góc Aston Villa vs Liverpool, 2h30 ngày 20/2
- ·Nhận định, soi kèo Persija Jakarta với PSIS Semarang, 15h00 ngày 30/4: Ca khúc khải hoàn
- ·Nhận định, soi kèo Kitchee vs Lee Man, 14h00 ngày 26/5: Khó cho chủ nhà
- ·Nhận định, soi kèo Hamburg với St. Pauli, 23h30 ngày 3/5: Chia điểm!
- ·Kèo vàng bóng đá PSG vs Brest, 03h00 ngày 20/2: Tin vào Les Parisiens
- ·Nhận định, soi kèo Karvan FK với Imisli FK, 20h00 ngày 01/05: Cuộc đua hấp dẫn
- ·Nhận định, soi kèo Southampton vs West Brom, 2h00 ngày 18/5: Tin ở chủ nhà
- ·Nhận định, soi kèo St. Gilloise vs Genk, 23h30 ngày 26/05: Ngậm ngùi đứng sau
- ·Nhận định, soi kèo Zakho vs Al Talaba, 23h30 ngày 19/2: Thách thức đội đầu bảng
- ·Nhận định, soi kèo BK Olympic Malmo với Angelholms FF, 18h00 ngày 9/5: Sáng cửa dưới
- ·Nhận định, soi kèo North District FC với Lee Man, 14h00 ngày 5/5: Củng cố ngôi đầu
- ·Nhận định, soi kèo Ceramica Cleopatra với Tala'ea El Gaish, 20h00 ngày 10/05: Tự bắn vào chân
- ·Nhận định, soi kèo Racing d'Abidjan vs ISCA, 22h30 ngày 20/2: Khó cho cửa trên
- ·Nhận định, soi kèo Persija Jakarta với PSIS Semarang, 15h00 ngày 30/4: Ca khúc khải hoàn
- ·Nhận định, soi kèo U23 Iraq với U23 Việt Nam, 0h30 ngày 27/4: Chờ đợi bất ngờ
- ·Nhận định, soi kèo Zhejiang với Beijing Guoan, 18h35 ngày 26/4: Đối thủ yêu thích
- ·Nhận định, soi kèo Atlas vs Club Necaxa, 10h10 ngày 19/2: Khó cho chủ nhà
- ·Nhận định, soi kèo Municipal Liberia với Municipal Grecia, 9h00 ngày 8/5: Kẻ ngáng đường
- ·Nhận định, soi kèo Giouchtas với Panathinaikos B, 20h00 ngày 08/05: Tự cứu bản thân
- ·Nhận định, soi kèo Al Batin vs Al Arabi, 01h00 ngày 22/5: Khó thắng cách biệt
- ·Nhận định, soi kèo U20 Uzbekistan vs U20 Iran, 18h30 ngày 19/2: Tin vào U20 Iran
- ·Nhận định, soi kèo RWD Molenbeek với Sporting Charleroi, 21h ngày 4/5: 3 điểm nhọc nhằn xa nhà
- ·Nhận định, soi kèo Pirin Blagoevgrad vs Etar Veliko Tarnovo, 19h15 ngày 17/05: Gia cố
- ·Nhận định, soi kèo Vaasan Palloseura vs KuPS, 22h00 ngày 22/5: Bất bại sân khách
- ·Nhận định, soi kèo Tataouine vs Ben Guerdane, 20h00 ngày 19/2: Khách thắng thế
- ·Nhận định, soi kèo Deportivo Pereira vs Junior FC, 8h30 ngày 23/5: Tự tin trên sân khách
- ·Nhận định, soi kèo Jeonbuk Hyundai Motors vs Port FC, 17h00 ngày 20/2: Tưng bừng bắn phá
- ·Nhận định, soi kèo Goteborg vs Mjallby, 000 ngày 22/5: Ám ảnh sân nhà
- ·Nhận định, soi kèo Smouha với ZED, 23h00 ngày 9/5: Tiếp đà thăng hoa
- ·Nhận định, soi kèo Ratchaburi Mitr Phol với Muang Thong United, 18h00 ngày 11/05: Khách lấn lướt
- ·Nhận định, soi kèo Naft Misan vs Al Karma SC, 18h30 ngày 20/2: Bất phân thắng bại
- ·Nhận định, soi kèo Leeds vs Norwich, 2h00 17/05: Thắng lợi nhọc nhằn
- ·Nhận định, soi kèo Cesar Vallejo với Medellin, 07h00 ngày 8/5: Cửa dưới ‘tạch’
- ·Nhận định, soi kèo Minija Kretinga với Suduva, 21h30 ngày 7/5: Chủ nhà ‘out’
- ·Soi kèo phạt góc PSG vs Brest, 03h00 ngày 20/2
- ·Nhận định, soi kèo Silkeborg IF với Aarhus AGF, 22h00 ngày 09/05: Chưa biết mèo nào cắn mỉu nào