Bình luận bên dưới một bài đăng trên mạng xã hội X hôm 1/7,ùngnúitiềnđểđàotạ Elon Musk cho biết phiên bản chatbot mới nhất - Grok 3 - của startup xAI nên là "thứ gì đó đặc biệt"sau khi được đào tạo bằng 100.000 GPU H100.
Musk đang đề cập đến bộ xử lý đồ họa (GPU) H100 của Nvidia, hay còn được gọi là Hopper, thứ đảm nhận xử lý dữ liệu cho các mô hình ngôn ngữ lớn (LLM). Chúng là thành phần quan trọng khi phát triển AI và được xem là “hàng nóng” ở Thung lũng Silicon khi các hãng công nghệ đang chạy đua làm ra các sản phẩm AI thông minh hơn bao giờ hết.
Ước tính, mỗi chip Nvidia H100 có giá 30.000 USD, thậm chí lên tới 40.000 USD. Như vậy, Grok 3 có thể đang được đào tạo bằng “núi tiền” từ 3 đến 4 tỷ USD. Tuy nhiên, theo Insider, không rõ startup của Musk có mua đứt số chip này không. Họ có thể thuê sức mạnh tính toán từ các nhà cung cấp dịch vụ đám mây. Hồi tháng 5, tờ The Information đưa tin xAI đang đàm phán với Oracle để thuê máy chủ đám mây với giá 10 tỷ USD trong nhiều năm.
Dù vậy, các công ty của tỷ phú “lắm tài nhiều tật” cũng đã mua một lượng lớn chip Nvidia H100 trong những năm gần đây. Chẳng hạn, Musk được cho là chuyển đơn hàng Nvidia H100 trị giá nửa tỷ USD từ Tesla sang cho X.
Nếu được đào tạo dựa trên 100.000 GPU, chatbot Grok 3 sẽ là bước tiến lớn so với Grok 2. Trong cuộc phỏng vấn hồi tháng 4, ông chủ Tesla tiết lộ Grok 2 cần khoảng 20.000 chip H100. Cho đến nay, xAI đã phát hành Grok-1 và Grok 1.5. Phiên bản mới nhất chỉ dành cho các tester và người dùng trên X. CEO X mong muốn ra mắt Grok 2 vào tháng 8/2024 và cũng ám chỉ Grok 3 sẽ xuất hiện vào cuối năm nay.
100.000 GPU là con số tương đối lớn. Các “gã khổng lồ” khác như Meta đang dự trữ còn nhiều GPU hơn. Đầu năm nay, CEO Meta chia sẻ sẽ mua khoảng 350.000 GPU Nvidia H100 vào cuối năm. Ngoài ra, công ty mẹ Facebook sẽ sở hữu khoảng 600.000 chip, bao gồm các GPU khác. Nó đồng nghĩa Meta bỏ ra khoảng 18 tỷ USD để xây dựng năng lực AI cho mình.
Việc dự trữ chip H100 cũng góp phần khiến cuộc tuyển dụng nhân tài AI trở nên khốc liệt hơn. Aravind Srinivas, người sáng lập kiêm CEO startup AI Perplexity, chia sẻ thất bại khi muốn chiêu mộ một chuyên gia AI của Meta, một phần vì “bộ sưu tập” chip AI đồ sộ của Zuckerberg.
“Bạn biết họ nói gì không? 'Hãy quay lại khi đã có 10.000 GPU H100”, Srinivas hồi tưởng.
(Theo Insider)
与Elon Musk dùng 'núi tiền' để đào tạo chatbot AI相关文章
Người tử vong vì COVID
Thời hạn hỏa táng, mai táng với các trường hợp mắc COVID-19 tử vong là bao lâu?Theo quy định tại Điề ...2024-10-17
“零”投入玩《战国传奇》新区 获取高等级装备有妙招
《战国传奇》的新区,不论是其具有的未知超额奖励,还是冲级PK的快感,对于这些喜欢激情喜欢跳跃的资深“屌丝”玩家来说,每次新区都是一次巨大的诱惑。而全新推出的“大补丸 ...2024-10-17
染尽江湖情仇 蘭若寺九阴微电影《缘》推出
蘭若寺,国内最具影响力的游戏视频工作室之一,汇聚了众多摄制、编剧、配音、演唱、美工等方面的人才,其首部《九阴真经》题材电影《石桥禅》,凭借其唯美细腻的视频画面和富有张力的剧情深得九阴玩家的青睐与追捧, ...2024-10-17
2012世纪天成ChinaJoy新出发 现场展台大揭秘!
2012年的ChinaJoy即将开幕,世纪天成始终秉持玩家至上的理念,在这个炎炎夏日,又怎么会毫无准备?我们早已为众位玩家准备了丰富精彩的内容,让大家不虚此行!7月26至7月29日ChinaJoy活动 ...2024-10-17
Đa dạng tiêm vaccine Covid
刘亦菲与刘诗诗从《仙剑奇侠传》到代言《龙之传奇》
游艺春秋陈澍:“微端”相对中性的用户是一个好选择
2012China Joy盘点EA展区三大经典游戏 值得你体验!
Hà Nội dựng 30 chốt cứng rào chắn, khuyến cáo người dân không đi qua đây
抵御入侵 《EVE:新纪元》赚钱新途径
不想被杀就看!老玩家讲述《轩辕传奇》生存法则