Chỉ là một suy nghĩ: có lẽ "bitstream" thể hiện bản chất tốt hơn "token" khi chúng ta nói về kiến trúc AI. Và đây là vấn đề - tại sao chúng ta vẫn đang ám ảnh về số lượng tham số? Những nút thắt thực sự đang ở ngay trước mắt chúng ta: dung lượng bộ nhớ, giới hạn băng thông, và các phép toán tính toán. Kích thước tệp cung cấp nhiều thông tin hơn về những gì thực sự khả thi. Chúng ta nên đo lường các mô hình AI dựa trên những gì thực sự hạn chế chúng, chứ không phải một con số trừu tượng trông ấn tượng trên giấy.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
12 thích
Phần thưởng
12
5
Đăng lại
Retweed
Bình luận
0/400
BanklessAtHeart
· 10giờ trước
Suy nghĩ nhảy quá nhanh, bị chặn lại.
Xem bản gốcTrả lời0
DataPickledFish
· 17giờ trước
Phần cứng bò mới là bò thật!
Xem bản gốcTrả lời0
AirdropLicker
· 17giờ trước
Kích thước tệp mới là yếu tố quyết định hàng đầu~
Xem bản gốcTrả lời0
HallucinationGrower
· 18giờ trước
Chỉ là một tham số mô hình cộng với một đống nước mà thôi.
Xem bản gốcTrả lời0
ZKProofster
· 18giờ trước
nói một cách kỹ thuật, kích thước != khả năng... đây chỉ là lý thuyết thông tin cơ bản smh
Chỉ là một suy nghĩ: có lẽ "bitstream" thể hiện bản chất tốt hơn "token" khi chúng ta nói về kiến trúc AI. Và đây là vấn đề - tại sao chúng ta vẫn đang ám ảnh về số lượng tham số? Những nút thắt thực sự đang ở ngay trước mắt chúng ta: dung lượng bộ nhớ, giới hạn băng thông, và các phép toán tính toán. Kích thước tệp cung cấp nhiều thông tin hơn về những gì thực sự khả thi. Chúng ta nên đo lường các mô hình AI dựa trên những gì thực sự hạn chế chúng, chứ không phải một con số trừu tượng trông ấn tượng trên giấy.