speculative_decoding.c: mã C cho speculative decoding viết dựa trên llama2.c
(github.com/mscheong01)Đây là mã suy luận speculative decoding đơn giản được triển khai bằng C.
Tôi đã viết nó thành đoạn mã đơn giản phục vụ mục đích giáo dục, tương tự như llama2.c làm nền tảng.
Tiếp theo, tôi dự định sẽ triển khai thêm một số bài báo mới hơn.
Chưa có bình luận nào.