AWS đã chuyển nén của S3 từ gzip sang zstd, giúp giảm kích thước khoảng 30%
(twitter.com/adrianco)- Trả lời câu hỏi zstd do Yann Collet tạo ra đã giúp cắt giảm những phần thừa đến mức nào, Adrian Cockcroft đã cho biết như sau
- Ở quy mô Exabyte của S3, mức giảm 30% đồng nghĩa với khoản tiết kiệm chi phí khổng lồ
- Twitter cũng cho biết khi chuyển HDFS sang zstd, họ đã tiết kiệm được hàng chục tỷ won mỗi năm (~ mid 8 figs/yr)
4 bình luận
Uber cũng đã chuyển từ GZIP/SNAPPY sang ZSTD.
https://www.uber.com/en-TW/blog/cost-efficiency-big-data/
zstd thật sự rất ấn tượng!
Tôi chia sẻ vì trong liên kết có tài liệu so sánh hiệu năng nén. https://github.com/facebook/zstd
Hôm nay tôi đã thử dùng zstd lần đầu.
Hóa ra mac đã được tích hợp sẵn rồi.
Nén:
zstd file=> file.zstGiải nén:
unzstd file.zst=> file