Go, container và bộ lập lịch Linux

• Ứng dụng Go trong container: Các nhà phát triển Go thường triển khai ứng dụng vào container cần giới hạn CPU để ngăn việc chiếm dụng độc quyền tài nguyên máy chủ.
• Runtime Go và giới hạn CPU: Runtime Go về bản chất không nhận biết giới hạn CPU của container, điều này có thể dẫn đến sử dụng quá mức và các vấn đề hiệu năng.
• Trình thu gom rác (GC) của Go: GC của Go chạy đồng thời, nhưng trong giai đoạn kết thúc quét và kết thúc đánh dấu, nó cần các khoảng dừng ngắn kiểu 'stop the world' để đảm bảo tính toàn vẹn dữ liệu.
• Bộ lập lịch Linux - CFS: Bộ lập lịch hoàn toàn công bằng (CFS) của Linux phân bổ thời gian CPU theo tỷ lệ, và tiến trình sẽ nhận được lượng thời gian CPU tương ứng với số lõi được phép dùng.
• Vấn đề giữa Go và CFS: Go tạo một luồng OS cho mỗi lõi CPU, nhưng lại bỏ qua giới hạn CPU của container, điều này có thể làm thời gian GC 'stop the world' kéo dài hơn.
• Thiết lập GOMAXPROCS: Có thể dùng biến môi trường GOMAXPROCS để điều chỉnh số luồng OS của Go khớp với giới hạn CPU của container, từ đó giảm độ trễ GC.
• Tự động hóa GOMAXPROCS: Thư viện automaxprocs của Uber có thể tự động đặt GOMAXPROCS dựa trên giới hạn của container, giúp đơn giản hóa cấu hình.
• Cải tiến tương lai cho runtime Go: Có một issue mở trên GitHub nhằm tích hợp khả năng tự động nhận biết giới hạn CPU vào runtime Go.

Kết luận: Để sử dụng tài nguyên hiệu quả và duy trì hiệu năng cho ứng dụng Go trong container, việc cấu hình đúng giới hạn CPU và GOMAXPROCS là rất quan trọng.

[GN⁺]

Ý kiến trên Hacker News

• Thảo luận về việc dùng CPU reservation thay vì CPU limit trong môi trường container
• Vấn đề ứng dụng bên trong container nhận diện sai số lượng lõi
• Giải thích chi tiết về thiết lập Docker CFS cgroup và khuyến nghị dùng --cpu-shares
• Chia sẻ trải nghiệm gặp vấn đề với trình lập lịch CFS trong container và sự tò mò về trình lập lịch mới
• Đề cập việc Go giới thiệu GOMEMLIMIT và công cụ tự động thiết lập giới hạn bộ nhớ (automemlimit)
• Chia sẻ thách thức trong việc quản lý giới hạn CPU cho các bản triển khai Go trong cụm Kubernetes
• Bày tỏ lời cảm ơn tới người bảo trì công cụ ko vì đã nhắc đến dự án
• Đặt câu hỏi về khả năng Go runtime nhận biết giới hạn CGroups và liệu các runtime khác có hành xử tương tự hay không
• Thảo luận về việc giảm độ trễ GC bằng cách thực hiện công việc đồng thời trước khi đến safepoint
• Nhắc đến việc nhóm .NET CLR đã điều chỉnh các kịch bản tương tự trong môi trường container