Phân tích dữ liệu Bayes, ấn bản thứ 3 (2013) [pdf]

• Phân tích dữ liệu Bayes là một giáo trình được sử dụng rộng rãi trong thống kê và khoa học dữ liệu
• Cuốn sách tập trung vào mô hình hóa xác suất và suy luận Bayes, trình bày nhiều phương pháp phân tích đa dạng có thể ứng dụng trong thực tiễn
• Sách cũng đề cập sâu rộng đến các kỹ thuật tính toán dựa trên tình huống thực tế và cách triển khai như MCMC
• Cung cấp cân bằng giữa lý thuyết và ví dụ thực hành để cả người mới bắt đầu lẫn chuyên gia đều có thể hiểu được
• Có tính ứng dụng cao trong các lĩnh vực như máy học, y học và khoa học xã hội

---

Giới thiệu

• Phân tích dữ liệu Bayes, ấn bản thứ 3 là một giáo trình cốt lõi giới thiệu có hệ thống về suy luận Bayes trong các lĩnh vực thống kê, khoa học máy tính và kỹ thuật
• Nhấn mạnh tư duy xác suất và phân tích dữ liệu dưới điều kiện bất định

Khái niệm mô hình hóa Bayes

• Cuốn sách bắt đầu từ các khái niệm xác suất tiên nghiệm (prior) và xác suất hậu nghiệm (posterior), rồi giải thích chi tiết các phương pháp suy luận dựa trên dữ liệu thực tế
• Trình bày lý thuyết nền tảng về nhiều phân phối xác suất, ước lượng tham số và các bài toán dự báo

Ứng dụng trong phân tích dữ liệu thực tế

• Bao gồm nhiều nghiên cứu tình huống và ví dụ ứng dụng sử dụng các bộ dữ liệu thực tế
• Cũng đi sâu vào các kỹ thuật thực hành như thiết kế mô hình, tiền xử lý dữ liệu và MCMC (Markov Chain Monte Carlo) cho tính toán
• Cung cấp các đoạn mã có thể áp dụng trong môi trường thực hành như R và Python

Chủ đề nâng cao

• Cũng đề cập rộng rãi đến các mô hình thống kê nâng cao như mô hình phân cấp, phân tích đa biến và các phương pháp Bayes phi tham số
• Đồng thời mô tả các phương pháp chẩn đoán mô hình và tối ưu hóa mang tính thực tiễn

Ứng dụng và ảnh hưởng

• Cuốn sách này tiếp tục được sử dụng như tài liệu tham khảo trong nhiều lĩnh vực rộng lớn như máy học, tin sinh học, thống kê y học, quản trị và khoa học xã hội
• Có thể học một cách có hệ thống các công cụ và quy trình phân tích Bayes có thể áp dụng trong công việc thực tế

[GN⁺]

Ý kiến Hacker News

• Đây là cuốn sách thống kê tôi thích nhất. Tác giả Andrew Gelman đã tạo ra một lĩnh vực mới trong thống kê Bayes thông qua nghiên cứu lý thuyết về mô hình Bayes phân cấp, đồng thời giới thiệu Stan để ứng dụng thực tế. Tôi từng dành khoảng 1 năm học cuốn này từng chút một, kể cả phần phụ lục. Sau đó nó trở thành nền tảng cho việc nghiên cứu mô hình Bayes phân cấp của tôi nên rất hữu ích. Đây không hẳn là sách nhập môn, mà rất đáng khuyên cho những ai muốn nâng năng lực thống kê lên một bậc. Trước tiên, nên đọc chương 1~5 để hiểu rõ triết lý mô hình hóa của Gelman, rồi với các chủ đề thú vị thì có thể xem mục lục và chọn đọc có chọn lọc
  • Tôi rất thích Gelman, nhưng cách nói rằng ông ấy "khai sinh ra một lĩnh vực mới của thống kê Bayes" có phần cường điệu
  • Có ai có thể gợi ý sách hoặc bài giảng thống kê nên đọc trước khi cố hiểu cuốn này không?
  • Tôi muốn biết có cuốn sách hay nào tập trung vào thống kê áp dụng cho kiểm thử thực tế như nghiên cứu y khoa, tối ưu hóa, sản xuất, v.v. hay không
• Lần đầu tôi biết đến Gelman là nhờ một phần giải thích trực quan tuyệt vời về Linear Regression. Ở đó cũng có trích dẫn Regression and Other Stories, nhưng không nói đến các chương về Bayes nên tôi muốn đọc thêm
• Tôi đã trực tiếp trải nghiệm việc phân tích Bayes hữu ích đến mức nào. Nhóm của chúng tôi từng phải cân nhắc cần lấy mẫu bao nhiêu trong số hàng triệu mục để có thể kiểm chứng chất lượng, và khi đó chúng tôi tìm được một lời giải rất thanh nhã bằng phân tích Bayes. Bản thân toán học không hề khó, nên tôi khá ngạc nhiên khi các kỹ sư lại tỏ ra rất dè dặt với việc học những kỹ thuật cơ bản như vậy. Trong khi ai cũng đã học khá tốt toán năm nhất đại học
  • Tôi tò mò các kỹ sư đã phản đối điều gì và vì sao họ cần học nó. Nhiều kỹ sư có học đến môn nhập môn thống kê, nhưng lý do phải học thống kê Bayes thì không rõ ràng. Thậm chí việc diễn giải p-value, hệ số hồi quy hay hiệu ứng tương tác còn khó cho đúng, và giá trị thực tế cũng có thể không lớn. Ngược lại, cũng không nhất thiết nhà khoa học dữ liệu phải tự làm toàn bộ phần kỹ thuật như pipeline tự động triển khai, Kubernetes pod hay huấn luyện phân tán mô hình pytorch, vì còn có nguyên tắc phân công chuyên môn
• BDA là cuốn sách hay nhất để học mô hình hóa Bayes một cách nghiêm túc và sâu sắc. Ngoài ra còn có nhiều cách tiếp cận khác như Statistical Rethinking của Richard McElreath, hay Regression and other stories của Gelman và Aki. Tôi cũng đã viết một cuốn sách giải thích theo hướng nhiều code và ví dụ, hiện được công bố miễn phí theo dạng open access
• Có thể xem tài liệu bài giảng liên quan tại đây
• Tôi thích blog thống kê do Gelman là người nòng cốt vận hành ở Columbia. Ở statmodeling.stat.columbia.edu có rất nhiều thảo luận thống kê đa dạng
  • Cảm ơn vì đã chia sẻ; nếu có bài nào đặc biệt ấn tượng thì mong được gợi ý
• Nếu là người mới bắt đầu thì Doing Bayesian Data Analysis của John Kruschke dễ hiểu và dễ đọc hơn nhiều
  • BDA là sách dành cho bậc cao học; toán không quá khó nhưng giả định độc giả ít nhất đã học xong một khóa đầu tiên về thống kê toán
• Tôi rất quan tâm nhưng giáo trình này có vẻ quá sức. Sẽ thật tốt nếu có một khóa tốc hành chỉ để nắm nhanh các kỹ thuật Bayes dành cho kỹ sư hiệu năng hệ thống. Nếu có ai hiểu cả hai lĩnh vực, tôi muốn biết nên đưa những nội dung gì vào đó và cũng mong được gợi ý tài liệu tự học
  • Khi tôi dạy thống kê, cuốn tôi luôn dùng là Statistical Rethinking. Nó tập trung vào cách thực sự suy nghĩ về mô hình hóa, tức là phân tích giả thuyết và nhận diện những giả thuyết mà mô hình hàm ý. Có phần khó, nhưng cũng chính là phần thú vị, và cuốn này dạy điều đó rất tốt. Điểm yếu là nó không miễn phí (nhưng bài giảng của tác giả có miễn phí trên YouTube, nên dù không có sách tôi vẫn rất khuyên xem bài giảng). Thêm nữa, Regression and Other Stories, trong đó Gelman là một trong các tác giả, là cuốn giải thích chủ đề này dễ tiếp cận hơn. Think Bayes và Bayesian Methods for Hackers cũng được khuyên cho người mới có nền tảng lập trình. Nếu muốn sách nhấn mạnh lợi thế của các kỹ thuật xác suất (Bayes) trong machine learning thì tôi gợi ý Probabilistic Machine Learning của Kevin Murphy. Tôi mới chỉ đọc bản cũ nhưng nghe nói bản mới cũng được đánh giá rất cao
  • Bayesian Methods for Hackers (GitHub), và cả tài liệu trực tuyến của O'Reilly Bayesian Methods for Hackers cũng đáng tham khảo
• Tư duy định lượng cơ bản và trực giác thống kê vẫn rất quan trọng. Dù không học từ Bayes thì cũng phải học ở đâu đó. Theo "quy tắc căn bậc hai của n", tỷ lệ tín hiệu trên nhiễu được cải thiện tỷ lệ với căn bậc hai của số lần đo. Nhưng như cha tôi từng nói, "càng lấy trung bình nhiều dữ liệu tệ, bạn càng có thể tiến gần hơn tới một câu trả lời sai", nên vẫn phải cẩn thận
• foundation model có thể được xem như một dạng bộ ước lượng xấp xỉ hậu nghiệm (interference), nhưng ở đó bất định phần lớn bị lược bỏ. Nếu tận dụng cách tiếp cận mang tính Bayes tốt hơn, hiệu năng có thể còn được cải thiện
• Có nhiều bài toán mà tập dữ liệu không hề khổng lồ, nên không phải lúc nào foundation model cũng phù hợp; tùy bài toán mà các phương pháp Bayes vẫn còn rất hiệu quả
• Quy tắc Bayes là nền tảng của suy luận xác suất, nên phải dùng các phương pháp Bayes mới có thể xử lý bất định một cách định lượng. Dù hiện vẫn thiếu hiệu quả khi áp dụng cho mô hình deep learning, về nguyên tắc nó có thể cho kết quả tốt hơn
• Cũng hoàn toàn có thể khớp các mô hình Bayes (như variational inference) bằng dữ liệu lớn và mạng nơ-ron, nên chủ đề này vẫn còn nguyên tính liên quan
• Tôi đang chờ cuốn Bayesian workflow