- Google đã công bố mức tiêu thụ điện, nước và phát thải carbon khi ứng dụng Gemini của hãng xử lý prompt, qua đó đưa ra bộ dữ liệu cụ thể đầu tiên về mức sử dụng năng lượng của AI
- Một prompt văn bản thông thường tiêu thụ 0.24Wh điện, tương đương khoảng 1 giây dùng lò vi sóng, đồng thời tạo ra 0.26ml nước và 0.03g carbon dioxide
- Các con số này là kết quả của một phân tích toàn diện bao gồm toàn bộ hạ tầng như chip AI (58%), CPU và bộ nhớ (25%), thiết bị dự phòng (10%) và vận hành trung tâm dữ liệu (8%)
- So với tháng 5/2024, đến tháng 5/2025 hiệu quả năng lượng đã được cải thiện gấp 33 lần, và Google cho biết nguyên nhân là nhờ tối ưu hóa phần mềm và cải tiến mô hình
- Thông báo lần này có ý nghĩa lớn ở khía cạnh mở rộng tính minh bạch của các công ty AI lớn, nhưng những thông tin cốt lõi như tổng số truy vấn vẫn chưa được công bố, từ đó làm dấy lên nhu cầu về một hệ thống đánh giá năng lượng AI được tiêu chuẩn hóa
Google công bố mức tiêu thụ năng lượng của prompt Gemini
- Google là công ty AI lớn đầu tiên công bố mức tiêu thụ điện, phát thải carbon và lượng nước sử dụng khi mô hình Gemini xử lý prompt văn bản
- Trung bình, mỗi prompt tạo ra 0.24Wh điện, 0.26ml nước và 0.03g CO₂, tương đương với 1 giây vận hành lò vi sóng hoặc năm giọt nước
- Thông báo này được trình bày chi tiết thông qua một cuộc phỏng vấn với MIT Technology Review, bao gồm cả dữ liệu và phương pháp tính toán
Cấu trúc chi tiết của mức sử dụng năng lượng
- Trong tổng mức tiêu thụ điện, chip AI (TPU) chiếm 58%, CPU và bộ nhớ chiếm 25%, thiết bị dự phòng chiếm 10%, còn vận hành trung tâm dữ liệu (làm mát và chuyển đổi điện) chiếm 8%
- Google cho biết họ đã phân tích theo cách tiếp cận toàn diện, bao gồm toàn bộ hạ tầng phần cứng
- Đây được đánh giá là một đóng góp nghiên cứu cho ngành, vì công ty đã công bố dữ liệu nội bộ mà giới nghiên cứu khó tiếp cận
Khác biệt theo từng prompt và các giới hạn
- Các số liệu được công bố là giá trị trung vị (median), nên một số truy vấn có thể tiêu tốn năng lượng cao hơn nhiều
- Ví dụ: tóm tắt hàng chục cuốn sách hoặc các phép tính phức tạp sử dụng mô hình reasoning
- Báo cáo lần này chỉ nhắm tới prompt văn bản, không bao gồm tạo ảnh hay video
- Vì vậy, vẫn còn những giới hạn trong việc nắm bắt tổng mức sử dụng thực tế của Gemini
Cải thiện hiệu quả và ước tính phát thải carbon
- Google cho biết từ tháng 5/2024 đến tháng 5/2025, mức tiêu thụ năng lượng trên mỗi prompt đã giảm 33 lần
- Điều này được lý giải là kết quả của việc cải tiến kiến trúc mô hình và tối ưu hóa phần mềm
- Ước tính phát thải được tính theo phương pháp dựa trên thị trường, phản ánh tỷ trọng năng lượng sạch mà Google đã mua thay vì mức trung bình của lưới điện Mỹ, nên được tính ở mức khoảng 1/3 so với lưới điện thông thường
Phản ứng từ giới nghiên cứu và ngành công nghiệp
- Các thành viên dự án ML.Energy của University of Michigan đánh giá đây là phân tích toàn diện và quan trọng nhất cho tới nay
- Các nhà nghiên cứu của Hugging Face nhấn mạnh sự cần thiết của một hệ thống xếp hạng năng lượng AI được tiêu chuẩn hóa, đồng thời chỉ ra rằng hiện nay mức công bố vẫn phụ thuộc vào lựa chọn của từng công ty
- Báo cáo lần này đã mở rộng hiểu biết về mức tiêu thụ tài nguyên thực tế của việc sử dụng AI, nhưng sự thiếu vắng dữ liệu cốt lõi như tổng số truy vấn vẫn là một hạn chế lớn
Chưa có bình luận nào.