Kỹ sư AI tuyên bố có thuật toán mới giúp giảm 95% điện năng tiêu thụ của AI

 (tomshardware.com)
1 điểm bởi GN⁺ 2024-10-20 | 1 bình luận | Chia sẻ qua WhatsApp

  • Các kỹ sư AI tuyên bố đã giảm 95% điện năng tiêu thụ của AI bằng một thuật toán mới

    • Các kỹ sư của BitEnergy AI đã phát triển một phương pháp thay thế phép nhân dấu phẩy động bằng phép cộng số nguyên.
    • Phương pháp này được gọi là Linear-Complexity Multiplication (L-Mul), cho kết quả gần với phép nhân dấu phẩy động nhưng vẫn duy trì độ chính xác và độ chuẩn xác cao.
    • Phương pháp này được đánh giá là một bước tiến quan trọng vì có thể giảm mức tiêu thụ điện của các hệ thống AI tới 95%.

  • Vấn đề tương thích với phần cứng hiện tại

    • Phần cứng hiện có trên thị trường như GPU Blackwell của Nvidia không được thiết kế để xử lý thuật toán này.
    • Nếu các nhà sản xuất chip AI phát triển ASIC có thể tận dụng thuật toán này, khả năng cao là các tập đoàn công nghệ lớn sẽ áp dụng công nghệ đó.

  • Vấn đề tiêu thụ điện của AI

    • Ràng buộc lớn của quá trình phát triển AI là điện năng, và các GPU trong trung tâm dữ liệu tiêu thụ rất nhiều điện.
    • Google đã phải lùi các mục tiêu khí hậu do nhu cầu điện của AI, đồng thời lượng phát thải khí nhà kính cũng tăng lên.
    • Nếu việc xử lý AI hiệu quả điện năng hơn, chúng ta có thể đạt được công nghệ AI tiên tiến mà không phải đánh đổi môi trường.

Tóm tắt của GN⁺

  • Bài viết này nói về một thuật toán mới có thể cải thiện đáng kể hiệu quả điện năng của AI. Đây có thể đóng vai trò quan trọng trong việc nâng cao tính bền vững của công nghệ AI.
  • Thuật toán L-Mul thay thế phép nhân dấu phẩy động để giảm điện năng tiêu thụ mà vẫn duy trì độ chính xác và độ chuẩn xác cao.
  • Dù hiện vẫn có vấn đề tương thích với phần cứng, điều này có thể được giải quyết thông qua việc phát triển ASIC.
  • Công nghệ này có thể giải quyết vấn đề tiêu thụ điện của AI và tạo tác động tích cực đến môi trường.

Bài viết liên quan

1 bình luận

 
GN⁺ 2024-10-20
Ý kiến trên Hacker News

  • Thuật toán L-Mul có thể giảm mạnh chi phí năng lượng bằng cách xấp xỉ phép nhân số thực dấu phẩy động bằng phép cộng số nguyên

    • Có lý do để hoài nghi về tuyên bố có thể giảm 95% năng lượng
    • Vì nhiều chuyên gia đã nghiên cứu lĩnh vực này trong thời gian dài, những tuyên bố như vậy cần có bằng chứng đặc biệt thuyết phục

  • Phương pháp này sử dụng biểu diễn số thực dấu phẩy động IEEE754 để đơn giản hóa phép nhân thông qua phép toán log

  • Có câu hỏi được đặt ra về việc liệu nghịch lý Jevons có thể áp dụng trong trường hợp này hay không

  • Dù phương pháp mới tuyên bố có thể tiết kiệm năng lượng, vẫn có sự hoài nghi do thiếu các kết quả benchmark thực tế

  • Lemurian Labs đang phát triển công nghệ tương tự bằng cách sử dụng hệ thống số logarit (LNS)

  • Nghiên cứu này có thể được ví như những tuyên bố phóng đại kiểu phát hiện chất siêu dẫn ở nhiệt độ phòng

  • Bài báo này được xác nhận là đã được đăng trùng trước đó