- Walmart không mua các giải pháp AI có sẵn mà phát triển ứng dụng AI thông qua nền tảng AI Foundry nội bộ Element, hiện đang được 1,5 triệu nhân viên sử dụng
- Với kiến trúc không phụ thuộc vào LLM, hệ thống có thể chọn mô hình tối ưu cho từng truy vấn, đồng thời đạt được hiệu quả chi phí và tối ưu hiệu năng
- Công ty áp dụng 'mô hình Foundry' để sản xuất hàng loạt ứng dụng AI như sản phẩm thay vì coi đó là dự án, từ đó tăng tốc phát triển một cách đột phá
- Nhanh chóng ra mắt 5 ứng dụng cốt lõi như lịch làm việc, dịch thời gian thực, AI hội thoại và quản lý tồn kho, đồng thời rút ngắn chu kỳ phát triển ứng dụng xuống còn vài tuần
- Bằng cách kết hợp vận hành và phản hồi xoay quanh dữ liệu chuỗi cung ứng, Walmart đang tạo ra các ứng dụng AI liên tục được cải thiện nhờ phân tích và phản ánh dữ liệu vận hành theo thời gian thực
- Walmart đang chuyển AI từ ‘phần mềm được cài đặt’ thành ‘năng lực được nội tại hóa’, qua đó tiếp tục nới rộng khoảng cách với các đối thủ
Walmart isn’t buying enterprise AI solutions — they’re creating them
Phát triển nền tảng AI nội bộ Element
- Walmart phát triển nền tảng Element thông qua AI Foundry nội bộ thay vì dựa vào các nhà cung cấp AI bên ngoài
- Nền tảng này tạo ra các ứng dụng AI với tốc độ vượt xa phát triển phần mềm truyền thống
- Trong số 1,5 triệu nhân viên, 900.000 người sử dụng mỗi tuần, và hệ thống xử lý 3 triệu truy vấn mỗi ngày, cho thấy khả năng mở rộng ở quy mô lớn
- Tính năng dịch thời gian thực hỗ trợ 44 ngôn ngữ, còn thời gian lập lịch ca làm được rút từ 90 phút xuống 30 phút
- Đây không chỉ là thành công của một ứng dụng đơn lẻ mà là tín hiệu ban đầu cho thấy hiệu quả của phương thức phát triển AI theo hướng công nghiệp hóa
Triết lý thiết kế không phụ thuộc LLM và dựa trên mã nguồn mở
- Element không bị ràng buộc với một mô hình ngôn ngữ lớn (LLM) cụ thể mà có cấu trúc cho phép lựa chọn mô hình linh hoạt
- Tùy theo mục đích sử dụng hoặc loại truy vấn, hệ thống tự động chọn LLM hiệu quả nhất về chi phí so với hiệu quả
- Kiến trúc nền tảng tích hợp sẵn tùy chọn kết nối mã nguồn mở, giúp tăng khả năng mở rộng và tính linh hoạt
The first wave reveals the principles of the foundry model
Những ví dụ đầu tiên về sản xuất ứng dụng theo Foundry
- 5 ứng dụng chính sau đây được "chế tạo" trên cùng một nền tảng theo phương thức Foundry
- Quản lý lịch bằng AI: rút ngắn thời gian lập kế hoạch công việc vốn mất 90 phút mỗi ngày cho mỗi quản lý xuống còn 30 phút, đồng thời xác định mức độ ưu tiên công việc dựa trên dữ liệu chuỗi cung ứng
- Dịch thời gian thực: hỗ trợ 44 ngôn ngữ, tự động chọn mô hình tối ưu theo từng cặp ngôn ngữ
- AI hội thoại: trả lời 30.000 truy vấn mỗi ngày, xử lý các tác vụ lặp lại mà không cần con người can thiệp
- VizPick dựa trên AR: dùng RFID + công nghệ thị giác máy tính để nâng độ chính xác tồn kho từ 85% lên 99%
- MyAssistant: trợ lý phân tích tài liệu và dữ liệu nội bộ
- Hạ tầng dùng chung và pipeline dữ liệu tích hợp giúp tránh phát triển trùng lặp
- Tất cả ứng dụng dùng chung cùng một mô hình triển khai, kiểm soát chất lượng và cấu trúc phản hồi, được chuẩn hóa như một dây chuyền sản xuất
Hệ thống sản xuất có thể lặp lại
- Element không xem mỗi ứng dụng là một dự án độc lập mà sản xuất chúng như các sản phẩm lắp ghép mô-đun
- Khi nhà khoa học dữ liệu gửi đặc tả, nền tảng sẽ tự động xử lý từ chọn mô hình đến hạ tầng và triển khai
- Có thể tái sử dụng các thành phần đã được kiểm chứng từ những ứng dụng trước, nên gần như không có ma sát khi phát triển ứng dụng mới
How Walmart’s foundry model changes development economics
Sự chuyển dịch trong kinh tế học phát triển AI
- AI doanh nghiệp truyền thống tiêu tốn thời gian và chi phí do phải lặp đi lặp lại việc đánh giá nhà cung cấp, đàm phán hợp đồng và tích hợp hệ thống
- Trong khi đó, Element xử lý song song nhiều yêu cầu phát triển ứng dụng và giảm thiểu lãng phí
- Năng suất và tốc độ đạt tới mức của sản xuất tinh gọn, khiến ứng dụng có thể chuyển ngay từ ý tưởng sang phát triển
- Lập lịch, AI hội thoại, hệ thống tồn kho AR và nhiều ứng dụng khác đều được xây dựng nhanh chóng trên nền Element
Supply chain data becomes development fuel
Dữ liệu chuỗi cung ứng trở thành nhiên liệu phát triển ứng dụng
- Element được kết nối với hệ thống chuỗi cung ứng để tự động thu thập thời điểm xe tải đến, mô hình mua sắm, phản hồi của nhân viên và nhiều dữ liệu khác
- Dữ liệu này được dùng cho xác định ưu tiên công việc, dự đoán hành vi người tiêu dùng và triển khai mô hình tùy chỉnh theo điều kiện từng khu vực
- Bằng cách chuyển độ phức tạp vận hành thành dữ liệu tích hợp, hệ thống cho phép phát triển ứng dụng phù hợp theo từng cửa hàng
Walmart has a model arbitrage strategy
Chiến lược arbitrage mô hình
- Element thực hiện so sánh hiệu năng - chi phí giữa các mô hình AI theo thời gian thực để xử lý truy vấn theo lộ trình tối ưu
- Tùy độ phức tạp của từng truy vấn, hệ thống tự động định tuyến tới mô hình cơ bản hoặc mô hình cao cấp
- Khi có mô hình mới ra mắt, hệ thống có thể kiểm thử và triển khai ngay lập tức, còn khi hiệu năng mô hình hiện tại được cải thiện thì sẽ tự động áp dụng
- Ví dụ: công cụ dịch chọn các mô hình tối ưu khác nhau tùy theo từng cặp ngôn ngữ
How Walmart integrates real-time feedback
Cấu trúc tích hợp phản hồi theo thời gian thực
- Việc nhân viên sử dụng ứng dụng không chỉ là tiêu thụ sản phẩm mà còn được thiết kế như một cơ chế tạo tín hiệu cải tiến
- AI hội thoại đo lường hiệu năng mô hình, loại truy vấn và mức độ hài lòng thông qua 30.000 truy vấn, rồi phản ánh chúng trở lại hệ thống dưới dạng phản hồi
- Các ứng dụng mới được phát hành trong trạng thái đã học từ phản hồi của những ứng dụng trước đó, nên có thể cung cấp hiệu năng cao ngay từ giai đoạn đầu ra mắt
- Để làm được điều đó, Walmart xây dựng pipeline dữ liệu tinh vi, quản lý phiên bản mô hình và điều phối triển khai
Why internal Foundries beat external platforms
Vì sao Foundry nội bộ vượt trội hơn nền tảng bên ngoài
- Các nền tảng bên ngoài thường khái quát hóa chức năng để phục vụ mục đích chung → không thể khớp hoàn toàn với một tổ chức cụ thể
- Walmart tối ưu hóa nền tảng theo công việc, thuật ngữ và mục tiêu chung của 2,1 triệu nhân viên
- Khi xuất hiện nhu cầu mới, công ty có thể phát triển ngay mà không cần đàm phán với nhà cung cấp → kết nối rất nhanh từ ý tưởng đến sản phẩm
Assessing the competitive implications
Hàm ý cạnh tranh
- Theo cách làm Foundry, càng tạo nhiều ứng dụng thì chính nền tảng càng mạnh hơn, tương tác của người dùng cải thiện việc chọn mô hình, và mỗi lần triển khai lại trở thành tiêu chuẩn sản xuất cho ứng dụng kế tiếp
- Các đối thủ sẽ phải
- chấp nhận khoản đầu tư khổng lồ để tự xây nền tảng riêng, hoặc
- chấp nhận giới hạn của giải pháp bên ngoài, hoặc
- không làm gì và đối mặt với nguy cơ khoảng cách ngày càng nới rộng
- Ví dụ: chỉ riêng ứng dụng lập lịch đã tiết kiệm 1 giờ mỗi ngày cho mỗi quản lý → trên toàn quốc có thể mang lại mức tiết kiệm hàng triệu USD
Lessons learned from Walmart’s enterprise AI Foundry blueprint
4 nguyên tắc cốt lõi trong thiết kế Foundry
- 1. Mô hình AI phải được đối xử như các linh kiện có thể thay thế
- Cấu trúc độc lập với LLM giúp tránh vendor lock-in và duy trì khả năng tối ưu liên tục
- 2. Ưu tiên tích hợp truy cập dữ liệu
- Element kết hợp tri thức thế giới của LLM với dữ liệu nội bộ của Walmart
- 3. Phải công nghiệp hóa việc phát triển AI
- Mô hình Foundry chuẩn hóa quy trình phát triển → triển khai → lặp lại
- 4. Tích hợp phản hồi vào thiết kế ngay từ đầu
- Vòng lặp phản hồi được nhúng sẵn tạo nên cấu trúc ứng dụng càng dùng càng tốt hơn
Walmart just created the enterprises’ new imperative
Bước ngoặt mới của AI doanh nghiệp
- Walmart không chỉ ‘triển khai’ AI mà còn sở hữu năng lực tự tạo ra AI
- Công ty xem AI không phải là phần mềm đơn lẻ mà là một họ sản phẩm có thể lắp ghép
- Tương tác với nhân viên làm cho hệ thống thông minh hơn, và càng triển khai nhiều thì nền tảng càng tinh vi hơn
- Yếu tố cốt lõi của thành công với AI không nằm ở việc chọn mô hình, mà ở xây dựng năng lực sản xuất AI của tổ chức
- Walmart đang định vị себя là một trong những doanh nghiệp đầu tiên định nghĩa AI như một tài sản chiến lược chứ không phải phần mềm
1 bình luận
Đây là một bước đi có ý nghĩa.