Cơn sốt AI đang phá vỡ việc ra quyết định trên toàn cầu

• Trong một năm rưỡi, tỷ lệ thành công của các dự án AI mà Hermit Tech tham gia hoặc quan sát gián tiếp là 0%, và các doanh nghiệp đang xem việc áp dụng AI tự thân nó là mục tiêu chiến lược, hơn là kết quả thực chất
• Chatbot nội bộ không được dùng vì tài liệu kém chất lượng, còn chatbot cho khách hàng thậm chí không đo lường đúng việc có giải quyết được vấn đề hay không; tuy vậy, vì ban lãnh đạo, nhân viên và nhà cung cấp đều không có động lực công khai thất bại, các công bố về cải thiện năng suất vẫn tiếp diễn
• Ở các tổ chức trên 500 người, nếu nghi ngờ tính hữu ích của AI thì cơ hội thăng tiến và việc làm bị đe dọa; nhân viên còn đóng gói cả những việc không dùng AI thành thành tích AI, hoặc cố ý tăng lượng token sử dụng để khớp chỉ số đánh giá
• Ban lãnh đạo cũng im lặng vì nếu phản bác tuyên bố của khách hàng, hội đồng quản trị hay đồng nghiệp, họ có thể mất hợp đồng hoặc vị trí; vấn đề phối hợp này khiến thành tích bị thổi phồng và các khoản đầu tư không cần thiết củng cố lẫn nhau
• Nếu mọi yêu cầu về kinh doanh, tuyển dụng và ngân sách đều đòi có yếu tố AI, hoạt động mua sắm và giao tiếp bình thường sẽ bị cản trở; do đó người làm thực tế cần xác minh sự thật bằng trao đổi riêng và khảo sát ẩn danh, và nếu tình hình đã đóng băng thì nên chuẩn bị chuyển việc hoặc chuyển sang làm hợp đồng

---

Những thất bại được quan sát trong đầu tư AI

• Trong năm qua, Hermit Tech phụ trách bán hàng của công ty và trò chuyện với khoảng 300 chuyên gia trên khắp thế giới, qua đó tiếp xúc với tình hình áp dụng AI trong các tổ chức tư nhân và công
• Trong một năm rưỡi, mọi dự án AI mà nhóm tham gia hoặc quan sát gián tiếp trong các công việc khác đều thất bại; ngay cả nếu có trường hợp thành công, nhóm cho rằng đó gần với ngoại lệ hơn là kết quả phổ biến
  • Nhóm đã từ chối toàn bộ công việc triển khai AI và giảm thiểu mức độ phụ thuộc để ngay cả khi OpenAI biến mất, các hợp đồng hiện tại cũng không bị ảnh hưởng trực tiếp
• Dù công cụ AI có thể làm nhanh một số tác vụ cụ thể, cách thức và quy mô đầu tư hiện nay được xem là không hợp lý
  • Năng lực triển khai dự án phần mềm nói chung của doanh nghiệp còn thấp, nên vẫn mang nguyên các yếu tố thất bại cũ
  • Dự án AI còn có thêm khả năng thất bại do tính mới của công nghệ
  • Rất hiếm doanh nghiệp vừa có thể phát hành phần mềm ổn định vừa gánh thêm các rủi ro này

Các lợi ích liên quan che giấu thất bại

• Hội đồng quản trị, ban lãnh đạo, nhân viên, nhà cung cấp và tư vấn viên đều có động lực làm mơ hồ việc dự án AI có thành công hay không
  • Lãnh đạo thừa nhận thất bại có thể bị mất ghế
  • Nhân viên nói thật về vấn đề có thể bị sa thải hoặc đưa vào diện cắt giảm
  • Một số công ty niêm yết gần như không làm gì ngoài mua giấy phép Copilot nhưng vẫn công bố cải thiện năng suất nhờ AI
• Ngay cả các câu hỏi cơ bản về mục tiêu dự án, người dùng và kết quả cũng có thể bị xem là hành vi tấn công chuỗi chỉ huy
  • Khi dự án đang diễn ra, thất bại chưa lộ rõ nên vẫn có thể nhận được câu trả lời rằng mọi thứ đang tốt
  • Hermit Tech cho rằng khó can thiệp trước khi khủng hoảng trở thành hiện thực, và nếu khách hàng không yêu cầu rõ ràng lời khuyên về chiến lược dữ liệu nói chung, họ sẽ không chủ động nêu vấn đề với dự án AI đang triển khai
• Cách tiếp cận này dựa trên nguyên tắc của Gerry Weinberg: “Tư vấn là tác động đến con người khi được yêu cầu”

Giới hạn của chatbot nội bộ và chatbot cho khách hàng

• Dự án AI phổ biến nhất trong doanh nghiệp là chatbot LLM dành cho nhân viên nội bộ hoặc khách hàng
• Chatbot nội bộ gần như không lan rộng trong sử dụng thực tế
  • Nếu tài liệu doanh nghiệp có chất lượng thấp, LLM không thể lấy được thông tin cần thiết để trả lời
  • Vì chỉ có thể tận dụng thông tin đã được ghi lại hoặc có thể truy cập, AI không thể thay thế việc giải quyết vấn đề tài liệu hóa
• Chatbot cho khách hàng cũng hiếm khi mang lại trải nghiệm hài lòng; ngoại lệ là phiên âm thời gian thực trong khám chữa bệnh
• Người chịu trách nhiệm dự án có xu hướng né các chỉ số cơ bản như công cụ có thực sự được dùng hay không, hoặc chọn các chỉ số dễ thao túng

• Trường hợp hỗ trợ khách hàng của Mitsubishi

  • Sau khi xe hỏng và liên hệ Mitsubishi, một hệ thống tư vấn tự động với giọng nói tự nhiên và phản hồi nhanh đã tiếp nhận vấn đề và thông báo sẽ sớm phản hồi
  • Sau 6 tháng, không có phản hồi nào đến
  • Không thể xác minh yêu cầu đã được ghi nhận là lỗi, hay được tính là đã giải quyết mà không có con người can thiệp
  • Trên chỉ số hệ thống, việc này có thể được ghi nhận như thành công, nhưng kết quả thực tế là khách hàng quyết định không mua xe Mitsubishi nữa

Chiến lược tổ chức biến thành lời tuyên xưng đức tin AI

• Ở các tổ chức từ 500 người trở lên được quan sát, để duy trì thăng tiến và việc làm, ngày càng thường xuyên phải lặp lại niềm tin rằng AI sẽ thay đổi mọi thứ trong lĩnh vực kinh doanh đó
• Thứ được yêu cầu không phải là ý tưởng ứng dụng cụ thể mà là phát ngôn gần như tuyên xưng đức tin
  • Nhóm phi kỹ thuật chủ yếu đưa ra các phát ngôn này, nhưng kỹ sư cũng hùa theo để lấy thiện cảm
  • Có trường hợp một người nói “AI đang thay đổi mọi thứ” nhưng sau đó không nêu được bất kỳ ví dụ nào về việc dùng LLM trong tổ chức hay công việc đã thay đổi ra sao
  • Cũng có trường hợp một lãnh đạo viết chiến lược công nghệ lấy AI làm trung tâm cho tổ chức có doanh thu hằng năm trên 2 tỷ USD thừa nhận chưa từng dùng bất kỳ công cụ AI nào, kể cả ChatGPT
• Một số là cố ý phóng đại để trông như nhà tư tưởng, nhưng điều nguy hiểm hơn là những người không có nền tảng kỹ thuật thật sự tin vào lời mình nói
• Một tổ chức đã sa thải những người có thành tích cao nhất vì họ đạt kết quả mà không dùng LLM, và vẫn giữ quyết định đó không chỉ trong PR đối ngoại mà cả trong chiến lược nội bộ và bằng tiền của chính mình

Việc dùng AI bị áp đặt lên chuyên gia kỹ thuật

• Cả phía hoài nghi AI lẫn phía ủng hộ đều đồng ý rằng ban lãnh đạo ép dùng LLM là một chiến lược tệ
  • “Contra Ptacek’s Terrible Article On AI” đánh giá khác với Thomas Ptacek trong “My AI Skeptic Friends Are All Nuts” về tính hữu ích của LLM
  • Tuy nhiên, kết luận chung là không phù hợp khi ép nhân viên chuyên môn dùng một cách làm việc cụ thể
• Việc lãnh đạo phi kỹ thuật bắt buộc các quy trình và công cụ cụ thể mà không có sự đồng thuận của chuyên gia có cùng vấn đề như CEO bệnh viện hoặc công ty xây dựng trực tiếp chỉ đạo nhân lực chuyên môn về kỹ thuật y khoa hay xây dựng

• AI-washing và bảng xếp hạng token

  • Vì quản lý tỏ ra không hài lòng nếu kết quả không dùng AI dù kết quả đạt yêu cầu, nhân viên làm theo cách cũ rồi báo cáo gian rằng Claude đã thực hiện
  • Một số tổ chức vận hành bảng xếp hạng trong đó chi phí AI hoặc lượng token tiêu thụ càng lớn thì đánh giá càng cao
  • Các kỹ sư phụ trách tối ưu hệ thống khiến LLM tự lặp lại prompt để tăng mức tiêu thụ
  • Ngay cả khi đánh giá đầu ra không phù hợp để triển khai, họ vẫn bỏ đi, làm việc khác và chỉ lấp đầy mức sử dụng
  • Một kỹ sư cho biết đã yêu cầu AI viết lại toàn bộ bản sao một repository Go sang Zig rồi bỏ qua kết quả
  • Những người thao túng chỉ số theo cách này không bị phát hiện, trong khi có trường hợp chỉ những người tỏ rõ nghi ngờ chiến lược mới bị sa thải
  • Cuối cùng, nhân viên học được rằng khen chiến lược AI của ban lãnh đạo mới là an toàn

Cách demo AI lấn át quyết định mua hàng

• Một trong những hạ tầng chính Hermit Tech triển khai cho khách hàng là cơ sở dữ liệu phân tích tính phí theo mức sử dụng Snowflake
• Cortex của Snowflake là một lớp AI dùng metadata như ý nghĩa của các cột dữ liệu để truy vấn cơ sở dữ liệu công ty bằng câu hỏi ngôn ngữ tự nhiên
  • Có thể trả lời các câu hỏi như “doanh thu tuần trước là bao nhiêu?”
  • Theo trí nhớ từ bài thuyết trình của nhân viên Snowflake, ngay cả khi cấu hình lý tưởng, độ chính xác chỉ khoảng 92% do độ phức tạp của dữ liệu doanh nghiệp lớn
  • Điều này nghĩa là khoảng 1 trong 10 con số CFO nhìn thấy có thể sai, và còn có vấn đề nghiêm trọng về quản lý triển khai, nên không phù hợp cho production
• Dù vậy, Cortex rất dễ tạo demo ấn tượng

• Buổi trình diễn khiến cảnh báo bị phớt lờ

  • Khách hàng vốn không mặn mà với đề xuất ban đầu cũng muốn mua ngay sau khi xem demo truy vấn dữ liệu bằng ngôn ngữ tự nhiên
  • Dù đã cảnh báo rõ rằng nó sẽ không tạo ra kết quả mong muốn, khách hàng vẫn muốn gạt sang một bên cả tác động trị giá hàng triệu USD có thể đạt được bằng cách không dùng AI để tập trung ngân sách vào chatbot
  • Hermit Tech cho rằng lợi dụng khoảng trống trong năng lực phán đoán của khách hàng là vô trách nhiệm và có rủi ro danh tiếng, pháp lý lớn, nên đã dừng bán; sau đó loại Cortex khỏi danh sách demo
  • Demo chỉ ở mức nhập mô tả dữ liệu vào trình duyệt trong khoảng 2 giờ, nhưng lại hoạt động tốt hơn bất kỳ kết quả nào mà các khách hàng tiềm năng, bao gồm cả công ty niêm yết trên ASX vốn đã quảng bá việc dùng AI, đạt được từ các khoản đầu tư trước đó
  • Sau đó, Hermit Tech ngừng giao dịch với mọi khách hàng tiềm năng thể hiện sự ám ảnh mạnh với AI vượt quá tò mò nhất thời
  • Lý do không chỉ là từ chối về mặt đạo đức, mà còn vì khó tránh rủi ro danh tiếng và pháp lý trong quá trình hợp đồng
  • Môi trường quản lý mà họ tạo ra cũng trở nên mang tính tôn giáo và kém hiệu quả

Vấn đề phối hợp trói buộc ban lãnh đạo

• Một số lãnh đạo phụ trách các mảng AI quy mô lớn hoặc công khai đưa ra phát ngôn phóng đại không thật sự tin vào lời mình nói
  • Một số người phụ trách AI ở các công ty có doanh thu định kỳ hằng năm trên 1 tỷ USD cho biết họ nghĩ chức vụ đó là hư cấu, nhưng nhận vì đó là con đường thăng tiến duy nhất trong tổ chức
  • Nhiều CISO âm thầm hoài nghi mảng AI nhưng sợ công khai phản đối
• Một lãnh đạo tại công ty Fortune 500 nói rằng khi lãnh đạo khách hàng tuyên bố năng suất tăng 100 lần, nếu nhà cung cấp phủ nhận điều đó thì sẽ làm tổn hại uy tín của ban lãnh đạo khách hàng và hợp đồng doanh nghiệp có thể bị hủy
• Nhà cung cấp cũng là khách hàng của nhà cung cấp khác, nên lãnh đạo mỗi công ty đều sợ nếu phản bác sự phóng đại của bên kia, chính mình sẽ là người chịu bất lợi trước
• Điều này tạo ra vấn đề phối hợp khiến khó nói thật về kết quả AI
  • Nếu mọi người giữ nguyên lập trường hiện tại, họ có thể giữ vị trí
  • Nếu một người phủ nhận thành tích không đúng sự thật, điều đó có thể bị hiểu là biến đồng nghiệp thành kẻ nói dối, hèn nhát hoặc bất tài, và người đó có thể bị sa thải
  • Vị trí bị sa thải lại được lấp bằng người sẽ tuân theo lập trường hiện tại
  • Nếu tất cả đồng thời thừa nhận, tình hình có thể thay đổi, nhưng không có phương tiện để điều phối việc đó
• Thành viên hội đồng quản trị của các công ty S&P 500 cũng bộc lộ nỗi lo rằng phải yêu cầu đầu tư AI mới giữ được vị trí
  • Một thành viên nói: “Đầu tư sớm như thế này có vẻ ít dư địa tăng giá mà chỉ toàn rủi ro”
  • Khoảng 2 năm sau, doanh nghiệp trị giá hàng chục tỷ USD đó tự định vị thương hiệu là AI-native

Bài kiểm tra độ thuần AI để mọi dự án được thông qua

• Vì cấu trúc không cho phép công khai nghi ngờ niềm tin vào AI, việc ra quyết định bình thường trong tổ chức đang đình trệ
• Nhân viên bị đánh giá bằng các chỉ số dễ thao túng như chi tiêu AI, và nếu từ chối mua sắm không cần thiết thì lòng trung thành với chiến lược AI bị nghi ngờ
• Mọi đề xuất chịu ảnh hưởng của chính trị nội bộ đều phải có yếu tố AI, dù giá trị không rõ ràng
• Nhiều dự án AI về bản chất chỉ là dự án cũ được gắn thêm một bước AI để vượt qua bài kiểm tra độ thuần của tổ chức

• Trường hợp chuyển từ Oracle sang Snowflake

  • Một tổ chức khi chuyển cơ sở dữ liệu Oracle sang Snowflake đã thêm một bước sơ bộ dùng LLM tự động chuyển Oracle SQL sang Snowflake SQL
  • Khi tự động hóa thất bại vì không có được quyền cần thiết, nhà cung cấp đã chuyển SQL thủ công
  • Nguyên nhân thất bại không phải năng lực chuyển đổi của LLM mà là thiếu quyền tự động hóa
  • Vì đã dán một số SQL không quan trọng do AI chuyển đổi, toàn bộ dự án được tính là thành công dựa trên AI
  • Thứ thực sự được mua là di chuyển cơ sở dữ liệu tiêu chuẩn nhằm loại bỏ hệ thống cũ trước kỳ gia hạn giấy phép
  • Cấp trên được báo rằng “một phần đáng kể ngân sách đã được phân bổ cho AI và đạt mục tiêu”

Số phận của các dự án khó gắn cả cái tên AI

• Những dự án AI thật sự, trong đó LLM là cơ chế cốt lõi duy nhất và có thể phân định rõ thành công hay thất bại bằng việc đạt mục tiêu định lượng cụ thể, rất hiếm
• Loại này chủ yếu được thấy ở startup, nhưng một số startup khi gần kết thúc cuộc trò chuyện bán hàng lại yêu cầu Hermit Tech xây hộ sản phẩm mà họ đã marketing là hoàn thiện
• Nếu không thể gắn yếu tố AI, hoặc người đề xuất từ chối đóng gói giả tạo, yêu cầu ngân sách sẽ biến mất hoặc mọi tài liệu phải được viết lại sao cho “đủ giống AI”
• Ngày càng nhiều công ty yêu cầu chứng minh đã thử giải quyết bằng AI trước khi xin thêm nhân sự
  • Nếu nói đã dùng AI nhưng vẫn cần người, người đó có thể bị xếp vào nhóm “không biết dùng AI” và bị cắt giảm
• Trừ số ít công ty nơi AI thật sự giải quyết ưu tiên hàng đầu, các tổ chức lớn trở nên khó tập trung vào mua phần mềm hợp lý, tuyển nhân tài, báo cáo trạng thái dự án và thực hiện các công việc quan trọng

Khi cần sửa một dự án cụ thể

• Nếu mục tiêu là đạt được một dự án cụ thể hoặc mục tiêu khác thay vì thay đổi niềm tin AI của cả tổ chức, cần tránh đối đầu công khai

• Trao đổi một-một và tính ẩn danh

  • Tốt hơn là không nêu vấn đề của dự án AI trong cuộc họp nhóm
  • Vì từng người tham dự đều sợ bị lộ là người hoài nghi trước mặt đồng nghiệp
  • Hãy sắp xếp trao đổi một-một, nói rằng bạn chấp nhận quan điểm môi trường AI có thể đang quá nóng và sẽ bảo vệ danh tính người phát biểu
  • Cần loại bỏ các manh mối có thể khiến đồng nghiệp nhận ra người nói, chẳng hạn trích dẫn trực tiếp
  • Nếu chỉ khoảng 1 trong 6 người có thể nói ra vấn đề, có thể nên chuyển sang tổ chức hoặc dự án khác có khả năng cải thiện cao hơn

• Tìm sự chia rẽ bị che giấu bằng đánh giá ẩn danh

  • Khảo sát ẩn danh yêu cầu đánh giá khả năng thành công của dự án đang triển khai theo thang 1–10 có thể hiệu quả
  • Kết quả điển hình được quan sát là phân bố hai đỉnh, một nửa cho khoảng 3 điểm và phần còn lại khoảng 8 điểm
  • Sự chia rẽ như vậy cũng xuất hiện ở các dự án đã trễ 3 năm
  • Đưa kết quả này cho CEO có thể xác nhận rằng thông tin về trạng thái dự án đang bị che giấu

• Vì sao phải khảo sát người dùng thực tế

  • Nhân sự tuyến đầu dùng công cụ trong công việc hằng ngày là nguồn dữ liệu duy nhất để đánh giá hiệu quả đầu tư
  • Cần để họ lên tiếng trong môi trường được tôn trọng; trong tổ chức lớn có thể có những người không xem cấp dưới là người bình đẳng
  • Ở một khách hàng, phát hiện rằng nhân viên thậm chí không biết mình đã được cấp giấy phép công cụ AI, làm lung lay cơ sở của các tuyên bố năng suất trước đó

• Không trực diện va chạm với niềm tin rộng khắp

  • Nếu mục tiêu là giải quyết vấn đề cụ thể, tốt hơn là bỏ qua các phát ngôn bao quát như “AI thay đổi mọi thứ”
  • Chỉ sau khi có được niềm tin của người cấp cao nhất mới có thể thách thức nhận thức thực tế của tổ chức
  • Niềm tin được xây bằng cách giảm lo lắng trong bữa ăn riêng, hơn là làm đối phương bẽ mặt trước công chúng
  • Trước khi bước vào cuộc họp, khó biết ai đã đưa ra cam kết công khai nào
  • Người đã nói “năng suất đã tăng 100 lần so với năm ngoái” có thể vì thể diện mà không rút lại được, dù muốn
  • Ngay cả câu nói thường thức “LLM không nên triển khai code mà không có con người review” cũng có thể cắt đứt quan hệ ban đầu
  • Nếu mục tiêu công ích là quan trọng, một cách sinh tồn thực tế là gắn chatbot AI trị giá 10.000 USD vào dự án cốt lõi và chỉ nhấn mạnh phần đó trong cuộc họp

Khi phải trụ lại trong tổ chức

• Cần chấp nhận rằng rất khó chống lại tình trạng này một cách thực chất, và vấn đề nằm ở văn hóa doanh nghiệp rối loạn chức năng hơn là bản thân AI
• Chuyển từ nhân viên chính thức sang làm hợp đồng có thể tăng thu nhập và giúp tránh xa chính trị nội bộ; ngay cả tình huống khó chịu cũng có ngày kết thúc hợp đồng định sẵn
• Nên giới hạn việc tiêu thụ tin tức AI vừa đủ để giảm hao mòn tinh thần
  • Tránh những nơi tin liên quan được cung cấp liên tục như Hacker News và Reddit
  • Chỉ đọc vừa đủ để giữ cảm giác thực tế rồi dừng
  • Khi than phiền với bạn bè, nên nói trước mục đích của việc đó
• Nếu ai đó dùng AI cho mục đích không phù hợp nhưng không có nguy cơ thân thể tức thời, tốt hơn là chỉ phụ họa rồi bỏ qua
• Với tư cách lập trình viên, nếu được hỏi ý kiến về AI, trừ khi đối phương có thể ảnh hưởng đến quyết định quan trọng, nên trả lời ngắn rằng “có phần bị thổi phồng” rồi đổi chủ đề

• Khi lượng lớn code AI lấn át công việc

  • Nếu phải liên tục review các PR 2.000 dòng chất lượng thấp do AI tạo, cần bắt đầu tìm việc ngay lập tức với giả định tổ chức cuối cùng sẽ vắt kiệt người review rồi sa thải họ
  • Khó thuyết phục người tạo thay đổi cách làm, và nên chuẩn bị chuyển việc khi còn năng lượng
  • Dù tìm việc khiến tốc độ xử lý giảm, nếu không thì kiệt sức và trầm cảm sau này cũng gây ra cùng vấn đề

• Khi quản lý trò chuyện bằng câu chữ do AI tạo

  • Nếu quản lý trả lời bằng văn bản rõ ràng do AI tạo, hãy phản hồi theo cùng cách để giảm gánh nặng tinh thần và tìm việc mới
  • Những quản lý như vậy có thể đánh giá tích cực việc dùng AI hơn là xem việc nhân viên trả lời bằng AI là thô lỗ
  • Nếu còn bị yêu cầu lấp đầy mức sử dụng token tối đa, cần chuẩn bị rời khỏi tổ chức hiện tại
  • Các công ty ít gặp vấn đề này vẫn tồn tại, nhưng thường là doanh nghiệp nhỏ không hiện rõ trên nền tảng tuyển dụng; có thể mất nhiều tháng để tìm nên cần bắt đầu sớm

Vấn đề sẽ còn lại lâu dài

• Ngay cả khi bong bóng AI hiện tại một ngày nào đó kết thúc, các đặc tính phi lý đã bám vào tầng lớp lãnh đạo có thể lại được kích hoạt bởi một trào lưu khác sau này
• Một số tổ chức có thể duy trì trạng thái bị hệ tư tưởng chiếm giữ cho đến khi sụp đổ hoàn toàn, như những trường hợp không thoát khỏi cơn sốt blockchain
• Trước mắt, cần thu thập dữ liệu riêng tư và ý kiến tuyến đầu trong phạm vi có thể khôi phục phán đoán bình thường; ở những tổ chức không thể thay đổi, hãy ưu tiên cảm giác thực tế và khả năng sinh tồn của cá nhân