Ảo tưởng tập thể về LLM ở nơi làm việc của chúng ta
(blog.avas.space)- Ghi chép từ trải nghiệm trực tiếp về tình huống đầy mâu thuẫn tại nơi làm việc đang vật lộn vì thiếu kinh phí: ngân sách cho các công việc cốt lõi bị cắt giảm nhưng tiền vẫn chảy vào việc triển khai AI
- Trong lúc tiền thưởng bị hủy suốt nhiều năm và nhân sự, giấy phép, cơ sở dữ liệu đều bị cắt, chi phí cho tư vấn, workshop LLM, giấy phép ChatGPT và Copilot lại được phê duyệt ngay lập tức
- Trong các cuộc họp toàn công ty với sự tham gia của hàng trăm người, nhiều nhóm đã thử các dự án LLM nhưng không một dự án nào thành công
- Những ví dụ sử dụng phổ thông được trình bày chỉ dừng ở mức vô nghĩa hoặc nguy hiểm như hỏi bot hôm nay cảm thấy thế nào, tóm tắt thực đơn bữa trưa dài 1 trang, hay tải email đáng ngờ lên ChatGPT
- Tác giả gọi hiện tượng này là ảo tưởng tập thể mất kiểm soát, và xem đó là khoảnh khắc sụp đổ niềm tin khi nhận ra những việc lẽ ra lãnh đạo hoàn toàn có thể làm từ trước đã bị cố tình ngăn lại
Bối cảnh tài chính mâu thuẫn và lý do triển khai AI
- Người sử dụng lao động đang rơi vào tình trạng thiếu kinh phí kéo dài, các vị trí trống không được tuyển bù mà cứ thế biến mất
- Hai năm trước, tiền thưởng cho nhân viên xuất sắc bị hủy vĩnh viễn
- Các nguồn lực thiết yếu bị cắt giảm, chỉ còn lời thông báo rằng hãy "tự xoay xở"
- Nhiều bộ phận bị quá tải vì không được bổ sung nhân sự, đồng thời các giấy phép và cơ sở dữ liệu quan trọng bị xóa để tiết kiệm chi phí
- Nhưng trong bối cảnh đó, chi tiêu liên quan đến AI lại là ngoại lệ hiếm hoi
- Vẫn có kinh phí để thuê tư vấn khuyến nghị "all-in"
- Vẫn có kinh phí cho nhiều năm workshop và seminar LLM bên ngoài
- Vẫn có kinh phí cho cả giấy phép ChatGPT lẫn Copilot
- Tác giả chỉ ra rằng tiền thưởng cho nhân viên và ngân sách hỗ trợ công việc đang chảy vào bọn lừa đảo, rủi ro bảo mật, các workshop vô dụng và những kẻ phát xít công nghệ
Thất bại toàn diện của các dự án LLM trong toàn công ty
- Các cuộc họp lặp lại liên tục được tổ chức, nơi từng bộ phận đăng ký và chạy thử các dự án LLM rồi công bố kết quả
- Dù đã tham dự tất cả các cuộc họp, tác giả cho biết không có lấy một trường hợp thành công thực sự
- Hàng trăm người, nhiều nhóm, những người cực kỳ nhiệt tình với AI, và đủ loại dự án đều đã được thử
- Mọi dự án đều kết thúc bằng "không chạy được", "không tiết kiệm thời gian", hoặc "còn làm mọi thứ phức tạp hơn"
- Dù có workshop, "prompt engineering", custom GPT, tài liệu và mẫu chuẩn bị sẵn, họ vẫn không tạo ra được hiệu quả có thể tái lập nào (không phải lĩnh vực lập trình)
- Mỗi lần đều là một canh bạc bừa bộn, tốn rất nhiều thời gian cho tinh chỉnh, lặp lại, kiểm chứng đầu ra và sửa lỗi
- Các vấn đề bị phàn nàn nhiều nhất là bỏ sót tài liệu cụ thể, hallucination, và không thể điền hoặc chỉnh sửa tài liệu cho đúng
- Ngay cả với giấy phép Enterprise, các giới hạn vẫn quá lớn
Trình diễn những trường hợp sử dụng phổ thông vô nghĩa
- Cũng có những cuộc họp chuyên để trình bày các trường hợp sử dụng phổ thông cho công việc hằng ngày, không gắn với dự án cụ thể nào
- Chức năng hỏi bot "Hôm nay bạn cảm thấy thế nào?" được trình diễn một cách nghiêm túc
- Đây không phải trò đùa hay châm biếm, mà được giới thiệu dưới danh nghĩa mang tính tương lai và nhân văn
- Tác giả nhấn mạnh rằng nếu là 5 năm trước, đề xuất trả hàng nghìn đô tiền thuê bao chỉ để nói chuyện vô nghĩa với bot hẳn đã bị cười nhạo, và phản ứng đó đến giờ vẫn đúng
- Có cả màn trình diễn tải thực đơn căng tin nội bộ dài 1 trang (một file Excel) lên ChatGPT rồi hỏi "trưa thứ Tư ăn gì"
- Câu trả lời của bot còn dài hơn cả việc đọc toàn bộ bảng
- Tải xuống, tải lên và viết prompt còn mất nhiều thời gian hơn tự đọc bảng
- Với thông tin có thể nhìn ra ngay, bot là hoàn toàn không cần thiết
- Một ví dụ do chính người phụ trách IT đưa ra khuyên rằng hãy lưu email spam, phishing hoặc có tệp đính kèm đáng ngờ xuống desktop rồi tải lên ChatGPT để kiểm tra
- Tác giả chỉ ra mức độ nguy hiểm khi khiến những nhân viên không rành công nghệ lưu tệp đáng ngờ vào laptop làm việc
Hiệu ứng Dunning-Kruger bị AI khuếch đại
- AI đang khuếch đại hiệu ứng Dunning-Kruger của con người, khiến mọi điều họ thử làm đều trông thông minh và chính đáng hơn
- Người ta làm những công việc tầm thường, vô giá trị nhưng vẫn có thể giả như mình đang thực hiện điều gì đó quan trọng và đột phá
- Những người ủng hộ công nghệ cảm thấy mình là một phần của cuộc cách mạng khổng lồ và tưởng tượng đến ngày những người chỉ trích phải xin lỗi
- Tác giả lo ngại trước hiện tượng những người có trách nhiệm và năng lực, không vì lý do rõ ràng nào, lại biến thành đội ngũ quảng bá cho các công ty AI
- Những người đủ năng lực bị hạ xuống ngang mức nhân viên bán hàng gõ cửa từng nhà để gian dối quảng cáo công dụng của chất tẩy rửa
Chỉ là hype thuần túy và sự sụp đổ niềm tin
- Dù không có vấn đề cụ thể nào cần giải quyết, và ít nhất 90% nhân viên không làm loại công việc có thể hưởng lợi từ Copilot hay công cụ tương tự, việc triển khai vẫn bị ép tiến hành
- Người ta tạo ra vấn đề ở những nơi vốn không có, lặp đi lặp lại các nỗ lực nhằm tiêu thụ token và hợp thức hóa tiền thuê bao
- Tác giả xem đó là hành vi mang tính trình diễn để có cái báo cáo lên cấp trên rằng "ít nhất chúng tôi cũng đã thử"
- Mọi cách sử dụng đều được biện minh bằng lý do "khám phá" và "vui chơi", qua đó làm nhẹ đi tác động của lãng phí thời gian, lãng phí chi phí và quyền lực đứng sau
- Tác giả đặt câu hỏi về tốc độ triển khai AI
- Ở một nơi lúc nào cũng nói không có tiền, công nghệ bất ổn với chi phí ban đầu khổng lồ lại được thông qua ngay
- Những công nghệ mới trước đây thường bị khu vực công bỏ qua, nhưng lần này lại nhận được toàn bộ sự chú ý
- Một tổ chức vốn cần nhiều năm đến cả thập kỷ để đưa thay đổi vào vận hành lại có thể gần như ngay lập tức sở hữu hạ tầng AI và năng lực tổ chức liên quan
- Đây là "khoảnh khắc chiếc mặt nạ rơi xuống", phơi bày rằng sự chậm chạp trong thay đổi của tổ chức không phải mặc định mà là một thiết kế có chủ ý
- Những rào cản đó không phải bản chất cố hữu mà là các dối trá tùy tiện
- Với nhân viên, đây trở thành khoảnh khắc phá hủy hoàn toàn niềm tin
Việc còn lại ở phía trước
- Tác giả đặt ra câu hỏi căn bản: làm sao có thể quên đi và bước tiếp sau khi chứng kiến những người lớn từng được tôn trọng trong tổ chức tự làm mình bẽ mặt nhân danh "tiến bộ"
- Một nền văn hóa như bị gaslighting lặp đi lặp lại suốt nhiều tháng đã hình thành, đến mức khiến người ta tự nghi ngờ rằng có phải chính mình mới là kẻ điên
- Tác giả nói mình không thể quên trải nghiệm này và gọi nó là "COVID thứ hai của tôi"
- Khép lại, tác giả nói rằng nếu nơi làm việc của bạn không như vậy thì đó thật sự là điều đáng mừng, đồng thời dành lời tán thưởng cho những ngành nghề và những con người biết dùng AI một cách khôn ngoan để tạo ra kết quả tốt
- Tuy vậy, vì những tình huống như trên là có thật, tác giả mong mọi người đừng phủ nhận chính trải nghiệm đó mà hãy cùng lên tiếng về sự điên rồ này
3 bình luận
Dù không tạo ra kết quả, có lẽ đó vẫn là nỗ lực để bằng cách nào đó duy trì tổ chức và cố gắng sinh tồn...
Nếu cái gọi là nỗ lực đó lại bị chỉ ra là "tiền đang chảy vào bọn lừa đảo, rủi ro bảo mật, các workshop vô dụng và bọn phát xít công nghệ" thì có lẽ đó không phải là một nỗ lực đáng khen.
Ý kiến trên Lobste.rs
Chỗ làm của tôi cũng chưa tệ đến mức này, nhưng hướng đi thì giống hệt. Không có tiền cho tuyển dụng mới hay tăng lương, nhưng lúc nào cũng có tiền cho tư vấn kinh doanh, giấy phép phần mềm COTS doanh nghiệp khổng lồ, và các gói đăng ký AI
Dù bỏ qua chút mỉa mai đó, ngay cả ở những tổ chức kém quan liêu hơn chính phủ, chuyện ngân sách để “mua đồ” dễ xin hơn ngân sách để “trả cho nhân viên” vẫn rất phổ biến
Điều tác giả mô tả là tình trạng ban lãnh đạo bất tài gần như ở mức chí mạng trong vận hành kinh doanh
Tác giả nên tìm một công việc mới với ban lãnh đạo bớt bất tài hơn. Nếu điều đó khó, thì cần có các biện pháp khác để bảo toàn sự sống còn và sức khỏe tinh thần
Không phải FAANG miễn nhiễm với kiểu bất tài chí mạng này, mà là kiểu tâm lý “Ồ, nó tóm tắt email với thực đơn bữa trưa cho tôi à?!” lan rộng hơn tôi tưởng rất nhiều
Nhìn chung, trải nghiệm của tôi hơi tích cực hơn một chút
Nhưng mỗi khi đi qua sân bay và nhìn thấy quảng cáo AI nhắm vào giới điều hành, tôi lại nghĩ: đúng là tình hình bên ngoài nghiêm trọng thật
Việc dùng LLM cũng cho cảm giác rất giống như vậy. Nếu hiểu công cụ làm được gì và áp dụng nó hiệu quả ra sao thì nó thực sự tiết kiệm thời gian, nhưng nếu chỉ chăm chăm đẩy code ra nhanh nhất có thể thì kết cục sẽ là một đống hỗn loạn khó mà gỡ nổi