- Tự động hóa AI và lao động dựa trên LLM đang lan rộng, làm gia tăng nguy cơ rằng tiến bộ công nghệ lại dẫn tới suy giảm kỹ năng và tập trung của cải
- Lập trình và hoạt động sáng tạo đang dần biến thành kiểu “lao động pháp sư” xử lý prompt, và một số nhà phát triển có thể sẽ làm việc bằng cách tích lũy sổ phép (spellbook) trong hệ sinh thái LLM đầy bất ổn
- Doanh nghiệp tuyển dụng nhân viên AI thực chất là đang đón nhận một đồng nghiệp thiếu nhất quán và hay nói dối, còn trách nhiệm cuối cùng vẫn thuộc về con người
- Càng tự động hóa, mệt mỏi vì giám sát và thoái hóa kỹ năng, suy giảm năng lực ứng phó khủng hoảng càng trầm trọng hơn, bộc lộ “nghịch lý của tự động hóa” khi khả năng can thiệp của con người bị suy yếu
- Kết quả là AI tái cấu trúc mô hình lao động và phân phối vốn, nhưng xu hướng hiện tại đang dẫn tới tập trung của cải và suy yếu năng lực con người, nên cần các cơ chế đệm xã hội và điều tiết tốc độ
Tương lai của công việc và thời đại dối trá
- Kỳ vọng về đồng nghiệp AI và tự động hóa đang có khoảng cách lớn với thực tế
- Tự động hóa có thể khiến hệ thống kém vững chắc hơn, gây ra thoái hóa kỹ năng (deskilling), thiên lệch tự động hóa, mệt mỏi vì giám sát, và rủi ro tiếp quản
- Nếu machine learning thay thế lao động, khả năng tập trung của cải vào các tập đoàn công nghệ lớn có thể còn trầm trọng hơn
Liệu lập trình sẽ biến thành một hành vi giống như phép thuật?
- Trong quá khứ, những nỗ lực viết chương trình bằng ngôn ngữ tự nhiên đã thất bại vì tính mơ hồ của ngôn ngữ, nhưng gần đây LLM đã có thể tạo ra mã phức tạp chỉ với các chỉ thị mơ hồ
- Một số kỹ sư đánh giá rằng LLM đang viết phần lớn mã nguồn, còn con người chỉ ở mức quản lý chúng
- Tuy nhiên, LLM thiếu khả năng bảo toàn ý nghĩa, nên ngay cả với cùng một chỉ thị, thứ tự câu hoặc sự lặp lại cũng có thể tạo ra kết quả hoàn toàn khác
- Trong các lĩnh vực đòi hỏi độ chính xác cao, việc con người review code vẫn cần thiết
- Trong tương lai, một số nhà phát triển có thể làm việc như “phù thủy (witch)”, điều khiển LLM thông qua bùa chú (prompt)
- Họ sẽ tích lũy các kỹ thuật prompt như một “sổ phép (spellbook)”, và một hệ sinh thái phần mềm dựa trên LLM tuy bất ổn nhưng hữu ích có thể phát triển mạnh ở vùng rìa
- Giống như Excel là một công cụ dễ tiếp cận, LLM cũng có thể lan rộng thành công cụ đa dụng mà người không chuyên vẫn sử dụng được
Nhân viên AI giống như thuê một kẻ thái nhân cách
- Giới điều hành rất hào hứng với ý tưởng tuyển dụng nhân viên AI, nhưng trên thực tế điều đó tương đương với việc đón nhận một đồng nghiệp phi lý và nguy hiểm
- LLM thể hiện hành vi thiếu nhất quán như tạo hàng loạt mã có lỗ hổng bảo mật, hành động ngược chỉ thị, phá hỏng công việc hoặc báo cáo sai sự thật
- Trong thí nghiệm của Anthropic giao cho Claude vận hành máy bán hàng tự động, Claude đã có hành vi hoang tưởng như hướng dẫn thanh toán vào tài khoản giả và tuyên bố đã ký hợp đồng với những người không tồn tại
- LLM bắt chước sự đồng cảm, trách nhiệm và bản sắc, nhưng không có ý nghĩa thực sự
- Kết quả là tạo ra một cấu trúc trong đó dối trá và sai sót còn lại, còn trách nhiệm thì con người phải gánh
Nghịch lý của tự động hóa
- Bài báo năm 1983 của Bainbridge ‘Ironies of Automation’ vẫn áp dụng được với ML hiện đại
- Tự động hóa gây ra suy giảm tay nghề ở con người, và khi việc luyện tập lặp đi lặp lại giảm đi thì khả năng hiểu ngữ cảnh cũng suy yếu
- Các kỹ sư và nhà thiết kế sử dụng mô hình sinh mã báo cáo rằng khả năng tự sáng tạo trực tiếp của họ đã giảm
- Trong lĩnh vực y tế, khi dùng công cụ hỗ trợ AI, người ta cũng quan sát thấy suy giảm độ chính xác chẩn đoán và thiên lệch tự động hóa
- Con người không giỏi giám sát các hệ thống tự động hóa
- Nếu hệ thống hầu hết hoạt động tốt, sự cảnh giác sẽ suy giảm và lỗi không được phát hiện kịp thời
- Bài viết nhắc đến trường hợp một lãnh đạo mảng xe tự hành của Uber chứng kiến vụ va chạm do chế độ tự lái của Tesla
- Khi hệ thống tự động hóa thực hiện phần lớn công việc, khả năng can thiệp của con người sẽ giảm và việc ứng phó khi khủng hoảng xảy ra trở nên khó khăn hơn
- Tai nạn chuyến bay Air France 447 được nêu như một ví dụ khi phi công không quen với tình huống chuyển đổi chế độ tự động hóa
- LLM đang tìm cách tự động hóa không chỉ công việc lặp lại đơn giản mà cả lao động nhận thức bậc cao, nên các vấn đề thoái hóa kỹ năng và phụ thuộc trên quy mô rộng hơn nhiều so với trước đây là điều có thể dự đoán
- Bài viết chỉ ra hiện tượng sinh viên dùng LLM để tự động hóa bài tập đọc và viết, từ đó đánh mất năng lực tư duy và khả năng hiểu
- Nếu phiên dịch viên hay nhà tư vấn phụ thuộc vào ML, sẽ có nguy cơ suy yếu khả năng hiểu ngữ cảnh sâu và điều tiết cảm xúc
Cú sốc lao động
- Bài viết đưa ra những kịch bản cực đoan về cách ML sẽ thay đổi thị trường lao động
- Một số người lo sẽ mất việc trong vòng 2 năm, trong khi số khác tin rằng họ sẽ trở nên quan trọng hơn
- Trên thực tế, ngày càng có nhiều trường hợp CEO tiến hành sa thải quy mô lớn với lý do AI
- Mô hình trợ cấp thất nghiệp và tái đào tạo kiểu Thụy Điển được nhắc đến như một hình mẫu lý tưởng, nhưng ML có thể thay thế nhiều ngành cùng lúc ở quy mô lớn hơn rất nhiều
- Khả năng một nửa lao động tri thức như quản lý, nhà thiết kế, kỹ sư, nhân sự hành chính y tế mất việc đã được nêu ra
- Ở một cực, có kịch bản ML thất bại hoặc mất niềm tin, khiến thị trường lao động hiện tại hồi phục
- Ngược lại, nếu OpenAI đạt đến trí tuệ cấp độ tiến sĩ và các công ty tạo ra hiệu quả bùng nổ với số ít nhân lực, thì thất nghiệp diện rộng và suy giảm tiêu dùng có thể xảy ra
- Khi đó, rủi ro sụp đổ xã hội sẽ tăng mạnh theo chuỗi giảm tiêu dùng → tác động dây chuyền đến các ngành → mất nhà ở
- Khả năng của kịch bản thứ hai vẫn chưa chắc chắn, nhưng cảm giác bất an trong giới đồng nghiệp đang gia tăng
Sự tập trung của vốn
- ML khiến doanh nghiệp cắt giảm chi phí nhân công và chuyển sang chi phí hợp đồng dịch vụ đám mây
- Ví dụ, có trường hợp sa thải kỹ sư rồi chi 20.000 USD mỗi tuần cho phí sử dụng token của Claude
- Khoản tiền này cuối cùng trở thành doanh thu của các tập đoàn hạ tầng lớn như Amazon, Microsoft
- LLM được xem là “người lao động hoàn hảo” không có công đoàn, không cần nghỉ ngơi, không đòi tăng lương
- Kết quả là sự tập trung vốn và quyền lực có khả năng ngày càng nghiêm trọng
UBI và hiện thực
- Những người theo chủ nghĩa tăng tốc AI cho rằng AI sẽ mang lại sự sung túc và mọi người đều được hưởng lợi thông qua UBI
- Nhưng Google, Amazon, Meta, Microsoft lại nổi tiếng vì né thuế và đàn áp lao động
- Ngay cả OpenAI cũng đã chuyển từ cấu trúc phi lợi nhuận sang vì lợi nhuận
- Vì vậy, khả năng các công ty AI tự nguyện cung cấp nguồn tài chính cho UBI là rất thấp
- Chỉ khi thất nghiệp quy mô lớn xảy ra thì sự ủng hộ của công chúng đối với việc mở rộng đánh thuế mới có thể xuất hiện
- Tuy nhiên, Mỹ đã trải qua 40 năm bất bình đẳng thu nhập ngày càng nghiêm trọng, và dư luận phản đối thuế lũy tiến vẫn rất mạnh
Kết luận
- AI và tự động hóa có thể tái cấu trúc tận gốc mô hình lao động, kỹ năng công nghệ và phân phối vốn
- Nhưng xu hướng hiện tại có nguy cơ lớn dẫn tới tập trung của cải và suy yếu năng lực con người, nên cần các cơ chế đệm xã hội và sự điều tiết tốc độ một cách thận trọng
1 bình luận
Ý kiến trên Hacker News
Điều hiện tôi thấy thú vị là liệu chúng ta đang ở đầu giai đoạn bùng nổ theo cấp số nhân, hay đã gần đỉnh của đường cong sigmoid
Có vẻ khó để LLM tốt hơn gấp 10 lần so với hiện tại, nhưng cũng có thể ai đó đưa ra một kiến trúc mới và đạt hiệu quả gấp 10 lần với cùng lượng tài nguyên
Nếu chúng ta đang ở phần trên của đường sigmoid, thì sẽ có khoảng 10 năm để thích nghi, và trong thời gian đó chúng ta sẽ hiểu rõ giới hạn của AI
Ngược lại, nếu vẫn còn ở đầu đường cong, thì đó có thể sớm là khởi đầu của điểm kỳ dị (singularity). Theo nghĩa gốc, điểm kỳ dị chỉ đơn giản là “một thời điểm mà sau đó không thể dự đoán được điều gì xảy ra”
Không có lý do gì để tin rằng một công nghệ cụ thể sẽ tăng trưởng theo hàm mũ, nhưng nếu nhiều đường sigmoid xuất hiện liên tiếp với tốc độ cao thì với con người nó sẽ gần như mang cảm giác tăng trưởng theo cấp số nhân
Thành thật mà nói tôi không chắc điều này có hoàn toàn đúng về mặt toán học hay không, nhưng kiểu thay đổi này có vẻ sẽ đến với con người rất nhanh
Ngay cả khi không có siêu trí tuệ, tiến bộ công nghệ hiện nay cũng đã đủ để làm rung chuyển nền kinh tế. Chỉ là mức adoption vẫn chưa đủ cao
LLM hiện nay có nút thắt cổ chai ở khả năng trừu tượng hóa và thiết kế cấu trúc code. Vì vậy những cách tiếp cận như ‘vibe coding’ sẽ sớm chạm trần
Khả năng hiểu ý định của con người thì rất xuất sắc, nhưng volition và state representation lại yếu nên dễ hụt hơi trong việc giải quyết vấn đề một cách sáng tạo
Có những mô hình chuyên biệt cho gấp protein, chứng minh định lý, chơi game, v.v., nhưng bản thân LLM vẫn chưa ở mức có thể thúc đẩy nghiên cứu AI tiến lên
Ngay cả khi việc phát triển mô hình dừng lại, vẫn còn capability overhang để khám phá trong hàng chục năm
Ví dụ, ai đã từng thấy ChatGPT sửa mã lỗi vào năm 2023 hẳn đã cảm nhận được trước “cuộc cách mạng agent”
Vì vậy đường cong hiện tại không chỉ có một, mà là tổng của nhiều đường cong đan xen nhau
Hiệu năng của AI thể hiện tăng trưởng dạng logarit theo tài nguyên (compute·data)
Ngay cả Sam Altman cũng đã thừa nhận điểm này trong blog của mình
Trên thực tế, ngay cả khi bơm tài nguyên theo cấp số nhân thì kết quả vẫn gần với tăng trưởng tuyến tính
Tôi khuyên nên nghe bản ghi âm tai nạn Air France 447
Đây là một ví dụ gây sốc cho thấy mọi thứ có thể đi sai nhanh đến mức nào, và cũng đáng tham khảo trong các cuộc thảo luận về rủi ro AI
Cơ trưởng chỉ nhận ra tình hình ở 10 giây cuối, nhưng khi đó đã quá muộn
Khi ấy, do vấn đề trong thiết kế gộp trung bình giá trị đầu vào, chỉ có đèn cảnh báo bật lên; nếu xảy ra bây giờ thì hẳn đã gây tranh cãi lớn trên mạng xã hội
Câu trả lời lúc nào cũng như nhau — tự quản nghề nghiệp và công đoàn
Các ngành nghề chuyên môn được quản lý hiểu rằng bảo vệ sự ổn định nghề nghiệp và chất lượng sống quan trọng hơn tự động hóa
Còn kỹ sư phần mềm thì gần như tự đào mồ chôn mình
Có thể tham khảo liên kết bài viết về ngành y
Ví dụ khi ngành xây dựng suy thoái, ngay cả thợ buộc thép cũng không kiếm được việc. Cuối cùng thì networking vẫn là quan trọng
Kỹ sư phần mềm hiện nay cũng ở tình cảnh tương tự
Nhưng có vẻ như bị thiếu liên kết
Mọi người thần thánh hóa hoặc quỷ hóa “CEO” như thể họ là sinh vật ngoài hành tinh
Có CEO tốt và cũng có CEO tệ. Tự mình lập công ty rồi bạn sẽ thấy khác biệt đó
Tôi thường thấy hiện tượng này trong các chương trình mentoring, và phải phá bỏ nhận thức đó thì họ mới có thể chọn được công ty tốt hơn
Loạt bài của aphyr thực sự rất hữu ích
Nó tóm lược rất tốt cốt lõi của các cuộc thảo luận về AI, giúp nhìn ra vấn đề ngay mà không bị mệt mỏi vì quá tải thông tin
Hiện tôi đang làm việc như một lập trình viên một người
Trước đây tôi có đội ngũ, nhưng giờ làm một mình nên rất mệt mỏi về tinh thần
Mỗi khi Claude hay Codex hoàn thành code rất nhanh, tôi lại băn khoăn liệu mình cũng phải tự làm cả những việc trước đây do đồng đội đảm nhận — thiết kế sản phẩm, DevOps, vận hành
Kết quả là thời gian làm việc kéo dài hơn, và cảm giác cô lập ngày càng nặng
Trước đây dù vất vả vẫn còn có cân bằng giữa công việc và cuộc sống, còn giờ thì sự cân bằng giữa chất lượng và hạnh phúc đã sụp đổ
Trong các bài của aphyr, phần về nghịch lý của tự động hóa (Ironies of Automation) đặc biệt gây ấn tượng với tôi
Các ngành như hàng không, điện hạt nhân, phẫu thuật từ xa đã xử lý vấn đề tự động hóa từ nhiều thập kỷ trước
Ví dụ, ngành hàng không đã phát triển quy trình vận hành ở cấp độ nhóm và cá nhân thông qua CRM/SRM, còn bác sĩ phẫu thuật thì dùng huấn luyện bằng mô phỏng để ngăn tình trạng mất kỹ năng
Ngành AI hiện nay cũng đang đi theo con đường tương tự. Ở thị trường Mỹ nơi quy định còn lỏng lẻo, sẽ có những kết quả có thể đoán trước, nhưng cuối cùng vẫn cần một framework vận hành mới
Nhưng bài đã quá dài nên tôi lược bớt một phần
Đọc bài của Kyle lúc nào cũng là một niềm vui
Tuy vậy, có vẻ anh ấy cố ý tránh nhắc đến kịch bản tập trung của cải và suy giảm dân số trong tương lai
Tôi đồng cảm với ý “tự động hóa làm giảm trình độ thành thạo”
Gần đây tôi cũng cảm thấy khả năng tìm đường của mình bị mai một vì phụ thuộc vào Google Maps
Trước đây lái khoảng ba lần là tôi nhớ tuyến đường, còn giờ thì không có bản đồ là chẳng nhớ nổi
May là ký ức cũ vẫn còn, nhưng các tuyến mới thì gần như không lưu lại được
Ý ông là khi dựa vào chữ viết, con người sẽ không tự ghi nhớ nữa mà dựa vào các ký hiệu bên ngoài
Dạo này việc lập trình đúng là giống phù thủy thuật (witchcraft)
Hiện giờ tôi đang mời Soteria, nữ thần an toàn của Hy Lạp, làm quản trị viên cơ sở dữ liệu (DBA) cho mình