- Bày tỏ nỗi sợ về khả năng trí tuệ nhân tạo dừng lại ở mức hiện tại, và con người cũng không còn theo đuổi chất lượng tốt hơn
- AI hiện nay có thể nhanh chóng tạo ra sản phẩm hoàn thiện 90%, nhưng có nguy cơ văn hóa nỗ lực để đạt nốt 10% còn lại sẽ biến mất
- Nêu lên lo ngại về hiện tượng tung ra nguyên trạng các sản phẩm “đủ tốt (good enough)”, và người tiêu dùng chấp nhận chúng một cách thiếu phản biện
- Các công cụ AI đang sản xuất hàng loạt những kết quả đồng dạng, khiến việc tạo ra phần mềm độc đáo và có tinh thần thủ công ngày càng khó khăn
- Vấn đề lớn hơn cả tiến bộ công nghệ là sự suy thoái của chất lượng và tính sáng tạo; khi cả nhà phát triển lẫn người dùng đều trở nên thờ ơ, tinh thần craftsmanship trong phần mềm có thể biến mất
Giới hạn của sự phát triển AI và rủi ro của mức ‘đủ tốt’
- Nếu AI dừng lại ở mức hiện tại, thì sẽ tồn tại những mô hình có thể gần như hoàn thành trình duyệt web hay compiler, nhưng vẫn không bao giờ thật sự hoàn hảo
- Đưa ra ví dụ về sự thiếu hoàn thiện giống như xe tự lái hoạt động được trong hầu hết tình huống nhưng lại thất bại ở khoảnh khắc quan trọng
- Nếu những sản phẩm hoàn thiện 90% như vậy tiếp tục được sản xuất hàng loạt, thì có thể chúng ta sẽ trở thành một xã hội không còn theo đuổi 10% độ hoàn thiện còn lại
- Cốt lõi của vấn đề không hẳn nằm ở bản thân AI, mà ở thái độ của con người khi cho rằng như vậy là “đủ tốt”
‘Slop’ và sự suy giảm chất lượng phần mềm
- Tác giả lo ngại hiện tượng những sản phẩm cẩu thả (slop) do AI tạo ra đang dần trở thành bình thường
- Chỉ ra rằng các app hay nội dung do AI tạo ra chỉ được đánh giá ở mức ‘có thể phát hành’, trong khi thiếu hẳn việc học hỏi và thấu hiểu về chất lượng thực sự
- Ngay cả khi AI agent viết app, tác giả vẫn xem việc những người quản lý chúng triển khai sản phẩm mà không hiểu chất lượng đầu ra là một vấn đề
- Tác giả mô tả xu hướng này sẽ dẫn đến sự “dropshipping” hóa của phần mềm, tạo ra kết quả còn tệ hơn cả kiểu sản xuất hàng loạt ở mức IKEA
Sự đồng dạng của công cụ AI và mất mát tính sáng tạo
- Các mô hình AI như Claude có thể hữu ích cho việc học công nghệ mới, nhưng rốt cuộc lại hội tụ về những app kiểu ‘Next-React-Tailwind’ trung bình
- Ngay cả khi cố tạo ra một app độc đáo bằng công cụ AI (ví dụ: Paper by FiftyThree), kết quả cuối cùng vẫn trở thành một thứ tầm thường và thiếu cảm hứng
- AI không giỏi xử lý sáng tạo nằm ngoài lối mòn, và điều này trở thành giới hạn đối với việc làm phần mềm mang tính sáng tạo
Vấn đề lấy con người làm trung tâm và cấu trúc ngành
- ‘Slop’ không phải hiện tượng mới, mà được chỉ ra là vấn đề vốn đã xuất phát từ các quyết định sai lầm của con người và cấu trúc incentive
- Ghế ngồi khó chịu, kết quả tìm kiếm bị ô nhiễm bởi SEO, UI tệ hại… đều là hệ quả từ lựa chọn của con người
- Trong văn hóa “Move fast and break things”, những app được làm với tinh thần thủ công dần biến mất trước các bản sao miễn phí từ doanh nghiệp lớn và sự phá vỡ thị trường
- AI agent có thể lặp lại quá trình này nhanh hơn, khiến vòng xoáy biến mất của phần mềm tốt càng tăng tốc
Sự thờ ơ của người dùng và nhà phát triển
- Cũng có kỳ vọng rằng công cụ AI có thể thu hẹp khoảng cách giữa người dùng và nhà phát triển
- Ví dụ như nhân viên kế toán tạo ra các bảng Excel phức tạp, hay những người dùng triển khai tự động hóa trên TikTok
- Tuy nhiên, tác giả cho rằng những người dùng sáng tạo như vậy có thể chỉ là ngoại lệ, còn phần lớn mọi người có khả năng sẽ thờ ơ với vấn đề kỹ thuật, quyền riêng tư và chất lượng
- Cuối cùng, nếu xã hội hài lòng với mức ‘đủ tốt’, thì tinh thần thủ công và văn hóa phát triển sáng tạo có thể biến mất
- Kết luận của bài viết khép lại bằng nhận thức đầy tuyệt vọng rằng “Ngay cả khi tinh thần craftsmanship công nghệ của chúng ta chết đi, sẽ chẳng ai buồn cả”
1 bình luận
Ý kiến trên Hacker News
Khi các sản phẩm AI tạo sinh được sử dụng rộng rãi, thật đáng tiếc là mọi người không nhìn thế giới trong bối cảnh lịch sử
Tác động của AI lên thế giới tương tự các biến đổi công nghệ trong quá khứ, và cách thế giới vận hành không thay đổi quá nhiều
Hầu hết sản phẩm và dịch vụ từ lâu đã hy sinh chất lượng chỉ để duy trì mức hoạt động “đủ tốt”
Giống như giày leo núi, nếu chỉ cần chịu được 20 dặm thì không có lý do gì phải mua loại dùng được lâu hơn; phần mềm cũng vậy
Đa số người dùng không quan tâm đến bảo mật, quyền riêng tư, khả năng bảo trì hay độ bền vững
Thực tế này không mới và sẽ còn tiếp diễn
Chỉ khi xảy ra các vụ rò rỉ dữ liệu quy mô lớn hoặc sự cố diện rộng toàn cầu thì họ mới nổi giận
Đó chính là các yêu cầu ẩn (hidden requirements)
Khi yêu cầu thay đổi, phần mềm cũng chạm tới giới hạn, giống như đôi giày chỉ đi được 20 dặm thì không thể đi 35 dặm
Có những sản phẩm rẻ mà bền, và cũng có vô số dự án đắt tiền nhưng tệ hại
Vì sao ngay từ đầu không thể làm ra thứ vừa rẻ vừa chất lượng?
Vì mọi người không muốn chi tiêu vốn (capex)
Gần như chẳng ai muốn mua chiếc xe đắt hơn cả ngôi nhà hay đôi giày giá 2.000 USD
Ví dụ, Model T của Ford đã phổ cập ô tô nhờ cắt giảm chi phí sản xuất
Chất lượng giảm nhưng khả năng tiếp cận bùng nổ, rồi cuối cùng đạt tới một điểm cân bằng mới
Chất lượng cao chỉ còn được duy trì trong những ngách có thể biện minh về mặt kinh tế
Có cảm giác sợ hãi về việc nền văn minh sẽ thay đổi như thế nào
Người giàu sẽ càng giàu hơn, còn nhiều người sẽ mất việc và mất hy vọng
Một xã hội không có thu nhập là không bền vững và có nguy cơ dẫn đến bạo lực
Gần như không có người nắm quyền nào có thể ngăn điều đó
Tài liệu tham khảo được đưa ra là Survival of the Richest của Douglas Rushkoff và video YouTube
Có thứ trở nên tệ hơn, có thứ trở nên tốt hơn, và khó thể khẳng định đó là suy giảm ròng hay tăng trưởng ròng
Mỗi thời đại đều có những vấn đề riêng cần giải quyết
Có những lo ngại mang tính nền tảng về các hệ thống dựa trên LLM
Nhưng những nhận thức như vậy đã tồn tại từ trước cả LLM
Tương tự như offshoring (thuê ngoài ở nước ngoài) trước đây, giờ đây các GPU farm sản xuất code thay con người
Chỉ khác là lần này vốn đầu tư tư nhân đã khiến chi phí đó gần như bằng 0
Và cuối cùng, cái giá phải trả rồi sẽ đến vào một lúc nào đó
còn giờ đây tiền đang tập trung vào những quốc gia giàu nhất
Các dịch vụ như ChatGPT đang thu phí thuê bao, và rốt cuộc sẽ được điều chỉnh về mức giá tương đương outsourcing ở Ấn Độ
Chất lượng code không phải vấn đề chủng tộc mà là vấn đề của đầu tư và quản lý
AI tạo sinh nằm trên cùng một trục phát triển với công nghiệp hóa
Đó là cấu trúc tạo ra sản phẩm nhanh và rẻ nhất có thể
“Đủ tốt” đã trở thành tiêu chuẩn, và kết quả là sự tích tụ suy giảm chất lượng không ngừng lại
Hệ thống đã quá lớn nên rất khó đổi hướng
Trong thế giới startup, đa số coi trọng tốc độ hơn tay nghề
Những khẩu hiệu như “Move fast and break things” đã trở thành chuyện thường ngày
Thực ra phần lớn mọi người từ trước đến nay đã không quan tâm tới 10% chất lượng cuối cùng
Ngược lại, LLM thậm chí có thể tăng tốc việc sửa lỗi
Những vấn đề trước kia bị bỏ qua với lý do “xem thống kê người dùng thì chẳng ai quan tâm” có thể được xử lý nhanh hơn
Mức lỗi 0% gần như bất khả thi, và người dùng chấp nhận một số lỗi để đổi lấy tính năng họ cần
LLM không thay đổi cán cân đó, nhưng có thể làm giảm cơ hội để đối thủ nhắm vào các nhóm người dùng ngách
Trước câu nói “Tôi sợ kỹ năng của người thợ thủ công sẽ chết đi”,
có ý kiến rằng nếu vẫn còn những người yêu kỹ năng đó thì nó sẽ không chết
LLM giống như hiện thân của nguyên lý Pareto
Nếu chỉ với 1% thời gian có thể đạt được 80% kết quả, thì sẽ chẳng ai quan tâm 20% còn lại
Điều này phơi bày điểm yếu của một nền văn hóa tối đa hóa tiêu dùng hơn là chất lượng
Những hiện tượng như content farm đã tồn tại từ trước, và giờ ta đang thấy điểm cuối của nó trong sự lãng phí tại các trung tâm dữ liệu
Nó đang đẩy nhanh một nền văn hóa đã đánh mất cả ý nghĩa của chất lượng
Lối tư duy tin rằng điều đó không đúng rốt cuộc sẽ tự hủy hoại chính nó
Chỉ là con người vốn phi lý trí, nên không ai biết cái “rốt cuộc” ấy sẽ đến khi nào
Mỹ khoan dung hơn với mức “đủ tốt”
Nhật Bản thì thậm chí không phát hành những sản phẩm như vậy
Ví dụ, series Mario 3D của Nintendo cho thấy mức độ hoàn thiện mà các studio Mỹ khó lòng tưởng tượng nổi
Apple là ngoại lệ hiếm hoi ám ảnh với chất lượng, còn Microsoft thì bị nhận xét là “không có gu”
Có rất nhiều bất mãn trong công việc thực tế đối với các lập trình viên lạm dụng LLM
Những người phải review hoặc bảo trì code do LLM tạo ra bị tăng khối lượng công việc lên gấp nhiều lần vì cấu trúc code phi nhân tính
Họ tưởng đó là “hiệu quả”, nhưng trên thực tế chỉ đang lãng phí thời gian của người khác
Mong tình trạng này sớm chấm dứt
Nếu đây là bài viết của một người dùng domain Nhật thì khá thú vị
Người Nhật có mức kiên nhẫn với chất lượng cao hơn, còn người Mỹ có xu hướng hài lòng với mức “đủ tốt”
Việc các sản phẩm đắt tiền như Grado vẫn bán chạy dù được lắp ráp bằng súng bắn keo là một ví dụ