- Các tính năng AI đang được tự động tích hợp vào phần mềm và dịch vụ lớn mà không có sự đồng ý của công chúng
- Phần lớn người dùng không muốn hoặc không tin tưởng AI, nhưng các tập đoàn IT lớn như Microsoft và Google vẫn đẩy nhanh việc áp dụng AI bằng cách đóng gói kèm và áp đặt bắt buộc
- Người tiêu dùng bị buộc phải trả thêm chi phí mà không có quyền lựa chọn, và thực tế có khảo sát cho thấy sản phẩm càng được thêm tính năng AI thì mức độ ưa thích và tin tưởng lại càng giảm
- Các công ty giấu chi phí và khoản lỗ liên quan đến AI bằng cách gộp nó vào các dịch vụ sẵn có để che lấp thua lỗ trên sổ sách kế toán
- Bài viết nhấn mạnh sự cần thiết của các quy định pháp lý và thể chế (minh bạch, opt-in, trách nhiệm, quyền sở hữu trí tuệ, v.v.) và kêu gọi phản ứng xã hội trước việc lạm dụng AI
Hiện tượng ép công chúng phải nuốt AI dù họ không muốn
- Gần đây khi mở Microsoft Outlook, tác giả thấy hiện ra thông báo khuyến khích sử dụng người bạn đồng hành Copilot AI
- Dù được gắn tên là AI companion, trên thực tế đây lại là một tính năng không mong muốn
- Người nhận email cũng mong đợi một email do con người trực tiếp viết, chứ không phải một thông điệp do AI soạn
- Microsoft khiến việc tắt Copilot trở nên khó khăn; tác giả vất vả mới tìm được cách vô hiệu hóa, nhưng chẳng bao lâu sau ở Excel và các chương trình khác lại tiếp tục ép chấp nhận điều khoản sử dụng AI
- Phí thuê bao MS 365 cũng tăng thêm $3 mỗi tháng, kèm theo gói 60 lượt dùng Copilot mà người dùng không hề mong muốn
- Trên thực tế, ngay cả khi không dùng, người dùng vẫn phải trả tiền và các tính năng AI vẫn bị nhúng vào mọi phần mềm như Word, Excel
Lý do kinh tế/chiến lược đằng sau việc đóng gói AI và ép sử dụng
- AI là thứ mà đa số người dùng không tự nguyện bỏ tiền trả thêm (chỉ 8% người Mỹ sẵn sàng trả thêm)
- Vì vậy, chỉ khi được bó kèm với các dịch vụ thiết yếu và áp đặt bắt buộc thì AI mới có thể bám rễ trên thị trường
- Nếu AI là một sản phẩm trả phí độc lập, các khoản lỗ sẽ lộ rõ và sự bất mãn từ nhà đầu tư, cổ đông sẽ bùng nổ
- Các công ty giấu AI vào dịch vụ hiện có để che khoản lỗ kế toán, và bề ngoài tô vẽ như thể nó có lợi nhuận
- Ví dụ, nếu một nhà hàng bán đá granite như món tráng miệng thì sẽ chẳng ai mua; nhưng nếu cộng thêm 1 đô la vào giá bữa ăn và ép phục vụ cho tất cả mọi người, họ có thể tuyên bố rằng “mọi khách hàng đều mua đá”
Người dùng mất quyền lựa chọn và gia tăng bất mãn
- Trên thực tế, người dùng không có quyền lựa chọn có dùng AI hay không
- Không chỉ Microsoft, Google cũng tự động chèn AI vào kết quả tìm kiếm
- Các nền tảng đơn phương thêm tính năng AI mà không cần sự đồng ý của người dùng, và khách hàng phải trải nghiệm thái độ kiểu “cứ im lặng mà chấp nhận”
- Tất cả các tính năng AI sau đây đều đang bị áp dụng cưỡng bức, bất kể ý muốn của người dùng
- Trung tâm chăm sóc khách hàng AI, kết quả tìm kiếm AI, AI tích hợp trong phần mềm, email do AI gửi, nhạc AI của Spotify, sách AI của Amazon, v.v.
- Sản phẩm càng thêm nhiều tính năng AI thì mức độ ưa thích lại càng giảm (khảo sát 4.000 người, chỉ 18% có thiện cảm với AI)
- Giới chuyên gia và truyền thông cũng cảnh báo rằng việc triển khai AI quá nhanh có thể làm suy giảm niềm tin khách hàng và doanh thu
Động thái ép buộc AI quyết liệt hơn từ Big Tech
- Trước đây các công ty còn nhạy cảm với ý kiến khách hàng, nhưng giờ Big Tech đã có thể sử dụng ảnh hưởng mang tính độc quyền
- Ý chí và quyền lựa chọn của người dùng bị gạt bỏ hoàn toàn, và việc bổ sung tính năng đơn phương vẫn tiếp diễn
- Meta (Facebook) thậm chí đang chuẩn bị tính năng chatbot AI chủ động gửi tin nhắn trước ngay cả khi người dùng không muốn (gần như cũng không thể tắt hoàn toàn Messenger)
- Cách làm này gần như là spam điển hình, và mức độ phản cảm từ người dùng đang tăng lên
Thực tế không thể tẩy chay AI
- Dù muốn từ chối AI, trên thực tế người dùng sẽ phải từ bỏ toàn bộ các dịch vụ thiết yếu như email, tìm kiếm, Word·Excel, Amazon·Spotify
- Trong tương lai, ngay cả các dịch vụ nền tảng của xã hội như y tế, tư vấn, pháp lý, tuyển dụng, cứu hộ khẩn cấp cũng được dự báo sẽ bị thay thế theo hướng lấy AI làm trung tâm
- Các tập đoàn IT lớn đã và đang nhanh chóng xóa sạch dấu vết của dịch vụ con người, bất kể sự đồng ý hay lựa chọn của người dùng
Nghịch lý khi AI chưa đáng tin vẫn bị cưỡng ép phổ biến
- Điều đáng ngạc nhiên là dù AI vẫn chưa vận hành đủ đáng tin cậy, việc áp đặt triển khai kiểu này vẫn đang tăng tốc
- Trên thực tế, phản hồi AI sai lệch và thiếu chính xác vẫn rất nhiều, nhưng các công ty dường như cũng không thật sự có ý định sửa cho tử tế
Cần phản ứng xã hội và pháp lý
- Luật minh bạch, luật opt-in (đồng ý trước), luật trách nhiệm, luật bảo vệ quyền sở hữu trí tuệ, v.v. là những quy định cần thiết cho việc triển khai AI
- Nếu giới chính trị không phản ứng, thì cần đến hành động xã hội như sáng kiến công dân hay kiện tụng tập thể
- Người tiêu dùng (bồi thẩm đoàn) rốt cuộc cũng sẽ đồng cảm với thực tế rằng chính họ đang bị ép phải nuốt AI
Hoài nghi về khung cạnh tranh Mỹ - Trung
- Bài viết phản đối lập luận cho rằng Mỹ phải vượt Trung Quốc trong cuộc đua triển khai AI
- Tác giả tin rằng đích đến của AI (there) thực ra sẽ để lại những kết cục bất hạnh và sự hối tiếc, và nhấn mạnh rằng tốt hơn hết chỉ nên đứng từ xa quan sát kết quả đó trong tương lai xa
Kết luận
- AI đang lan rộng sâu rộng vào đời sống thường nhật và toàn xã hội dưới sự dẫn dắt của Big Tech mà không có sự đồng thuận của công chúng
- Nguyên nhân gốc rễ không phải là nhu cầu chủ động từ người dùng, mà là sự theo đuổi lợi ích của các công ty độc quyền và sự méo mó của cơ chế thị trường
- Việc áp dụng AI mà không có quyền lựa chọn sẽ còn trầm trọng hơn trong tương lai, và khả năng dẫn tới sự hối tiếc mang tính xã hội là rất lớn
4 bình luận
Bản dịch tiếng Hàn thì nhét bản dịch máy tệ hại vào đã đành, giờ còn tiến hóa hơn nữa rồi nhỉ. Chặn còn chưa nổi dịch máy, thì giờ cứ nếm luôn cả đống AI tệ hại đó đi!
Tôi thực sự ghét các tính năng AI, đặc biệt là những dịch vụ cứ chờ sẵn ở chế độ nền rồi nói rằng sẽ giúp đỡ.
Nếu chạy từ xa thì có vấn đề là thông tin của tôi bị cung cấp, còn nếu chạy cục bộ thì lại có vấn đề là tiêu tốn tài nguyên máy tính của tôi (CPU, bộ nhớ, pin, ...).
Các dịch vụ được cài đặt trên máy chủ từ xa riêng thì sao?
Ý kiến trên Hacker News
Tôi cũng thấy những tính năng tích hợp AI kiểu này thật phiền và không cần thiết, không hẳn vì LLM vô dụng mà vì việc tích hợp với các sản phẩm hiện có chưa được suy nghĩ thấu đáo, khá giống cảnh các tập đoàn lớn mù quáng đưa phần mềm vào chỉ để chạy theo xu hướng; như nhận xét sáng tạo gần đây của petekoomen, hiện tượng ""cỗ xe không ngựa" của thời đại AI" đang tái diễn
Tôi đang quan sát cấu trúc mà LLM được trợ giá mạnh trong các sản phẩm như Cursor và Windsurf; về bản chất các công cụ này gần như đóng vai trò công cụ marketing cho LLM, và nhìn vào thành phần nhà đầu tư thì càng rõ hơn. Tôi trước đây chưa nghĩ kỹ rằng chi phí vận hành các dịch vụ này lớn đến mức họ phải rất cần phổ cập nhanh tới đại chúng; giờ tôi khá tò mò họ thực sự muốn hấp thụ thị trường nhanh đến mức nào
Các gatekeeper AI chủ chốt đã sẵn gặp nút thắt và vấn đề khả năng mở rộng trong việc vận hành các mô hình lớn; nếu không có đột phá công nghệ nền tảng thì tình hình có lẽ khó thay đổi. Càng chuyển sang một thế giới lấy AI làm trung tâm thì sự phụ thuộc vào các gatekeeper này và vào tài nguyên tính toán càng lớn. Tôi lo ngại khả năng họ tăng giá cho quyền truy cập ưu tiên hoặc mức ưu tiên tài nguyên, trong khi chúng ta còn chưa đạt tới giai đoạn wearable
Mọi dữ liệu người dùng đều phải được gửi tới các gatekeeper này, và dù việc chuyển dữ liệu lên cloud đã tăng từ lâu, trước đây việc đọc và tái sử dụng dữ liệu không mang lại lợi ích kinh tế lớn nên tri thức cá nhân và thông tin riêng tư của tôi ít bị lộ hơn. Nhưng khi việc áp đặt AI ngày càng nhiều, tôi có cảm giác càng khó biết ai đang chạy mô hình và dữ liệu của tôi đang đi đâu. Ngoài vấn đề độ chính xác của LLM còn chưa đạt, việc tập trung dữ liệu và quyền lực vào gatekeeper cũng đáng lo ngại không kém. Tôi thấy bất an rằng vì sự tiện lợi, ta sẽ chấp nhận cấu trúc vận hành rẻ hơn nhưng đánh đổi bằng chất lượng suy giảm
Tôi đồng ý với lập luận tổng thể, nhưng mạch văn hơi gượng của tác giả khiến tôi thoáng nghĩ liệu có phải AI đã viết hộ không. Với mọi tính năng mà tác giả nhắc đến đều đã có phương án thay thế mã nguồn mở hoặc trả phí giá rẻ; tuy vậy trong một số lĩnh vực như bảo hiểm, do áp lực đại chúng hoặc lock-in dịch vụ nên việc dùng AI có vẻ là thực tế khó tránh. Người ta có thể lấy việc ChatGPT là một trong những website có lượng dùng cao nhất thế giới để nói rằng người dùng thật sự muốn nó, nhưng tôi nghĩ có hai phản biện hợp lý. Thứ nhất, có vô số trường hợp rất phổ biến nhưng không dẫn đến ý định chi trả thực sự (mạng xã hội trả phí liệu có thật sự được ưa chuộng không?). Thứ hai, có rất ít người dùng muốn các website nổi tiếng trong một lĩnh vực xâm nhập sang lĩnh vực khác rồi thống trị toàn bộ đời sống thường nhật
Tôi vừa lần đầu thấy Gmail tóm tắt email mới đến cho mình, và chỉ mong là họ đừng làm vậy. Tôi sẽ tự đọc email của mình, còn phần tóm tắt không cần thiết chỉ làm tăng thêm lượng chữ phải đọc. Tất nhiên nó có thể hữu ích với người nhận số lượng lớn email từ đồng nghiệp với mức độ quan trọng mơ hồ, nhưng ở tài khoản cá nhân của tôi thì tất cả thư liên lạc đều là từ bạn bè, còn lại thứ đúng ra không cần tóm tắt mà nên đi thẳng vào thùng rác. Dù vậy, tôi thật sự biết ơn bộ lọc spam của Gmail
Tôi hoàn toàn đồng cảm với bài này. “AI” có thể tạo ra một thị trường nhỏ cho những kẻ gian lận tầm trung, nhưng với đa số người dùng thì nó là spam, giống hệt Clippy mà chẳng ai mong muốn; tôi hy vọng một ngày nào đó AI cũng biến mất như Clippy
Tôi không đồng ý với lập luận rằng “ai cũng muốn Internet”. Nhiều người hoàn toàn không quan tâm cho đến trước thời smartphone; smartphone tuy bất tiện hơn desktop nhưng lại tiện hơn ở khía cạnh khác nên mới phổ biến. Cái logic marketing kiểu “bất tiện hơn nhưng tiện lợi hơn” đó cũng giống hệt AI, nên tôi đoán cuối cùng công chúng rồi cũng sẽ chấp nhận AI
Cảm giác như đang nói vào khoảng không. Vấn đề của AI quá tinh tế nên đa số chỉ cần nhận được “câu trả lời nghe có vẻ ổn” là đã hài lòng, mà không nhận ra đây là một công cụ sáng tạo mới ở tầm của ngôn ngữ lập trình tự nhiên. Muốn lặp lại thành công thì việc viết prompt hiệu quả là bắt buộc, nhưng thật ra chẳng có mấy người chịu nỗ lực đến mức đó. Ngay cả thảo luận về prompt engineering cũng bị hạ thấp kiểu “viết prompt mà cũng gọi là engineering à”; nhưng đây mới chính là một quy trình kỹ thuật cao cấp mà ngành công nghiệp cần nghiêm túc nhìn nhận. Hầu như chẳng mấy ai hiểu được sức mạnh tinh tế của LLM, ngược lại trong giới chính thống lại có không khí xem nó như lừa đảo
Tại sao các CEO lại ám ảnh với AI? Vì nhà đầu tư chứng khoán sẽ rót tiền ngay khi chỉ cần nghe cụm “tích hợp AI”. Chính nhu cầu từ nhà đầu tư là thứ then chốt giúp mô hình kinh doanh “AI” chưa sụp đổ; rốt cuộc đây là một bong bóng. Nhưng bong bóng này có lẽ vẫn sẽ còn tồn tại một thời gian
ChatGPT là một trong 5 website phổ biến nhất toàn cầu và vẫn đang tăng trưởng nhanh, nên một sản phẩm nổi tiếng đến mức này chắc chắn không thể chỉ được giải thích bằng sự kháng cự của thị trường. Người dùng Instagram cũng hầu như không có ý định trả tiền thật sự (cỡ 8%?), nhưng chẳng lẽ vì thế mà Instagram là sản phẩm bị ép buộc, thứ công chúng không mong muốn?