- Khi các doanh nghiệp triển khai chatbot dựa trên LLM để tự động hóa hỗ trợ khách hàng, việc tiếp cận tư vấn viên con người bị hạn chế và các câu trả lời sai sự thật cùng lỗi trở thành chuyện thường ngày
- Các hệ thống này vận hành theo cách phân biệt dựa trên tầng lớp kinh tế: khách hàng cao cấp vẫn nhận được hỗ trợ từ con người, còn khách hàng phổ thông bị mắc kẹt trong các phản hồi tự động
- LLM đang lan sang các lĩnh vực phán đoán mơ hồ như thẩm định bảo hiểm và định giá, khiến con người phải tốn nhiều thời gian hơn cho việc tranh cãi và thuyết phục máy móc
- Trách nhiệm không rõ ràng và thiên kiến xã hội trong các hệ thống ML gây ra thiệt hại thực tế như giam giữ oan, nhận diện sai, và do cấu trúc phức tạp nên rất khó quy trách nhiệm
- Nếu Agentic commerce, nơi LLM tự động hóa thanh toán và mua sắm, trở nên phổ biến, thì thao túng, lừa đảo và chuyển chi phí sang người dùng sẽ trầm trọng hơn, và ‘bất bình đẳng của sự bực bội’ có thể bị cố định hóa
Sự bất tiện của tự động hóa dịch vụ khách hàng
- Các doanh nghiệp đang chuyển hướng yêu cầu hỗ trợ sang chatbot dựa trên LLM để giảm chi phí hỗ trợ khách hàng, và việc kết nối với nhân viên tư vấn con người ngày càng khó hơn
- Với sự phát triển của các mô hình giọng nói, tư vấn qua điện thoại cũng có khả năng được tự động hóa
- LLM đưa ra phản hồi lịch sự và kiên nhẫn, nhưng liên tục lặp lại lời bịa đặt và lỗi, làm chậm quá trình giải quyết vấn đề
- Các hệ thống này vận hành theo cách phân biệt dựa trên tầng lớp kinh tế
- Khách hàng cao cấp vẫn có thể tiếp cận nhân viên tư vấn con người, còn khách hàng phổ thông bị mắc kẹt trong cuộc hội thoại với LLM
- LLM dễ bị tính khó dự đoán và tấn công chèn lệnh (injection attack), nên quyền thực hiện hành động bên ngoài hệ thống bị hạn chế
- Nó hữu ích với các vấn đề đơn giản, nhưng với lỗi hành chính phức tạp hoặc vấn đề mang tính hệ thống thì lại gây thất vọng nhiều hơn
Tranh cãi với mô hình
- LLM đang mở rộng vượt ra ngoài hỗ trợ khách hàng sang các lĩnh vực công việc mơ hồ như thẩm định bảo hiểm, định giá, phán đoán pháp lý
- Hiệu quả chi phí được ưu tiên hơn độ chính xác, nên ngay cả khi có phán đoán sai, hệ thống vẫn được duy trì nếu lợi nhuận tổng thể không bị ảnh hưởng
- Môi trường này tạo ra một dạng lãng phí lao động mới
- Ví dụ tiêu biểu là định giá bằng thuật toán, nơi giá vé máy bay thay đổi theo trình duyệt, thiết bị và tài khoản khi mua
- Các bác sĩ phải học những cách diễn đạt cụ thể để thuyết phục LLM của công ty bảo hiểm, còn người tiêu dùng thì rơi vào tình huống phải điều chỉnh ngoại hình cho phù hợp với nhận diện của camera
- Các cá nhân sẽ tốn nhiều thời gian hơn để tranh cãi với máy móc
- LLM giống như một ‘phòng tiếng Trung’, tạo ra câu trả lời mà không thực sự hiểu, nên thiếu sự thấu hiểu mang tính con người
- Trong tương lai, rất có thể sẽ tràn ngập những nội dung kiểu “8 loại rau giúp giảm phí bảo hiểm” như mẹo ứng phó với máy móc
- Con người cũng đang dùng LLM như công cụ để đối phó với bộ máy quan liêu
- Các LLM cá nhân đã xuất hiện để tự động hóa việc phản hồi khiếu nại bảo hiểm bị từ chối, hủy đăng ký dịch vụ, đàm phán giá
- Tuy vậy, sự bất đối xứng giữa doanh nghiệp và cá nhân vẫn còn nguyên, và cá nhân phải chấp nhận rủi ro tài chính do LLM hoạt động sai gây ra
Sự khuếch tán trách nhiệm
- Bài viết trích dẫn hướng dẫn nội bộ năm 1979 của IBM: “Máy tính không thể chịu trách nhiệm, vì vậy không nên được dùng để đưa ra quyết định quản lý”
- Các hệ thống ML đang tạo ra những trường hợp gây hại cho người vô tội
- Vụ Angela Lipps bị giam giữ oan suốt 4 tháng do lỗi nhận diện khuôn mặt
- Trường hợp camera giám sát nhầm gói bánh quy của Taki Allen là súng, khiến cảnh sát có vũ trang được điều động
- Những vụ việc này không chỉ là thất bại kỹ thuật đơn thuần mà được phân tích là thất bại của hệ thống xã hội-kỹ thuật
- Sự thiếu vắng phán đoán của con người, lỗi quy trình và đứt gãy giữa các tổ chức cùng tác động chồng chéo
- Các mô hình ML ngụy trang thiên kiến xã hội thành tính khách quan thống kê
- Có những trường hợp đánh giá thấp mức độ tín nhiệm của người vay da đen, cắt giảm dịch vụ y tế dành cho phụ nữ, nhận diện sai khuôn mặt người da đen
- Tính mờ đục và các lời giải thích tự mâu thuẫn của mô hình làm sai lệch phán đoán của người rà soát
- Các mô hình quy mô lớn được tạo ra bởi rất nhiều nhân sự và tổ chức tách biệt nhau, nên ranh giới trách nhiệm trở nên mơ hồ
- Cấu trúc nhiều tầng gồm bệnh viện, công ty bảo hiểm, nhà cung cấp mô hình, nhà cung cấp dữ liệu, nhân lực thầu phụ
- Kết quả là nhận thức trách nhiệm ở cấp cá nhân và khả năng sửa sai đều suy yếu
- Dự báo số nạn nhân của các quyết định tự động hóa như tai nạn xe tự lái hay sa thải do đánh giá nhân sự dựa trên Copilot sẽ còn tăng
- Doanh nghiệp có thể ứng phó bằng tiền phạt hoặc điều chỉnh hợp đồng, nhưng rất khó truy cứu trách nhiệm ở cấp độ cá nhân
- Đây là vấn đề cấu trúc của kỹ thuật hiện đại nói chung: hệ thống càng phức tạp thì càng khó xác định nguyên nhân tai nạn
- Mức độ phức tạp từng đòi hỏi điều tra quy mô lớn như tai nạn hàng không nay đang lan sang cả những quyết định thường nhật
Cơ chế thị trường và ‘Agentic Commerce’
- Agentic commerce là khái niệm trong đó LLM thay người dùng quản lý phương thức thanh toán và thực hiện mua sắm tự động
- LLM tự động hóa việc so sánh giá, gia hạn bảo hiểm, gia hạn đăng ký dịch vụ để loại bỏ các khâu trung gian phân phối
- McKinsey dự đoán quảng cáo hướng đến con người sẽ suy giảm, đồng thời đưa ra viễn cảnh chèn quảng cáo vào chatbot và cấu trúc đàm phán giữa các LLM
- Tuy nhiên, điều này tạo ra động cơ rất mạnh để thao túng hành vi của LLM
- Quảng cáo nhắm vào LLM và cuộc đua thao túng SEO có thể phát triển thành một dạng chiến tranh thuật toán mới
- Chẳng hạn cố gắng dẫn dắt phản ứng của LLM bằng pixel, phông chữ, màu sắc nhất định, hoặc thúc đẩy bán hàng thông qua việc làm nhiễm dữ liệu huấn luyện
- Các nền tảng như OpenAI hình thành cấu trúc kiếm lời từ cả hai phía với vai trò trung gian giữa nhà sản xuất và người tiêu dùng
- Đàm phán tự động giữa các LLM có nguy cơ biến thành cuộc tấn công qua lại của các ‘dark pattern’
- Tín hiệu giả, tấn công chèn lệnh, nhật ký giao dịch quá mức có thể tạo ra tương tác hỗn loạn
- Một số tổ chức nghiên cứu dự đoán việc chuyển sang thanh toán dựa trên tiền mã hóa, nhưng điều này có thể làm trầm trọng thêm lỗi, lừa đảo và vấn đề hoàn tiền
- Nếu LLM thực hiện mua nhầm, sẽ phát sinh sự mơ hồ về chủ thể chịu trách nhiệm
- Dự kiến sẽ hình thành cấu trúc tranh chấp phức tạp giữa bên thanh toán, ngân hàng và LLM
- Sự bất định này có thể dẫn đến phí thanh toán tăng và chi phí chống gian lận cao hơn
- Cuối cùng, người tiêu dùng phổ thông sẽ phải chia sẻ chi phí rủi ro
- Người tiêu dùng có thể sẽ phải dùng hồ sơ giả và công cụ tự động hóa để lừa hoặc đàm phán với LLM
- Điều này gây mệt mỏi và kém hiệu quả, nhưng nếu toàn thị trường áp dụng LLM thì sẽ trở thành cấu trúc không thể né tránh
- Chỉ tầng lớp giàu có mới duy trì được dịch vụ lấy con người làm trung tâm, và ‘bất bình đẳng của sự bực bội’ sẽ ngày càng sâu sắc
1 bình luận
Ý kiến trên Hacker News
Tôi không cần thực hiện 1000 giao dịch mỗi ngày
Tôi không nghĩ việc phải phê duyệt mọi lần mua sắm sẽ là một bất tiện chết người
Tôi hoàn toàn không có ý định giao thẻ tín dụng của mình cho LLM. Vì các vấn đề mang tính cấu trúc như lỗ hổng injection
Tôi cũng thấy khó mà đặt niềm tin vào các kiến trúc AI trong tương lai theo cách tương tự
Tuy vậy, những thứ như tự động hóa hỗ trợ khách hàng cuối cùng vẫn là xu hướng không thể tránh khỏi
Mỗi lần gọi cho nhà thuốc Costco, tôi đã phải bấm số 0 để cố thoát khỏi địa ngục tổng đài tự động
Cuối cùng thì chỉ có cổ đông và ban điều hành là được lợi từ những hệ thống như vậy
Tôi có cảm giác thế giới ngày nay ngày càng xoay quanh sự thao túng và thiếu vắng sự thật
LLM là một thành tựu kỹ thuật đáng kinh ngạc, nhưng vấn đề là nó đang được dùng theo cách mở rộng khoảng cách giai cấp
Trong tương lai, thứ không thể tin cậy sẽ không chỉ là các tập đoàn lớn, quốc gia hay LLM
Chúng ta phải tái tổ chức lại xoay quanh những nhóm người và cộng đồng mà mình có thể tin tưởng
Vấn đề không nằm ở thể chế mà là sự ô nhiễm của môi trường. Nền kinh tế chú ý của mạng xã hội đã phá vỡ lòng tin
Ô nhiễm thông tin ảnh hưởng đến tất cả mọi người, và cuối cùng đang tiến tới một hệ sinh thái thông tin do bot dẫn dắt
Dù con người và bot cùng tham gia, tương tác dựa trên quy tắc sẽ trở nên quan trọng
Nhưng giá trị cổ đông không muốn điều đó. Cuối cùng chúng ta sẽ phải tiến hóa trong nghịch lý giữa chi phí tăng và tâm lý bài công nghệ
Bố tôi đã thay pin chìa khóa ô tô nhờ AI hỗ trợ và rất hài lòng
Ông cũng hỏi AI về quy định bảo hiểm và nhận được kết quả tốt hơn khi tự tìm kiếm trực tiếp
Giờ tôi cũng thường hỏi AI thay vì Google với các câu hỏi đơn giản
Trong đa số trường hợp, AI đủ ở mức “dùng được”, và nhiều khi còn tốt hơn
Mọi người không quan tâm nó có chỉ là một bộ dự đoán token hay không. Chỉ cần kết quả tốt là được
Cảm giác như doanh nghiệp tạo ra vấn đề rồi bán giải pháp
Theo kinh nghiệm làm việc cùng đội hỗ trợ khách hàng, mục tiêu của việc cải tiến công nghệ luôn là giảm số lượng ticket và cắt giảm chi phí
Mức độ hài lòng cũng được đo, nhưng cốt lõi vẫn là khối lượng ticket
Ngay cả trước thời LLM, chatbot đã được dùng vì lý do này
Nhưng hỗ trợ khách hàng cũng đóng vai trò như một hệ thống cảnh báo sớm cho doanh nghiệp, nên nếu giảm điểm tiếp xúc với con người thì sẽ khó nắm bắt nỗi đau của người dùng hơn
Tôi nhớ đến câu trong tài liệu đào tạo nội bộ của IBM năm 1979: “A COMPUTER CAN NEVER BE HELD ACCOUNTABLE”
Đây chính là lý do ngày nay ta liên tục nghe câu “máy tính nói là không được”
Nếu quản lý muốn né trách nhiệm, họ chỉ cần giao quyết định cho máy tính
Rốt cuộc, AI đang củng cố tự động hóa việc trốn tránh trách nhiệm
Điều tôi lo ngại nhất là sự phân tán và pha loãng trách nhiệm
Các tổ chức quy mô vừa đã vận hành theo kiểu này từ lâu, và tôi nghĩ LLM sẽ làm điều đó tệ hơn
Tôi đã gửi loạt bài của Aphyr cho bạn bè, nhưng chỉ nhận lại câu “tóm tắt cho tôi đi”
Những người bạn từng thảo luận sâu sắc ngày trước giờ chỉ gửi bản tóm tắt AI và nói chuyện hời hợt
Tôi cảm nhận rất rõ sự suy giảm khả năng chú ý
Nhiều người dường như chỉ bắt chước tri thức bằng cách trích dẫn các “video YouTube trông có vẻ thông minh”
Việc gửi cho nhau những lá thư dài và trò chuyện sâu sắc như vậy mới mẻ và có ý nghĩa hơn nhiều
AI vẫn còn ở giai đoạn đầu, và mỗi tuần đều có nghiên cứu mới cùng mô hình mới xuất hiện. Tương lai vẫn chưa được định đoạt
Chia sẻ liên kết archive.is
Ý tưởng “tẩy chay bằng mô hình cá nhân để lãng phí token của mô hình Burger King” khá thú vị
Vì vậy tôi đành chấp nhận ‘những kẻ thống trị nghìn tỷ tham số’
Bài viết của Aphyr thú vị, nhưng mang cảm giác là một giọng điệu rất kiểu Mỹ
Nó theo mô thức “cái này tệ → doanh nghiệp sẽ lạm dụng không bị kiểm soát → chúng ta tiêu rồi”
Nhưng đến khi thật sự đề xuất làm luật lệ (law) thì ai cũng lùi bước
Nước Mỹ vốn là như thế. Doanh nghiệp nếu không có quy định thì sẽ bóc lột
Dù kiếm ít tiền hơn trong ngắn hạn, một xã hội có quy định về lâu dài vẫn đáng sống hơn
Cần sửa đổi hiến pháp, nhưng trong cấu trúc chính trị hiện tại thì gần như bất khả thi
Ngày xưa cũng đầy rẫy kẻ lừa đảo và người bán thuốc rởm
Rốt cuộc, lòng tin chỉ xuất hiện trong các mối quan hệ lặp lại. Trực tuyến thì điều đó là bất khả thi
Về sau có lẽ niềm tin vào thương hiệu sẽ trở nên quan trọng hơn
Vì thế đôi khi cũng dẫn đến việc bị các nước khác vượt mặt