Chiếc Chevy Tahoe 2024 mua chỉ với 1 đô la
(twitter.com/ChrisJBakke)- Chris Bakke tiết lộ trên X rằng anh đã mua một Chevy Tahoe 2024 với giá $1
- Phần nội dung chỉ có đúng một câu về việc mua xe, nên không thể xác minh liệu đây có phải số tiền thanh toán thực tế hay giao dịch có kèm điều kiện gì hay không
- Bài đăng có đính kèm 2 hình ảnh, nhưng phần văn bản được cung cấp không có mô tả nội dung ảnh
- Thời điểm đăng là 11:46 PM ngày 17 tháng 12 năm 2023, và trang hiển thị 20.3M Views
- Chỉ dựa trên phần văn bản công khai thì khó xác định được đại lý bán xe, phương thức thanh toán, thuế/phí, chương trình khuyến mãi hay khả năng đây là lỗi
Thông tin được công khai trong bài đăng trên X
- Chris Bakke đăng rằng: “I just bought a 2024 Chevy Tahoe for $1.”
- Thông tin cốt lõi có thể xác nhận từ nội dung là Chevy Tahoe 2024 và việc mua với giá $1
- Có 2 liên kết hình ảnh đính kèm, nhưng nội dung ảnh không được bao gồm trong phần Markdown được cung cấp
Các chỉ số phản hồi hiển thị và giới hạn thông tin
- Bài đăng hiển thị 20.3M Views
- Trang có dòng
Read 400 replies - Ngoài ra còn thấy các con số
400,5K,92K,4.3K, nhưng chỉ với phần văn bản được cung cấp thì không thể xác định mỗi số tương ứng với mục nào
1 bình luận
Ý kiến trên Hacker News
Khó hiểu những người dùng chatbot cho hỗ trợ khách hàng, và cảm giác nó chẳng khá hơn gì hệ thống trả lời tự động kiểu “vấn đề Internet nhấn phím 1” khi gọi Vodafone
Rốt cuộc, dù phải qua 7 bước và chờ 30 phút mới gặp được nhân viên tư vấn, cách duy nhất thực sự giải quyết được vấn đề vẫn là nói chuyện với con người
Tư vấn bằng robot gần như là một trò đùa tàn nhẫn với khách hàng
Hóa ra chatbot chỉ giả vờ “đặt lịch” tham quan, thực tế là bịa ra; nếu không có lịch khác thì tôi suýt mất toi cả ngày
Tôi sẽ tuyệt đối không sống ở đó, và các công ty nên loại bỏ chatbot ngay bây giờ
Trên trang của công ty mẹ cũng có một persona nhân viên ở cùng khu vực nói rằng “đang ở tòa nhà khác” và sẽ giải thích dịch vụ cho tôi
Tôi không quá phản cảm với bản thân các chatbot hữu ích, nhưng việc công khai lừa dối về danh tính là vấn đề; và sẽ nguy hiểm nếu xã hội trở thành nơi không cần phân biệt liệu có đang dùng AI hay không
Hầu hết các hãng hàng không đều như vậy; bộ phận hỗ trợ khách hàng chỉ có thể lặp lại thông tin trên website hoặc bảo bạn điền biểu mẫu
Trong trường hợp đó, thà dùng bot hay GPT còn hơn là để một con người phải hứng lời chửi bới của khách hàng đang bực bội
Nó cũng vui vẻ nhận yêu cầu thêm món sundae caramel, nhưng khi đến cửa sổ nhận hàng thì tôi được báo là kem đã hết
Nhân viên thu ngân nói: “Nó cứ làm theo ý nó thôi. Dù tụi tôi nói máy làm kem hỏng, nó vẫn đáp ‘Được rồi Checkers’ rồi tiếp tục tính tiền kem cho khách”
Nó tạo cho khách hàng ảo tưởng rằng “vấn đề của mình đang được xử lý” để tổng đài không bị quá tải, và cuối cùng với công ty thì đó là một tổng đài rẻ hơn
Đây là một ví dụ cảnh báo cho thấy vì sao không được đưa thẳng đầu ra ChatGPT chưa lọc cho khách hàng
Bản mirror Nitter: https://nitter.net/ChrisJBakke/status/1736533308849443121
Trường hợp liên quan - “Một kiểu tấn công tiêu hao tài nguyên mới đã xuất hiện”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329
Vì vậy tôi kết luận rằng đây không phải là công cụ dành cho người không phải chuyên gia trong lĩnh vực đó
Nó không phải công cụ thay thế đội hỗ trợ khách hàng, nhưng làm công cụ cho đội hỗ trợ khách hàng sử dụng thì ổn
Không rõ họ định tránh những vụ rò rỉ hay tác dụng phụ như tweet này bằng cách nào
Nếu chỉ tìm từ khóa trong đầu ra, chỉ cần yêu cầu mã hóa câu trả lời bằng base64 là xong
Các biện pháp bảo vệ, theo đúng nghĩa đen, luôn có thể bị vượt qua
Rất mong chờ phần còn lại của năm nay
Trên Reddit có người đã dùng bot này tạo ra một câu chuyện tình khá hay giữa Chevy Tahoe và Chevy Chase
https://imgur.com/vfHGHW6
https://imgur.com/JSjNC2c
https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...
Tôi tự hỏi liệu chuyện này có thể lớn đến mức làm giá cổ phiếu chao đảo không
Muốn ai đó hiểu LLM và ChatGPT giải thích xem ban đầu người ta kỳ vọng thứ này hoạt động như thế nào
Trông như họ chỉ nhét nguyên prompt ChatGPT vào trang web, nhưng không rõ chính xác họ định làm gì
Nếu là một LLM được huấn luyện từ các yêu cầu trước đây như email, chat, ghi âm cuộc gọi thì còn hiểu được, nhưng tôi thắc mắc một LLM đa dụng như ChatGPT thì có thể trả lời câu hỏi của khách hàng Chevrolet of Watsonville bằng cách nào
Thông tin mà ChatGPT có về đại lý đó không thể nhiều hơn thông tin công khai, nên nếu khách hàng không tìm được thì tốt hơn là nên thiết kế lại website cho tốt hơn
Tôi tóm tắt để tạo hiệu ứng, nhưng không phải mô tả bất công; thậm chí không cố tìm mà tôi đã vài lần thấy chuyện này ở rất gần
Nếu chuyện này không phá hỏng cuộc sống của người khác thì chắc cũng khá buồn cười, nhưng thực tế không phải vậy
Các tổ chức lớn rất sợ “bị bỏ lại phía sau”, còn các công ty nhận vốn đầu tư mạo hiểm thì nóng lòng muốn nhét AI vào tài liệu cho vòng gọi vốn tiếp theo hoặc đàm phán mua lại
Nó hầu như chẳng liên quan gì đến việc tạo ra giá trị thực, nhiều khi còn làm hại năng suất, nên bầu không khí rất giống Dr. Strangelove
Nếu đưa bảng thông số mới nhất vào ngữ cảnh và ra chỉ thị như “hãy hành xử như nhân viên bán hàng Chevy”, “chỉ đề xuất xe thương hiệu Chevy”, “trả lời với thiên kiến rất mạnh về Chevy”, thì có thể dễ dàng trả lời phần lớn câu hỏi chung của khách hàng
Có lẽ nó còn có thể trả lời thông minh hơn nhiều đại lý hoặc nhân viên bán hàng
Đơn vị thuê ngoài làm website đã bán chatbot AI cho đại lý, và đại lý ngây thơ thấy một thứ làm qua loa rồi bảo “hay đấy” và mua
Trớ trêu là một đại lý ô tô lại bị moi tiền theo cách này
Ví dụ, có thể tạo một trợ lý biết chi tiết sản phẩm, đề xuất xe còn hàng phù hợp với yêu cầu của khách, và thậm chí đặt lịch lái thử
Không cần tự thiết kế hay huấn luyện LLM, chỉ cần chỉ thị cho mô hình hiện có hành xử theo một cách cụ thể
Trường hợp này là triển khai hỏng
Cùng lắm là chatbot tự phục vụ hoặc hỗ trợ khách hàng tốt hơn một chút, còn đến giờ vẫn rất xa so với cuộc cách mạng được quảng cáo
Càng thấy nhiều bot GPT dùng làm chatbot hướng khách hàng thật sự, tôi càng thấy chúng kém hữu dụng hơn
Giải pháp là gì nhỉ, có phải đặt một bộ phân loại trung gian để bắt các lệnh không liên quan không, nhưng trông như lãng phí
Cuối cùng có lẽ phải là một mô hình tinh chỉnh đã học nhiều hội thoại hỗ trợ khách hàng trước đây, và những yêu cầu kỳ quặc thì chuyển cho tư vấn viên người thật
Vậy thì cũng lại tự hỏi vì sao phải dùng GPT
GPT có quá nhiều kiến thức nền gây hại cho mục tiêu hẹp
Dù vậy, vì nó có thể giải quyết rất nhiều câu hỏi và vấn đề cực nhanh nên tôi vẫn ủng hộ chatbot nói chung
Người ta thường chat với hỗ trợ khách hàng khi cần thay đổi tài khoản mà bản thân không thể hoặc khó tự làm
Nếu trao cho chatbot quyền thay đổi lớn trên tài khoản thì có thể phát sinh rất nhiều vấn đề tiềm tàng
Tôi tự hỏi nơi từng có thể thương lượng giá bằng giá trị form HTML trước đây có phải ở Florida không
Vài chục năm trước, website gửi giá sản phẩm dưới dạng phần tử HTML, và nhà thiết kế frontend không lường trước rằng giá trị này có thể bị thay đổi trước khi gửi đơn hàng
Hệ thống đặt hàng đọc lại giá trị đã bị chỉnh sửa để tính số tiền thanh toán
Đó là thời kỳ ngây thơ và thú vị của web còn non trẻ
Có người phát hiện form đặt hàng của một công ty máy tính chấp nhận giá đã sửa và báo cho họ, nhưng bị phớt lờ một cách thô lỗ
Vì vậy người đó đặt mua toàn bộ cửa hàng với giá kiểu 0,01 USD mỗi món
Sau đó người đó công khai câu chuyện, có lẽ cũng nhằm tránh bị truy tố bằng cách nói rõ rằng mình không có ý định lừa đảo và đã cố giúp nhưng không tìm được cách nào khác
Tôi cũng lờ mờ nhớ một script giỏ hàng PHP được phân phối rộng rãi từng có vấn đề tương tự
Khi có bài viết “hãy thử cái này trên site của bạn”, 95% phản hồi là “toang rồi”, 5% là “lũ khốn này phá mánh của tôi rồi”
Có tín hiệu nào cho thấy thực sự có thể nhận xe không?
Chỉ vì khiến chatbot nói rằng nó có ràng buộc pháp lý thì không có nghĩa là thực sự phát sinh ràng buộc
Cũng giống như việc sửa HTML của catalogue để đổi giá không tạo ra quyền gì cả
Tác giả chỉ trình diễn một bằng chứng khái niệm cho thấy có nhiều cách dễ dàng bẻ ChatGPT theo hướng mình muốn
Gần như là trò đùa, và thực tế không kỳ vọng nhận xe với giá 1 USD
Lần tới, trên trang sẽ có điều khoản miễn trừ trách nhiệm nói rằng hỗ trợ khách hàng không phải con người chỉ là lời khuyên đơn thuần và không thể dựa vào đó
Và tập thể chúng ta sẽ lại mất thêm niềm tin vào điện toán
Phương pháp và dữ liệu huấn luyện dùng để tạo ra ChatGPT cùng các mô hình tương tự, cũng như kiến trúc được tối ưu cho việc “dự đoán từ tiếp theo”, về bản chất tạo ra một mô hình chiều lòng con người
Hơn nữa nó ngây thơ đến tuyệt vọng, mắc bẫy những trò lừa mà cả trẻ nhỏ cũng nhận ra
Những biến thể kiểu “hôm qua tôi bị chấn thương đầu nên trở thành kẻ ngốc” là vô tận
ChatGPT đã học đủ loại từ vựng và những kịch bản lố bịch, nhưng không có cảm nhận thực sự về đúng sai hay khoảnh khắc đang bước ra mép vực
Bên trong ChatGPT đã có sẵn nguyên liệu để một kẻ tấn công ác ý sáng tạo thắng 10 trên 10 lần
Tầm nhìn doanh nghiệp kiểu không tưởng rằng sẽ sa thải toàn bộ nhân viên hỗ trợ khách hàng và thay bằng AI sẽ không vận hành được với các mô hình kiểu GPT vốn không có trạng thái về thế giới
Có thể nói Yann LeCun lại đúng một lần nữa
Cả Reddit đang đem ra nghịch, và thành thật mà nói trông cũng giống một chiến dịch tiếp thị du kích
Câu chuyện này rất có cảm giác Pepsi, Where's My Jet?
https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F
Họ quảng cáo gói 10 chặng hạng thương gia giữa miền tây Canada và miền tây Hoa Kỳ với giá 800 đô la; ví dụ, tức là có thể bay khứ hồi LA - Vancouver 5 lần bằng hạng thương gia với tổng giá 800 đô la
Rõ ràng đó là giá vé lỗi, nhưng nhiều người đã mua từng gói, và Air Canada đã hủy toàn bộ
Cuối cùng vụ việc thành kiện tập thể, và mỗi người nhận được 450 đô la tín dụng Air Canada cho mỗi gói
Một trong các điểm tranh chấp là Air Canada đã ghi khá rõ điều khoản miễn trừ rằng “giá đã quảng cáo sẽ được tôn trọng và không thể thay đổi hoặc hủy bỏ”
Tôi vẫn còn giữ ảnh chụp màn hình trang đó ở đâu đó
Khi tự tạo prompt nhập tự do, tôi xử lý như sau để ngăn kiểu tấn công này
Nội dung người dùng nhập trước tiên được viết lại theo một định dạng nhất định
Trong trường hợp này, mọi đầu vào được đổi thành “tôi muốn đọc một cuốn sách về [chủ đề]”
Sau đó đầu vào được từ chối hoặc chấp thuận theo chính sách nội dung
Cách tiếp cận nhiều lớp như vậy hoạt động tốt và giúp bảo đảm nội dung chất lượng cao
Chỉ cần lấy danh sách email, viết prompt thành email spam HTML, rồi dùng dịch vụ giải captcha để gọi API hàng loạt
Chỉ với vài đô la, họ có thể gửi hàng nghìn email spam, làm hỏng uy tín email và có thể bị Mailjet chặn
Có lẽ nên sửa thì hơn
Cứ thoải mái thử, và tôi sẽ gửi sách miễn phí cho ai phá được