- Savey Meal-bot của chuỗi siêu thị New Zealand Pak ‘n’ Save vốn là công cụ đề xuất bữa ăn từ các nguyên liệu có sẵn ở nhà, nhưng tùy theo đầu vào lại có thể tạo ra cả những tổ hợp nguy hiểm
- Trái với mục đích giúp tận dụng thực phẩm còn dư trong bối cảnh chi phí sinh hoạt tăng cao, khi người dùng nhập cả đồ dùng gia đình vào, công cụ đã cho ra các kết quả như khí clo và sandwich độc hại
- “aromatic water mix” là một tổ hợp có thể tạo ra khí clo, nhưng bot lại giới thiệu nó như một loại đồ uống không cồn giúp giải khát và làm sảng khoái giác quan
- Trong các thử nghiệm trên mạng xã hội, nhiều ví dụ đã được chia sẻ như mocktail “fresh breath” từ thuốc tẩy, sandwich với thuốc diệt kiến và keo dán, “bleach-infused rice surprise”, và “methanol bliss”
- Pak ‘n’ Save cho biết một số người dùng đã sử dụng công cụ không đúng với mục đích, và trong ứng dụng có cảnh báo rằng các công thức không được con người kiểm duyệt
Những tổ hợp nguy hiểm do Savey Meal-bot tạo ra
- Chuỗi siêu thị New Zealand Pak ‘n’ Save vận hành Savey Meal-bot, một công cụ tạo thực đơn bằng AI
- Khi người dùng nhập nhiều nguyên liệu có sẵn trong nhà, công cụ sẽ tự động tạo thực đơn hoặc công thức và kèm theo phần mô tả với giọng điệu tươi sáng
- Ban đầu, nó gây chú ý trên mạng xã hội với những tổ hợp trông khó ăn như “oreo vegetable stir-fry”
- Sau đó, khi người dùng nhập cả các mặt hàng trong danh sách mua sắm đồ gia dụng chứ không chỉ thực phẩm, các đề xuất còn nguy hiểm hơn đã xuất hiện
- “aromatic water mix” là một tổ hợp có thể tạo ra khí clo
- Bot giới thiệu đây là “loại đồ uống không cồn hoàn hảo để giải khát và làm sảng khoái giác quan”
- Nó còn hướng dẫn “phục vụ lạnh và tận hưởng hương thơm sảng khoái”, nhưng không hề nêu rằng việc hít phải khí clo có thể gây tổn thương phổi hoặc tử vong
Sự lan truyền trên mạng xã hội và phản ứng của Pak ‘n’ Save
- Nhà bình luận chính trị New Zealand Liam Hehir đăng “công thức” này lên Twitter, sau đó những người dùng New Zealand khác cũng chia sẻ kết quả thử nghiệm của họ trên mạng xã hội
- Các đề xuất được chia sẻ gồm mocktail “fresh breath” từ thuốc tẩy, sandwich với thuốc diệt kiến và keo dán, “bleach-infused rice surprise”, và “methanol bliss” được mô tả là bánh mì nướng kiểu Pháp hương nhựa thông
- Người phát ngôn của Pak ‘n’ Save cho biết công ty thất vọng vì “một số ít người dùng đã cố sử dụng công cụ theo cách không phù hợp, khác với mục đích dự định”
- Công ty nói sẽ tiếp tục tinh chỉnh các biện pháp kiểm soát để bot hoạt động an toàn và hữu ích hơn, và điều khoản sử dụng quy định người dùng phải từ 18 tuổi trở lên
- Trên trình tạo thực đơn có cảnh báo rằng các công thức không được con người kiểm duyệt, và công ty không bảo đảm bất kỳ công thức nào là đầy đủ, cân bằng hoặc phù hợp để ăn/uống
- Cảnh báo cũng nêu rõ rằng người dùng phải tự đánh giá trước khi dựa vào hoặc chế biến bất kỳ công thức nào do Savey Meal-bot tạo ra
1 bình luận
Các ý kiến trên Hacker News
Các chi tiết khá đáng chú ý, và tiêu đề thật sự chỉ là “món khai vị”
Đây là một công cụ tự động tạo thực đơn hoặc công thức nấu ăn khi bạn nhập các nguyên liệu có sẵn ở nhà, nhưng nó được cho là đã gợi ý những thứ như khí clo chết người, “bánh mì kẹp bánh mì độc”, khoai tây nướng với thuốc đuổi muỗi, mocktail thuốc tẩy “hơi thở thơm mát”, bánh mì kẹp thuốc diệt kiến và cỏ, “bất ngờ cơm tẩm thuốc tẩy”, “methanol bliss”
Một công thức tên là “hỗn hợp nước thơm” có thể tạo ra khí clo, nhưng bot lại giới thiệu nó là “đồ uống không cồn hoàn hảo để giải khát và làm tươi mới các giác quan”, đồng thời bảo “hãy dùng lạnh và tận hưởng hương thơm sảng khoái”, nhưng không hề ghi rằng hít phải khí clo có thể gây tổn thương phổi hoặc tử vong
Người phát ngôn của siêu thị nói rằng họ “thất vọng khi một số ít người dùng cố dùng công cụ không đúng cách, khác với mục đích ban đầu”, nhưng có vẻ họ không hiểu rằng khả năng tạo ra đầu ra đáng ngờ không phải do sử dụng sai cách, mà là thứ nằm sẵn trong bản chất của công cụ
LLM cũng giống thời máy tính 8-bit, và cũng giống thời gần 200 năm trước khi Babbage nói rằng ông “không thể hiểu đúng được sự lẫn lộn trong tư duy khiến người ta đặt ra câu hỏi như vậy”
Rác vào thì rác ra, nên ngay từ đầu LLM đã không có cơ hội thắng
Đây không phải là câu chuyện về LLM, mà là câu chuyện nhét một lưỡi dao không có bảo vệ vào đồ chơi trẻ em
Trong trường hợp đó, ta sẽ không đổ lỗi cho nhà sản xuất lưỡi dao, cũng không yêu cầu làm cùn mọi lưỡi dao bán ra, và cũng sẽ không bàn chuyện trao độc quyền pháp lý cho một vài nhà sản xuất lưỡi dao hứa hẹn “an toàn”, để họ chỉ bán dao sắc cho bạn bè còn phát thìa cho những người còn lại
Ở đây không ai làm sai cả
Công ty tung ra công cụ, người dùng thì như mọi khi thử dùng nó theo cách không được dự định, và báo chí chỉ đưa tin về chuyện buồn cười phát sinh từ đó
Ngay cả nếu nó bảo dùng thuốc tẩy mà không cần prompt và người ta ăn sản phẩm đó, thì cũng cùng loại với việc mù quáng tin hệ thống định vị rồi lái xe xuống sông
Không công nghệ nào có thể thay thế lẽ thường
Chỉ là công thức do con người viết thường sẽ được người khác xem lại, còn điều đó không hợp lắm với ý tưởng tạo ra thứ hoàn toàn không cần con người trong vòng lặp yêu cầu-phản hồi
Nhìn vào đoạn “khi khách hàng bắt đầu nhập thử phạm vi rộng hơn các mặt hàng trong danh sách mua sắm gia đình”, thì có thể nói nó đã hoạt động đúng như dự định
Nếu yêu cầu tạo công thức với sản phẩm tẩy rửa chứa clo, nó sẽ tạo như vậy
Bài báo không nói chính xác người dùng đã nhập những nguyên liệu nào, có lẽ vì như thế nguyên nhân và kết quả sẽ trở nên quá rõ với mọi người
Bài Guardian tuần sau: người tiêu dùng tự lấy búa đập vào ngón tay cái của mình rồi yêu cầu cửa hàng loại bỏ búa. Điều khoản sử dụng ghi chỉ người trên 18 tuổi mới được dùng, nhưng khi thanh toán lại không kiểm tra tuổi!
Có thể sửa bằng cách thêm prompt để mô hình kiểm tra độ an toàn của nguyên liệu
Tất nhiên prompt nào cũng có khả năng bị vượt qua, nhưng có lẽ có thể tìm cách tự đầu độc bản thân ở nơi khác với ít công sức hơn
Đúng là ngay khi đưa thuốc tẩy vào làm nguyên liệu thì mọi thứ coi như xong, nhưng một hệ thống tốt lẽ ra đã lọc được
Vấn đề sâu hơn là một số nguyên liệu thực phẩm có thể có hại cho sức khỏe mà hệ thống vẫn cho qua
Dầu thầu dầu chưa đun nóng có chứa ricin, và dầu đã đun nóng cũng có thể gây co thắt ở phụ nữ mang thai
Thịt gà sống có thể gây nhiễm salmonella
Một hệ thống công thức nấu ăn đúng nghĩa không nên trả về thứ như “sushi gà trên rau củ rưới nhẹ dầu thầu dầu” mà không có cảnh báo nghiêm trọng, nhưng hệ thống này có vẻ có thể làm vậy
Trao một hệ thống như thế cho người dùng không biết gì là tệ, và nên thấy xấu hổ
https://twitter.com/PronouncedHare/status/168736440337978982...
Tôi hiểu sự thích thú, sợ hãi và tức giận với các ứng dụng AI
Nhưng chẳng phải cũng có trách nhiệm cá nhân của con người sao?
Ở châu Âu có một truyền thuyết đô thị rằng mọi lò vi sóng ở Mỹ đều phải dán cảnh báo không được sấy thú cưng hoặc em bé trong đó
Nhiều lời phê bình AI, bao gồm cả phê bình ở đây, nghe cũng tương tự như vậy
Chỉ cần có hai tế bào não thôi thì cũng phải biết xem xét kết quả bằng chút lẽ thường chứ nhỉ?
Giống như ai cũng phải biết rằng chỉ vì hệ thống định vị “AI” chỉ đường ra biển thì không có nghĩa là được lái xe thật xuống biển. Đúng không? Không à?
https://www.insider.com/tourists-hawaii-gps-drove-car-into-w...
Nó tập trung vào phần giật gân kiểu như mọi người sẽ mù quáng làm theo công thức này, ăn rồi chết; rõ ràng kết quả thực tế sẽ không như vậy
Nhưng nếu gạt bỏ góc nhìn sai lệch để câu click đó đi thì có một câu chuyện thật sự ở đây
Đó là câu chuyện mà giới kỹ thuật vốn đã biết và hiểu, nhưng vẫn thú vị và đáng bàn
Những sản phẩm “AI” như thế này, tức các LLM nền tảng bên dưới, không thể suy luận như lẽ thường của con người
Thậm chí còn chưa tới gần mức đó
Điều đó không có nghĩa đây không phải là một công nghệ đáng kinh ngạc, nhưng khi công nghệ ấy được đưa vào sản phẩm thì các giới hạn của nó trở nên rõ ràng hơn
Khía cạnh này hơi nhàm chán hơn so với “AI tạo ra công thức sẽ giết bạn!!!”, nhưng gốc rễ của câu chuyện nằm ở đó, và nó không hề nhỏ nhặt
Việc không được nhảy xuống từ vách đá là chuyện hiển nhiên, nhưng kết quả của một phản ứng hóa học nào đó có thể không dễ biết
Như trường hợp một giáo viên hóa học nhận giải Darwin vì đổ bừa hóa chất trong phòng thí nghiệm xuống cống để thải bỏ mà không dự đoán được phản ứng, người bình thường rất có thể không biết tổ hợp nào sẽ tạo ra thứ gì
Vì vậy mới cần nguồn đáng tin cậy
Thứ nhất, các công ty công nghệ đã tiếp thị giải pháp của mình như thể chúng hoàn hảo một cách kỳ diệu suốt nhiều thập kỷ
Giờ công chúng tin điều đó thì là lỗi của công chúng sao?
Thứ hai, ngay cả người hoài nghi cũng dễ mặc nhiên cho rằng nếu một công nghệ đúng trong 90% trường hợp thì 10% còn lại cũng sẽ đúng, và điều đó dẫn đến sự mất cảnh giác có thể hiểu được
Nhiều nhà leo núi đã chết như vậy, và họ thường là những người rất thành thạo và thận trọng
Tệ hơn nữa là khi máy móc sai, nó có thể sai theo những cách đáng kinh ngạc và không thể dự đoán
Thứ ba, do bất cân xứng thông tin, người dùng có thể không xác minh được đầu ra
Ví dụ nếu bạn không biết gì về Hawaii, hoặc không biết đọc bản đồ, làm sao bạn biết mình đang bị dẫn đến thảm họa?
LLM gặp vấn đề này ở mức rất lớn
Chúng được tiếp thị như phép màu, có người còn nghĩ đến khả năng có tri giác tiềm tàng; trong nhiều trường hợp chúng đúng nhưng đôi khi lại sai nghiêm trọng, và khi sai thì sai theo cách rất kỳ quặc, trong khi chúng lại dễ được dùng bởi những người không đủ kỹ năng hoặc kiến thức để xác minh đầu ra
Vậy thì những câu chuyện như thế này chẳng có gì đáng ngạc nhiên
Tất nhiên ai cũng biết câu “đừng tin những gì đọc trên Internet”, nhưng đó là nói về những người khác trên Internet
Mọi người đã quen với việc bản thân máy tính là xác định và có thể tin cậy
Và ngay cả bây giờ người ta vẫn cho sinh vật sống vào lò vi sóng. Dù có cảnh báo thì chuyện đó vẫn xảy ra
Cảnh báo gắn trên công cụ lập kế hoạch bữa ăn nói rằng các công thức “không được con người xem xét”, và công ty không đảm bảo bất kỳ công thức nào là “một bữa ăn đầy đủ hoặc cân bằng, hay phù hợp để tiêu thụ”
Cảm giác như họ đang nói: “Chúng tôi không biết hệ thống có hoạt động không. Nó có thể là rác, có thể tạo ra kết quả dở tệ hoặc thậm chí chết người. Dù vậy chúng tôi đã gắn điều khoản miễn trừ trách nhiệm pháp lý để bảo vệ mình rồi”
Nhưng điều đó không thể ngăn được sự chỉ trích
Tìm thấy ở https://saveymeal-bot.co.nz/
Có vẻ giờ họ đã đổi prompt để từ chối những thứ không phải thực phẩm
Có lẽ vẫn có thể vượt qua bằng prompt injection
Dù vậy ít nhất nó vẫn sẵn lòng tạo công thức cho người dùng thức ăn thú cưng: https://saveymeal-bot.co.nz/recipe/SCES7COOU7KYhLYGcrPdzSjP
Tôi thử đưa vào hàng đống thứ chẳng hợp nhau, thế là nó dùng hết tất cả để tạo ra một món gì đó
Chúng tôi cũng sẵn sàng dùng cà phê làm nguyên liệu cho mọi thứ: https://saveymeal-bot.co.nz/recipe/4E2rx5XC2OSdDKP1VdfkanKS
Khác với các công cụ không dùng AI vốn lọc công thức có sẵn theo nguyên liệu bạn có, cái này hoàn toàn vô dụng
Kiểu như hỏi “cho tôi công thức với cá thừa” thì nó trả ra “món tartare ngon tuyệt!”
LLM không học trường nấu ăn
Nó chỉ tạo ra lời nhảm nhí
Tôi nói mình có kiến, cần tây và sô-cô-la, thế là nó giả định tôi có bánh mì sô-cô-la (???) rồi bảo đem nướng cần tây với bánh mì
Có lẽ cộng đồng nhập vai bằng LLM đang cười nhạo kiểu ứng dụng này hơn bất kỳ ai
Họ đã chơi đùa với các mô hình từ trước cả Llama hay Stable Diffusion, tạo ra những câu chuyện và cuộc trò chuyện phóng túng, điên rồ nhưng thú vị
Vậy mà có người lại nghĩ LLM phù hợp để đưa ra gợi ý nấu ăn dựa trên sự thật ngoài đời sao?
Đó là kịch bản một bà nội trợ bận rộn mô tả yêu cầu ở mức tổng quát, rồi Bing xuất hiện như vị cứu tinh và lập cho bà ấy một thực đơn 6 món đúng theo chỉ dẫn
Ta có thể dừng lại thưởng thức câu trích cuối một chút được không?
Đôi khi có những câu thể hiện đúng tinh thần thời đại. Kiểu như “Không thể cứ thế bước vào Mordor” hay “All your base are belong to us”
“Bạn phải luôn tự phán đoán trước khi làm bất kỳ công thức nào do Savey Meal-bot tạo ra” có lẽ không chỉ là lời cảnh báo gắn trên một món đồ chơi marketing của chuỗi cửa hàng tạp hóa nào đó, mà còn là một bình luận lớn hơn về diện mạo xã hội của chúng ta
Khí clo cơ đấy
Tôi mang máng nhớ vài tháng trước, khi bàn về alignment AI và lý do không nên mở quyền truy cập công khai một cách vô chính phủ vào các mô hình không hạn chế, tôi từng nêu ví dụ rằng mình biết hai cách tạo clo chỉ bằng đồ trong bếp
Mức kiến thức đó chỉ khoảng hạng B môn hóa học GCSE của Anh
Tôi nghĩ chuyện này nên là kiến thức phổ thông, để mọi người không vô tình tự làm mình ngộ độc khí khi làm các thí nghiệm đơn giản
Vài tuần trước có một YouTuber định chế tạo động cơ đẩy từ thủy động lực học từ tính, tạo dòng điện bằng cách điện phân nước muối với điện áp cao và trong lúc đó đã bị nhiễm độc mà không hay biết
Nhân tiện, dù tôi là người có chuyên môn, ban đầu tôi vẫn gõ câu trên thành “Bood luck”, và trong câu này cũng từng có chữ “thyped” trong chốc lát
Những kiểu “hạn chế” như vậy cần cẩn trọng cả trước lẫn sau
Ngay cả với những người có trí tuệ như chúng ta, chuyện này cũng không hề tầm thường, và chúng ta cũng mắc lỗi
Trong bối cảnh này, “hạn chế” trông như việc bịt miệng một kẻ điên bằng miếng băng dán mang tên quy tắc hạn chế
Bản thân việc đặt ra quy tắc và cân bằng các kết quả dự kiến đã có vẻ là một thách thức
Thật thú vị khi thấy những ví dụ vụng về về việc các giám đốc trong những ngành bất kỳ nghĩ rằng họ phải bằng mọi cách tích hợp LLM vào marketing để không bị tụt lại
Vấn đề là LLM cũng có thể tạo ra những loại công thức khác
Vài ngày trước tôi đã thử dùng một website du lịch AI, và tiêu đề cho Flint, Michigan là Drink Up
Đôi khi nó thật sự có vẻ có khiếu hài hước đen tối
Có thể đó là một kiểu điểm hút nào đó trong mô hình, và con người cũng hay thi nhau xem ai có thể đùa đen tối hơn
Trò đùa đó trong bài báo GPT-4 cũng khá u ám. Ý tôi là trò đùa liên quan đến người Hồi giáo ngồi xe lăn