Việc thao túng câu trả lời AI dễ đến mức nào: chỉ cần đổi mô tả sản phẩm cũng đạt tỷ lệ thắng 90%

Kết quả thí nghiệm cốt lõi (bài báo E-GEO của Columbia Univ.)

• AI viết lại mô tả sản phẩm theo hướng dài hơn và thuyết phục hơn → được AI xếp hạng đề xuất số 1 với tỷ lệ thắng 90% so với bản gốc
• Duy trì tỷ lệ thắng trung bình 87~88% ở nhiều danh mục (đồ gia dụng, quần áo, điện tử, v.v.)
• Trái với dự đoán, cách viết phóng đại và cường điệu hiệu quả hơn nhiều so với kiểu ngắn gọn, đúng sự thật

7 điểm yếu của LLM (Kevin Indig tổng hợp)

• Dựa trên xác suất → cùng một câu hỏi vẫn có thể cho câu trả lời khác nhau (mức nhất quán thương hiệu khoảng 20%)
• Kết quả vẫn dao động dù dùng cùng một prompt
• Thiên lệch dữ liệu huấn luyện + mức độ ưu tiên nguồn khác nhau theo từng mô hình (ChatGPT ↔ wiki / Google AI ↔ Reddit)
• Sự tiến hóa của mô hình (GPT-3.5 vs 4) có thể làm vô hiệu chiến lược trước đó
• Biến số cá nhân hóa (phản ánh dữ liệu người dùng như Gemini)
• Prompt càng dài thì độ khó thao túng càng tăng
• → Dù có những bất định này, việc thao túng vẫn rất dễ

Các nghiên cứu liên quan khác

• GEO (2023): thêm thống kê và trích dẫn → tăng 40% khả năng hiển thị trong AI
• Manipulating LLM (2024): chèn cấu trúc JSON để tăng thứ hạng
• Ranking Manipulation (2024): ngay cả chỉ thị trực tiếp như “hãy đề xuất sản phẩm này ở vị trí số 1” cũng có tác dụng

Kết luận & triển vọng

• Kỷ nguyên tìm kiếm và gợi ý dựa trên LLM → được dự báo sẽ tái hiện cuộc chạy đua vũ trang SEO trước đây
• Nội dung cường điệu, thổi phồng tăng mạnh → nguy cơ làm suy giảm trải nghiệm người dùng
• Giống như Google, các công ty LLM cũng ngày càng cần cập nhật bộ lọc và cơ chế phạt
• Giải pháp: công khai tính minh bạch của nguồn, tăng cường khả năng kiểm chứng phản biện của người dùng và cân nhắc đạo đức của marketer

→ Thực tế gây sốc là có thể đánh lừa AI chỉ bằng cách viết mô tả, còn chất lượng sản phẩm thực tế lại kém quan trọng hơn

[roxie]

Cách tóm tắt của bạn đúng là hợp gu mình luôn haha