Vì sao AI hỗ trợ ra quyết định (DSS) thất bại: thiếu thiết kế niềm tin

1. Kết luận

• Lý do nhiều hệ thống AI hỗ trợ ra quyết định (DSS) thất bại trong thực tế không phải là hiệu năng mô hình, mà là vì “không thiết kế niềm tin”.
• Bài viết này tái định nghĩa niềm tin không phải là cảm xúc hay vấn đề UX, mà là một cơ chế dự báo trong tình huống rủi ro và là một “hợp đồng”, đồng thời giải thích vì sao cách tiếp cận “hãy nâng cao niềm tin” lại ngược lại dẫn đến không sử dụng hoặc lạm dụng.

2. Cơ sở

• Cốt lõi của vấn đề niềm tin là sự nhầm lẫn giữa trust (thái độ của người dùng) và trustworthiness (năng lực thực tế)
• Người dùng không mơ hồ tin vào AI, mà tin vào những hợp đồng cụ thể như độ chính xác, tính công bằng, trách nhiệm giải trình
• Nếu không làm rõ hợp đồng và ranh giới, UI, thẩm quyền và giọng điệu diễn giải có thể tạo ra niềm tin không chính đáng, dẫn đến sự cố
• Vai trò của khả năng giải thích (XAI) cũng không phải là “khuếch đại” niềm tin, mà là hiệu chỉnh sự phụ thuộc hoặc nghi ngờ

3. Thực thi (cách cải thiện)

• Nếu là người xây dựng hoặc triển khai AI-DSS, bạn sẽ chuyển góc nhìn từ câu hỏi “Làm sao để tăng niềm tin?” sang
  “Muốn người dùng tin vào điều gì, và khi nào họ nên nghi ngờ hoặc tạm hoãn phán đoán?”

4. Tóm ý một dòng

• Nguyên nhân AI-DSS thất bại không nằm ở hiệu năng mà ở thiết kế niềm tin; giải pháp là thiết kế xoay quanh hợp đồng, tính dễ tổn thương và hiệu chỉnh.