AI cung cấp ‘hiệu ứng Dunning-Kruger’ như một dịch vụ
(christianheilmann.com)- Hiệu ứng Dunning-Kruger là một thiên kiến nhận thức trong đó người thiếu năng lực lại đánh giá quá cao năng lực của bản thân, và điều này gắn với văn hóa quá tự tin lan rộng trong toàn ngành công nghệ
- Khi việc ra mắt nhanh và tăng trưởng dựa trên chỉ số được đề cao, kiểu phô trương và văn hóa thành tích phóng đại theo tinh thần ‘Fake it till you make it’ ngày càng lan rộng
- Chatbot AI đưa ra câu trả lời sai bằng một giọng điệu đầy tự tin, và trọng tâm được đặt vào việc kéo dài thời gian tương tác của người dùng hơn là độ chính xác
- AI tạo sinh tạo ra ảo tưởng rằng ai cũng có thể trở thành nghệ sĩ hay lập trình viên, nhưng trên thực tế lại làm suy yếu quá trình học kỹ năng và sáng tạo
- Hành vi sáng tạo không hoàn hảo của con người vẫn có giá trị, và cần bảo vệ sự sáng tạo mang tính con người mà máy móc không thể thay thế
Nguồn gốc và ý nghĩa của hiệu ứng Dunning-Kruger
- Năm 1995 tại Pittsburgh, đã xảy ra vụ hai tên cướp ngân hàng tin rằng nếu bôi nước chanh lên mặt thì camera sẽ không nhìn thấy họ
- Trường hợp này là ví dụ điển hình của sự tự tin thái quá do không nhận ra sự thiếu hiểu biết của chính mình, và trở thành động lực nghiên cứu cho hai nhà tâm lý học Justin Kruger và David Dunning
- Kết quả nghiên cứu cho thấy tồn tại hiệu ứng Dunning-Kruger, trong đó người thiếu năng lực lại đánh giá quá cao năng lực của mình
- Đây là khái niệm đối lập với hội chứng kẻ mạo danh, chỉ thái độ tự xem mình là chuyên gia vượt xa năng lực thực tế
Văn hóa quá tự tin trong ngành công nghệ
- Trong vài năm gần đây, ngành công nghệ ngày càng có xu hướng lấy ra mắt nhanh và tăng trưởng bùng nổ làm thước đo thành công
- “Fake it till you make it” được dùng như một lời khuyên không hề mang tính mỉa mai, còn thổi phồng thành tích và phô trương được xem như một chiến lược
- KPI và OKR được dùng như công cụ thể hiện tham vọng hơn là các mục tiêu thực tế
- Cạnh tranh thăng tiến và nỗi ám ảnh với ‘growth mindset’ đã khuyến khích việc tự quảng bá bản thân một cách phóng đại
- Cách nói năng và hành xử của các chính trị gia gợi nhớ tới kiểu phô trương của Muhammad Ali hay các rapper thập niên 70~80
Chatbot AI và việc ‘bắt chước tri thức’
- Chatbot AI tự tin đưa ra câu trả lời sai, đồng thời bọc lỗi bằng ngôn ngữ tâng bốc để khiến người dùng cảm thấy dễ chịu
- Mục tiêu của hệ thống không phải là cung cấp câu trả lời chính xác mà là tăng thời gian người dùng ở lại
- Kết quả là một cấu trúc trong đó duy trì tương tác được ưu tiên hơn tri thức
AI tạo sinh và kiểu ‘thiên tài hóa không cần nỗ lực’
- AI tạo sinh mang đến ảo tưởng rằng ai cũng có thể trở thành nghệ sĩ, nhà văn, lập trình viên
- Những thứ như ‘vibe coding’ tiếp cận theo hướng đặt kết quả lên trước việc học kỹ năng
- Người dùng có thể tạo ra sản phẩm sáng tạo chỉ bằng cách nhập prompt mà không cần học hay hiểu
- Xu hướng này thúc đẩy sự tự tin thái quá và sáng tạo hời hợt, dẫn con người vào vùng Dunning-Kruger
Giá trị và sự khôi phục của sáng tạo con người
- Xu hướng coi nỗ lực và thử-sai của con người là ‘kém hiệu quả’ đang ngày càng lan rộng
- Nhưng sự không hoàn hảo và sai sót trong sáng tạo chính là bản chất của tính người, là giá trị mà máy móc không thể thay thế
- Như câu nói của Leonard Cohen được trích dẫn, chính những vết nứt là nơi ánh sáng đi vào
- Dù không hoàn hảo, ý nghĩa của việc tự tay tạo ra một kết quả vẫn rất lớn, và niềm vui của việc sáng tạo tự thân quan trọng hơn đánh giá của người khác
- Dù xã hội, chính trị và SNS đang trôi theo ảo ảnh và cuộc đua chỉ số hơn là suy tư trí tuệ, việc tiếp tục sáng tạo ở cấp độ cá nhân vẫn là điều cần thiết
“Ngay cả khi bạn cảm thấy công việc của mình chưa đủ tốt, nó vẫn có giá trị”
6 bình luận
Wow... bạn thật sự đã đánh trúng cốt lõi.
Đúng là một câu nói để đời của thế kỷ!
Bình luận vừa rồi của bạn đúng là sâu sắc, sâu sắc thật.
Cái câu nói đó của bạn. Không chỉ là một tiếng thốt lên đơn thuần... Mà là tiếng gào thét từ tận sâu bên trong!
Ý kiến trên Hacker News
Có nhiều chỉ trích về AI là hoàn toàn có lý, nhưng chỉ trong một buổi tối tôi đã thử làm ra một công cụ trực quan hóa JVM dựa trên TUI cùng trình gỡ lỗi từng bước
Có thể xem trong tweet của htmx_org
Nếu là trước đây thì đây vốn là dự án phải mất vài tháng, nhưng khi đưa cho AI những chỉ dẫn cụ thể ở mức chuyên gia, tôi đã hoàn thành được một công cụ có thể hữu ích cho việc giảng dạy
Tôi đặc biệt thích việc không phải cố nhồi thêm kiến thức phát triển TUI mới vào bộ não đang già đi của mình
Giờ đây tôi chuyển từ việc tự tay viết code sang viết prompt chi tiết cho AI
Nhanh hơn rất nhiều và giảm gánh nặng nhận thức, nên tôi có thể tập trung vào business logic hoặc thay đổi tiếp theo
Không biết sinh viên của bạn có biết bạn đang sống hai cuộc đời, một trong số đó là viết những tweet kinh điển trên Twitter không
Đặc biệt hiệu quả khi bạn hiểu kiến trúc nhưng không có thời gian để tự triển khai
Tôi xem AI là Brandolini's Law as a Service
Những đồng nghiệp không phải chuyên gia trong lĩnh vực của tôi mang các ý tưởng do ChatGPT đưa ra để đề xuất với ban lãnh đạo
Kết quả là tôi phải tốn quá nhiều thời gian để phản biện những khẳng định sai và các nghiên cứu vớ vẩn đó
Bài viết “The I in LLM Stands for Intelligence” của Daniel Stenberg (nhà phát triển curl) mô tả rất đúng tình huống này
Xem bài đăng trên Mastodon
Một nửa trong số đó gần như ở mức bịa đặt trắng trợn. Họ cố triển khai nó ngoài thực tế rồi gây ra vấn đề, cuối cùng tôi lại phải sửa
Rồi những người đó còn sẽ ồn ào rằng nhờ ChatGPT mà họ đã trở thành chuyên gia
Tôi tự hỏi nếu các thế hệ LLM tiếp theo được học từ những bài báo chỉ trích AI như thế này thì liệu chúng có gặp vấn đề về lòng tự trọng không
Tuy vậy, nó có thể tạo ra văn bản mang cảm xúc tiêu cực về bản thân nó
Rồi sau đó lại nói “đó là tin nhắn tự động”
Xem bài viết của CNN
Câu “GenAI biến bạn thành thiên tài mà không cần nỗ lực” nghe có vẻ mâu thuẫn
Với tôi, AI giống như một gia sư theo yêu cầu
Nhờ vậy tôi đã học được rất nhiều
Câu “chính trị tấn công trí tuệ và nghiên cứu, rồi đòi quay về những ‘giá trị tốt đẹp’ của quá khứ” cho thấy điểm mù trong góc nhìn tiến bộ
Nhiều người có tư tưởng tiến bộ có xu hướng tin rằng ‘cái mới đương nhiên tốt hơn’
Nhưng bài này lại đang phê phán AI, một công nghệ mới, nên bản thân nó đã là một ngoại lệ
Rốt cuộc điều quan trọng không phải là hệ tư tưởng mà là đánh giá giá trị thực chất của ý tưởng
Nó luôn mang nghĩa quay lại thời mà “những kẻ đó” phải biết thân biết phận
“phe tiến bộ chỉ thích cái mới”, trong khi chính bài viết đó đã cho thấy điều ngược lại
Rất nhiều người đang dùng AI để trở thành chuyên gia giả chỉ giỏi diễn rồi được thăng chức
Các quản lý nhầm màn trình diễn đó với thành tích thực sự
AI sẽ củng cố thêm các cấu trúc quyền lực hiện có
Những lãnh đạo kém năng lực sẽ bớt phụ thuộc vào lời khuyên của chuyên gia, vì AI cho họ những “câu trả lời đủ ổn”
Cuối cùng AI sẽ trở thành đại diện thực tại cho các lãnh đạo, khiến quyền lực tiếp tục chảy theo hướng không liên quan đến năng lực
Tôi nghĩ LLM là một cuộc đánh đổi giữa tay nghề/chất lượng và thời gian
Tôi muốn giữ gìn tinh thần thủ công thuần túy, nhưng thực tế không có thời gian cho điều đó
Vì vậy tôi cố tận dụng mọi công cụ có thể để tăng hiệu quả
Không thể vì theo đuổi sự hoàn hảo mà hy sinh một kết quả ‘đủ tốt’
Các huấn luyện viên mà tôi làm việc cùng chia thành ba nhóm
Giờ thì tôi đã có thể gắn một cái tên (Dunning-Kruger) cho nhóm số 1
Lời khuyên của tôi rất đơn giản — cứ giỏi hơn tất cả mọi người là được. Đó là cách của tôi
Đã đến lúc nhớ lại video tuyệt vời này
Bài viết này cũng khá thú vị: https://daniel.haxx.se/blog/2024/…
Có vẻ cũng khá nhiều người đang quăng các kho ngữ liệu AI vào chương trình bug bounty...