AI đang khiến tư duy của chúng ta trở nên đồng nhất
(newyorker.com)- Một nghiên cứu của MIT cho thấy nhóm sử dụng ChatGPT có mức hoạt động não tương đối thấp hơn
- Việc sử dụng AI dẫn đến suy giảm tính sáng tạo và sự đa dạng, gây ra hiện tượng kết quả bị đồng nhất hóa
- Nghiên cứu của Đại học Cornell cũng xác nhận rằng ngay cả lối viết phản ánh khác biệt văn hóa và cá nhân cũng hội tụ theo xu hướng phương Tây, trung bình khi dùng AI
- Những câu trả lời trung bình và an toàn mà AI đưa ra làm suy yếu sự đa dạng văn hóa và cá tính
- Tác động dài hạn của AI phổ cập vẫn chưa được biết đầy đủ, nhưng sự đơn giản hóa và đồng nhất hóa tư duy đang nổi lên như mối lo ngại chính
Thí nghiệm và những phát hiện chính
- Năm 2023, MIT chia hơn 50 sinh viên đại học ở khu vực gần Boston thành ba nhóm để thực hiện thí nghiệm viết bài luận theo phong cách SAT
- Một nhóm chỉ sử dụng bộ não của chính mình
- Nhóm thứ hai được phép dùng Google Search
- Nhóm thứ ba dùng ChatGPT để viết bài luận
- Tất cả người tham gia đều đeo tai nghe đo sóng não, và kết quả phân tích cho thấy nhóm dùng ChatGPT có mức hoạt động não thấp nhất
- Quan sát cho thấy độ kết nối giữa nhiều vùng não (sóng alpha và theta) của nhóm này bị suy giảm
- Một số người dùng cho thấy thiếu cảm giác sở hữu đối với bài luận do mình viết, và phần lớn thậm chí không thể trích lại nội dung mình đã viết
- Nhóm nghiên cứu MIT gọi đây là chi phí nhận thức do phụ thuộc vào AI
AI gây ra sự trung bình hóa trong tư duy
- Các bài luận của nhóm sử dụng ChatGPT cho thấy xu hướng hội tụ về những từ ngữ và ý tưởng tương tự nhau
- Dù đề bài SAT khuyến khích câu trả lời rộng mở, nhóm dùng AI vẫn thể hiện lối lập luận và từ vựng đồng nhất
- Ví dụ, với câu hỏi về ‘hạnh phúc đích thực’, tất cả đều tập trung vào sự nghiệp và thành công; còn với ‘nghĩa vụ đạo đức của việc quyên góp’, chỉ đưa ra lập trường tán thành một cách đồng loạt
- Theo cách diễn đạt của nhà nghiên cứu Kosmyna tại MIT, có hiện tượng “mọi thứ bị gom về mức trung bình”
Sự suy yếu của tính đại chúng và đa dạng văn hóa
- Nhóm nghiên cứu Cornell đã tiến hành thí nghiệm để người dùng ở Mỹ và Ấn Độ viết bài phản ánh bối cảnh văn hóa của riêng mình
- Một số người dùng tính năng tự động hoàn thành có tích hợp ChatGPT, một số thì không
- Khi dùng tự động hoàn thành, bài viết của người tham gia hội tụ theo xu hướng phương Tây, trung bình và trở nên giống nhau hơn
- Trong các câu hỏi về đồ ăn và ngày lễ, pizza và Giáng sinh trở thành câu trả lời lặp lại thường xuyên, còn khác biệt địa phương thì mờ nhạt
- Ngay cả chi tiết và bầu không khí của bài luận cũng chuyển sang những cụm từ sáo mòn, phổ thông
Ảnh hưởng từ gợi ý của công cụ AI và sự suy giảm bản sắc
- Tác giả giải thích rằng chức năng gợi ý của AI có một “hiệu ứng thôi miên” làm suy yếu tiếng nói riêng của người viết
- Có lo ngại rằng sự tiếp xúc liên tục có thể làm mất đi sự tự tin trong viết lách và cảm giác về bản sắc
- Gợi ý của AI không chỉ trung bình hóa suy nghĩ của người dùng mà còn cả cách tư duy
- Kết quả là, nó cũng hàm chứa khả năng làm thay đổi nhận thức xã hội về “điều gì là bình thường và đáng mong muốn”
Động lực công nghiệp và sự chuẩn hóa văn hóa
- OpenAI và các công ty phát triển AI thiết kế hệ thống để ngày càng nhiều người dùng hài lòng với những kết quả phổ thông và trung bình
- Mô hình càng tạo ra đầu ra có thể chấp nhận được với nhiều người thì càng thu hút được nhiều người dùng trả phí
- Xét về hiệu quả, khi ‘mọi thứ đều giống nhau’ thì có thể hiện thực hóa lợi thế kinh tế theo quy mô
AI và sáng tạo: giới hạn thực nghiệm
-
OpenAI CEO Sam Altman và những người khác cho rằng AI có thể giúp ai cũng trở thành nhà sáng tạo
-
Nhưng trong các thí nghiệm, nhóm sử dụng AI lại cho thấy xu hướng đưa ra những ý tưởng trung bình và tương tự nhau hơn về mặt tính nguyên bản
- Một nghiên cứu của Đại học Santa Clara đã so sánh ChatGPT với công cụ sáng tạo truyền thống (Oblique Strategies)
- Người dùng ChatGPT cho thấy các ý tưởng có độ tương đồng ngữ nghĩa, tức xu hướng đồng nhất hóa
-
Theo nhà phân tích thí nghiệm Max Kreminski, tư duy nguyên sơ của con người đang dần bị kéo về phía giá trị trung bình của AI
- Khi AI liên tục nhanh chóng đưa ra “những câu trả lời đủ tốt”, người dùng sẽ tập trung nhiều hơn vào việc chọn lọc kết quả của AI thay vì phát triển ý tưởng của chính mình
- Khi cuộc trò chuyện kéo dài, do giới hạn của context window của AI, các câu trả lời lặp lại và mang tính trung bình càng được củng cố
Môi trường AI phổ cập và sự thiếu đa dạng thông tin
- Phần lớn các nghiên cứu vẫn là thử nghiệm quy mô nhỏ, nên tác động dài hạn của AI vẫn còn là ẩn số
- Trên các ứng dụng như AI app của Meta, một lượng lớn nội dung quá trơn tru và đồng loạt do rất nhiều người tạo ra đang được sản sinh hàng loạt
- Email tự động, các yêu cầu thường ngày... tràn ngập định dạng và từ vựng đồng nhất
- Ngay cả trong các ví dụ prompt thực tế, AI cũng chỉ liệt kê tương lai tích cực, loại trừ các kịch bản tiêu cực hoặc rủi ro
- Điều này gợi ý rằng thiên lệch ủng hộ công nghệ trong quá trình thiết kế AI có thể dẫn đến suy giảm tính đa dạng của kết quả
Kết luận và triển vọng
- Muốn chỉ tin vào thông tin do AI đưa ra thì cần phải ngừng suy nghĩ
- Nhu cầu về sự cảnh giác ở cấp độ xã hội và văn hóa đối với hiện tượng trung bình hóa tư duy và suy giảm sáng tạo do AI tạo ra đang ngày càng nổi lên
3 bình luận
Hình như hồi internet mới xuất hiện cũng từng có những vấn đề tương tự. Có lẽ khả năng rèn luyện tư duy phản biện mới là điều quan trọng hơn.
Có lẽ vẫn tốt hơn là tiếp nhận thông tin sai lệch từ tìm kiếm trên internet hay YouTube. Tôi nghĩ như vậy vẫn còn tốt hơn so với việc tiếp nhận thông tin thiên lệch nhằm phục vụ lợi ích của một nhóm cụ thể. Có thể nói AI cũng có thể mang thiên kiến, nhưng tôi cho rằng mức độ tin cậy trung bình của nó vẫn cao hơn so với những thông tin ngẫu nhiên trôi nổi trên internet. Và ở điểm là nếu không có tư duy phản biện thì vẫn có thể tiếp nhận thông tin sai lệch, hai bên cũng khá giống nhau.
Ý kiến trên Hacker News
Gần đây tôi nghĩ rằng "khoảng cách số" thực sự được quyết định bởi việc một người đã rèn được năng lực tư duy phản biện trong vài năm gần đây hay chưa. Với những người đã xây dựng được khả năng này thông qua đọc đa dạng và suy ngẫm kiên nhẫn, các công cụ như LLM giống như trao cho họ chìa khóa để lái mô-tô nước trên biển thông tin thô ráp. Nhưng với những người hiện giờ mới cần học tư duy phản biện, có lẽ họ sẽ khó vượt qua nỗi vất vả của việc tự suy ngẫm nếu không theo thói quen tìm đến LLM. Hành vi tự mình chịu đựng sự mơ hồ, tức khoảnh khắc thông tin chuyển hóa thành tri thức, ở đây lại bị giải tỏa ngay lập tức. Tôi thấy may vì đã có được năng lực đó trước năm 2023, nhưng cũng hơi sợ thực tế là LLM đang được cung cấp vô điều kiện như công cụ học tập cho thế hệ trẻ
Tôi nghĩ sự bi quan kiểu "AI đang làm mọi người ngu đi" thực ra là đang đánh giá quá cao thực tế rằng đa số vốn dĩ cũng không giỏi tư duy phản biện. Làm việc gần 20 năm trong lĩnh vực kỹ thuật cấp cao, tôi thấy ngay cả среди những chuyên gia rất accomplished thì người thật sự hiểu các khái niệm phức tạp cũng hiếm. Tôi đoán việc cung cấp những câu trả lời dễ dàng cho đa số vốn từ đầu đã không suy nghĩ phản biện sẽ không khiến những người thông minh bị thiệt hại gì
Nghĩ lại bản thân khi còn nhỏ, tôi từng có trải nghiệm rằng khi chỉ chạy theo niềm vui ngắn hạn thì chẳng học được gì cả
Có cảm giác thời đại Idiocracy (xã hội ngu hóa) đang đến gần
Tôi nghĩ mọi công nghệ kết nối đều có sức mạnh thúc đẩy tính đồng nhất. Ví dụ, TV là một trường hợp tiêu biểu đã dẫn đến sự mai một của các phương ngữ địa phương. Với niềm vui, giải trí và kết nối không giới hạn, chúng ta đang tạo ra một thế giới buồn, tẻ nhạt và cô đơn
Tôi muốn biết căn cứ nào cho nhận định rằng phương ngữ địa phương đã biến mất. Khi đi du lịch khắp nước Mỹ, tôi vẫn nghe thấy nhiều giọng địa phương khác nhau. Tôi có họ hàng ở miền Tây, Trung Tây, miền Nam và miền Đông, và mỗi vùng vẫn còn giữ chất giọng rất rõ. Mức độ có khác nhau nhưng vẫn dễ nhận ra
Mạng xã hội thật ra đã khiến cách suy nghĩ của chúng ta trở nên khá đồng nhất. Khi quá nhiều thông tin và quan điểm ập đến cùng lúc, người ta khó chịu đựng nổi nếu không lấy cảm hứng từ suy nghĩ của người khác thay vì tự hình thành ý kiến. Nút upvote dễ dàng quyết định đâu là suy nghĩ mà mọi người cùng đồng ý
Tôi đang nghĩ xem chúng ta nên làm gì. Không biết những nỗ lực nghiêm túc như Offline Club[https://www.theoffline-club.com/] có thể trở thành thuốc giải hay không. Gần đây cũng đã có thảo luận như vậy trên Hacker News. Một cuộc trăn trở về công nghệ kiểu 'grass touching'
Dù vậy, sự đa dạng do môi trường địa lý mang lại vẫn định hình một phần trải nghiệm. Tất nhiên, một trong những mục tiêu của công nghệ ngày nay chính là bù trừ hoặc chặn lại những nét đặc thù địa lý đó
Với AI, vấn đề chính là ai quản lý sự đồng nhất đó, và họ làm vậy nhằm mục đích gì. Những hệ thống năng động như IRC hay messenger cho phép con người tự nhiên kết nối và hình thành cộng đồng. Nhưng AI là công cụ quản lý khép kín do các nhà tư bản nhiều tiền rót vốn tạo ra, nên cuối cùng việc đồng nhất hóa để bảo vệ mô hình kinh doanh và giảm rủi ro sẽ ngầm diễn ra. Mối đe dọa thực sự chính là hiện tượng thực tại bị "biên tập" để phục vụ một mục đích nhất định
Tôi cho rằng suy nghĩ của một người chỉ bị đồng nhất hóa khi họ không tự mình suy nghĩ. Và tôi nghĩ đây có thể là điểm yếu của rất nhiều người
Tôi có quan sát rằng kiểu người luôn nói "tự mình nghiên cứu" lại nghịch lý thay thường rơi vào groupthink nặng nhất
Nhiều cá nhân có hệ tiên đề với cấu trúc tương tự sẽ đi đến các kết luận giống nhau. Có những người thuộc về một nhóm tư tưởng nhất định nhưng vẫn tin rằng mình đang suy nghĩ độc lập. Có lúc sức mạnh khiến tư duy của các thành viên trong cộng đồng trở nên giống nhau là rất lớn. Ngược lại, có người áp dụng "chiến lược săn kho báu" để khai phá các chiến lược hay ý tưởng mới trong một không gian meme chưa biết. Chiến lược này cũng có giới hạn là rủi ro cao và đòi hỏi nguồn lực để thử nhiều lần
Tôi đồng cảm với nhận định rằng "nếu không tự suy nghĩ thì sẽ bị đồng nhất hóa", và khuyên mọi người thử xem bạn bè hay người thân không làm kỹ thuật hoặc không quen công nghệ đang dùng ChatGPT như thế nào. Có khá nhiều trường hợp thực sự gây sốc. Những người không hiểu rõ công cụ LLM đang sử dụng nó theo cách rất nguy hiểm. Ví dụ, anh rể của bạn tôi đã nghe từ ChatGPT rằng một loạt cổ phiếu penny và các đồng tiền mã hóa ít tên tuổi sẽ đảm bảo lợi nhuận khổng lồ, rồi thực sự đem tiền đi đầu tư. Cũng có người tin rằng ChatGPT truyền đạt tiếng nói của Chúa và bắt đầu hành động kỳ quặc. LLM thương mại vận hành đủ thuyết phục để những ai không biết nguyên lý hoạt động của công cụ này dễ bị mê hoặc. Bản thân tôi nghi ngờ vì đã từng gặp lỗi hiển nhiên trong đầu ra của LLM, nhưng những người khó đưa ra phán đoán khách quan có nguy cơ tin hết mọi thứ như nguyên xi
Trong một nghiên cứu do Nataliya Kosmyna của MIT Media Lab chấp bút, hơn 50 sinh viên đại học ở Boston được chia thành ba nhóm, và kết quả cho thấy nhóm dùng ChatGPT có hoạt động não thấp hơn đáng kể so với các nhóm khác, đặc biệt ở các kết nối alpha và theta liên quan đến sáng tạo và trí nhớ làm việc. Nhưng tôi nghi ngờ liệu những nghiên cứu fMRI với n nhỏ như vậy có thực sự là kết quả khoa học đáng tin hay không. Có khi đó chỉ là kết quả phô trương dựa vào thiên kiến xác nhận
Gần đây những bài báo "tiên tri tận thế" bị thổi phồng đang khiến suy nghĩ của con người bị thống nhất quá mức. Những lập luận đó rõ ràng có phần đúng, nhưng thực tế còn nhiều sắc thái tinh tế hơn nhiều
Hãy nhìn vào những thay đổi công nghệ truyền thông trước đây như TV, mạng xã hội, máy in; lịch sử cho thấy những nỗi sợ truyền thông tương tự đã lặp đi lặp lại Bài viết liên quan
Truyền thông đại chúng làm đồng nhất hóa đầu vào của chúng ta (cách ta tiêu thụ thông tin). Nếu AI khác với truyền thông trước đây, thì có lẽ cũng cần nghĩ đến chuyện nó có thể trực tiếp đồng nhất hóa cả đầu ra của chúng ta (sản phẩm tạo ra)
Trước kỹ thuật in, có lẽ người trên thế giới đã có 8 tỷ cuộc trò chuyện khác nhau; nhưng nhờ kỹ thuật in, nhiều nhóm nhỏ đa dạng dần lớn lên và bắt đầu cùng nhau thực hiện những cuộc trò chuyện giống hệt trên phạm vi rộng hơn
SNS, TV, Hollywood và văn hóa đại chúng nói chung cũng đều đóng vai trò đồng nhất hóa xã hội
Có ý kiến cho rằng định lý giới hạn trung tâm (central limit theorem) luôn vận hành nhất quán
Cuối cùng chúng ta có lẽ được định sẵn sẽ đứng trên vai những người khổng lồ đã bị đồng nhất hóa
Khi học ngành nhân văn ở đại học, tôi từng lấy các bài luận làm tham khảo rồi ghép nối, liên kết chúng với ý tưởng của riêng mình; tôi không nghĩ việc đó khác quá nhiều so với điều AI đang làm bây giờ. Rốt cuộc, việc AI có trở thành công cụ hỗ trợ trí tuệ của một người hay không vẫn phụ thuộc vào tiêu chuẩn và nhận thức của chính họ