- Đây là một bài báo khoa học dạng preprint đo lường chi phí nhận thức của việc dùng LLM trong dạy học viết luận, nhằm kiểm nghiệm liệu các công cụ AI đang được dùng rộng rãi trong học tập và công việc có thể làm suy yếu năng lực học tập hay không
- Người tham gia được chia thành các nhóm LLM, Search Engine và Brain-only, viết bài luận trong 3 lượt; đến lượt thứ 4, một phần của nhóm LLM viết không dùng công cụ, còn một phần của nhóm Brain-only dùng LLM
- Có 54 người tham gia ở các lượt 1~3, và 18 người trong số đó tham gia lượt 4; nghiên cứu đồng thời sử dụng EEG, phân tích NLP, phỏng vấn theo từng phiên, chấm điểm bởi giáo viên và một AI judge được xây dựng riêng
- Mức hỗ trợ từ bên ngoài càng cao thì độ kết nối não càng thấp; nhóm Brain-only cho thấy mạng lưới mạnh nhất, nhóm Search Engine ở mức trung gian, còn hỗ trợ bằng LLM cho thấy mức liên kết tổng thể yếu nhất
- Trong 4 phiên kéo dài 4 tháng, nhóm LLM cho kết quả thấp hơn nhóm Brain-only ở cả mức thần kinh, ngôn ngữ và điểm số, đồng thời có cảm giác sở hữu và khả năng trích dẫn ngay sau khi viết thấp hơn
Chi phí nhận thức của LLM được đo trong việc viết bài luận
- Nghiên cứu tập trung xác định chi phí mà việc dùng LLM để viết luận để lại lên quá trình nhận thức trong môi trường giáo dục
- LLM có thể mang lại trải nghiệm học tập cá nhân hóa, phản hồi tức thì và mở rộng khả năng tiếp cận tài nguyên giáo dục, nhưng khi được dùng rộng rãi hơn, mức độ tham gia vào tư duy phản biện và phân tích sâu có thể giảm đi
- Viết bài luận là một dạng bài tập phổ biến để đánh giá năng lực của học sinh trong trường học và các kỳ thi chuẩn hóa, nên được chọn vì đây là một nhiệm vụ phức tạp đòi hỏi nhiều quá trình nhận thức diễn ra đồng thời
- Bài báo hiện ở trạng thái preprint, under review
Người tham gia và thiết kế các phiên
- Người tham gia được chia thành ba nhóm
- LLM group: viết bài luận bằng công cụ LLM được chỉ định
- Search Engine group: viết bài luận bằng cách sử dụng công cụ tìm kiếm
- Brain-only group: viết bài luận không dùng công cụ bên ngoài
- Ở các lượt 1~3, mỗi người tham gia giữ nguyên điều kiện được phân vào cùng một nhóm
- Ở lượt thứ 4, điều kiện của một số người tham gia được thay đổi
- LLM-to-Brain: người trước đó dùng LLM sẽ viết mà không dùng công cụ
- Brain-to-LLM: người trước đó viết không dùng công cụ sẽ dùng LLM
- Tổng cộng 54 người tham gia ở các lượt 1~3, và 18 người trong số đó hoàn thành lượt 4
- Trong mỗi phiên, người tham gia chọn một chủ đề SAT để viết bài luận; ở các lượt 1~3, mỗi phiên có 3 chủ đề, tổng cộng cung cấp 9 lựa chọn chủ đề
Phương pháp đo lường
- EEG được dùng để đo hoạt động não
- Ghi lại hoạt động não của người tham gia nhằm đánh giá mức độ tham gia nhận thức và tải nhận thức
- Đồng thời nhằm hiểu sâu hơn về kích hoạt thần kinh trong quá trình viết luận
- Văn bản bài luận được áp dụng phân tích NLP
- Named Entities Recognition (NER)
- n-gram
- ontology chủ đề
- độ tương đồng và khoảng cách dựa trên embedding
- Sau mỗi phiên đều có phỏng vấn người tham gia
- mức độ tuân thủ cấu trúc bài luận
- khả năng trích dẫn từ bài luận
- độ chính xác khi trích dẫn
- cảm giác sở hữu đối với bài luận
- mức độ hài lòng, v.v.
- Việc chấm điểm được thực hiện đồng thời bởi giáo viên và một AI judge được xây dựng riêng
Kết quả EEG: hỗ trợ bên ngoài càng nhiều thì độ kết nối não càng thấp
- Ba nhóm cho thấy các mẫu kết nối thần kinh khác nhau, phản ánh các chiến lược nhận thức khác nhau
- Độ kết nối não giảm một cách có hệ thống theo lượng hỗ trợ từ bên ngoài
- Nhóm Brain-only: cho thấy mạng lưới mạnh và rộng nhất
- Nhóm Search Engine: cho thấy mức độ tham gia trung gian
- Hỗ trợ bằng LLM: mức liên kết tổng thể yếu nhất
- Ở lượt thứ 4, những người tham gia LLM-to-Brain cho thấy kết nối thần kinh yếu hơn và mức tham gia thấp hơn của các mạng alpha và beta
- Ngược lại, những người tham gia Brain-to-LLM cho thấy khả năng gợi nhớ tốt hơn và sự tái tham gia trên diện rộng của các nút occipito-parietal và prefrontal
- Mẫu này có thể liên quan đến xử lý thị giác và tương tự với hiện tượng thường được quan sát ở nhóm Search Engine
Đặc điểm bài luận thể hiện qua phân tích ngôn ngữ
- Trong từng nhóm, có sự đồng nhất nhất quán ở NER, n-gram, ontology chủ đề
- Các bài luận của nhóm LLM cho thấy đặc trưng ngôn ngữ đồng nhất hơn trong cùng nhóm
- Nhóm Search Engine cho thấy cách dùng n-gram ở một số chủ đề có vẻ chịu ảnh hưởng của tối ưu hóa theo tìm kiếm
- Ví dụ: ở chủ đề PHILANTHROPY, xuất hiện sự tập trung vào n-gram
homeless
- Ví dụ: ở chủ đề PHILANTHROPY, xuất hiện sự tập trung vào n-gram
- Khoảng cách giữa các bài luận của nhóm Brain-only luôn lớn hơn một cách có ý nghĩa so với nhóm LLM hoặc Search Engine
- Ở một số chủ đề, khác biệt giữa nhóm LLM và nhóm Brain-only gần như ở mức trực giao
- Ví dụ: các chủ đề HAPPINESS, PHILANTHROPY
Cảm giác sở hữu, trí nhớ và khả năng trích dẫn
- Trong các cuộc phỏng vấn, nhóm LLM có cảm giác sở hữu đối với bài luận của chính mình thấp hơn
- Nhóm Search Engine cũng cho thấy cảm giác sở hữu cao, nhưng vẫn thấp hơn nhóm Brain-only
- Khả năng trích dẫn nội dung từ chính bài luận mình vừa viết vài phút trước cũng thấp hơn ở nhóm LLM
- Nhóm Brain-only cho thấy cảm giác sở hữu cao và khả năng trích dẫn cao
- Ở lượt thứ 4, những người tham gia Brain-to-LLM dù dùng LLM nhưng cho thấy mức tích hợp nội dung tốt hơn nhờ kết hợp với ảnh hưởng từ các phiên Brain-only trước đó, còn cảm giác sở hữu thì phân hóa
Khác biệt trong thử nghiệm chuyển đổi ở lượt thứ 4
- Những người tham gia Brain-to-LLM cho thấy độ kết nối thần kinh cao hơn trong điều kiện viết lại bằng công cụ AI sau khi trước đó đã viết không có AI
- directed connectivity ở các dải alpha, beta, theta và delta tăng trên toàn mạng
- xuất hiện tương tác mạng não rộng hơn so với các lượt 1~3 chỉ dùng LLM trước đó
- Những người tham gia LLM-to-Brain cho thấy nỗ lực thần kinh kém phối hợp hơn ở hầu hết các dải khi viết không dùng công cụ sau trải nghiệm dùng LLM trước đó
- cũng xuất hiện thiên lệch từ vựng đặc trưng của LLM
- cả AI judge lẫn giáo viên đều cho điểm cao, nhưng ở khoảng cách sử dụng NER và n-gram thì kém nổi bật hơn so với các nhóm và phiên khác
- Khi nhóm Brain-only dùng LLM ở lượt thứ 4, độ kết nối não ở lượt này không quay về mẫu của lượt 1 Brain-only ở mức người mới bắt đầu, cũng chưa đạt tới mức của lượt 3 Brain-only
- cho thấy một trạng thái trung gian của mức độ tham gia mạng lưới
Kết luận và giới hạn
- Việc dùng LLM tạo ra tác động có thể đo lường được lên người tham gia; các lợi thế ban đầu có vẻ rõ ràng, nhưng qua các phiên kéo dài 4 tháng, nhóm LLM cho kết quả thấp hơn nhóm Brain-only trên nhiều tầng
- Kết quả thấp hơn này được quan sát đồng thời ở độ kết nối thần kinh, đặc trưng ngôn ngữ và kết quả chấm điểm
- Trong bối cảnh tác động giáo dục của LLM đối với công chúng mới chỉ bắt đầu định hình, khả năng suy giảm năng lực học tập vẫn là một vấn đề quan trọng
- Bài báo này nhằm đóng vai trò như một hướng dẫn sơ bộ để hiểu tác động nhận thức và thực tiễn của AI đối với môi trường học tập
1 bình luận
Các ý kiến trên Hacker News
Thay vì gọi là “tích lũy nợ nhận thức”, tôi sẽ gọi thẳng là suy giảm nhận thức hoặc mất năng lực nhận thức
Không dùng ngôn ngữ thì quên là chuyện đương nhiên, và não không giữ lại thông tin không cần thiết. Ngay cả trong các nghiên cứu về việc dùng điều hướng Google Maps cũng có kết quả cho thấy “việc dùng GPS theo thói quen ảnh hưởng tiêu cực đến trí nhớ không gian khi tự điều hướng”, hoặc quan sát thấy sự suy giảm chất xám ở người dùng bản đồ
Ai từng xây dựng chuyên môn trong lĩnh vực khoa học đều biết rằng để hiểu một điều gì đó, ta phải nghiền ngẫm và khám phá xem từng ý tưởng kết nối với những ý tưởng khác như thế nào. Chỉ lướt qua sách giáo khoa toán thì không thể biết toán; phải dừng lại để suy nghĩ. Tôi cho rằng những đối tượng tinh thần có thể dùng cho tư duy về sau được tạo ra chính bởi hành vi suy nghĩ
Cần viết thật nhiều. Viết buộc não cấu trúc hóa suy nghĩ, cho phép đối thoại có cấu trúc với chính mình, và giúp khám phá nhiều hướng khác nhau. Chỉ suy nghĩ và nghiền ngẫm thì sẽ sớm chạm giới hạn, nhưng viết cho phép ta khám phá suy nghĩ gần như vô tận
Nếu suy nghĩ gắn chặt với việc viết như vậy, và viết có thể là văn xuôi, hình vẽ, phương trình, đồ thị, biểu đồ hay bất cứ thứ gì, thì việc LLM ngày càng đảm nhiệm nhiều phần viết hơn sẽ ảnh hưởng thế nào đến năng lực nhận thức là điều rất thú vị
Việc để LLM viết nhiều phần, dựng cấu trúc, tạo lập lập luận và tài liệu trực quan là cực kỳ hấp dẫn. Khi giao cho nó thêm từng chút một, cuối cùng sản phẩm tạo ra sẽ trở thành thứ hoàn toàn không còn là của mình nữa
Nhưng tên tôi lại nằm trên báo cáo đó, và tôi được yêu cầu giải thích cũng như hiểu nó. Về nguyên tắc, báo cáo phải là “phép chiếu hai chiều” của “hiện thực chiều cao hơn” trong đầu, nhưng một báo cáo được nhả ra trong một phần mười thời gian thì không như vậy. Trên giấy trông có vẻ hợp lý, nhưng khi phải giải thích khái niệm thì sẽ bị khựng lại
Cuối cùng bạn nhận ra rằng mình phải tự làm việc, phải xây dựng mô hình tinh thần, diễn đạt, diễn đạt lại, rồi lại diễn đạt thêm nữa. Và phải làm theo những cách khác nhau tùy đối tượng độc giả
Tôi cho rằng nợ nhận thức là cách gọi phù hợp để mô tả khoảng cách giữa mô hình tinh thần mà trước thời LLM lẽ ra bạn phải xây dựng để viết báo cáo, và mô hình tinh thần mà khi dùng LLM thì bạn gần như không cần xây dựng
Sau cùng, tên tôi vẫn xuất hiện trên báo cáo hay bài luận. Người ta có thể kỳ vọng gì ở tôi với tư cách tác giả? Theo thời gian, kỳ vọng đó có thể hạ thấp. Khi xuất hiện câu hỏi sâu, người ta có thể bỏ qua tác giả và dựa vào “mô hình” tinh thần của LLM. Nhưng những mô hình khác như LLM có thể có các “mô hình”, tức thuật toán dự đoán, khác nhau về chân lý căn bản và thực tại. Bên nào cho phép dự đoán chính xác nhất? Điều đó đòi hỏi một độ sâu hiểu biết nhất định, và nếu viết bằng cách phụ thuộc quá nhiều vào LLM thì độ sâu đó sẽ không hình thành
Về dài hạn, điều này thực sự có thể dẫn đến “suy giảm nhận thức, hoặc mất năng lực nhận thức” ở cấp độ dân số, nhưng tôi thận trọng với việc khẳng định như vậy. Kỹ thuật in ấn đã không gây ra kết quả đó, dù giới tinh hoa tôn giáo thời ấy từng lo rằng người bình thường sẽ không thể diễn giải văn bản đúng cách
Như đã được nói trong luồng này, tôi cho rằng “viết là suy nghĩ”. Tuy nhiên, cũng có thể tồn tại một thứ gì đó tốt hơn viết mà chúng ta vẫn chưa phát minh ra. Suy nghĩ là việc phát triển các mô hình tinh thần chi tiết cho phép dự đoán tương lai với xác suất cao hơn ngẫu nhiên. Sự sống còn của chúng ta phụ thuộc vào điều đó, và nhìn từ góc độ lý thuyết thông tin, tiến hóa cũng chính là như vậy [0]. “Không gì trong sinh học có ý nghĩa nếu thiếu ánh sáng của thông tin”
[0] https://www.youtube.com/watch?v=4PCHelnFKGc
Tôi đã không làm việc đó suốt 20 năm, và khá chắc là sau này cũng sẽ không bao giờ làm lại
Việc bài báo không cung cấp tài liệu tham khảo hay trích dẫn cho thuật ngữ “nợ nhận thức” cũng khiến tiêu đề trông hơi lạ. Có thể họ đã đổi vào phút chót
Đây là một nghiên cứu thú vị từ MIT. Như mọi nghiên cứu tâm lý học, nó cần được hoài nghi lành mạnh và xác minh độc lập. Nó cũng có cảm giác như một nồi thập cẩm khi nhét cả hình ảnh học lẫn đánh giá đo lường tâm lý vào, nhưng ai lại không thích một hình minh họa kiểu “não của bạn khi dùng LLM trông như thế này” chứ
LLM ngày càng giống như một công nghệ nữa mà xã hội rồi sẽ tự hình thành miễn dịch
Trong giáo dục, điều này đã bắt đầu bằng việc giáo viên trò chuyện với học sinh, quan sát cách các em học, và kiểm tra quá trình các em thể hiện kỹ năng. Trong kinh doanh, rồi đây người ta cũng sẽ sớm nhận ra rằng phần lớn giao tiếp có giá trị phải được chính con người trực tiếp tạo ra với tư cách là tác giả của điều họ muốn nói. Hành vi sáng tác chiếm khoảng hai phần ba cốt lõi trong hầu hết giao tiếp
Tất nhiên, trước khi miễn dịch đúng mức với các tác dụng phụ, chúng ta có lẽ sẽ phải trải qua cú sốc sự nông cạn hóa tư duy khá kịch tính. Sự phản cảm của giới chuyên gia với LLM trước những người hâm mộ ngây thơ tôn thờ “sự tầm thường” trông giống một trải nghiệm miễn dịch ban đầu: https://fly.io/blog/youre-all-nuts/
Mỗi khi tôi dùng LLM ở mức “vĩ mô” trong dự án của mình, tư duy của tôi luôn bị phá hỏng nghiêm trọng, quyền ra quyết định bị tước mất, và mức độ sẵn sàng thích nghi cần thiết về sau trở nên tệ hơn. Trong những việc quan trọng, LLM chỉ là công cụ điền chỗ trống ở mức vi mô một cách nghiêm ngặt
Điều này khác với máy tính bỏ túi. Không phải là bị tước mất các thuật toán tôi từng thích dùng để tính tay. Đây là một hệ thống thay thế chính tư duy bằng phi tư duy, và trong mọi lĩnh vực nó được dùng, nó gây tổn hại nghiêm trọng đến sự sẵn sàng, chiều sâu, khả năng thích nghi và cảm giác sở hữu
Tôi tham dự nhiều cuộc họp với các kỹ sư cực kỳ giỏi, nhưng họ thường không thể trình bày luận điểm của mình theo cách cả người kỹ thuật lẫn không kỹ thuật đều theo kịp. Viết và nói có tính nghệ thuật, và mãi đến cuối tuổi 40 tôi mới thật sự bắt đầu nhận ra giá trị của nó. Ngôn ngữ là một công cụ mạnh mẽ, và việc chọn chỉ một từ đôi khi có thể cứu sống hoặc phá hỏng một lập luận
Tôi không biết LLM có thể làm gì ngoài việc khiến tình hình này nhìn chung tệ hơn rất nhiều
Điều đáng sợ không chỉ là họ dùng ChatGPT để né tránh suy nghĩ, mà còn là họ nghĩ sẽ không ai nhận ra, hoặc tin rằng người lớn vốn trò chuyện như vậy
Tôi cho rằng trên thực tế cũng có rất nhiều giao tiếp không mấy giá trị. Dù vậy chúng vẫn tiếp tục được tạo ra, và nếu không ai đọc thì chẳng phải có thể tự động hóa việc tạo ra sao
Tất nhiên cũng có khá nhiều thứ quan trọng cần phải làm cho đúng
Tôi làm trong giới học thuật, về lý thuyết đây phải là một trong những nghề đòi hỏi nhiều suy nghĩ nhất. Thế nhưng hơn một nửa những gì tôi viết là đủ loại báo cáo, hồ sơ xin tài trợ nghiên cứu, đơn xin phê duyệt đạo đức và quản lý dữ liệu, thư giới thiệu, biểu mẫu hành chính. Những thứ này khó có thể xem là “có giá trị” theo nghĩa chúng không đòi hỏi tư duy hữu ích, và miễn là các yêu cầu ngu ngốc được xử lý thì chẳng ai quan tâm văn bản có nghe giống tôi hay không
Với các mục đích như vậy, LLM là một phước lành; nó giúp tôi có thêm thời gian cho nghiên cứu thực sự và giảng dạy trực tiếp, nên thậm chí có khả năng giúp ích cho việc suy nghĩ
Tôi cho rằng thảo luận về nợ nhận thức ở đây là đúng, nhưng thậm chí có thể còn quá bảo thủ
Đây không phải là mức độ quên một kỹ năng như ngôn ngữ, hay mất trí nhớ không gian do dùng GPS. Vấn đề có thể là các đường dẫn thần kinh phụ trách suy luận tích hợp bị teo lại một cách có hệ thống và không thể đảo ngược
Rủi ro cốt lõi không phải bản thân “khoản nợ” với hàm ý có thể trả bằng luyện tập, mà là vượt qua điểm tới hạn nhận thức. Đó là ngưỡng mà chức năng điều hành, tổng hợp và lập luận bị chuyển giao quá nhiều sang các hệ thống bên ngoài như LLM, khiến bộ não sinh học không chỉ cắt tỉa những kết nối không dùng đến theo hiệu suất tàn nhẫn, mà còn mất luôn cả siêu năng lực để tái xây dựng chúng
Phần cứng sinh học ẩm ướt của chúng ta là một hệ thống “không dùng thì mất” không có quản lý phiên bản. Khi các chức năng nhận thức phức tạp teo đi, “mã nguồn” bị hư hại. Không có git revert cho những mạng thần kinh đã sụp đổ từng chống đỡ tư duy sâu và có cấu trúc
Chủ đề HN này tập trung vào việc viết tiểu luận, nhưng nếu phóng to quy mô, chúng ta đang thực hiện một thí nghiệm khổng lồ không kiểm soát về việc thuê ngoài nhận thức tập thể. Kết quả dài hạn có thể không phải là một xã hội gồm những người kém kỹ năng hơn, mà là một xã hội gồm những người về mặt cấu trúc không thể thực hiện kiểu tư duy đã tạo ra thế giới của chúng ta
Vì vậy câu hỏi không phải là “làm sao tránh nợ nhận thức?”. Câu hỏi thật sự đáng sợ là “nếu bình chứa của tâm trí sinh học bị tối ưu hóa cho sự lười biếng một cách tàn nhẫn như vậy, và có lẽ không thể đảo ngược, thì tinh thần của chúng ta cần loại bình chứa nào?”
https://github.com/dmf-archive/dmf-archive.github.io
Nó hữu ích để hỏi những điều mình không biết hoặc bỏ qua “phần nhàm chán”. Đặc biệt, tôi hoàn toàn không cảm thấy việc lục tìm giải pháp cho các vấn đề kỹ thuật khó hiểu qua nhiều trang diễn đàn hoặc mạng xã hội khiến mình thông minh hơn. Dù sao thông tin vẫn phải được kiểm chứng và tiếp nhận thận trọng
Nếu StackExchange vận hành đúng như ý định ban đầu thì hẳn sẽ giá trị hơn nhiều so với mô hình văn bản. Nhưng con người ngoài đời thì không hoàn hảo, mang đủ loại thiên kiến nhận thức và gánh nặng, còn LLM thì không đóng câu hỏi là “quá rộng” ngay sau khi câu hỏi nhận được đề xuất và tương tác
Ngược lại, tôi vẫn thấy bài viết bằng LLM về những chủ đề tôi biết rõ kém hơn rất nhiều. Ví dụ khi muốn viết email, cuối cùng tôi mất khoảng thời gian tương tự để chỉnh prompt sao cho nó giữ đúng hướng, hoặc viết lại đáng kể kết quả đầu ra. Tự viết theo mạch của mình còn hơn là hiệu đính và peer review một mô hình văn bản
AI là đối nghịch với Zettelkasten
Thay vì chủ động làm việc với chủ đề và dần có được những hiểu biết sâu sắc hơn, ta lặp đi lặp lại nhanh nhưng nông trên một khối nội dung do AI tạo ra
Ví dụ, vì muốn hiểu thêm về tình hình Trung Đông, tôi đã lấy OpenAI làm đồng tác giả và viết một bài luận 10 trang về nguồn gốc của Hamas và Hizbulah
Nhưng tôi chẳng nhớ được gì, tệ hơn là không biết những gì mình nhớ là ảo giác mà tôi đã sửa hay là sự thật thực tế
LLM có thể là một đối tác sparring tuyệt vời nếu được dùng không phải như công cụ viết thay, mà như công cụ giúp tìm lỗi, chỉ ra khoảng trống và sai sót, cũng như nghiên cứu các câu hỏi chung về thế giới. Tất nhiên luôn phải cẩn trọng và kiểm tra nguồn
Ta sẽ phát triển được cảm giác về cách điều khiển mô hình và giảm ảo giác, nhưng điều đó không có nghĩa là ta tích lũy được tri thức có thể giải thích rõ ràng hay thực hiện được tư duy thách thức. Nó giống việc học các phản ứng kiểu trí nhớ cơ bắp hơn, chẳng hạn nhìn vào một dạng đầu ra cụ thể của LLM rồi quyết định có tin hơn không, có thử chiến lược prompt khác không, có xóa ngữ cảnh hay không
Dù có thể gọi đây là một kỹ năng, rất có khả năng nó sẽ trở nên vô dụng trong vài năm khi mô hình tốt lên. Nó gợi cảm giác bất lực mà một công nhân dây chuyền lắp ráp có thể cảm thấy
Cá nhân tôi không thấy kết quả này đáng ngạc nhiên. Khi dùng AI cho việc viết hoặc dịch của mình, tôi không có cảm giác mình đang dấn thân về mặt tinh thần vào quá trình viết hay dịch như khi tự làm toàn bộ
Nhưng tôi cũng nhận ra rằng nếu dùng AI theo cách khác, bản thân việc đó có thể đòi hỏi sự nhập tâm tinh thần rất cao. Trong 2 tuần qua, tôi đang thử nghiệm với Claude Code xem có thể tự động hóa hoàn toàn đến mức nào việc brainstorm, nghiên cứu và viết các bài luận cũng như bài báo nghiên cứu. Tôi nhập tâm sâu không kém khi tự viết hoặc tự dịch, nhưng hình thức nhập tâm thì khác
Kết quả thử nghiệm đến nay khá tốt. Tức là, dù biết đó là do tác tử AI viết, tôi vẫn thường thấy thú vị khi đọc các bài luận và bài báo được tạo ra. Tất nhiên tôi không có kế hoạch xuất bản hay chia sẻ chúng
Tôi tự hỏi liệu mình có đang thuộc về một nhóm ngày càng hiếm, tức những người thực sự có thể làm được việc gì đó, còn những người khác thì ngày càng kém năng lực hay không
Việc “người tham gia trong nhóm LLM thể hiện kém hơn nhóm chỉ dùng não ở mọi cấp độ: hoạt động não, ngôn ngữ và điểm số” không gây ngạc nhiên nhưng u ám
Khi con người chỉ đóng vai trò xem xét kết quả rồi đóng dấu thông qua, nhìn chung họ làm rất tệ
Tôi đã nghĩ một thời gian rằng cách tham gia là yếu tố then chốt để tạo ra một workflow tăng cường thật sự. Xem xét code do LLM viết? Không ổn lắm. LLM theo dõi các thay đổi của tôi và đưa phản hồi? Đó lại là chuyện hoàn toàn khác. Việc này khó và có thể không mấy phổ biến, nhưng nếu bằng cách nào đó chúng ta không còn giữ vị trí người cầm lái, tình hình có vẻ sẽ khá ảm đạm
[1]: https://en.m.wikipedia.org/wiki/Ironies_of_Automation
https://dune.fandom.com/wiki/Butlerian_Jihad
Khi giờ đây tôi dùng AI cho phần lớn việc coding, một tác dụng phụ hơi ngoài dự đoán là tôi ít mệt hơn nhiều và có thể tập trung lâu hơn
Nó giúp tôi hoàn thành việc ngay cả khi có các yếu tố gây xao nhãng khác. Về bản chất, khi chuyển một phần năng lực tinh thần sang AI, năng lực ở chỗ khác được giải phóng
Trước đây, những thứ như lỗi bất ngờ hay việc phải tra tài liệu đóng vai trò như “gờ giảm tốc”, khiến tôi có dịp thở, và thường lúc đó tôi nhận ra mình đã mệt đến mức nào rồi tạm dừng
Khi dùng AI, những gờ giảm tốc đó vẫn còn, nhưng đôi khi có thêm một chút lực đẩy khiến tôi không chậm lại đủ để nhìn lại xem mình đã mệt đến đâu
AI cũng không cần phải đúng. Chỉ việc đọc một gợi ý được điều chỉnh theo tình huống hiện tại cũng có thể kích hoạt dòng suy nghĩ của tôi, khiến đôi lúc rất khó giữ nó lại
Bạn cũng có thể đi bộ tới Walmart ngoài thành phố, xách đồ rồi quay về, nhưng dùng ô tô thì nhanh hơn nhiều và đỡ mệt hơn. Nhờ đó bạn có thể dành nhiều thời gian chất lượng hơn cho những việc mình thích
Vào thời GAN còn thịnh hành, tôi đã huấn luyện mô hình generator-discriminator để tạo ảnh
Sau khi suy nghĩ nhiều, tôi nhận ra việc phân biệt dễ hơn tạo ra rất nhiều
Ví dụ, tôi có thể phân biệt UI tốt và UI tệ, nhưng dù có van xin tôi cũng không thể tạo được một UI tốt. Tôi biết ngay một bộ phim có hay không, nhưng viết được một truyện ngắn tử tế là việc nhọc nhằn
Tôi có thể đánh giá một bức tranh thực tế đến mức nào, nhưng ngay cả một chiếc xe đạp đơn giản tôi cũng không thể vẽ đủ thuyết phục người khác
Trong nhiều trường hợp, tôi có thể phán đoán sản phẩm do LLM tạo ra là tốt hay xấu. Khi đó, một chiến lược thô là loại bỏ kết quả xấu và tiếp tục tạo cho đến khi đạt mục tiêu. LLM hữu ích chính là nhờ khoảng cách giữa phân biệt và tạo sinh này
Hai kỹ năng này là riêng biệt. Năng lực tạo sinh khó học và rất có giá trị. Nếu không tiếp tục rèn luyện, nó sẽ teo đi
Nhưng với các tác vụ phức tạp hơn, đặc biệt là những lĩnh vực cần đánh giá sâu, thì không nhất thiết như vậy. Ví dụ, review 5 PR không tầm thường có khả năng khó hơn và tốn thời gian hơn so với tự viết chúng
Lý do nó hoạt động tốt với hình ảnh hoặc truyện ngắn là vì bộ lọc được áp dụng không phải “tốt vs xấu” mà là thích vs không thích
Tôi cho rằng rất có khả năng chúng ta sẽ học được cách xây dựng một mối quan hệ lành mạnh hơn với loại công nghệ này. Không rõ mốc thời gian. Có thể mất cả một thế hệ, cũng có thể xảy ra nhanh hơn ta nghĩ
Rõ ràng các mô hình ngôn ngữ là một chất gia tốc thuần túy. Nhưng nếu một người bình thường trở nên “ăn nói giỏi hơn”, thì theo thời gian, những tín hiệu thể hiện trí tuệ nguyên sơ cũng sẽ thay đổi
Không ai muốn xây dựng mối quan hệ với một mô hình ngôn ngữ. Nhưng mô hình ngôn ngữ có thể giúp những người chưa sẵn sàng đối phó với các biến cố lớn trong đời và những thất bại. Nó là một công cụ, chỉ cần biết cách dùng
Lấy một ví dụ thực tế là lời khuyên tình cảm. Theo thời gian, tôi nghĩ “mối quan hệ được ChatGPT hướng dẫn” sẽ chia thành hai kiểu. Một là kiểu “sao chép-dán” chỉ làm tăng thêm độ phức tạp cho việc giao tiếp vốn đã thiếu hụt từ đầu, tức kiểu “tôi chỉ chép lại những gì ChatGPT nói”; kiểu còn lại là kiểu “tăng tốc”, dùng ChatGPT để phân tích động cơ của bản thân và của bạn đời nhằm tìm ra cách giải quyết tốt hơn cho những vấn đề thường gặp
Để đánh giá đúng kiểu sau, vẫn cần trí óc và sự đồng cảm. Kiểu trước thì rốt cuộc lúc nào cũng sẽ kết thúc bằng đau lòng. Tôi tin rằng cuối cùng mọi người sẽ nhận ra sự khác biệt này
Tôi không có trải nghiệm trực tiếp hay gián tiếp, nhưng đã nghe nhiều trường hợp thực sự rơi vào một dạng quan hệ nào đó với AI, và ở mức độ nào đó tôi cũng hiểu sức hấp dẫn của nó. Bạn có thể có “ai đó” hoàn toàn không phán xét, luôn ở bên khi bạn muốn kể chuyện, và không đòi hỏi gì ở bạn. Nó hoàn toàn khác với một mối quan hệ thật, nhưng khách quan mà nói thì tốt hơn những mối quan hệ tệ hại nhất với con người, và cũng có thể tốt hơn cho sức khỏe tinh thần so với sự cô đơn
Dù tốt hay xấu, trong 10 năm tới, mối quan hệ giữa con người và AI có vẻ sẽ tăng nhanh. Một mặt là do khả năng ghi nhớ và lập kế hoạch dài hạn được cải thiện, có thể cả thân thể robot nữa; mặt khác là do đại dịch cô đơn ngày càng lan rộng
Đây được gọi là giảm tải nhận thức. Ai đã làm việc đủ lâu với công cụ hỗ trợ lập trình sẽ nhận ra điều này
Đó là hệ quả tất yếu khi làm việc ở mức trừu tượng cao hơn. Không phải tận thế. Kỹ năng assembly của tôi cũng đã mai một rồi