- Tầm quan trọng của viết khoa học do con người trực tiếp thực hiện vẫn tiếp tục được nhấn mạnh ngay cả trong kỷ nguyên LLM
- Viết không chỉ để truyền đạt kết quả nghiên cứu mà còn là công cụ gọt giũa tư duy và khám phá ý tưởng mới
- Văn bản do LLM tạo ra thiếu trách nhiệm và tính chân thực, đồng thời cũng có rủi ro lớn trong việc tạo ra thông tin sai lệch (hiện tượng ảo giác)
- LLM hữu ích như một công cụ cho cải thiện khả năng đọc, sửa ngữ pháp, gợi ý ý tưởng..., nhưng nếu giao toàn bộ việc viết cho nó, ta có thể đánh mất cơ hội tư duy phản biện và tư duy sáng tạo
- Trải nghiệm và cơ hội phản tư trong việc hình thành narrative nghiên cứu sáng tạo là một quá trình quan trọng mang tính riêng có của con người
Giá trị của viết khoa học do con người tạo ra trong kỷ nguyên LLM
- Viết khoa học là cốt lõi của phương pháp nghiên cứu và là thông lệ phổ biến để truyền đạt kết quả nghiên cứu
- Viết không đơn thuần là báo cáo kết quả, mà là quá trình sắp xếp suy nghĩ một cách có cấu trúc và có chủ đích để rút ra thông điệp chính
- Cũng có các nghiên cứu cho thấy viết tay có tác động tích cực đến kết nối não bộ cũng như việc học và ghi nhớ
Sự cần thiết của viết khoa học lấy con người làm trung tâm
- Bài viết đưa ra lập luận rằng cần tiếp tục thừa nhận tầm quan trọng của viết khoa học do con người trực tiếp viết
- Dùng LLM có thể nhanh chóng tạo ra toàn bộ bài báo hay báo cáo phản biện, nhưng LLM không thể là tác giả (do thiếu trách nhiệm)
- Nếu viết là tư duy, thì vấn đề ở chỗ một bài báo do LLM viết cũng giống như việc đọc ‘suy nghĩ’ của mô hình chứ không phải của nhà nghiên cứu
Giới hạn và điểm cần lưu ý khi sử dụng LLM
- Các LLM hiện nay có thể tạo ra thông tin sai, hiện tượng này được gọi là ảo giác
- Vì trích dẫn hoặc tài liệu tham khảo do LLM tạo ra có thể là hư cấu, nên phải kiểm chứng kỹ toàn bộ nội dung, và trên thực tế có thể còn tốn nhiều thời gian hơn
- Một số vấn đề của LLM có thể được cải thiện bằng mô hình chỉ được huấn luyện trên cơ sở dữ liệu khoa học, nhưng hiệu quả thực tế vẫn chưa rõ ràng
Những cách sử dụng tích cực của LLM
- LLM có thể được dùng hữu ích cho cải thiện độ dễ đọc, sửa ngữ pháp, tìm kiếm và tóm tắt nhiều bài báo khác nhau, brainstorming ý tưởng
- Nó cũng có thể hỗ trợ tư duy sáng tạo như vượt qua bế tắc khi viết, gợi ý nhiều cách diễn giải khác nhau, phát hiện liên kết giữa các chủ đề mới
Giá trị của sự sáng tạo và phản tư riêng có của con người
- Tuy nhiên, ủy thác toàn bộ việc viết cho LLM sẽ dẫn đến đánh mất cơ hội phản tư về lĩnh vực nghiên cứu và xây dựng narrative sáng tạo
- Quá trình tái cấu trúc nội dung nghiên cứu thành một câu chuyện hấp dẫn và giàu sức thuyết phục là năng lực thiết yếu của con người, vượt ra ngoài phạm vi bài báo học thuật
1 bình luận
Ý kiến trên Hacker News
Tôi nghĩ đọc cũng chính là tư duy. Và vì đọc và viết đều là quá trình tư duy, nên việc theo thói quen giao chúng cho mô hình AI là điều nguy hiểm. Đặc biệt trong giai đoạn hình thành của học sinh, các em cần tự học cách suy nghĩ thông qua đọc và viết—cần tiếp tục rèn luyện như tự phản tỉnh, ghi chú, v.v. Điều này giống như dùng máy tính cầm tay: nếu đã có nền tảng cơ bản thì việc tận dụng máy tính điện tử là ổn, nhưng ưu tiên trước hết vẫn phải là tự tính nhẩm hoặc tự giải bằng tay. Lý do là để hình thành thói quen kiểm tra lỗi nhập liệu hay đối chiếu kết quả tính toán. Tôi lo ngại khi những học sinh nhỏ tuổi, vốn tư duy còn chưa vững, bắt đầu giao việc cho LLM
Tôi muốn lấy ví dụ câu chuyện về phát minh chữ viết ở Ai Cập cổ đại (được trích trong Phaedrus của Plato). Thoth nhấn mạnh với Thamus về lợi ích của chữ viết, nhưng Thamus cảnh báo rằng nếu phụ thuộc vào chữ viết thì trí nhớ sẽ suy yếu. Có nghĩa là kiểu tranh luận này đã lặp lại hơn 2000 năm nay. Bản thân tôi cũng nghĩ ý kiến của Thamus có thể đúng, nhưng thực tế là giờ tất cả chúng ta đều đang sống bằng việc sử dụng đọc và viết
Bản thân hành vi thật sự viết một thứ gì đó ra giấy sẽ tạo ra tư duy sâu hơn. Đặc biệt trong lĩnh vực kỹ thuật, kiểu lĩnh hội này rất quan trọng. Vì vậy mà ở nhiều công ty công nghệ, văn hóa tài liệu như RFC phát triển mạnh. Điều này rất có ích cho cả người viết lẫn người phản biện
Đọc là hành vi đi theo suy nghĩ của người khác, còn viết là quá trình trực tiếp khám phá suy nghĩ của chính mình. Vì vậy viết mới gây đau đớn với nhiều người, đồng thời cũng là lý do nó cần thiết. Và việc giảng dạy cũng rất quan trọng. Gọt giũa tư duy cho rõ ràng là một công việc cực kỳ giá trị và khó khăn
Tôi cho rằng tác động của LLM lên tư duy cũng giống hệt máy tính cầm tay. Nó khiến ta lược bỏ một số bước suy nghĩ, nhưng nhờ vậy lại có thể thực hiện những kiểu tư duy khác. Theo tôi, nhờ LLM mà lượng suy nghĩ của tôi tăng lên. Vì LLM giúp giảm bớt việc lặp lại, tôi có thể dành nhiều thời gian và năng lượng hơn để nhanh chóng rút ra “tín hiệu” từ thông tin, hoặc kết hợp ý tưởng từ nhiều lĩnh vực khác nhau. Tôi có thể mắc sai lầm, nhưng ngay cả khi không có LLM thì có lẽ tôi cũng mắc lỗi tương tự, chỉ là chậm hơn. Thực ra ở những lĩnh vực không phải chuyên môn, có thể tôi đã từ bỏ việc nghiên cứu hẳn hoặc suy nghĩ rất hẹp. Cấm LLM không làm cho tư duy sâu hơn. Cũng như cấm máy tính cầm tay không khiến ai cũng giỏi toán hơn; trái lại, khi được phép dùng máy tính, những người thích toán có thể đi xa hơn rất nhiều
Những đứa trẻ này sẽ sống trong một tương lai nơi AI phát triển mạnh. Thế giới thay đổi quá nhanh nên tôi tin các em cũng sẽ tự nhận ra điều đó. Nhưng cũng có một thực tế là sự sung túc số mà thế hệ Internet từng mơ tới đang dần biến thành cơn ác mộng của lũ nội dung thừa thãi và chiến tranh thông tin
Tôi muốn trích lời Paul Graham: "Viết chính là tư duy. Muốn viết tốt thì phải suy nghĩ rõ ràng, mà suy nghĩ rõ ràng là việc vô cùng khó. Có một dạng tư duy đặc biệt mà chỉ có thể thực hiện thông qua quá trình thật sự viết ra. Nếu bạn chỉ nghĩ mà không viết thử, thì bạn chỉ đang lầm tưởng rằng mình đang suy nghĩ. Nếu thế giới bị chia thành 'người viết' và 'người không viết', thì hậu quả sẽ nguy hiểm hơn rất nhiều so với vẻ bề ngoài. Rất nhanh thôi, nó sẽ bị chia thành 'người suy nghĩ' và 'người không suy nghĩ'"
https://www.paulgraham.com/writes.html
Tư duy và viết có liên hệ chặt chẽ với nhau. Tư duy và việc dùng ChatGPT thì không như vậy
Liên kết tới 'Your Brain on ChatGPT' của MIT Media Lab: https://share.google/RYjkIU1y4zdsAUDZt
Tôi thắc mắc LLM thực sự có thể “viết” bài báo khoa học như thế nào. Ví dụ, khi được cung cấp kết quả western blot, dữ liệu chuột biến đổi gene cụ thể, dữ liệu giải trình tự đơn bào, v.v., thì trong bài báo người ta sẽ phải làm sáng tỏ một protein mới và giải thích việc chỉnh sửa gene ở chuột đã làm thay đổi con đường nào. Với những nguyên liệu như vậy, làm sao LLM có thể biết phát hiện đó có ý nghĩa như thế nào? Theo tôi, về bản chất LLM chỉ paraphrase theo những gì tôi yêu cầu. Phần khó của việc viết thật sự là “quyết định kể câu chuyện như thế nào”
Khi vào cao học, ở mỗi ngành người ta đều học định dạng chuẩn để viết bài báo. Nếu LLM đã học đủ nhiều bài báo trong lĩnh vực đó, thì nó có thể tự động sắp xếp những thông tin do người dùng cung cấp vào đúng các phần phù hợp. Phần lớn thời gian viết bài báo là dành cho xử lý trích dẫn và căn chỉnh hình thức, nên sẽ càng tốt hơn nếu LLM thay con người làm những việc lặp lại và mang tính phong cách này. Nhà khoa học cần sự nghiêm ngặt và rõ ràng, nhưng tôi muốn giao đống việc lặt vặt về định dạng cho tự động hóa
LLM cũng có thể nắm các bài liên quan tốt hơn con người, vì nó có thể đã học toàn bộ kho bài như arXiv
LLM cũng có thể viết kế hoạch hoặc dàn ý trước, và điều này cũng là một dạng viết
Ngay cả nói cũng là tư duy. Vì vậy tự do ngôn luận mới là Tu chính án thứ nhất. Nếu ai đó hạn chế quyền được nói của tôi thì họ cũng đang kiểm soát suy nghĩ của tôi.
Viết giống như một siêu năng lực kiểu 'Pensieve' trong Harry Potter. Nó cho phép ta lấy ý tưởng ra khỏi đầu để phân tích ở nhiều tầng khác nhau, đồng thời dễ dàng lưu trữ và sắp xếp ký ức
Quan niệm hiện nay về tự do ngôn luận thực ra chỉ mới được định hình tương đối gần đây (thập niên 1910~1920). Trước đó, ý nghĩa của 'free speech' rất khác so với bây giờ; đã từng có một podcast rất hay (như Radiolab) nói về điểm này
Website liên quan: https://voicebraindump.com
Khi mọi người nói "viết là quan trọng", tôi nghĩ thực ra có thể họ đang cảm thấy "khi viết tôi trở nên thông minh hơn và thấy dễ chịu hơn". Trên thực tế, có lẽ họ đã kết hợp ý tưởng trong đầu suốt một thời gian dài, rồi chỉ khi mọi thứ gom đủ mới tổng hợp lên tầng cao hơn; và rất dễ nhầm quá trình tổng hợp thật sự đó với chính hành vi viết. Nếu thử viết từ một tuần trước, có lẽ đã không hiệu quả
Ít nhất với tôi thì không phải vậy. Trong quá trình chuyển suy nghĩ, ý tưởng và tri thức ra giấy một cách cụ thể, tôi phát hiện ra lỗi hoặc chỗ thiếu sót, và có cơ hội sửa chúng. Không chỉ dừng ở chỉnh sửa đơn thuần, tôi còn nảy ra góc nhìn hay quan điểm mới—những thứ trước đó chưa hề có trong ý thức của tôi. Tôi dùng viết như một công cụ tư duy. Một công cụ khác là brainstorming nhóm hoặc tranh luận. Những hành vi đó bổ sung và làm vững chắc suy nghĩ của tôi, thậm chí còn gợi ra hướng đi mới hay các mối liên hệ mới. Tôi cũng khuyên đọc bài luận của Paul Graham (về việc chuyển ý tưởng thành từ ngữ) và cuốn Writing to Learn của Paul Zissner. Khi học viết, việc thử làm như một bài tập cũng có hiệu ứng kiểu “giảng dạy”, rất gần với phương pháp học Feynman
https://paulgraham.com/words.html
Lấy kinh nghiệm cá nhân của tôi làm ví dụ, khi thực sự viết ra thì tôi sẽ nhận thấy các điểm mâu thuẫn hoặc lỗ hổng trong tư duy hay kiến thức của mình. Việc tìm ra và sửa chúng chính là lý do tôi nói rằng 'viết chính là tư duy'
Tôi không đồng ý. Cách của tôi là trước hết viết hết ra các suy nghĩ còn rời rạc, chưa hòa trộn, rồi sắp xếp và tái cấu trúc chúng cho đến khi cấu trúc hiện ra. Cuối cùng sẽ hình thành một kết quả đã được tổng hợp. Có thể trong đầu đã có một mức độ cấu trúc nào đó, nhưng nó chưa được bộc lộ rõ. Chỉ riêng việc phải tái sắp xếp lặp đi lặp lại cũng đã là bằng chứng rằng bản thân viết chính là công việc tổng hợp
Chỉ khi viết ra thành chữ thì ta mới phát hiện được lỗ hổng hay sai sót. Theo kinh nghiệm của tôi, nếu không viết thì sẽ không bao giờ tìm ra được
Đó là một góc nhìn quá bi quan. Mỗi người có cách suy nghĩ và làm việc khác nhau, và lợi ích họ nhận được cũng khác nhau. Đa số mọi người không nói “viết là đức hạnh” chỉ để thể hiện
Tôi đồng cảm với thông điệp “viết chính là tư duy”, nhưng đó là điều đúng trong những điều kiện nhất định. Ban đầu vốn không phải vậy. Thực tế, chỉ sau khi việc viết trở nên rẻ hơn thì chúng ta mới học được cách phát triển tư duy bằng cách viết. Nếu nhìn vào tác phẩm và nhật ký của các tác giả từ thế kỷ 18 đến đầu thế kỷ 20, như Tolstoy, Zweig, Goethe, thì có cảm giác họ đã hình dung toàn bộ nội dung cuốn sách trong đầu trước, rồi viết ra một mạch trong 20~30 ngày. Trước đây, tư duy và viết là hai việc riêng biệt. Thời hiện đại thì cách đó thay đổi nhờ giấy rẻ và máy tính. Điều đó không có nghĩa cách hiện nay là sai, nhưng không nên hiểu lầm rằng 'tư duy = viết' là con đường duy nhất. Socrates cũng từng nói viết làm hại trí nhớ (và cũng không hẳn sai hoàn toàn), nhưng giờ ai cũng dùng viết. Những lời chỉ trích LLM nghe theo một cách nào đó khá mỉa mai. Một phép so sánh với chữ viết tự nhiên xuất hiện. Những đứa trẻ lớn lên cùng LLM sẽ có cách tư duy khác
Tôi nghĩ đúng hơn là đang phản ứng lại với khẳng định "tư duy là viết". Tôi cũng cho rằng hoàn toàn có thể suy nghĩ đầy đủ mà không cần viết. Tuy vậy, viết không chỉ là trút ra một suy nghĩ đã hoàn thành, mà còn giúp tôi phê phán suy nghĩ của chính mình, nảy sinh ý tưởng mới, đơn giản hóa hoặc mở rộng chúng ngay trong quá trình đó. Khi đưa ra thành chữ, việc rà soát lại ở tầng meta trở nên dễ hơn nhiều
Thời giấy còn đắt, người ta thường dùng bảng sáp hoặc bảng gỗ cho việc ghi chép tạm. Tôi nghi ngờ việc hoàn toàn chỉ dựa vào trí nhớ để hình dung cả cuốn sách rồi viết ra một lần có thực sự phổ biến đến thế không, và cũng có bằng chứng về quá trình viết War and Peace của Tolstoy
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
Mỗi khi đọc các trước tác triết học trung đại với những lập luận dài và logic, tôi thường tự hỏi trong thời đại mà ngay cả giấy nháp tạm thời cũng hiếm như thế, làm sao họ lại triển khai được như vậy.
Còn về câu "những đứa trẻ lớn lên cùng LLM sẽ suy nghĩ khác đi", tôi tò mò cụ thể sẽ khác như thế nào. Khi nhìn cách sinh viên đại học hiện nay dùng LLM, tôi lo rằng không phải là khác đi, mà là họ đang suy nghĩ ít hơn
Có một góc nhìn tương tự nhưng hơi khác trong lý thuyết của Larry McEnerney. Ông phân biệt viết để tư duy và viết để truyền đạt. Viết để tư duy đã tồn tại từ trước Socrates nhưng mang tính cá nhân hơn. Viết để truyền đạt thì phạm vi rất rộng, từ tiểu thuyết đến báo chí. Larry chủ yếu nói về việc sinh viên chuẩn bị viết bài nghiên cứu thường gặp khó khăn vì không kết nối được hai kiểu này
LLM rất khác với “viết” theo nghĩa trước đây. LLM gần với một tác nhân sáng tạo hơn. Tôi có lợi thế là có thể lặp đi lặp lại và chỉnh sửa suy nghĩ của mình qua chữ viết, nhưng khi dùng LLM thì giờ 'một ai khác' sẽ thay tôi làm cả tư duy, viết và biên tập, nên lượng suy nghĩ của tôi giảm đi. Nếu xe đạp là cách đi xa hơn bằng chính sức của mình (viết), còn ô tô là một nguồn năng lượng hoàn toàn khác (LLM), thì cái nào tốt hơn cho sức khỏe thể chất? Và tuyên bố rằng Tolstoy giữ cả cuốn sách trong đầu rồi viết ra gần như tức thì thật thú vị. Tôi tò mò về ví dụ hay bằng chứng thực tế. Nếu là quý tộc như Tolstoy thì có lẽ ông có đủ nguồn lực
Nhiều người diễn giải rằng nếu LLM thay thế chính hành vi viết của con người thì sẽ gây nguy hiểm cho sự phát triển của con người. Tôi nhìn lạc quan hơn. Nếu viết tốt dẫn tới tư duy tốt, thì mọi nỗ lực giúp nâng cao kỹ năng viết của tôi cũng sẽ kéo theo việc cải thiện năng lực tư duy. Theo nghĩa đó, LLM thực ra lại rất hữu ích cho việc nâng cao khả năng viết, và xa hơn là chính năng lực suy nghĩ. Ta cũng có thể nhận được phản hồi rất mạnh về thông tin nền hoặc các chủ đề liên quan. Nếu dùng LLM có chừng mực, tôi tin nó còn có thể giúp ta trở thành con người tốt hơn
Mỗi khi thật sự cần suy nghĩ sâu, tôi mở sublime text lên và viết tình huống thành từng dòng, càng ngắn gọn càng tốt. Lúc đó tôi tự đặt cho mình những câu hỏi rất trực diện và cơ bản để thật sự nắm được bản chất, mục tiêu và con đường. Cảm giác như đang trả lời một ông trùm xã hội đen vậy, chỉ lọc ra sự thật, không viện cớ hay danh nghĩa. Làm thế thì tôi hiểu được toàn bộ cấu trúc, và ngay lập tức cũng hiện ra cả danh sách việc cần làm
Quản lý cũ của tôi (đồng thời cũng là biên tập viên) hay nói viết là 'discovery'. Tức là về bản chất nó nằm cùng mạch với tư duy. Tôi đồng ý với quan điểm đó