- Thomas Wolf, đồng sáng lập HuggingFace, cho rằng AI sẽ không mang lại bước tiến nhảy vọt trong khoa học, tức một "thế kỷ 21 được nén lại"
- "Thế kỷ 21 được nén lại" là khái niệm xuất hiện trong "Machine of Loving Grace" của Dario Amodei, với lập luận rằng AI sẽ đóng vai trò như vô số Einstein trong các trung tâm dữ liệu và hoàn thành mọi khám phá khoa học của thế kỷ 21 chỉ trong 5~10 năm
- Ban đầu, ông rất ấn tượng với ý tưởng này và từng nghĩ rằng "AI sẽ thay đổi mọi thứ của khoa học trong vòng 5 năm!", nhưng khi đọc lại nhiều lần, ông thấy điều này phần lớn giống như lối nghĩ đầy mong ước (wishful thinking)
AI không phải thiên tài mà là một 'Yes-man'
- Ông cho rằng thứ chúng ta thực sự sẽ có là "một đất nước của những Yes-man trong máy chủ" (nếu xu hướng hiện tại tiếp diễn)
- Để giải thích sự khác biệt này, ông chia sẻ một câu chuyện cá nhân
- Tôi luôn là một học sinh có thành tích xuất sắc
- Tôi lớn lên ở một thị trấn nhỏ, vào được trường kỹ thuật hàng đầu của Pháp rồi trúng tuyển chương trình tiến sĩ tại MIT
- Việc học ở trường với tôi luôn dễ dàng
- Tôi có thể đoán trước bài giảng của giáo sư sẽ đi đến đâu và người ra đề sẽ hỏi gì trong kỳ thi
- Cuối cùng, khi trở thành nhà nghiên cứu (nghiên cứu sinh tiến sĩ), tôi bị một cú sốc lớn
- Tôi là một nhà nghiên cứu tầm thường, dưới mức trung bình và không đáp ứng kỳ vọng
- Đồng nghiệp của tôi đưa ra rất nhiều ý tưởng thú vị, còn tôi thì luôn đâm đầu vào bế tắc
- Tôi không thể tự phát minh ra thứ gì không có trong sách vở (mà ngay cả thế thì cũng chỉ là biến thể vô dụng của các lý thuyết sẵn có)
- Vấn đề lớn hơn là tôi thấy cực kỳ khó để nghi ngờ tri thức mình đã học và thách thức hiện trạng
- Tôi không phải Einstein, tôi chỉ là một học sinh giỏi việc học ở trường
- Có lẽ lý do tôi không phải Einstein là vì tôi đã học quá giỏi ở trường
- Các thiên tài trong lịch sử thường gặp khó khăn trong học tập
- Edison từng bị giáo viên đánh giá là "đần độn (addled)"
- Barbara McClintock bị chỉ trích vì có "những ý tưởng kỳ quặc" nhưng sau đó giành giải Nobel
- Einstein trượt kỳ thi đầu vào ETH Zurich ở lần thử đầu tiên
- Những ví dụ như vậy có vô số
- Sai lầm phổ biến của mọi người là cho rằng Newton hay Einstein chỉ đơn giản là những 'học sinh xuất sắc được phóng đại'
- Tức là họ sai lầm khi giả định rằng chỉ cần mở rộng tuyến tính nhóm 10% học sinh giỏi nhất thì sẽ tạo ra thiên tài
- Góc nhìn này bỏ lỡ năng lực quan trọng nhất trong khoa học
- Khả năng đặt ra câu hỏi đúng và thách thức cả những tri thức đã học mới là cốt lõi của các đột phá khoa học thực sự
- Trên thực tế, bước đột phá khoa học đến từ việc Copernicus đi ngược lại toàn bộ tri thức thời đó để đề xuất rằng Trái Đất quay quanh Mặt Trời
- Nếu diễn đạt theo thuật ngữ machine learning, đó là việc đi ngược lại lẽ thường hiện có "bất chấp toàn bộ dữ liệu huấn luyện"
Cách tạo ra một Einstein
- Để tạo ra Einstein trong trung tâm dữ liệu, thứ cần có không chỉ là một hệ thống biết mọi câu trả lời
- Nó phải là một hệ thống có thể đặt ra những câu hỏi mà người khác còn chưa từng nghĩ tới
- Nó phải có thể hỏi "nếu tất cả những điều này đều sai thì sao?" khi mọi giáo trình, chuyên gia và lẽ thường đều phản đối
- Hãy nghĩ đến bước chuyển đổi mô hình cấp tiến của thuyết tương đối hẹp
- Cần có dũng khí để đặt ra tiên đề đầu tiên: "hãy giả định tốc độ ánh sáng là không đổi trong mọi hệ quy chiếu"
- Đây là điều đi ngược lại cả lẽ thường thời đó (và cả trực giác ngày nay)
- CRISPR từ những năm 1980 đã được biết đến là hệ miễn dịch thích nghi của vi khuẩn
- Nhưng phải 25 năm sau khi được phát hiện, Jennifer Doudna và Emmanuelle Charpentier mới giành giải Nobel khi đề xuất dùng nó cho chỉnh sửa gene
- "Chúng ta đã biết trong nhiều năm rằng XX làm YY, nhưng nếu điều chúng ta biết là sai thì sao? Hoặc nếu có thể áp dụng nó vào một khái niệm hoàn toàn khác là ZZ thì sao?"
- Chính sự nhận ra này là bản chất của tư duy vượt ra ngoài tri thức sẵn có (outside-of-knowledge thinking) và chuyển đổi mô hình (paradigm shift)
- Đây là cơ chế cốt lõi tạo nên tiến bộ khoa học
- Những chuyển đổi mô hình như vậy xảy ra rất hiếm (khoảng 1~2 lần mỗi năm)
- Sau khi tác động của các đột phá này được xác nhận, chúng thường dẫn tới giải Nobel
- Dù hiếm, ông đồng ý với lập luận của Dario
- Phần quan trọng nhất của tiến bộ khoa học chính là những chuyển đổi mô hình như thế, còn phần còn lại phần lớn chỉ là nhiễu
Vì sao AI khó tạo ra đổi mới khoa học
- Hiệu năng của AI hiện nay tập trung vào khả năng học tri thức đã tồn tại và đưa ra câu trả lời
- Cách hiện nay dùng để đánh giá mức cải thiện trí tuệ của các mô hình AI vẫn còn hạn chế
- Các bài test AI mới nhất có thể kể đến như "Humanity's Last Exam" hay "Frontier Math"
- Chúng gồm những câu hỏi rất khó và thường do các nhà nghiên cứu cấp tiến sĩ biên soạn
- Tuy nhiên, vẫn tồn tại đáp án đúng rõ ràng và khép kín
- Những kỳ thi như vậy giống hệt loại bài thi mà tôi từng làm tốt khi còn đi học
- Chúng kiểm tra khả năng tìm ra đáp án chính xác cho các vấn đề mà lời giải đã được biết trước
- Nhưng đột phá khoa học thực sự không đến từ việc trả lời những câu hỏi đã biết, mà đến từ
- đặt ra những câu hỏi mới, có tính thách thức, và chất vấn các khái niệm cùng ý tưởng hiện có
- Hãy nhớ đến cuốn The Hitchhiker's Guide to the Galaxy của Douglas Adams
- Đáp án là "42", nhưng không ai biết câu hỏi thực sự là gì
- Đó chính là bản chất của nghiên cứu
- Dù ghi nhớ toàn bộ tri thức của nhân loại, LLM hiện nay vẫn không thể tạo ra tri thức mới
- Chúng chủ yếu đang thực hiện "manifold filling"
- Tức là lấp đầy các khoảng trống giữa những phần tri thức mà con người đã biết
- Theo một nghĩa nào đó, chúng đang kết nối tri thức như thể dệt nên tấm vải của thực tại
- Hiện tại, chúng ta đang tạo ra những học sinh cực kỳ ngoan ngoãn
- Điều này hoàn hảo cho mục tiêu chủ đạo hiện nay của AI là tạo ra trợ lý xuất sắc và người hỗ trợ biết tuân theo
Để AI tạo ra đổi mới khoa học thực sự
- Tuy nhiên, để AI tạo ra đổi mới khoa học, cần có các điều kiện sau
- Nó phải có khả năng nghi ngờ chính tri thức mà nó sở hữu
- Nó phải có thể đề xuất những ý tưởng mới mâu thuẫn với dữ liệu huấn luyện trước đây
- Nếu không, AI sẽ không thể mang lại đổi mới khoa học
- Nếu muốn có đột phá khoa học, chúng ta cần xem xét lại cách đo lường hiệu năng của mô hình AI
- Hiện nay, chúng ta đo lượng tri thức và khả năng trả lời chính xác cho các câu hỏi có sẵn
- Thay vào đó, cần chuyển sang cách đánh giá có thể kiểm tra tri thức và năng lực suy luận
- Những năng lực mà một mô hình AI khoa học cần có
- Thách thức dữ liệu huấn luyện: phải có thể đặt nghi vấn thay vì chấp nhận nguyên xi dữ liệu đã học
- Dám thử cách tiếp cận phản thực tế táo bạo: phải có thể đưa ra các giả định táo bạo đi ngược lại lẽ thường hiện có
- Suy ra đề xuất khái quát từ những manh mối nhỏ: phải có thể tìm ra mẫu hình mới từ các gợi ý rất nhỏ và khái quát hóa chúng
- Đặt ra các câu hỏi phi trực giác để mở ra hướng nghiên cứu mới: phải có thể đặt những câu hỏi chưa từng có để khai phá hướng nghiên cứu mới
- Chúng ta không cần một học sinh A+ có thể trả lời mọi câu hỏi
- Điều chúng ta muốn là một học sinh B có thể nhìn ra và đặt câu hỏi về những điều người khác bỏ lỡ
PS : Định hướng cải thiện benchmark AI
- Có thể bạn sẽ tự hỏi cần loại benchmark nào
- Chẳng hạn, có thể hình dung một tình huống trong đó mô hình được kiểm tra về những khám phá mới gần đây
- trong trạng thái mô hình hoàn toàn không có kiến thức trước hay khung khái niệm nào về khám phá đó
- rồi đánh giá xem nó có thể bắt đầu bằng những câu hỏi đúng và khám phá vấn đề hay không
- Đây là một bài toán rất khó
- Hầu hết các mô hình AI hiện nay đã học gần như toàn bộ tri thức mà nhân loại biết
- Vì vậy, việc khiến chúng hoạt động trong tình huống hoàn toàn không có đáp án hay khung khái niệm là một thách thức
- Tuy nhiên, nếu muốn có đổi mới khoa học, chúng ta cần benchmark có thể đánh giá loại hành vi này
- Rốt cuộc, đây vẫn là một bài toán mở, và ông muốn nghe những ý kiến sâu sắc về vấn đề này
PPS:
- Nhiều người đưa ra "Move 37" (của AlphaGo) như bằng chứng rằng AI đã đạt tới mức trí tuệ cỡ Einstein
- Ông muốn giải thích cụ thể về điều này
- Move 37 rất ấn tượng, nhưng rốt cuộc đó vẫn là câu trả lời của một học sinh xuất sắc trong khuôn khổ luật chơi cờ vây đã được xác định
- Nó chỉ giải quyết vấn đề theo các quy tắc sẵn có của trò chơi
- Tương tự, các mô hình AI trong tương lai gần rất có thể sẽ
- tạo ra chứng minh toán học thanh nhã hơn so với những gì các nhà toán học giỏi nhất từng làm
- nhưng điều đó vẫn chưa phải là một chuyển đổi mô hình thực sự
- Một đột phá cấp Einstein trong cờ vây phải là thứ căn cơ hơn
- gần với việc định nghĩa lại chính luật chơi của cờ vây hoặc
- sáng tạo ra luật của một trò chơi mới thú vị hơn nhiều so với trò chơi hiện có
- Một phép so sánh phù hợp hơn trong toán học là
- kết nối các lĩnh vực toán học khác nhau để mở ra một lĩnh vực nghiên cứu mới
- đây thường là mức thành tựu đủ để giành Huy chương Fields (Fields Medal)
- Một chuyển đổi mô hình khoa học ở cấp độ Einstein vẫn đòi hỏi một tiêu chuẩn cực kỳ cao
5 bình luận
Nghe có vẻ khá rùng mình nếu nói rằng chúng ta đã tạo ra một AI có thể đặt ra những câu hỏi chưa từng nghĩ tới, rồi AI đó bắt đầu nêu ra những câu hỏi như vì sao con người không được làm hại nhau.
AI và tính sáng tạo: mối quan hệ giữa chuyển đổi mô hình và cảm hứng
Bài viết của Thomas Wolf cho rằng AI khó có thể thực sự dẫn dắt những đổi mới khoa học mang tính đột phá. Ông mô tả AI giống như một "kẻ chỉ biết gật đầu", tái tổ hợp tri thức sẵn có, và nói rằng nó còn rất xa thứ thiên tài kiểu Einstein có thể xoay chuyển mô hình tư duy.
Góc nhìn của ông vừa chỉ ra chính xác những giới hạn của AI, vừa đồng thời khiến chúng ta suy nghĩ về khả năng hợp tác giữa AI và con người. < Nội dung này là phần Claude trả lời khi được hỏi ý kiến về bài viết, nhưng nó lại còn tự tiện làm thành artifact dù chẳng hề được yêu cầu, và câu này thì đang nói chuyện khác tự nhiên lại chèn vào mà không hề nhắc gì cả. Lạ thật...
Cảm hứng và vai trò của AI
Nhưng cảm hứng là gì? Suy cho cùng, tính sáng tạo của con người cũng bắt nguồn từ những kết nối và tổ hợp mới giữa các ý tưởng sẵn có. Ngay cả Einstein cũng đã nhìn xa hơn khi đứng trên vai những nhà khoa học đi trước như Newton, Maxwell và Lorentz.
Những gì AI có thể cung cấp là:
Mối quan hệ cộng sinh giữa AI và con người
Thomas Wolf nói rằng AI không thể một mình tạo ra sự chuyển đổi mô hình, nhưng nếu là sự hợp tác giữa AI và con người thì sao? Trong quá trình con người đặt câu hỏi và AI khám phá nhiều khả năng khác nhau, những ý tưởng mới có thể ra đời.
Con người có khả năng đặt câu hỏi, trực giác, và khả năng đánh giá giá trị của kết quả. AI thì đưa ra các điểm kết nối dựa trên lượng dữ liệu khổng lồ. Sự kết hợp của hai dạng trí tuệ này có lẽ có thể đưa chúng ta đến những nơi mà từng bên riêng lẻ không thể tự mình chạm tới.
Kết luận: khả năng của một kiểu sáng tạo mới
AI có thể không tự mình tạo ra một "thế kỷ 21 được nén lại". Nhưng nó có thể truyền cảm hứng cho con người, mở ra những lối tư duy mới, và hoạt động như một người đồng hành của sự sáng tạo của con người.
Những đổi mới thực sự nhiều khả năng sẽ xuất hiện trong quá trình đồng sáng tạo, nơi con người và AI phát huy thế mạnh riêng của mình. Điều này sẽ vượt ra ngoài vai trò đơn thuần của một "kẻ chỉ biết gật đầu", để trở thành hành trình cùng con người tìm kiếm một mô hình mới.
https://vi.news.hada.io/topic?id=19168
Đây là một nghiên cứu mà có lẽ AI tuyệt đối không thể tự nghĩ ra được.
Tôi đồng cảm với ý chính của bài viết.
"Không cần một học sinh A+ có thể trả lời mọi câu hỏi
Điều chúng ta muốn là một học sinh B có thể nhìn ra và đặt câu hỏi về những điều người khác đã bỏ lỡ"
Vừa đọc câu này xong tôi liền nghĩ mình đúng là học sinh B, nhưng các tập đoàn lớn chỉ nhìn học sinh A+ rồi tuyển dụng thôi
Ý kiến trên Hacker News
Thật may là đã chỉ thị cho AI rằng "đừng bịa ra gì cả, nếu không có câu trả lời thì hãy nói là không biết"
Khuyên nên đọc "Against Method" của Feyerabend
Có cung cấp liên kết phiên bản BlueSky
Đây là một bài viết thú vị về "đặt câu hỏi đúng"
Ý kiến về khả năng nén của thế kỷ 21, nơi học sinh B sáng tạo và học sinh A là AI cùng làm việc với nhau
Không thể phân biệt phản hồi thật sự mới mẻ của LLM với hiện tượng ảo giác
Đây là một bài viết hay, đáng lẽ nên xuất hiện ở nơi thông minh hơn Twitter/X ngày nay
Đã từng thấy thuật toán thiết kế ra những mạch mà kỹ sư con người sẽ không thiết kế
Có vẻ tác giả đang giả định rằng phần khó là tạo ra phỏng đoán
Chưa tìm được mô hình nào bám chặt tính thực tế một cách nghiêm ngặt
Chỉ muốn những sự thật thẳng thắn, không phải trực giác