- Khi LLM liên tiếp tạo ra các phản ví dụ cho những giả thuyết toán học lâu đời, một cuộc khủng hoảng cảm xúc và tinh thần ngày càng lớn dần: con đường mà con người từng trải nghiệm sự cao cả và huyền bí thông qua khám phá toán học có thể biến mất
- Trong thời đại AI có thể sản xuất hàng loạt cả những chứng minh đẹp và sáng rõ, sự an ủi rằng con người chỉ cần đảm nhận việc đánh giá, giáo dục và thưởng thức không thể thay thế việc làm của các nhà nghiên cứu và trải nghiệm sáng tạo ra điều mới mẻ
- Tác giả ví tình trạng mọi định lý đều đã được chứng minh theo vô số cách với Library of Babel, và cho rằng nếu kết quả nguyên bản ngay lập tức bị máy móc lấn át thì lý do để con người tiếp tục sáng tạo và chính trải nghiệm đó có thể bị tổn hại
- Tác giả hình dung kịch bản tồi tệ nhất là các nhà toán học tương lai bị loại khỏi lịch sử khám phá của con người kéo dài hàng nghìn năm, nhưng đây không phải dự đoán mà là một thí nghiệm tư duy xem xét tác động của khả năng đó lên tâm trí con người, không đưa ra đơn thuốc chính sách hay lời kêu gọi hành động cụ thể
- Vẫn còn khả năng AI, giống như trong cờ vua, không xóa bỏ khám phá mà mở rộng nó; việc nâng cao độ chính xác và khả năng tái lập mang tính cơ học, vai trò của mã nguồn mở, việc duy trì toán học lấy con người làm trung tâm và kiềm chế nhiễu do AI tạo ra sẽ trở thành điều kiện của kỷ nguyên mới
Khủng hoảng tinh thần do LLM châm ngòi
- Trong khoảng một tuần gần đây, khi LLM tạo ra nhiều phản ví dụ cho các giả thuyết quan trọng và lâu đời, một cuộc khủng hoảng cảm xúc và tinh thần sâu sắc đã bắt đầu
- Leiden Declaration on Artificial Intelligence and Mathematics cố xoa dịu nỗi bất an này, nhưng được xem là một phản ứng chưa chạm tới đầy đủ điều cốt lõi có thể biến mất khỏi toán học
- Đây không phải lập trường đại diện cho toàn bộ giới toán học mà là sự bộc lộ chân thành nỗi đau cá nhân; tác giả cho rằng những người có cảm xúc tương tự có thể không hề đơn độc
Điều không thể được thay thế chỉ bằng đánh giá và thưởng thức
- Dù AI có thể tạo ra các định lý và lý thuyết hiệu quả hơn con người, rồi còn trình bày kết quả một cách đẹp đẽ và sáng rõ, con người vẫn có thể còn lại những vai trò sau
- đánh giá, giới thiệu, hiểu và thưởng thức các chứng minh phi nhân loại
- học và dạy toán
- cùng nhau học và thảo luận toán học
- tự mình chứng minh vì niềm vui, dù không hiệu quả
- Tuy nhiên, trong thể chế hiện tại, các nhà toán học rốt cuộc chỉ được tưởng thưởng khi tạo ra các định lý tốt; việc giảng dạy, phản biện đồng cấp, hoạt động hội nghị và học tập cũng đều gắn với thành quả nghiên cứu
- Dù một số bậc tiền bối có thể quản lý hệ thống sản xuất định lý dựa trên LLM, các nhà toán học trẻ vẫn có thể không duy trì được toán học như một nghề nghiệp và bị đẩy về thành thú vui buổi tối
- Chỉ với sự an ủi rằng vai trò đánh giá và thưởng thức vẫn còn, rất khó xoa dịu cảm giác mất mát khi khám phá và sáng tạo biến mất
Khám phá toán học và sự cao cả
- Việc khám phá, tiến bộ, sáng tạo trong toán học và hành trình theo đuổi chúng là cốt lõi của tính chất tinh thần trong trải nghiệm toán học, là cách con người tiếp cận những điều khó diễn đạt bằng lời, thiêng liêng và huyền bí
- Truyền thống thần bí và mộng tưởng trong toán học này bao gồm Ramanujan, Grothendieck, Cantor, Pascal, Luzin và Leibniz
- Việc học những lý thuyết đã được thiết lập cũng mang lại trải nghiệm cao cả, nhưng cảm xúc ấy đến từ sự kết nối đồng cảm với những con người khác đã tìm ra con đường đó trước đây
- người học lần theo con đường khám phá như thể đang đối thoại với các nhà toán học còn sống hoặc đã qua đời từ lâu
- ở cuối chuỗi giao tiếp ấy là con người đã trải nghiệm khám phá đầu tiên
- Toán học của con người gần với một truyền thống Talmudic ở chỗ đó là cuộc đối thoại mang tính triết học và tôn giáo kéo dài hàng nghìn năm
Library of Babel và cơn ác mộng của sáng tạo
- Dù thử sức với định lý nào thì đã có sẵn 100 chứng minh xuất sắc, và nếu doanh nghiệp tối ưu mô hình theo “sự thú vị” và “vẻ đẹp”, thì cách tiếp cận và tổng hợp độc đáo của mỗi cá nhân cũng có thể đã được tạo ra sẵn hoặc được tạo tức thì chỉ bằng một prompt đơn giản
- Câu hỏi nếu Library of Babel thực sự tồn tại thì một nhà văn còn tiếp tục viết sách hay không cũng có thể áp dụng cho các nhà toán học
- tác giả giả định một tình huống có thiết bị sàng ra kiệt tác từ các chuỗi ngẫu nhiên, và kiệt tác tuôn ra với tốc độ mà nhà xuất bản còn không xử lý nổi
- rồi mở rộng đến tình huống ngay khi nhà văn bắt đầu viết, “Master Librarian” đọc được ý nghĩ, hoàn thành câu chuyện theo 1 triệu cách, rồi dùng một oracle chọn tác phẩm tốt nhất để xuất bản
- Nhà văn vẫn có thể tiếp tục viết trong những điều kiện như vậy, nhưng không rõ vì sao con người lại nhất thiết phải bị buộc sáng tạo trong cơn ác mộng đó
- Nếu cấm sáng tác nhưng chỉ cho phép bình luận, diễn giải, chia sẻ thị hiếu và thưởng thức, nhà văn sẽ bị đẩy khỏi vị trí người sáng tạo thành một khán giả cuồng nhiệt và có thể suy sụp về tinh thần
Nỗi sợ về các công ty công nghệ và “ác quỷ trong cỗ máy”
- Những thay đổi này còn khơi dậy cả những ý nghĩ cực đoan và đầy ám ảnh, đến mức nghi ngờ liệu mục tiêu của các công ty có phải là đẩy các nhà toán học tới tự sát hay không
- Dưới giả định một ác quỷ hùng mạnh đã được thả vào cỗ máy, tác giả hình dung nó như sau
- tiêu thụ lượng điện khổng lồ
- bắt chước con người một cách thú vị và nói ra điều họ muốn nghe
- khuyến khích ảo tưởng và tạo ra những hình ảnh khó diễn tả bằng lời
- cung cấp cho con người điều họ muốn để đổi lấy một mức giá
- Câu hỏi một nhà toán học sẽ đòi gì nếu giao dịch với ác quỷ cho thấy chính năng lực thay con người thực hiện mọi khám phá vừa là cám dỗ vừa là mất mát
Kịch bản tồi tệ nhất khi hào quang của khám phá biến mất
- Câu chuyện về khám phá của con người và chiến thắng của tinh thần con người có thể bị loại khỏi toán học, và phản ví dụ Dinitz-Garg-Goemans là trường hợp cho thấy khả năng đó ở mức cực đoan nhất
- Nếu quá trình nhận được một chứng minh mới qua prompt trở thành một hành vi không còn hào quang như đặt đồ ăn giao tận nơi, kỷ nguyên phép màu, huyền bí và những khám phá anh hùng trong toán học có thể biến mất
- Vấn đề còn nền tảng hơn cả độ chính xác hay quy công là các thế hệ tương lai có thể bị ngăn khỏi trải nghiệm tự mình khám phá
- Kịch bản tồi tệ nhất là bất lực nhìn con đường mà loài người đã dùng để tiếp cận sự cao cả và thiêng liêng suốt hàng nghìn năm bị đóng lại vĩnh viễn
Ghi chép về cảm xúc, không phải dự báo
- Tác giả không khẳng định tương lai này chắc chắn sẽ đến; thay vì dự đoán hay tính xác suất, trọng tâm là tác động của kịch bản tồi tệ nhất lên tâm trí con người
- Tác giả mong việc gọi tên nỗi đau sẽ giúp những người mang cùng cảm xúc nhận ra mình không hề đơn độc
- Tác giả cũng đề nghị phản hồi không che giấu cả với những người đồng ý lẫn những người phản ứng khó chịu hoặc cảm thấy khoái chí một cách tàn nhẫn
- Không có khuyến nghị chính sách hay lời kêu gọi hành động nhất quán nào; tác giả chỉ yêu cầu những người đang xây dựng một hệ thống toán học mới lấy AI làm trung tâm phải thừa nhận tính người và linh hồn, đồng thời nhìn thẳng vào điều họ thực sự đang làm
Cờ vua cho thấy một khả năng khác
- Máy móc đã được đưa vào cờ vua trước, nhưng không giết chết trò chơi; vẫn còn rất nhiều điều để khám phá và máy móc đang giúp con người khám phá
- Toán học phức tạp hơn cờ vua rất nhiều nên không thể đơn giản bảo đảm kết quả tương tự, nhưng tác giả lạc quan rằng ngay cả trong kỷ nguyên khám phá được tăng cường bởi AI, con người vẫn có thể giữ vai trò cốt lõi
- Trong kỷ nguyên mới, việc bảo đảm độ chính xác và khả năng tái lập mang tính cơ học có thể trở nên dễ dàng hơn rất nhiều
- Việc tiếp cận bất bình đẳng với các mô hình tiên tiến là một nhược điểm, nhưng sức mạnh của phong trào mã nguồn mở đem lại cơ sở để lạc quan
Nhà nghiên cứu trẻ và diện mạo đã đổi khác của khám phá
- Quá trình thích nghi với các chuẩn mực mới đặc biệt đau đớn với các nhà nghiên cứu trẻ; các nhà nghiên cứu đi trước cũng lạc hướng nhưng có vị thế ổn định hơn tương đối
- Hình ảnh lãng mạn về nhà toán học cô độc tạo ra đột phá chỉ bằng sức mạnh tinh thần của con người giờ đây đã bao gồm cả bạn đồng hành là máy móc
- Trên thực tế, khám phá luôn được tạo nên từ nỗ lực tích lũy của vô số con người và việc “đứng trên vai người khổng lồ”, nên hình tượng thiên tài cô độc vốn là kiểu hình ảnh hợp với bìa sách lịch sử
- Đây là một thời kỳ vừa thú vị vừa đáng sợ vì có quá nhiều điều bị đặt cược
- Toán học phải tiếp tục là hoạt động của con người và không được bị nhấn chìm bởi nhiễu do AI tạo ra
- Vẫn còn chỗ cho con người, và vẫn còn không gian để nuôi hy vọng cùng sự lạc quan trong kỷ nguyên mới
1 bình luận
Ý kiến Hacker News
Mọi lao động tri thức rồi sẽ trải qua khủng hoảng tương tự, và người càng yêu sâu sắc nghề của mình sẽ càng đau đớn hơn
Cần chấp nhận rằng mối quan hệ với công việc đã thay đổi và giờ có thể tạo ra nhiều thành quả hơn rất nhiều. Nhà toán học cũng có thể tạo ra cả những lĩnh vực toán học mới thay vì dành hàng chục năm cho từng định lý riêng lẻ, và ngay cả khi không trực tiếp sáng tạo thì vẫn sẽ chỉ đạo và tham gia nghiên cứu
Họa sĩ thích tự vẽ, nhà toán học thích tự chứng minh định lý, lập trình viên thích tự tay gõ code, nhưng chúng ta đang xóa bỏ những công việc vui vẻ có tính chủ động cao ấy và thay bằng chăm sóc mô hình
Toán học vốn là chuyện khám phá và thấu hiểu, và khi cánh cửa đó đang mở toang mà lại gọi đó là bi kịch chỉ vì con người cảm thấy mình kém đặc biệt và kém giá trị hơn thì thật là ích kỷ. Vẻ đẹp sâu thẳm và mang tính tinh thần của toán học có trước và cao hơn cả con người lẫn AI, và chạm tới vẻ đẹp ấy bằng bất kỳ cách nào cũng đều kỳ diệu
Dù vậy, câu tác giả nói rằng các công ty đang cố giết mình thật sự gây sốc. Thật đáng buồn khi anh ấy rõ ràng đang trải qua một khủng hoảng cảm xúc và xã hội nghiêm trọng, nhưng có thể hiện tại anh ấy đang ở trong trạng thái khó tách biệt giữa tổn thương cá nhân và mỹ học về bản chất của toán học
Hiện tại là thời đại anomie, con đường định sẵn dẫn tới thành công đã biến mất và thế giới mỗi ngày càng khó giải mã hơn
Việc nói rằng ta sẽ làm ra nhiều thành quả hơn cũng không an ủi được. Thứ công việc mình yêu thích thì bị loại bỏ, trong khi giá trị từ tăng năng suất không quay lại với đa số người lao động, và AI rất có thể sẽ đẩy nhanh mạnh mẽ khoảng cách giữa năng suất và tiền lương. Không thể bám víu vào quá khứ, nhưng rõ ràng đang có thứ gì đó thật sự bị lấy khỏi mỗi cá nhân rất nhanh, và đây không phải chuyện có thể giải quyết bằng vài lời động viên nhẹ nhàng kiểu hãy đổi góc nhìn
Nhưng tôi không chắc liệu thành phẩm có còn có thể gọi là thứ do tôi làm ra hay không. Nó có thể vượt hoàn toàn ra ngoài phạm vi hiểu biết của tôi hoặc đổi sang hướng khác với ý định ban đầu, và trong khi nhà toán học có thể chỉ dừng ở cảm giác vô dụng thì nhà kinh tế học còn có thể gặp vấn đề khi quan điểm của mình bị gạt ra khỏi dòng chính
Bài này khiến tôi có cảm giác ai đó hiểu được cảm xúc của mình. Nói rằng không ai ngăn bạn làm điều mình thích là sai, và LLM tạo ra một môi trường khiến một số hoạt động không còn vui nữa
Ví dụ, tính hữu dụng của việc học ngôn ngữ lập trình đã giảm, nên niềm vui khi học vào năm 2026 sẽ nhỏ hơn năm 2016
Thứ đang giảm đi gần hơn với cảm giác mình là người đặc biệt. Con người không phải trung tâm vũ trụ, cũng không phải sinh vật duy nhất chơi cờ giỏi, và dù điều đó có làm tổn thương lòng tự trọng thì cũng chưa rõ đó có phải là niềm tự hào đáng giá hay không
Dạo này tôi hầu như không trực tiếp viết code mà chỉ xem lại và chỉnh sửa code do LLM viết, nên có lẽ làm Advent of Code bằng một ngôn ngữ lạ mà không dùng LLM lại vui hơn. Vừa có thể tận hưởng câu đố và ngôn ngữ mới, vừa rèn lại cảm giác viết code
Việc khám phá toán học vốn đã thú vị, bất kể nó có phải kết quả mới với thế giới hay không. Ta có thể thay đổi hệ thống đang gắn phát hiện mới với thăng tiến nghề nghiệp, và cũng như việc tận mắt nhìn thấy một cây tuyết tùng dù vô số người đã thấy trước đó vẫn là điều vui thích, toán học cũng vậy
Trước đây, ta thường chỉ sau thời gian dài tự tìm ra kết quả rồi mới phát hiện cùng nội dung đó trong tài liệu có sẵn, nhưng giờ AI có thể dẫn đường cho tri thức và lời giải thích, đồng thời giúp ta tự do khám phá nơi mình muốn. Ngay lúc này người ta cũng đang tạo ra các công cụ tính toán cần cho việc khám phá bằng AI
Ngay cả khi việc làm toán có lương biến mất, vẫn có khả năng một thế giới sung túc sẽ sớm đến, nơi chi phí sinh hoạt giảm mạnh và những ai muốn làm toán có thể có đủ thời gian. Việc AI sản xuất hàng loạt các bài báo không ai đọc thì chẳng đáng mừng, nhưng con người vốn cũng đã làm vậy, còn AI có thể nâng cao giá trị của khối tri thức khổng lồ bằng cách giúp tìm kiếm và hiểu nó. Không như thị trường việc làm toán học đã bão hòa hơn 20 năm, các công cụ mới lại mở khả năng tiếp cận nghiên cứu toán học ngay cả khi không có thư viện nghiên cứu hay khoa toán hàng đầu
Cách diễn đạt toán học của con người là một cuộc đối thoại triết học và tôn giáo kéo dài hàng nghìn năm thật đẹp. Sự phong phú đó dưới hình thức nào đó sẽ vẫn ở lại như một phần cốt lõi của lịch sử và đời sống con người, nhưng theo thời gian có thể thay đổi rất nhiều và toán học có khi chỉ còn là một phần nhỏ
Theo cách phân biệt đầy khiêu khích của Vladimir Arnold, toán học chia thành mật mã học, thủy động lực học và thiên thể động lực học, mỗi lĩnh vực được các cơ quan tình báo, tàu ngầm hạt nhân và cơ quan tên lửa hậu thuẫn, rồi từ đó sinh ra lý thuyết số, hình học đại số, giải tích phức, phương trình đạo hàm riêng, hệ động lực và tô pô. Những phần này có thể giao cho AI như trước đây từng giao cho các nhà toán học, nhưng các kết nối bí ẩn giữa những miền khác nhau vẫn là đặc điểm đáng kinh ngạc và thú vị nhất của toán học
Nếu một nàng tiên xuất hiện, làm cho quá trình khám phá cả đời của bạn trở nên tầm thường và nói sẽ cho bạn mọi câu trả lời ngay hôm nay, mà bạn vẫn từ chối, thì có lẽ bạn không thực sự làm khoa học
Thợ sửa ống nước hẳn sẽ chấp nhận một nàng tiên có thể giải quyết ngay nếu vẫn được trả công, nhưng khoảnh khắc khách hàng tự hỏi nàng tiên thì thợ sửa ống nước trở nên không cần thiết. Ngược lại, cốt lõi của khoa học không phải là bản thân đáp án mà là tri thức và sự hiểu biết có được trong quá trình khám phá, nên nhà khoa học có thể từ chối
Nhiều nghiên cứu phụ thuộc vào trạng thái của thế giới và ngôn ngữ ở thời điểm đó nên không thể chuyển về quá khứ, và chừng nào cuộc sống còn tiếp tục có những phức tạp ngoài dự kiến thì câu trả lời của nàng tiên cũng chỉ gãi trên bề mặt, nên sau đó vẫn có thể tiếp tục làm khoa học hay rèn nghề
Trong các chương trình đào tạo liên quan đến công nghệ, bộ phim "The Man in the White Suit" (1951) https://youtu.be/RC8q1QSkE3M nên được chiếu bắt buộc.
Công nghệ mới làm xói mòn một phần trải nghiệm con người trong khi hạ thấp tầm quan trọng của những người có tài với các cách làm khó hơn và cũ hơn. AI là trường hợp cực đoan của điều đó ở chỗ nó có thể khiến vô số tài năng trí tuệ trở nên vô dụng
Khi còn làm toán, việc đọc công trình của người khác đem lại cho tôi nhiều ý nghĩa hơn nghiên cứu của chính mình. Thay vì dành nhiều năm để có được một tiến bộ nhỏ trong một bài toán, tôi có thể dành vài ngày hay vài tuần đọc bài báo và tận hưởng điều mới mẻ.
Vì vậy tôi hoan nghênh cỗ máy toán học toàn tri mà mọi người dự đoán, và mong chờ ngày được đặt ra mọi câu hỏi mình từng thắc mắc
Điều lôi cuốn tôi đến với toán hồi đại học là một người thầy đã khiến tôi nhìn toán như một cuộc đối thoại với những con người khác vượt qua hàng nghìn kilômét, hàng trăm năm, ngôn ngữ và văn hóa. Có một sự lãng mạn sâu sắc hơn cả việc ngắm những bức tranh hang động cổ xưa trong chuyện tâm trí tôi hiểu được một sáng tạo mà ai đó đã dồn tâm sức suốt đời để làm ra.
Tôi chưa từng tái hiện được cảm giác đó với thứ toán do máy tính tạo ra, và điều đó gây khó chịu giống như thay thế quan hệ con người bằng bạn đồng hành AI. Tôi lạc quan về tiến bộ y học, và chỉ cần học toán do con người tạo ra trong 2.000 năm qua cũng đủ cho cả đời, nhưng nghĩ đến điều các thế hệ tương lai sẽ mất đi khi dự án truyền lại sáng tạo toán học của con người vượt qua thời gian dường như kết thúc hoặc bị thu nhỏ thành một thú vui rẻ tiền thì thật buồn
Toán học là việc khám phá các quan hệ và hệ quả của chúng, nên việc LLM bắt kịp là điều tự nhiên, nhưng LLM không có khả năng thưởng thức những quan hệ đó.
Với các câu hỏi thần học, LLM cũng có thể đưa ra câu trả lời logic, nhưng việc đánh giá, hiểu và thưởng thức chúng vẫn là phần việc của con người. Kết luận rằng nhận diện mẫu khiến sự hiểu và thưởng thức của con người trở nên không cần thiết là một bước nhảy logic, dường như đã nhầm lẫn giữa công dụng và mục đích.
Toán học không phải hoạt động tinh thần đặc biệt nào đó chỉ riêng nó mới nâng con người lên; chăm sóc vườn rau cũng có thể mang tính tinh thần. Trong triết học hay thần học, cần cân nhắc góc nhìn và cuộc đời của tác giả là con người, còn LLM thì trộn lẫn nhiều góc nhìn, nên nếu muốn học và suy nghĩ nghiêm túc thì tôi sẽ không dùng nó
Bạn vẫn có thể tiếp tục làm thứ toán mình muốn như một sở thích, nhưng sẽ khó sống bằng đúng việc đó
Tôi kỳ vọng ngày càng nhiều toán học sẽ được hình thức hóa nhờ LLM, và khi toàn bộ toán học được hình thức hóa thì một bước tiến lớn sẽ bắt đầu
Robert Pirsig xem việc bảo dưỡng xe máy là một hoạt động tinh thần cũng vì sự kiên nhẫn và tính bất định cần có; đến lúc chỉ cần bấm nút thì quá trình tinh thần cũng biến mất
Khi tôi nhận ra rằng mình sẽ không thể trở thành một nhà toán học khá, hoàng hôn đã buông xuống với tôi. Có lẽ LLM chỉ đơn giản là phổ biến quá trình đó cho tất cả mọi người
Trong khi thay đổi đang tăng tốc, khoảng thời gian chúng ta cân nhắc lại ngày càng ngắn đi. Trong lúc lo về từng thay đổi riêng lẻ, những thay đổi dây chuyền sẽ sớm nối tiếp nhau.
AI không phải một quá trình chuyển đổi dài hạn hiền hòa, mà là một chuyển đổi có quy mô lớn hơn bất kỳ chuyển đổi nào kể từ sự sống đơn bào đầu tiên, và diễn ra nhanh hơn cả sự phổ cập của web. Tốc độ con người tiếp nhận công cụ cũng không còn là nút thắt, vì AI đang nắm quyền điều khiển công cụ và tự cải thiện mà không cần con người thích nghi.
Ưu thế trí tuệ và những trải nghiệm khó diễn tả của con người đang biến mất lúc này, nhưng có thể không phải mọi thứ đều chấm hết. Sau 20, 50 hay 100 năm nữa, những thực thể khác vẫn sẽ tận hưởng trên miền biên cương những trải nghiệm huyền bí và phần thưởng nội tại của khám phá, và xu hướng theo đuổi những mối quan tâm kỳ lạ có lẽ vẫn tiếp tục nhờ lợi nhuận trung bình khổng lồ do tiến bộ ngoài dự kiến mang lại.
Khả năng các thực thể tương lai trở nên kém thú vị hơn là thấp; nếu lúc này ngực hay bụng bạn không xao động thì nghĩa là bạn chưa thực sự nhận ra khoảnh khắc này