Nhà tiên tri thời hiện đại hay cỗ máy nói nhảm - Cách để thịnh vượng trong thế giới ChatGPT

• Chúng ta kỳ vọng các hệ thống máy tính siêu trí tuệ sẽ mang lại một kỷ nguyên đổi mới và thịnh vượng
• Với sự xuất hiện của ChatGPT, một số người gọi nó là nhà tiên tri thời hiện đại, trong khi những người khác đánh giá nó là một cỗ máy nói nhảm
• Các chuyên gia công nghệ và giới PR cho rằng LLM sẽ cách mạng hóa cách chúng ta làm việc, học tập, vui chơi, giao tiếp, sáng tạo và kết nối
• AI sẽ ảnh hưởng đến gần như mọi khía cạnh của đời sống hằng ngày
• Bằng cách cho phép con người trò chuyện với máy tính bằng ngôn ngữ thông thường, AI cải thiện đáng kể khả năng tiếp cận điện toán
• Tuy nhiên, song song với những vai trò hữu ích mà các hệ thống AI có thể đảm nhận, cũng tồn tại nguy cơ môi trường thông tin bị bão hòa bởi một lượng khổng lồ nội dung nhảm nhí

> "Công nghệ này sẽ là công nghệ mang tính cách mạng nhất mà nhân loại từng tạo ra, có thể sánh ngang với phát minh ra máy in, điện và Internet"
> — Sam Altman, CEO OpenAI

• Dù thích hay không, LLM đã bén rễ trong cuộc sống của chúng ta
• Chúng ta đang đọc nội dung do LLM tạo ra trên mạng, và nhiều người đang tương tác với các chatbot LLM
• Một số người thậm chí còn dùng LLM để trực tiếp tạo ra nội dung

Cách sống sót trong kỷ nguyên LLM

• Thông qua các bài giảng dài 5~10 phút, nội dung sẽ giải thích LLM là gì và chúng hoạt động ra sao
• Có thể học cách phân biệt giữa những trường hợp giúp tiết kiệm thời gian và công sức với những trường hợp dễ mắc lỗi cao
• Điều quan trọng là phải học cách phân biệt thông tin thực sự hữu ích với những tuyên bố thổi phồng giữa làn sóng marketing cường điệu

Mục lục bài học

• Bài học 1: Tự động hoàn thành tăng tốc quá mức (Autocomplete in Overdrive)
• Bài học 2: Bản chất của nói nhảm (The Nature of Bullshit)
• Bài học 3: Bài kiểm tra Turing và các benchmark nói nhảm (Turing Tests and Bullshit Benchmarks)
• Bài học 4: Những chiếc máy tính có thể trò chuyện cùng bạn (Computers You Can Talk To)
• Bài học 5: Khó hiểu, còn khó sửa hơn (Hard to Understand, Harder to Fix)
• Bài học 6: Không, họ không làm thế đâu! (No, They're Not Doing That!)
• Bài học 7: Từ nhân bản giọng nói đến Shrimp Jesus (From Voice Cloning to Shrimp Jesus)
• Bài học 8: Nấm độc và hộ chiếu cho chó cưng (Poisonous Mushrooms and Doggie Passports)
• Bài học 9: Những liên kết màu xanh rất quan trọng (Blue Links Matter)
• Bài học 10: Nghệ thuật viết mang tính con người (The Human Art of Writing)
• Bài học 11: Thay đổi giáo dục? (Transforming Education?)
• Bài học 12: Nhà khoa học AI (The AI Scientist)
• Bài học 13: Cỗ máy nói nhảm cho công việc nói nhảm (Bullshit Machines for Bullshit Work)
• Bài học 14: Tính chân thực (Authenticity)
• Bài học 15: Trí tuệ nhân tạo và sự ngu ngốc của con người (Artificial Intelligence and Human Stupidity)
• Bài học 16: Ngụy biện bước đầu tiên (The First-Step Fallacy)
• Bài học 17: The Truman Show riêng của bạn (Your Own Private Truman Show)
• Bài học 18: Dân chủ (Democracy)

[GN⁺]

Ý kiến Hacker News

• Bài viết này đầy những khẳng định rất chắc nịch về AI, nhưng thiếu căn cứ và một số điểm có vẻ sai

  • Khẳng định rằng AI "không có sự thật nền tảng" là sai
  • Nói rằng AI không thể suy luận logic là một nhận định cường điệu
  • Việc nói AI không thể giải thích cách nó đi đến kết luận cũng không đúng
  • Những khẳng định quá chắc nịch như vậy lại giống với lời chỉ trích nhắm vào các mô hình yếu hơn

• Một người bạn làm trong nhóm có ảnh hưởng đến chính sách chính phủ, và một thành viên trẻ trong nhóm đã viết một báo cáo đầy các con số lấy từ LLM

  • Báo cáo đó không chính xác và không đáng tin cậy
  • Các lập trình viên hiểu khá rõ cách LLM hoạt động, và có thể rà soát cũng như sửa những điểm thiếu chính xác trong đầu ra
  • Nhiều người sẽ tin những công cụ này, và nội dung thiếu chính xác sẽ tràn lan

• Phiên bản AI hiện tại có thể nguy hiểm với sinh viên và có thể khiến họ trở nên tệ hơn

  • Khi giúp những người bạn không chuyên kỹ thuật, tôi nhìn vào tốc độ thay đổi và nhấn mạnh rằng độ tin cậy đang tụt lại rất xa so với khả năng
  • Môi trường đối kháng vẫn chưa được giải quyết, và các dự đoán vẫn không chắc chắn
  • Những dự đoán kiểu con vẹt của một số người là không đáng tin
  • Vì RL tồn tại nên các tuyên bố về tự động tự sửa là cường điệu
  • Những người bi quan có lẽ sai, nhưng những ai xem nhẹ lập luận của họ lại hiểu biết còn kém hơn cả họ

• Phần "The AI scientist" rất xuất sắc

  • Không rơi vào cái bẫy của lập luận con vẹt, mà đưa ra các trường hợp sử dụng AI tích cực
  • Trình bày khách quan về các ứng dụng AI tích cực trong khoa học, các ví dụ có hại, và các ví dụ chỉ làm tốn thời gian

• Tài liệu này khá cơ bản nhưng hữu ích cho đông đảo độc giả

  • Tôi thích việc nó nhắc rằng không nên nhân cách hóa mô hình
  • Việc các nhà hoạch định chính sách trên 50 tuổi nghe về quy trình này sẽ hữu ích hơn là với một sinh viên năm nhất 19 tuổi

• Việc gọi LLM là con vẹt chỉ vì nó đoán token tiếp theo là không có nhiều ý nghĩa

  • Con người cũng đoán phím tiếp theo trên bàn phím
  • Góc nhìn này chỉ là nhắm mắt làm ngơ trước cuộc cách mạng công nghệ đang đến gần

• Việc sinh viên điều hướng trong môi trường AI là một thách thức

  • Tôi đang cân nhắc chia sẻ tài liệu này cho sinh viên
  • Những sinh viên muốn dùng LLM cho mọi thứ có lẽ sẽ không tương tác với tài liệu
  • Tôi đề xuất thêm một đoạn giải thích vì sao việc viết mà không dùng LLM lại quan trọng trong lĩnh vực khoa học

• Tôi ước tiêu đề đừng quá mang tính phản công nghệ

  • Tôi muốn thúc đẩy khóa học này ở nơi làm việc, nhưng làm vậy có thể khiến tôi trông như một người tiêu cực và cản trở

• Tài liệu này là một nguồn tham khảo tuyệt vời

  • Tôi đang thiết kế một khóa học cung cấp cho sinh viên y khoa kiến thức nền tảng về các tiến bộ trong ML và LLM
  • Mục tiêu là giúp họ hiểu ML trong y khoa, cho thấy tiềm năng của công nghệ, và chỉ ra con đường để áp dụng an toàn

• Tôi thực sự rất thích tài liệu này

  • Tôi phát hiện một vài lỗi chính tả trong Lesson 11
  • Trong "No one is going to motivated by a robotic..." bị thiếu từ "be"
  • Trong "People who are given a possible solution to a problem tend to less creative at..." bị thiếu từ "be"