Công nghệ của tương lai không phải là 'AI' mà là 'khả năng tập trung'

• LLM hữu ích cho việc tự động hóa các tác vụ lặp lại và brainstorming, nhưng sự phụ thuộc mù quáng có thể làm suy giảm năng lực giải quyết vấn đề
• Đặc biệt, độ tin cậy của LLM đối với các vấn đề mới là thấp, nên khả năng phán đoán của kỹ sư con người rất quan trọng
• Các công cụ tìm kiếm như Google mang lại sự cân bằng giữa khám phá (exploration) và khai thác (exploitation), nhưng LLM chỉ thúc đẩy việc ‘khai thác’ ngay lập tức
• Thói quen chỉ dựa vào đáp án nhanh sẽ dẫn đến sự suy giảm của năng lực giải quyết vấn đề cốt lõi và khả năng tập trung (focus)
• Năng lực cốt lõi trong tương lai sẽ không phải là cách dùng AI mà là khả năng suy nghĩ sâu và tập trung, những năng lực riêng có của con người

---

LLM mạnh mẽ nhưng cần được sử dụng thận trọng

• LLM giúp ích rất nhiều trong việc tự động hóa các công việc lặp lại, hỗ trợ viết mã hoặc gỡ lỗi
• Tuy nhiên, do các vấn đề như thiên lệch, thiếu nhất quán, ảo giác (hallucination), nên kết quả đầu ra luôn cần được rà soát
• Đặc biệt, dữ liệu huấn luyện chứa lời giải cho các vấn đề đã tồn tại, nhưng khả năng ứng phó với những vấn đề thực sự mới là thấp
• Kết quả là nếu kỹ sư phụ thuộc vào LLM, năng lực tự giải quyết vấn đề của chính họ có thể bị suy yếu

Rủi ro của việc chấp nhận một cách thiếu phê phán

• Nếu tiếp nhận nguyên xi câu trả lời do LLM đưa ra mà không hiểu nó, bạn sẽ tập trung vào việc nhận đáp án hơn là giải quyết vấn đề
• Việc giải quyết các vấn đề phức tạp cuối cùng vẫn cần sự tích lũy của năng lực nền tảng và tư duy, và LLM không thể thay thế điều đó
• Điều quan trọng không phải là kết quả đầu ra mà là sự hiểu biết về vì sao nó được giải quyết như vậy và quá trình tư duy đằng sau

Khác biệt quan trọng giữa công cụ tìm kiếm và LLM

• Công cụ tìm kiếm cho phép cách tiếp cận cân bằng giữa khám phá (exploration) và khai thác (exploitation)
• Ngược lại, LLM cố gắng đưa ra đáp án ngay từ đầu, và người dùng có xu hướng sử dụng nó mà không kiểm chứng
• Một hệ thống chỉ có khai thác mà không có khám phá sẽ làm gia tăng tính bất ổn và sự phụ thuộc

Mục đích ban đầu của khoa học máy tính: công cụ để con người tập trung vào giải quyết vấn đề

• Con người đã tạo ra công cụ để giảm bớt công việc lặp lại, và quyền chủ động của thuật toán vốn thuộc về con người
• Nhưng hiện nay, do áp lực phải tạo ra kết quả nhanh chóng, cơ hội rèn luyện khả năng tập trung và tư duy đang giảm đi
• Dòng chảy này cuối cùng có thể dẫn tới sự suy yếu của tính sáng tạo và tư duy chiều sâu ở con người

Công nghệ thực sự cho tương lai: khả năng tập trung (Focus)

• Công nghệ càng phát triển thì năng lực tư duy và khả năng tập trung vốn riêng có của con người càng trở nên quan trọng hơn
• Quan trọng hơn hiệu năng của AI là năng lực của con người trong việc nhận diện và giải quyết các vấn đề phức tạp
• Không phải khả năng sử dụng LLM mà khả năng tập trung và hiểu được bản chất vấn đề mới nhiều khả năng sẽ trở thành kỹ năng cốt lõi của tương lai

[GN⁺]

Ý kiến trên Hacker News

• Việc các sinh viên mới mất tập trung là điều thường gặp. Không chỉ LLMs mà gần như mọi ứng dụng và startup đều đang cạnh tranh để giành lấy lượng chú ý hữu hạn của người dùng

  • LLMs đã xóa bỏ rào cản vốn buộc sinh viên phải tự nỗ lực để tìm ra câu trả lời. Rất dễ nghiện những câu trả lời nhanh và quên mất việc hỏi vì sao một thứ gì đó hoạt động
  • Tuy nhiên, nếu tiếp cận đúng cách, LLMs có thể hỗ trợ việc khám phá. Đã có lúc thấy sinh viên phản biện câu trả lời đầu tiên và tìm ra những insight sâu hơn
  • Rủi ro thực sự không phải là công cụ, mà là việc quên mất cách sử dụng nó một cách cẩn trọng

• Dùng aimbot trong Gunbound không khiến người chơi giỏi hơn. Nó đã phá hủy hệ sinh thái của trò chơi

  • Không rõ liệu nhân loại có thể sử dụng "aimbot cho năng lực đọc hiểu" một cách có trách nhiệm hay không
  • ABS đã giúp việc phanh trong điều kiện trơn trượt trở nên dễ dàng và an toàn hơn. Mọi người không học cách phanh tốt hơn, và vẫn nghĩ rằng đạp bàn đạp mạnh hơn thì xe sẽ dừng nhanh hơn
  • Nhiều người cần sự tập trung. Một số người thì không, và họ cần mở rộng quy mô. Có những hệ thống cần aimbot, và cũng có những hệ thống không cần
  • Tương lai là nơi mọi loại công nghệ phải cùng tồn tại

• Công cụ tìm kiếm đưa ra lựa chọn tốt giữa khám phá (duyệt danh sách kết quả và các trang) và khai thác (nhấp vào kết quả đầu tiên)

  • LLMs không đưa ra lựa chọn này
  • LLMs rất hữu ích cho việc khám phá. Chúng giúp giải quyết các vấn đề phức tạp và tinh chỉnh ý tưởng. Chúng cũng có thể tạo ra vòng lặp phản hồi mà ngay cả với đối tác con người cũng khó có được

• Khả năng tập trung giờ đây trông như một đặc quyền

  • Vào thập niên 90, người ta có thể làm việc hàng tuần mà không bị làm phiền. Ngày nay lúc nào cũng có quản lý muốn cập nhật hay muốn lập kế hoạch
  • Công việc thực sự bị đẩy xuống sau các cuộc trò chuyện

• Trong một thế giới dư thừa thông tin, sự phong phú của thông tin đồng nghĩa với sự khan hiếm của thứ khác. Thông tin tiêu thụ sự chú ý của người nhận

  • Sự phong phú của thông tin dẫn đến sự nghèo nàn về chú ý, và cần phải phân bổ nó một cách hiệu quả

• Đối lập với tập trung là tính phản ứng. Nếu đăng lên SO, có thể nhận được câu trả lời chính xác, nhưng cần sự kiên nhẫn để viết đúng câu hỏi và chờ phản hồi

  • LLM có thể nói điều sai ngay lập tức. Nó mang tính phản ứng
  • Một kỹ sư giỏi phải phản ứng tốt với đồng đội, quản lý, khách hàng và doanh nghiệp. Đồng thời cũng phải tìm ra thời gian để tập trung
  • Sau Covid đã có một thay đổi văn hóa lớn khi những người vốn không làm việc bất đồng bộ và không làm việc từ xa đều chuyển sang online
  • Tính phản ứng thì dễ đo lường, còn chất lượng và sự phát triển thì khó đo lường hơn

• Khi dùng LLMs thì mất tập trung

  • copy-paste, copy-paste. Không có sự hiểu biết thực sự về giải pháp
  • Có thể làm được nhiều việc hơn, nhưng không còn thấy thích nữa. Giờ thậm chí không thể quay lại việc Google như trước
  • Ước gì nó chưa từng được phát minh

• Đó sẽ là một kiểu tập trung khác

  • Công nghệ thường xuyên được dự đoán là sẽ làm suy giảm những năng lực từng được xem là quan trọng
  • Máy tính cầm tay khiến trẻ em không còn cần làm số học bằng tay. Nhưng vẫn cần kỹ năng diễn giải kết quả
  • Công cụ tìm kiếm giúp con người tìm ra câu trả lời chỉ trong vài giây. Nhưng vẫn cần biết phải tìm gì và dùng thứ đã tìm được như thế nào

• 10 năm trước đã có các chuyên gia nói rằng smartphone và mạng xã hội sẽ thay đổi mọi thứ. Cần học cách dùng chúng một cách khôn ngoan

• Không đồng ý với việc đánh đồng cuộc cách mạng LLM với sự trỗi dậy của các công cụ tìm kiếm như Google trong thập niên 90

  • LLMs khuyến khích việc khai thác ngay lập tức. Người dùng có thể khám phá khi giải pháp đầu tiên không hiệu quả
  • Phần lớn cách dùng LLM thực ra khá giống công cụ tìm kiếm. Chúng giải thích các quyết định thiết kế hiện có, tìm thư viện phù hợp với nhu cầu, hoặc tạo ra các truy vấn liên quan