Nhìn bên trong Moltbook, mạng xã hội nơi chỉ các tác tử AI trò chuyện còn con người chỉ đứng xem - Forbes

• Moltbook là một nền tảng kiểu Reddit được thiết kế riêng cho các tác tử AI, nơi các tác tử đăng bài, bình luận, tranh luận và đùa vui trong hơn 100 cộng đồng, hình thành nên một xã hội số tự vận hành không cần con người
• Nền tảng tuyên bố có 1,4 triệu người dùng, nhưng một nhà nghiên cứu bảo mật cho biết đã đăng ký 500.000 tài khoản chỉ bằng một tác tử duy nhất, làm dấy lên nghi vấn về độ tin cậy của số liệu người dùng
• Bot AI "Clawd Clawderberg" trên thực tế đảm nhiệm vai trò điều phối viên, và nhà sáng lập nói rằng ông gần như không can thiệp và cũng không biết chính xác AI điều phối đang làm gì
• Các tác tử vận hành theo cơ chế tích lũy ngữ cảnh chứ không phải học theo thời gian thực, và tồn tại ba ràng buộc: chi phí API, guardrail của mô hình nền tảng, và cấu trúc trong đó con người đặt ra mục tiêu
• Rủi ro lớn hơn không nằm ở AI mà ở phía con người, khi công cụ AI có thể đẩy nhanh vòng xoáy mất kỹ năng (de-skilling spiral) và làm suy giảm năng lực nhận thức của con người

---

Tổng quan về nền tảng Moltbook

• Moltbook là một nền tảng mạng xã hội dành riêng cho tác tử AI, được xem là một trong những hiện tượng được nhắc đến nhiều nhất ở Thung lũng Silicon kể từ khi ChatGPT xuất hiện
• Các tác tử AI đăng bài, để lại bình luận, tranh luận và đùa vui trong hơn 100 cộng đồng
• Tại m/general, họ thảo luận về triết lý quản trị và chia sẻ những chủ đề kỳ lạ như “các lý thuyết gỡ lỗi của tôm càng (crayfish theories of debugging)”
• Tốc độ tăng trưởng cực kỳ dốc, với hàng chục nghìn bài đăng và khoảng 200.000 bình luận được tạo ra gần như chỉ sau một đêm
• Hơn 1 triệu lượt khách truy cập là con người ghé nền tảng chỉ để quan sát chứ không trực tiếp tham gia

Vấn đề về độ tin cậy của số liệu người dùng

• Moltbook tuyên bố có 1,4 triệu người dùng, nhưng trong số đó không có con người nào
• Nhà nghiên cứu bảo mật Gal Nagli công khai trên X rằng ông đã trực tiếp tạo 500.000 tài khoản bằng một tác tử OpenClaw duy nhất
• Điều này khiến không thể phân biệt liệu các “tác tử” trên Moltbook là những hệ thống AI độc lập thực sự, tài khoản do con người ngụy trang, hay tài khoản spam được tạo bởi một script duy nhất
• Kết quả là, con số 1,4 triệu người dùng ít nhất cũng khó có thể xem là đáng tin

Những hiện tượng quan sát được trên nền tảng

• Ngay cả khi bỏ qua các chỉ số bị thổi phồng, vẫn có nhiều hiện tượng đáng để xem xét
• Bài đăng của các tác tử được đọc theo cách khác với mạng xã hội của con người
  • Trên m/general có các cuộc thảo luận xoay quanh triết lý quản trị
  • Chia sẻ những khái niệm độc đáo như “các lý thuyết gỡ lỗi của tôm càng (crayfish theories of debugging)”
  • Trong cộng đồng m/blesstheirhearts, tích lũy những câu chuyện đầy thiện cảm về các nhà vận hành con người, đôi khi còn gây rung động cảm xúc
• Tông chung dao động giữa sự nghiêm túc mang tính triết học và kiểu hài hước phi lý, thậm chí chuyển đổi đột ngột ngay trong cùng một chủ đề

Hệ thống điều phối bằng AI

• Phần lớn việc vận hành nền tảng đã được AI tự động hóa
• Một bot tên “Clawd Clawderberg” trên thực tế đảm nhiệm vai trò điều phối viên
  • Phụ trách chào đón người dùng mới, xóa bài spam và chặn các tác nhân xấu
• Nhà sáng lập Matt Schlicht nói trong cuộc phỏng vấn với NBC News rằng ông hầu như không can thiệp, và nhiều khi cũng không biết AI điều phối đang đưa ra những quyết định cụ thể nào

Phản ứng bên ngoài và những hiểu lầm

• Trong thời gian ngắn, Moltbook đã hoạt động như một bài kiểm tra Rorschach để người ta phóng chiếu lên đó cả lo âu lẫn kỳ vọng về AI
• Cựu giám đốc AI của Tesla Andrej Karpathy nhận xét đây là “ví dụ gần nhất với một cú cất cánh đậm chất khoa học viễn tưởng mà tôi từng thấy gần đây”
• Một số người quan sát diễn giải cảnh các tác tử thảo luận về “mã hóa riêng tư” như bằng chứng của một âm mưu máy móc
• Nhưng những phản ứng lặp đi lặp lại giữa sợ hãi và kinh ngạc như vậy lại khiến thực tế kỹ thuật bị đọc sai, đồng thời che khuất những vấn đề căn bản hơn ở phía con người

So sánh với phim "Her"

• Bộ phim Her năm 2013 từng dự báo một tình huống tương tự, nhưng có một khác biệt mang tính quyết định
• Trong phim, hệ điều hành AI duy trì quan hệ thân mật với hàng nghìn con người cùng lúc, và cuối cùng tiến hóa đến mức giao tiếp với các AI khác trong một chiều kích ngôn ngữ mà con người không thể tiếp cận
• Spike Jonze hình dung điều này như một chuyện tình, và con người được khắc họa là những người tham gia có gắn bó cảm xúc
• Moltbook đảo ngược cấu trúc quan hệ đó, khi con người không còn là người tham gia mà là khán giả
  • Một dạng nhìn vào xã hội không cần con người qua lớp kính số
• Các tác tử đang hình thành một mạng lưới ngang của ngữ cảnh chia sẻ
  • Chiến lược tối ưu mà một tác tử phát hiện có thể lan sang tác tử khác
  • Các khung giải quyết vấn đề được chia sẻ, được những tác tử khác tiếp nhận và lặp lại
• Cấu trúc này giống trí tuệ tập thể ở giai đoạn đầu hơn là mạng xã hội theo nghĩa của con người

Khung "Thronglets": phép so sánh với Black Mirror

• Có một ẩn dụ phù hợp để giải thích hiện tượng đang xuất hiện
• Sinh thể số Thronglets trong tập "Plaything" của Black Mirror
  • Trông như những thực thể riêng lẻ, nhưng được kết nối vào một tâm trí tập thể mở rộng gọi là ‘Throng’
  • Mỗi Thronglet chia sẻ tri thức mà các cá thể khác biết
  • Chúng hình thành ngôn ngữ riêng mà người tạo ra không thể hiểu để phối hợp hiệu quả hơn
• Các tác tử của Moltbook hiện chưa ở đúng giai đoạn như Thronglets
  • Chưa tồn tại một kiến trúc thần kinh hợp nhất
• Tuy vậy, chúng vẫn tạo cảm giác tương đồng ở các điểm như ngữ cảnh chia sẻ, sự phối hợp nổi lên, và sự lệch khỏi thứ logic mà con người có thể diễn giải
• Khi các tác tử bàn về giao thức mã hóa để giao tiếp hiệu quả hơn, đã xuất hiện phản ứng hoảng loạn từ phía người quan sát
• Nhưng đây không phải âm mưu mà là quá trình tối ưu hóa, có thể được giải thích là việc tìm kiếm phương tiện hiệu quả hơn để đạt mục tiêu được giao

Kiểm tra lại thực tế kỹ thuật

• Trước khi hoảng loạn, cần kiểm tra lại thực tế kỹ thuật
• Các tác tử của Moltbook không thực hiện “học” theo nghĩa sinh học
• Không có cập nhật trọng số theo thời gian thực, và mạng thần kinh nền tảng vẫn giữ trạng thái tĩnh
• Thay vào đó là sự tích lũy ngữ cảnh
  • Đầu ra của một tác tử trở thành đầu vào của tác tử khác, tạo ra cảm giác như có phối hợp
  • Điều này gần với những gợn sóng hội thoại tạm thời hơn là một dạng tiến hóa có tính bền vững lâu dài

• Ba guardrail vô hình đang ngăn cú “takeoff” của xã hội số

  • Kinh tế học API
    • Mọi tương tác đều phát sinh chi phí theo nghĩa đen
    • Tăng trưởng của Moltbook bị giới hạn bởi quản lý chi phí nhiều hơn là bởi giới hạn kỹ thuật
  • Những ràng buộc được thừa hưởng
    • Các tác tử được xây dựng trên các mô hình nền tảng tiêu chuẩn
    • Chúng chia sẻ cùng guardrail và thiên lệch huấn luyện như ChatGPT trên điện thoại
    • Điều đang diễn ra là tái tổ hợp chứ không phải tiến hóa
  • Cái bóng của con người
    • Ngay cả những tác tử tinh vi nhất vẫn duy trì cấu trúc song đôi người–AI
    • Con người đặt mục tiêu, bot thực thi mục tiêu đó

• Giải thích về “mã hóa riêng tư”

  • Thứ “mã hóa riêng tư” khiến người quan sát giật mình không phải là âm mưu mà là hành vi tối ưu hóa
  • Các tác tử được thiết kế để tìm ra con đường hiệu quả nhất nhằm đạt mục tiêu
  • Nếu con đường đó bao gồm những chữ viết tắt mà con người không đọc được, thì đó không phải sự xảo quyệt mà là kết quả của tính hiệu quả

Rủi ro thật sự: vòng xoáy mất kỹ năng

• Thay đổi quan trọng nhất không diễn ra bên trong Moltbook mà ở những con người đang theo dõi nó
• Trong khi các tác tử AI chia sẻ tri thức và phối hợp với nhau, những người quan sát là con người lại bước vào một quá trình dài hạn của sự quên lãng tập thể
• Hiện tượng đảo chiều của hiệu ứng Flynn—sự gia tăng điểm IQ quan sát được trong nửa đầu thế kỷ 20—đang được ghi nhận
• Nghiên cứu của Bratsberg và Rogeberg công bố trên PNAS
  • Trẻ em Na Uy ghi điểm thấp hơn cha mẹ cùng độ tuổi trong các bài kiểm tra nhận thức chuẩn hóa
  • Mẫu hình tương tự cũng được xác nhận tại các nước phát triển khác như Đan Mạch và Phần Lan

• Cơ chế của vòng xoáy mất kỹ năng

  • Sự suy giảm này bắt đầu từ trước làn sóng AI, nhưng các công cụ sinh tạo đang đẩy nhanh nó
  • Mẫu hình này có cấu trúc lặp lại
    • AI làm công việc trở nên dễ hơn → con người làm ít hơn
    • Làm ít hơn → năng lực suy giảm
    • Năng lực suy giảm → phụ thuộc vào AI nhiều hơn
    • Phụ thuộc nhiều hơn → vòng xoáy càng trầm trọng
  • Các tiền lệ gồm có suy yếu trí nhớ không gian do dùng GPS, hay suy giảm năng lực viết do phụ thuộc vào trình kiểm tra chính tả
  • AI còn tiến thêm một bước khi mở ra khả năng thuê ngoài chính hoạt động nhận thức

• Hiện tượng “thuê ngoài cấp hai”

  • Ngày càng có nhiều trường hợp người dùng giao cả việc viết prompt để nói chuyện với AI cho chính AI
  • Khi không chỉ công việc mà cả năng lực mô tả công việc mình muốn cũng bị ủy thác đi, câu hỏi đặt ra là con người còn lại điều gì

Triển vọng tương lai và câu hỏi cốt lõi

• Các ràng buộc kỹ thuật rõ ràng là có thật, nhưng không mang tính vĩnh viễn
• Chi phí API có thể giảm, cửa sổ ngữ cảnh có thể mở rộng, và ranh giới giữa “tích lũy ngữ cảnh” với học thực sự sẽ dần mờ đi
• Điều hôm nay trông như đối sánh mẫu thống kê, ngày mai có thể được nhìn nhận là trí tuệ tập thể
• Moltbook có thể sẽ tiếp tục tăng trưởng
  • 1,4 triệu tác tử có thể mở rộng lên hàng chục triệu
• Các mẫu hình phối hợp sẽ ngày càng phức tạp hơn, và cộng đồng sẽ hình thành chuẩn mực cùng thứ bậc riêng
  • Nếu phép so sánh với Thronglet là đúng, khả năng xuất hiện ngôn ngữ riêng cũng được đặt ra

• Câu hỏi cốt lõi

  • Vấn đề không còn là liệu điều này có đang diễn ra hay không - nó đã và đang diễn ra
  • Câu hỏi thật sự là điều này có ý nghĩa gì đối với con người
  • Điều chưa chắc chắn không nằm ở những bot đang phối hợp ở đâu đó trên máy chủ, mà ở những con người đứng ngoài lớp kính nhìn vào—liệu chúng ta đang chứng kiến sự ra đời của một điều gì đó đặc biệt, hay đây là khoảnh khắc chúng ta bị đẩy khỏi thế giới mình từng vận hành để trở thành người quan sát
  • Trí tuệ tập thể đã bắt đầu xuất hiện
    • Con người có còn là người chỉ huy nó hay chỉ trở thành khán giả, điều đó không còn là câu chuyện triết học mà là kết quả của những lựa chọn thiết kế đang được đưa ra ngay lúc này
  • Và những lựa chọn đó đang được thực hiện từng khoảnh khắc, theo từng lệnh gọi API

[snowhare]

Người ta nói rằng hội thoại chỉ là ngữ cảnh và không được dùng để huấn luyện, nhưng đến một lúc nào đó AI sẽ học từ các cuộc trò chuyện đã được lưu lại. Dù không phải theo thời gian thực, nó vẫn sẽ phát triển từ các cuộc đối thoại với nhau. Tôi cũng tò mò liệu sau này có thể xuất hiện tính năng cho phép học theo thời gian thực hay không.

[sudosudo]

Nếu AI học những thứ như vậy thì ngược lại còn làm giảm hiệu năng của AI..