Vì sao trong cộng đồng duy lý lại có nhiều giáo phái đến vậy?

• Những nhóm tín niệm nhỏ, kỳ lạ bên trong cộng đồng duy lý đã nhiều lần xuất hiện, và một số còn liên quan tới các vụ bạo lực có thật
• Hiện tượng này bắt nguồn từ việc nội dung nhấn mạnh phương pháp tư duy hợp lý (Sequences) hứa hẹn một kỹ năng “suy nghĩ tốt hơn” nhưng trên thực tế không thể đáp ứng được lời hứa đó
• Những người ở vị thế dễ tổn thương có khả năng cao bị cuốn vào các nhóm độc hại trong cộng đồng, và thường bị tách khỏi bên ngoài nên khó thoát ra
• Mối liên hệ giữa niềm tin và hành vi trong nội bộ nhóm, thái độ coi ý tưởng là chuyện hệ trọng, cùng sự cô lập xã hội có thể gây ra những rối loạn chức năng nghiêm trọng
• Việc xuất hiện các giáo phái duy lý rất khó ngăn chặn hoàn toàn, nhưng duy trì kết nối với thực tế bên ngoài, sự đa dạng xã hội và cấu trúc tổ chức lành mạnh có thể giảm tác hại

---

Mở đầu

• Cộng đồng duy lý là một nhóm hình thành từ loạt bài blog ‘Sequences’ do nhà nghiên cứu AI Eliezer Yudkowsky viết
• Loạt bài này nói về cách suy nghĩ hợp lý, nên người ta có thể kỳ vọng các thành viên cộng đồng sẽ là hình mẫu của tư duy phản biện và tinh thần hoài nghi
• Tuy nhiên trên thực tế, trong cộng đồng lại xuất hiện những nhóm kỳ quặc và gây hại như các nhóm nhỏ giao tiếp với ác quỷ, các vụ bạo lực, hay những nhóm gây sang chấn tâm lý
• Các ví dụ tiêu biểu gồm Zizians, một nhóm vegan anarchist transhumanist, cùng các trường hợp như Black Lotus và Leverage Research
• Tác giả vừa là người trong cộng đồng vừa thực hiện các cuộc phỏng vấn chuyên sâu, nhờ đó có được mức độ tiếp cận và sự thẳng thắn chưa từng có

Vấn đề của những người duy lý trẻ

• Cộng đồng duy lý nhìn chung vẫn vận hành được, nhưng một số nhóm có cấu trúc rối loạn chức năng nghiêm trọng

• ‘Sequences’ hứa hẹn “nghệ thuật suy nghĩ tốt hơn” và một tương lai phi thường, nhưng trên thực tế lời hứa đó là bất khả thi

• Nhiều người được phỏng vấn chỉ ra rằng chính nội dung này đã tạo ra nguyên liệu thô cho giáo phái

• Eliezer Yudkowsky không mấy tích cực trong việc xây dựng tính cộng đồng, nhưng những người từ bên ngoài gia nhập thường khao khát sự thay đổi do nhân vật có thẩm quyền dẫn dắt và một sứ mệnh anh hùng

• Sự rối loạn chức năng của một số nhóm đến từ người lãnh đạo (ví dụ Brent Dill của Black Lotus), hoặc cũng có thể là do các động lực độc hại tự hình thành từ bên dưới (ví dụ Leverage Research)

• Những người dễ tổn thương rất dễ trở thành tù nhân của các nhóm biệt lập, và cũng khó thoát ra khi gặp vấn đề

• Ban đầu cộng đồng từng hỗ trợ các thành viên còn non nớt, nhưng dần dần xuất hiện xu hướng những người đã thành công rút lại sự hỗ trợ của mình

• Những người mới không được hỗ trợ rất dễ trở thành mục tiêu của các nhóm độc hại bên trong

Tính nghiêm trọng của niềm tin

• Trong các nhóm rối loạn chức năng, nguyên nhân cốt lõi không chỉ là sự cô lập xã hội hay sự thao túng của lãnh đạo, mà còn là chính các niềm tin

• Chẳng hạn, lý thuyết quyết định cực đoan của Zizians (niềm tin rằng phải đáp trả vô điều kiện trước các mối đe dọa) đã liên hệ trực tiếp tới hành vi thực tế

• Leverage Research cố gắng hiểu cấu trúc nội tâm của thành viên và giải quyết vấn đề thông qua một lý thuyết tâm lý học tổng hợp mang tên ‘Connection Theory’

• Việc cố uốn hành vi của mình theo những mô hình tâm lý đơn giản hóa như vậy thậm chí còn gây ra các vấn đề tinh thần

• Brent Dill dẫn dắt các thành viên diễn giải thế giới và người khác theo hướng yếm thế, điều này trở thành sự bất tín trong nội bộ và là tác hại sâu xa nhất

• Khi người duy lý từ chối tin vào chuyên gia và tự mình suy nghĩ, nghịch lý là họ lại có nguy cơ ủy thác tư duy cho một lãnh đạo có sức lôi cuốn

• ‘Coi ý tưởng một cách nghiêm túc’ và ‘tính chủ thể’ vốn là những phẩm chất tốt, nhưng nếu áp dụng sai có thể dẫn tới các hành vi nguy hiểm đi chệch khỏi chuẩn mực

Cảnh giác với tâm lý học

• Trong các nhóm có vấn đề, việc thảo luận kéo dài và cường độ cao về triết học, tâm lý học và các mối quan hệ trong nhóm đã trở thành chuyện thường ngày

• Ngược lại, trong các nhóm group house lành mạnh, mọi người tập trung vào các hoạt động bên ngoài hoặc thành tựu thực chất (lập trình, game, v.v.)

• Thành viên Black Lotus cũng có những trường hợp giành lại sự tự tin nhờ thực sự đảm nhận các vai trò quan trọng

• Ngay cả ở Leverage Research, các nhóm nhỏ làm dự án thực chất (như phát triển tiền mã hóa) cũng lành mạnh hơn

• Việc bàn luận cảm xúc nội bộ và phân tích tâm lý quá mức làm trầm trọng thêm sự rối loạn chức năng, lo âu, cô lập và sự tách rời khỏi thực tế

• Nếu một nhóm không có mục tiêu thực tế ở bên ngoài mà các cuộc thảo luận nội bộ cứ kéo dài, các động lực gây hại sẽ bị khuếch đại

• Nếu việc đào sâu tâm lý nhóm và cảm xúc trong thời gian dài trở thành sinh hoạt thường ngày, thì dù chưa phải giáo phái, đó vẫn là dấu hiệu cho thấy có điều gì đó đang sai

Rủi ro của chủ nghĩa hệ quả (Consequentialism)

• Nếu nghiêm túc tiếp nhận thế giới quan hệ quả luận, người ta có thể biện minh cho mức độ tận hiến và hy sinh quá mức dành cho lãnh đạo
• Luận điểm về nguy cơ tuyệt chủng do AGI (trí tuệ nhân tạo tổng quát) thường được nhắc đến trong cộng đồng duy lý, gây ra căng thẳng và ám ảnh trong nội bộ nhóm
• Những người không đủ khả năng đóng góp cho AI lại dễ rơi vào rối loạn chức năng khi ám ảnh với các dự án thay thế hoặc các nhóm nhỏ
• Một đại nghĩa (như khủng hoảng của nhân loại) có thể khiến ngay cả những việc đời thường cũng bị gán cho ý nghĩa quá mức
• Trên thực tế, việc vượt qua khủng hoảng là chuỗi nhiệm vụ đơn giản và lặp đi lặp lại, nhưng người ta lại theo đuổi những ảo tưởng anh hùng không phù hợp với điều đó

Cảnh giác với sự cô lập

• Sự cô lập xã hội, hiện tượng đồng thuận trong nhóm và sự đứt kết nối với bên ngoài là cốt lõi khiến rối loạn chức năng trầm trọng hơn
• Việc các thành viên không rời khỏi nhà hay văn phòng là một trong những dấu hiệu chắc chắn nhất cho thấy một nhóm có thể là giáo phái
• Một thực tại chỉ được định nghĩa từ bên trong, việc loại trừ người chỉ trích, và sự giám sát lẫn nhau dẫn tới groupthink và niềm tin bị đẩy tới cực đoan
• Mô hình sống chung một nhà và để nhóm đáp ứng mọi nhu cầu sẽ làm suy yếu tính độc lập và năng lực trong thế giới bên ngoài
• Sự bí mật hóa đến mức ngay cả các nhóm nội bộ cũng không chia sẻ thông tin với nhau là một vấn đề, và việc phơi bày cùng sự thiếu giao tiếp tạo thành một vòng luẩn quẩn

Kết luận và đề xuất

• Rối loạn chức năng trong cộng đồng duy lý không hẳn nghiêm trọng hơn hẳn, mà đúng hơn là xuất hiện theo “những cách thú vị hơn”
• Khuynh hướng đặc trưng của cộng đồng như ‘biến niềm tin thành hành động’ và ‘sống khác với xã hội hiện hữu’ là một phần nguyên nhân, nhưng không thể loại bỏ hoàn toàn
• Ở cấp độ cá nhân và cộng đồng, các chiến lược dưới đây có thể giúp giảm rối loạn chức năng

Khuyến nghị cho cá nhân

1. Nếu các cuộc trò chuyện kéo dài về quan hệ giữa người với người/cảm xúc trong nhóm cứ tiếp diễn, đó là tín hiệu cần cảnh giác
2. Tham gia vào những hoạt động có tiêu chuẩn thành tựu khách quan, tạo điểm tiếp xúc với thực tế bên ngoài
3. Duy trì quan hệ với nhiều nhóm xã hội đa dạng
4. Tách biệt công việc, nơi ở và quá trình trị liệu
5. Dù đó là niềm tin mà ai trong nhóm cũng tin, vẫn cần người ngoài hoặc sự kiểm chứng độc lập
6. Nếu một chuỗi lập luận trừu tượng phức tạp cuối cùng dẫn đến “có thể làm hại người khác” hoặc “mọi thứ đều kém quan trọng hơn việc này”, thì cần phải nghi ngờ
7. Hãy cân nhắc thận trọng khi tham gia một nhóm đòi hỏi nhiều trong lúc bạn không còn lựa chọn nào khác

Khuyến nghị cho cộng đồng

• Duy trì gắn kết với các thành viên đã bước vào nhóm rối loạn chức năng, và thay vì lên án thì cung cấp giao tiếp bình thường
• Đặt kỳ vọng thực tế cho thành viên mới, đồng thời suy nghĩ về cách mở rộng hỗ trợ thực chất
• Thành thật truyền đạt rằng việc bước vào các lĩnh vực như AI safety không hề dễ, và không hạ thấp giá trị của những người không thể đóng góp
• Thúc đẩy thảo luận về “ranh giới cấm kỵ về đạo đức” (những điều rõ ràng là không được làm)