- Magnifica Humanitas kêu gọi lựa chọn tái thiết Jerusalem thay vì xây Tháp Babel trong bước ngoặt mà AI, số hóa và robot học đang làm lung lay phẩm giá con người và công ích
- Học thuyết xã hội của Giáo hội, nhân dịp 135 năm Rerum Novarum, áp dụng các nguyên tắc về lao động, lương công bằng, tính bổ trợ, liên đới và mục đích phổ quát của của cải vào quyền lực công nghệ ngày nay
- AI không phải là công cụ trung lập mà phản ánh lựa chọn của nhà thiết kế, vốn và cơ quan quản lý; nếu thiếu trách nhiệm giải trình, minh bạch và sự kiểm soát của con người thì có thể xâm phạm quyền và tự do
- Nền kinh tế số có thể tạo ra lao động ẩn và bóc lột như gán nhãn dữ liệu, kiểm duyệt nội dung, khai thác tài nguyên và chủ nghĩa thực dân dữ liệu, nên cần trách nhiệm ở chuỗi cung ứng và nền tảng
- Thước đo của tiến bộ không phải là hiệu suất và kiểm soát mà là liệu nó có làm con người trở nên người hơn hay không; cần xây dựng nền văn minh của tình yêu thông qua giáo dục, lao động, hòa bình, chủ nghĩa đa phương và sự chăm sóc
Bước chuyển công nghệ và nhiệm vụ của học thuyết xã hội Giáo hội
- Nhân loại đang đứng trước bước ngoặt phải chọn hoặc xây một Babel mới, hoặc xây dựng một thành phố nơi Thiên Chúa và con người cùng cư ngụ
- Số hóa, AI và robot học đang nhanh chóng và sâu sắc thay đổi cấu trúc đời sống thường nhật, quá trình ra quyết định và trí tưởng tượng tập thể
- Công nghệ có thể chữa lành, kết nối, giáo dục và bảo vệ ngôi nhà chung, nhưng đồng thời cũng có thể tạo ra chia rẽ, loại trừ và những bất công mới
- Công nghệ không trừu tượng mà tốt hay xấu, nhưng trên thực tế phản ánh lựa chọn của những người thiết kế, tài trợ, quản lý và sử dụng nó, nên không hề trung lập
- Lựa chọn cốt lõi không phải là ủng hộ hay phản đối công nghệ, mà là sẽ dựng nên một Babel của hiệu suất hy sinh người yếu thế, hay tái thiết Jerusalem bằng nhiều tiếng nói khác nhau và trách nhiệm chung
- Thông điệp năm 1891 của Pope Leo XIII, Rerum Novarum, đã đặt lao động, phẩm giá của người lao động, lương công bằng và giá trị của con người vượt lên trên tư bản vào vị trí trung tâm
- Năm nay, kỷ niệm 135 năm Rerum Novarum là dịp để áp dụng các nguyên tắc học thuyết xã hội như lao động, tính bổ trợ, liên đới và mục đích phổ quát của của cải vào quyền lực công nghệ và nền kinh tế số hiện nay
Tháp Babel và Jerusalem
- Tháp Babel trong sách Sáng Thế cho thấy nỗ lực đạt được sự ổn định, sức mạnh và “một danh xưng cho chính mình” mà không quy chiếu về Thiên Chúa
- Babel dựa vào sự đồng nhất loại bỏ khác biệt, và khi được xây trên kiêu ngạo cùng tự mãn thì sẽ kết thúc bằng sụp đổ truyền thông và tan tác
- Việc tái thiết tường thành Jerusalem trong sách Nơ-khe-mi-a được trình bày như hình ảnh dựng lại đống hoang tàn bằng ăn chay, cầu nguyện, lắng nghe, phân chia vai trò và trách nhiệm chung
- Jerusalem được tái sinh không phải nhờ sự dẫn dắt của một cá nhân, mà bằng công cuộc tái thiết có sự tham gia của nam nữ, tư tế, thợ thủ công, trưởng tộc và người trẻ
- Việc định hướng có trách nhiệm trong thời đại AI gần với con đường Jerusalem hơn là Babel phô trương sức mạnh công nghệ: đó là con đường khôi phục các mối quan hệ và cùng nhau xây dựng vì công ích
Các nguyên tắc chính của học thuyết xã hội
- Phẩm giá con người thuộc về mọi người chỉ vì họ là con người, không phụ thuộc vào năng lực, của cải, địa vị, thành tựu hay lựa chọn
- Nhân quyền không phải yếu tố bên ngoài được gắn thêm cho con người, mà là biểu hiện của phẩm giá nội tại; chúng phải phổ quát, không thể chuyển nhượng và có hiệu lực pháp lý thực chất
- Công ích được trình bày như tổng thể những điều kiện xã hội giúp con người đạt được sự hoàn thiện của mình đầy đủ hơn và dễ dàng hơn
- Quyền sở hữu tư nhân có ý nghĩa và mục đích, nhưng luôn phụ thuộc vào mục đích phổ quát của của cải, và ngày nay nguyên tắc này cũng phải được áp dụng cho các dạng của cải mới như bằng sáng chế, thuật toán, nền tảng số, hạ tầng công nghệ và dữ liệu
- Tính bổ trợ là nguyên tắc cho rằng thẩm quyền cấp trên không nên thay thế những gì cá nhân, gia đình, cộng đồng địa phương và các tổ chức trung gian có thể làm; trong thời đại số, nguyên tắc này cũng áp dụng với quyền lực của nền tảng, dữ liệu và thuật toán
- Liên đới là sự thừa nhận cụ thể rằng tương lai của mỗi cá nhân gắn liền với tương lai của tất cả mọi người, và khi kết hợp với tính bổ trợ thì cho phép hình thành sự hợp tác xã hội có trách nhiệm
- Công bằng xã hội xử lý cả những cấu trúc, cơ chế và hệ thống kinh tế - văn hóa tự động tạo ra bất bình đẳng; trong thời đại số, điều này bao gồm quyền tiếp cận công nghệ, giám sát, thiên lệch thuật toán và bảo vệ người di cư cùng người tị nạn
AI và mô hình kỹ trị
- Pope Francis trong Laudato Si’ đã phê phán mô hình kỹ trị nơi logic hiệu suất, kiểm soát và lợi nhuận chi phối các quyết định cá nhân, xã hội và kinh tế
- Quyền kiểm soát nền tảng, hạ tầng, dữ liệu và năng lực tính toán trong nhiều trường hợp không tập trung ở nhà nước mà ở các tác nhân kinh tế và công nghệ chủ chốt
- Họ định hình điều kiện tiếp cận, quy tắc hiển thị và chính khả năng tham gia; quyền lực càng tập trung vào thiểu số thì nguy cơ lệ thuộc, loại trừ, thao túng và bất bình đẳng càng tăng
- Các hệ thống AI có thể mô phỏng những chức năng nhất định của trí tuệ con người và vượt con người về tốc độ cùng năng lực tính toán, nhưng chúng không trải nghiệm, không có thân xác và không biết niềm vui, đau khổ, tình yêu hay trách nhiệm từ bên trong
- “Học” của AI là sự thích nghi mang tính thống kê dựa trên dữ liệu và phản hồi, chứ không phải kinh nghiệm nhân loại được hình thành trong đời sống qua lựa chọn, sai lầm, tha thứ và lòng trung tín
- AI không có lương tâm đạo đức để phân định thiện ác, nắm bắt ý nghĩa tối hậu của hoàn cảnh hay chịu trách nhiệm về hệ quả
- Khi các quyết định nhạy cảm như việc làm, tín dụng, tiếp cận dịch vụ công hay danh tiếng bị giao hoàn toàn cho hệ thống tự động, các quyền, cơ hội, địa vị và tự do có thể bị xâm phạm
- Trách nhiệm giải trình có nghĩa là phải xác định được ai là người giải thích, biện minh, giám sát quyết định, xử lý phản đối và khắc phục thiệt hại
- Chỉ alignment AI với các giá trị của con người là chưa đủ; còn phải công khai thảo luận khuôn khổ đạo đức nào được áp dụng và đặt nó dưới tiêu chuẩn của công bằng xã hội
- Quyền sở hữu dữ liệu không thể chỉ giao cho tư nhân mà phải được quản lý thích đáng; dữ liệu là thành quả của nhiều người đóng góp nên không thể bị xem là thứ chỉ để giao cho một thiểu số
Quan niệm về con người, transhumanism và giới hạn
- Vấn đề then chốt của học thuyết xã hội Giáo hội không phải bản thân việc dùng công nghệ, mà là quan niệm về con người nằm bên dưới
- Nếu con người bị xem là thứ phải được hoàn thiện hoặc vượt qua, thì sẽ dễ chấp nhận ý nghĩ rằng có những đời sống kém hữu dụng hơn, kém đáng mong muốn hơn và kém giá trị hơn
- Transhumanism bao hàm hình dung về việc nâng cao hiệu năng và năng lực của con người bằng công nghệ như y sinh học, kỹ nghệ cơ thể, thiết bị và thuật toán
- Posthumanism ở dạng cấp tiến hơn thách thức chủ nghĩa lấy con người làm trung tâm, đồng thời hình dung sự lai ghép giữa con người, máy móc và môi trường cùng những giai đoạn tiến hóa mới
- Những giới hạn như bất lực, bệnh tật, tuổi già, đau khổ và tính dễ tổn thương dễ bị xem chỉ là khiếm khuyết cần sửa chữa, nhưng nhân tính thường trưởng thành qua chính các giới hạn và mở ra với tương quan
- Nỗ lực giảm nhẹ đau khổ là điều đúng đắn, nhưng cũng cần sự khôn ngoan để nhìn nhận tính hữu hạn căn bản của con người
- Chủ nghĩa nhân văn Kitô giáo không bác bỏ khoa học và công nghệ mà đón nhận chúng bằng lòng biết ơn và ý thức thực tế, đồng thời đặt chúng trong ơn gọi cao hơn và trong sự siêu vượt bản thân nhờ tình yêu
- Câu hỏi cốt lõi của thời đại AI là liệu công nghệ có làm cho đời sống con người trên mặt đất trở nên “nhân bản hơn” ở mọi phương diện hay không
Sự thật, giáo dục, lao động, kinh tế
- Các nền tảng số và hệ thống AI đang làm thay đổi sâu sắc truyền thông công cộng và chính trị, và có thể làm mờ ranh giới giữa sự kiện và ý kiến, giữa sự thật và dối trá bằng các tường thuật méo mó cùng hình ảnh, video bị thao túng
- Thông tin chân thực không xuất hiện từ kiểm soát tập trung hay tự động, mà đòi hỏi kiểm chứng, đối chiếu nguồn và lập luận có trách nhiệm
- Việc tìm kiếm sự thật là yếu tố thiết yếu của dân chủ; khi khả năng đặt câu hỏi điều gì là thật suy yếu thì đời sống dân chủ cũng suy yếu theo
- Giáo dục về việc sử dụng AI phải bao gồm không chỉ khi nào và vì mục đích gì nên dùng AI, mà còn cả việc rèn luyện phán đoán khi nào không nên dùng nó
- Sự tiện lợi của việc nhận nhanh câu trả lời hay bản tóm tắt có thể làm suy yếu khát vọng đặt câu hỏi và năng lực học sâu
- Việc tiếp xúc sớm với thiết bị số và mạng xã hội mà không có giám sát có thể ảnh hưởng tiêu cực đến giấc ngủ, khả năng duy trì chú ý, điều tiết cảm xúc và các mối quan hệ
- Nội dung bạo lực hay xúc phạm trên mạng, nội dung khiêu dâm và tài liệu siêu tính dục hóa, grooming, đe dọa và bóc lột tình dục trẻ vị thành niên trở nên tinh vi hơn nhờ hồ sơ giả, thuật toán giúp tạo tiếp xúc nguy hiểm dễ dàng hơn và công cụ AI thao túng hình ảnh, video
- Lao động không chỉ là nguồn thu nhập mà còn là lĩnh vực biểu lộ và thúc đẩy phẩm giá của đời sống; mục tiêu là giúp mỗi người có thể sống xứng đáng bằng chính lao động của mình
- Sự hội tụ của tự động hóa, robot học và AI đang nhanh chóng thay đổi cấu trúc lao động, với nguy cơ máy móc không hỗ trợ người lao động mà buộc người lao động phải thích ứng với tốc độ và yêu cầu của máy
- Việc đưa tự động hóa và AI vào phải đi kèm các biện pháp có thể kiểm chứng nhằm bảo vệ việc làm của người lao động, đào tạo lại và bảo đảm sự tham gia của họ
- Chỉ số GDP khó đánh giá đầy đủ phúc lợi tổng thể của con người và môi trường; cần các chỉ số cùng xem xét phẩm giá của lao động, thịnh vượng chung, giảm bất bình đẳng và bảo vệ môi trường
- Trong thời đại AI và robot học, không thể chỉ phó mặc cho bàn tay vô hình của thị trường; chính trị phải định hướng kinh tế và công nghệ về phía công ích
- Tình trạng nghiện gắn với nền kinh tế chú ý số được thiết kế để giữ lấy thời gian và sự chú ý của người dùng, có thể khai thác tính dễ tổn thương và làm suy yếu tự do nội tại
- Việc thu thập dữ liệu quy mô lớn và các hệ thống thuật toán tạo ra nguy cơ mới về kiểm soát xã hội khi lập hồ sơ di chuyển, mua sắm, quan hệ và sở thích rồi tác động đến hành vi
Lao động ẩn, nô lệ và chủ nghĩa thực dân dữ liệu
- Những phản hồi tức thì và có vẻ hoàn hảo của AI là kết quả của một chuỗi trung gian dài bao gồm tài nguyên thiên nhiên, hạ tầng năng lượng và con người
- Nền kinh tế số phụ thuộc vào vô số lao động thực hiện những hoạt động thiết yếu nhưng gần như vô hình như gán nhãn dữ liệu, huấn luyện mô hình và kiểm duyệt nội dung
- Người lao động kiểm duyệt nội dung thường phải xử lý tài liệu gây khó chịu; trong nhiều trường hợp họ là người trẻ, chủ yếu là phụ nữ, nhận lương thấp trong điều kiện khắc nghiệt
- Việc khai thác tài nguyên cần cho sản xuất thiết bị AI và vi xử lý còn khắc nghiệt hơn; ở một số khu vực, trẻ em và thanh thiếu niên phải xử lý vật liệu khai thác đất hiếm trong điều kiện nguy hiểm
- Các mạng lưới tội phạm sử dụng nền tảng trực tuyến, hệ thống nhắn tin, phương thức thanh toán ẩn danh và công nghệ lập hồ sơ để tuyển mộ, kiểm soát và vận chuyển nạn nhân buôn người
- Buôn người phải được nhìn nhận là một hình thức nô lệ hiện đại và là sự xâm phạm nghiêm trọng phẩm giá con người
- Chủ nghĩa thực dân ngày nay không chỉ thống trị thân xác mà còn biểu hiện dưới dạng chủ nghĩa thực dân dữ liệu, chiếm đoạt dữ liệu để biến đời sống cá nhân thành thông tin có thể khai thác
- Dữ liệu về sự sống như dữ liệu sức khỏe, hồ sơ dịch tễ, bản đồ gene và thông tin nhân khẩu học có thể được dùng để huấn luyện mô hình dự báo, định hướng chiến lược đầu tư, dự đoán khủng hoảng và đánh giá tầm quan trọng
- Cần bảo đảm rằng dữ liệu được thu thập nhân danh viện trợ, nghiên cứu và đổi mới không trở thành công cụ thống trị mà thực sự phục vụ công ích
- Phải tăng cường minh bạch chuỗi cung ứng chống đỡ ngành công nghệ và nền kinh tế số để lợi thế cạnh tranh không được xây trên sự bóc lột ẩn giấu
- Doanh nghiệp và nhà đầu tư phải ưu tiên thẩm định đạo đức mang tính phòng ngừa, bảo vệ người lao động, ứng phó lao động cưỡng bức và đánh giá tác động xã hội của các mô hình kinh doanh dựa trên dữ liệu
- Các nền tảng số phải hợp tác có trách nhiệm với nhà chức trách và xã hội dân sự để công cụ liên lạc, thanh toán và lập hồ sơ không trở thành kênh tuyển mộ và kiểm soát nạn nhân
Chiến tranh, vũ khí và chủ nghĩa đa phương
- AI và cuộc cách mạng số đang làm gia tăng không chỉ chiến tranh truyền thống mà cả các xung đột lai như tấn công mạng, thao túng thông tin, chiến dịch gây ảnh hưởng và tự động hóa quyết định chiến lược
- Khi công nghệ bị tách khỏi đạo đức và trách nhiệm, nó có thể làm cho các quyết định sinh tử trở nên nhanh hơn và phi nhân vị hơn, đồng thời khiến việc sử dụng vũ lực trông như một lựa chọn tức thì và khả thi
- AI có thể tăng cường phòng thủ và bảo vệ dân thường, nhưng cũng có nguy cơ hạ thấp ngưỡng sử dụng vũ lực, che khuất con người khỏi trách nhiệm và thu nhỏ kẻ thù thành số liệu, nạn nhân thành “thiệt hại phụ”
- Nền văn minh của tình yêu không phải một không tưởng ngây thơ mà là dự án đầy đòi hỏi nhằm chuyển tình yêu thành các cấu trúc công lý và trao cho tình huynh đệ hình thức thể chế
- Văn hóa quyền lực bình thường hóa chiến tranh, theo đuổi sức mạnh quân sự lớn hơn, lợi dụng khủng hoảng của chủ nghĩa đa phương và thúc đẩy thứ chủ nghĩa hiện thực giả dối rằng “không có lựa chọn nào khác”
- Năm 1965, Saint Paul VI đã kêu lên tại Đại hội đồng Liên Hợp Quốc: “Không bao giờ chiến tranh nữa, không bao giờ chiến tranh nữa!”
- Ngày nay, trong bối cảnh tái vũ trang và diễn ngôn công khai, chiến tranh đang sống lại như một công cụ của chính trị quốc tế, còn các nguyên tắc đạo đức từng giới hạn việc sử dụng vũ lực thì đang suy yếu
- Sự lớn mạnh của tổ hợp công nghiệp - quân sự đã trở thành đặc điểm định hình của cục diện chính trị và là lĩnh vực cốt lõi trong nền kinh tế của nhiều quốc gia
- Niềm tin rằng răn đe hạt nhân là tiền đề thiết yếu của an ninh đã góp phần vào một cuộc chạy đua vũ trang mới, sự tháo dỡ dần các hiệp định cắt giảm hạt nhân và việc phát triển các loại vũ khí thu nhỏ khiến việc sử dụng trông khả thi hơn
- Hệ thống vũ khí tự động càng dễ được triển khai thì chiến tranh càng trở nên “khả thi” hơn và càng ít chịu sự kiểm soát của con người
- Không thể chấp nhận việc giao những quyết định gây chết người hoặc không thể đảo ngược cho các hệ thống nhân tạo, và không thuật toán nào có thể làm cho chiến tranh trở nên chấp nhận được về mặt đạo đức
- Mọi hệ thống dùng trong môi trường chiến tranh phải cho phép truy vết và tái dựng quá trình ra quyết định; trách nhiệm và tội lỗi không được biến mất vào “cái máy”
- Đối thoại và ngoại giao phải là phương tiện chuẩn mực để giải quyết xung đột, và cần có các quy tắc chung để bảo vệ dân thường và người dễ bị tổn thương cả trước những dạng bạo lực vô hình như tấn công mạng, thao túng dữ liệu và chiến dịch gây ảnh hưởng
- Các tổ chức quốc tế, bao gồm United Nations, có thể thúc đẩy đối thoại giữa các quốc gia, giải quyết hòa bình tranh chấp, phát triển toàn diện các dân tộc, bảo vệ người dễ bị tổn thương, giải trừ quân bị và chăm sóc công trình tạo dựng
Bảo vệ con người trong thời đại AI và đời sống Kitô hữu
- Câu hỏi bảo vệ con người trong thời đại trí tuệ nhân tạo gắn liền với mầu nhiệm Nhập Thể, khi Ngôi Lời đã trở thành người và bước vào thân phận con người
- Thiên Chúa mang lấy sự yếu đuối của con người và biến nó thành nơi của ơn cứu độ; trước mặt Thiên Chúa không có khoảnh khắc hay hoàn cảnh nào của con người là vô giá trị
- Dù hệ thống tính toán có tinh vi đến đâu cũng không thể tạo ra một tâm hồn biết trao hiến hay một lương tâm biết phân định thiện ác; khuôn mặt con người vẫn ở trung tâm lịch sử
- Eucharistic spirituality được trình bày như linh đạo của sự hiệp nhất Giáo hội trong tình yêu, dẫn tới công lý, sự sẻ chia và ưu tiên chăm sóc những người bị đè nặng bởi nghèo khổ và bị gạt ra bên lề
- Trong khi các mạng lưới kinh tế và công nghệ mới có thể tạo ra loại trừ, cô lập và lệ thuộc, thì cần một mô hình khác biết gìn giữ kết nối nhân bản và trao tiếng nói cho những người vô hình
- Nhiệm vụ xây dựng của thời đại chúng ta phải đặt tương quan với Thiên Chúa ở trung tâm, đón nhận giới hạn con người như một thực tại tự nhiên và tích cực, đồng thời được đặc trưng bởi trách nhiệm chung và ngôn ngữ của Tin Mừng
- Cách thiết lập tương quan với thế giới số một cách nhân bản phải được học như một phần của việc giáo dục đức tin và đời sống theo Tin Mừng; thế giới số được xem như một lục địa mới cần được loan báo Tin Mừng
- Cần trân trọng những không gian và thời gian mà sự hiện diện thể lý là quan trọng, như bữa ăn chung, các cuộc gặp của cộng đồng Kitô giáo, thời gian dành cho người cô đơn và việc phục vụ người nghèo
- Hình ảnh tái thiết của Nơ-khe-mi-a soi sáng ơn gọi trong thời đại chuyển đổi số và đòi hỏi con người không dừng lại ở vai trò người quan sát thụ động hay người bình luận trước các đứt gãy xã hội và văn hóa
- Công trường tái thiết là các phòng thí nghiệm, công ty công nghệ, trường học, truyền thông, thể chế và cộng đồng địa phương; cần kết hợp lắng nghe với can đảm, cầu nguyện với trách nhiệm để làm cho thành phố của con người trở nên đáng sống hơn
1 bình luận
Ý kiến trên Lobste.rs
Chỉ riêng việc tài liệu như thế này tồn tại thôi đã là một thực tại như trong SF mà tôi chưa từng tưởng tượng mình sẽ được thấy khi còn sống
Giờ thì không còn được nhắc nhiều nữa, nhưng nó vẫn kỳ quái đến mức khó tin
Nếu viết chuyện đó vào sách thì dù là SF hay không cũng sẽ trông quá “hư cấu”. Quá nhiều thứ đã phụ thuộc vào độ nghiêng của khẩu súng trường
Phản hồi của Anthropic
“Nếu điều đó hữu ích, đôi khi tôi giải thích việc này hơi giống với việc làm cho một nhân vật hư cấu trở nên sống động”
Tôi có cảm giác thuần ác toát ra từ mọi người ở Anthropic
Thật là một bất ngờ khá dễ chịu khi thấy liên kết này được đăng trên lobste.rs
Ngay sau khi Giáo hoàng được bầu, tôi đã tự hứa sẽ đọc nghiêm túc thông điệp đầu tiên của ngài, và thật vui khi đó lại là một chủ đề mà tôi thực sự quan tâm
Hy vọng cuối tuần này có thể dành thời gian để đào sâu hơn. Lướt qua chương 1 và nhìn số lượng tài liệu tham khảo thì có vẻ đây không phải bài viết dễ đọc