- Magnifica Humanitas xem AI là một cuộc cách mạng công nghiệp mới, đồng thời cảnh báo nguy cơ gia tăng bất bình đẳng, suy yếu dân chủ và làm tổn hại phẩm tính con người
- Giải trừ vũ trang cho AI không chỉ giới hạn trong lĩnh vực quân sự mà còn mang nghĩa tách AI khỏi logic cạnh tranh kinh tế và nhận thức, để công nghệ không thể thống trị con người
- AI đã và đang khuếch đại quyền lực của những người có sẵn tài nguyên, chuyên môn và quyền tiếp cận dữ liệu, khiến một thiểu số có thể chi phối thông tin, tiêu dùng và các tiến trình dân chủ
- Để bảo vệ phẩm giá con người và lợi ích chung, cần có trách nhiệm rõ ràng từ khâu thiết kế đến sử dụng, và đạo đức phải được áp dụng trong quá trình xây dựng chứ không phải sau khi thiệt hại xảy ra
- Với AI dùng cho mục đích quân sự, cần có ràng buộc đạo đức nghiêm ngặt, trách nhiệm của con người và luật pháp quốc tế; chủ nghĩa thực dân dữ liệu và việc thay thế lao động cũng được xem là vấn đề công bằng xã hội
Trọng tâm của thông điệp đầu tiên: “giải trừ vũ trang” cho AI
- Thông điệp đầu tiên của Giáo hoàng Leo XIV, “Magnifica Humanitas”, xác định AI là một cuộc cách mạng công nghiệp mới và đặt trọng tâm vào nguy cơ gia tăng bất bình đẳng, suy yếu dân chủ và làm xói mòn tính người
- Giải trừ vũ trang cho AI không chỉ giới hạn trong lĩnh vực quân sự mà còn có nghĩa là tách AI khỏi logic cạnh tranh kinh tế và nhận thức, theo hướng ngăn công nghệ thống trị con người
- Mục tiêu không phải là từ bỏ công nghệ mà là biến AI thành công nghệ “được giải trừ vũ trang, hiếu khách và dễ tiếp cận”
- Các công ty AI cần chịu sự quản lý quốc gia và quốc tế nghiêm ngặt hơn, đồng thời các cá nhân và cộng đồng cũng phải tham gia rộng rãi vào việc định hình tương lai của AI
- Leo XIV viện dẫn thông điệp “Rerum Novarum” năm 1891 của Leo XIII, văn kiện phản ứng trước cuộc cách mạng công nghiệp thế kỷ 19, qua đó đặt các câu hỏi xã hội của thời đại AI vào mạch nối tiếp của học thuyết xã hội Công giáo
- Thông điệp này được hình thành qua việc lắng nghe các nhà khoa học, kỹ sư, lãnh đạo chính trị, quan chức công quyền, phụ huynh và giáo viên, đồng thời kêu gọi sự tham gia rộng rãi vào việc lập trình, quản lý và phân phối lợi ích của AI
Big Tech và sự tập trung quyền lực
- Leo XIV cho rằng một số ít cá nhân giàu có có thể quyết định tương lai và sinh kế của nhân loại, trong khi khoảng cách giữa những người tham gia vào cuộc cách mạng số và những người bị đẩy ra bên lề có thể ngày càng lớn
- AI vốn có xu hướng khuếch đại quyền lực của những người đã có sẵn nguồn lực kinh tế, chuyên môn và quyền tiếp cận dữ liệu
- Một số nhóm có ảnh hưởng có thể định hình thông tin và mô hình tiêu dùng, tác động đến các tiến trình dân chủ và bẻ hướng động lực kinh tế theo hướng có lợi cho họ
- Công nghệ không trung lập, mà phơi bày các lợi ích và các bên liên quan đứng sau nó
- Khi quyền lực tập trung vào tay một thiểu số, nó trở nên thiếu minh bạch và dễ né tránh giám sát công khai, dẫn tới một kiểu phát triển méo mó tạo ra các dạng phụ thuộc, loại trừ, thao túng và bất bình đẳng mới
- Đồng sáng lập Anthropic Chris Olah nói rằng việc phát triển AI vận hành trong một hệ thống động lực và ràng buộc mà ở đó lợi ích thương mại, áp lực địa chính trị, lòng tự tôn và tham vọng có thể xung đột với “việc làm điều đúng đắn”
- Olah cho rằng các cộng đồng tôn giáo, xã hội dân sự, giới học giả và chính phủ cần nhìn nhận AI một cách nghiêm túc và thúc đẩy nó theo hướng tốt hơn
Phẩm giá con người, phán đoán và lao động
- Nguyên tắc cốt lõi là con người đứng trước AI, và phẩm giá con người xuất phát từ chính sự hiện hữu của họ chứ không phải từ năng lực, của cải, vị thế xã hội hay việc họ có đưa ra lựa chọn đúng hay không
- Trong thời đại chatbot AI, nguy cơ không chỉ là người dùng nhầm tác tử AI với con người, mà còn là bản thân mong muốn tìm đến người khác có thể bị suy yếu
- Khi giao việc ra quyết định cho máy móc, sự lệ thuộc quá mức và xu hướng tìm câu trả lời tức thì có thể tăng lên, làm suy yếu sức sáng tạo và khả năng phán đoán của cá nhân
- Đổi mới AI có thể tạo tác động tích cực đối với xã hội loài người và việc bảo vệ môi trường, nhưng các rủi ro của nó cũng phải được xử lý song song
- Để AI tôn trọng phẩm giá con người và lợi ích chung, cần có trách nhiệm rõ ràng ở mọi giai đoạn, từ người thiết kế và phát triển đến người dùng và những người dựa vào các quyết định thực tế của hệ thống
- Các nguyên tắc đạo đức không được áp dụng sau khi xã hội đã chịu tổn hại, mà phải được áp dụng ngay trong quá trình xây dựng hệ thống
- Việc đòi hỏi sự thận trọng, đánh giá nghiêm ngặt và đôi khi là tốc độ triển khai chậm hơn với AI không phải là chống lại tiến bộ, mà là hành động chăm lo có trách nhiệm cho gia đình nhân loại
- Những khuôn khổ kiểu hiến pháp đạo đức như trường hợp của Anthropic cũng không đủ nếu chỉ dựa trên đạo đức do một thiểu số đặt ra, mà phải được thảo luận theo các tiêu chuẩn công bằng xã hội được chia sẻ
- Sự thật là yếu tố thiết yếu của dân chủ, và giáo dục về AI là cần thiết, đặc biệt với người trẻ
- Trái với lời hứa rằng AI có thể giảm gánh nặng lao động, trong thực tế người lao động thường bị buộc phải thích nghi với tốc độ và yêu cầu của máy móc
- Trong cuộc cách mạng công nghiệp lần thứ tư, ưu tiên phải là bảo vệ cơ hội việc làm và vai trò không thể thay thế của mỗi cá nhân
Chủ nghĩa xuyên nhân loại, bất bình đẳng và chủ nghĩa thực dân dữ liệu
- Chủ nghĩa xuyên nhân loại và hậu nhân loại gắn với tiền đề rằng việc vượt qua thân phận con người là một dạng tiến bộ
- Trái với cách nhìn bệnh tật, khuyết tật, tuổi già và sự mong manh chỉ như những giới hạn cần vượt qua, con người không phải chỉ phát triển bất chấp giới hạn mà nhiều khi còn phát triển chính nhờ những giới hạn đó
- Víctor Manuel Fernández nói rằng, khác với quan điểm cho rằng con người đến hạn sử dụng và cần bị thay thế, giáo huấn Công giáo khẳng định mọi con người đều có phẩm giá vô hạn
- Trong bối cảnh khoảng cách kinh tế toàn cầu ngày càng lớn, tiến bộ công nghệ có thể tạo ra bất bình đẳng mang tính cấu trúc
- Hệ thống thuế phải giảm gánh nặng cho những người dễ tổn thương nhất và đòi hỏi trách nhiệm lớn hơn từ những người có nhiều nguồn lực hơn; lợi ích của đổi mới cũng phải được chia sẻ minh bạch với toàn thể cộng đồng
- Đằng sau AI có thể là dấu vết của sự bóc lột con người và môi trường, từ các mô hình được huấn luyện bằng tài liệu có bản quyền đến việc khai thác khoáng sản hiếm dùng cho phần cứng AI
- Chủ nghĩa thực dân dữ liệu được xem là gương mặt mới của chủ nghĩa thực dân, chiếm đoạt cả xu hướng sức khỏe, hồ sơ dịch tễ, bản đồ di truyền và dữ liệu nhân khẩu học
- Những dữ liệu này đã trở thành “đất hiếm mới của quyền lực”, và công nghệ AI nằm trong tay một số cá nhân hay nhóm theo đuổi lợi nhuận có thể trở thành một hình thức thống trị thuộc địa mới
- Để tri thức dùng chung trở thành lợi ích chung chứ không phải công cụ thống trị, con người phải lấy lại khả năng quyết định về dữ liệu mô tả chính mình, cách dữ liệu đó được sử dụng, ai sử dụng nó và ai hưởng lợi từ nó
Chiến tranh, công bằng xã hội và lợi ích chung
- Việc sử dụng AI cho mục đích quân sự phải chịu những ràng buộc đạo đức nghiêm ngặt nhất
- Trách nhiệm đối với hành động quân sự, đặc biệt là hành động gây chết người, phải vẫn thuộc về con người chứ không phải máy móc
- Cần có luật pháp quốc tế để xử lý khả năng truy vết của quá trình ra quyết định trong chiến tranh, sự giám sát của con người và việc gia tăng sử dụng vũ khí tự động cùng các hệ quả của nó
- Các nguyên tắc đạo đức của đời sống xã hội, kinh tế và chính trị lấy phẩm giá con người và lợi ích chung làm trung tâm vẫn phải được áp dụng trong thời đại AI
- Tinh thần liên đới và việc chăm lo cho “người lân cận” là những trục cốt lõi, trong đó trách nhiệm với các thế hệ tiếp theo được nhấn mạnh đặc biệt
- Công bằng xã hội không chỉ là phân phối tài nguyên công bằng hơn hay sửa chữa các bất công hiện tại, mà còn bao gồm cả chiều kích phục hồi
- Ngay cả trong không gian số cũng phải cảnh giác với giám sát xâm lấn, các cộng đồng bị loại khỏi khả năng tiếp cận công nghệ cơ bản và tác hại từ những thuật toán thiếu minh bạch duy trì sự phân biệt đối xử
- Di cư được xem là phép thử quỳ tím của công bằng xã hội ngày nay
- Babel tượng trưng cho quyền lực và việc theo đuổi tự thỏa mãn, còn việc tái thiết Jerusalem của Nehemiah hướng đến cầu nguyện và sự tham gia của gia đình cùng cộng đồng
- Thông điệp kết lại rằng trong thời đại AI, việc xây Babel hay tái thiết Jerusalem đều bắt đầu từ chính nội tâm của mỗi người
1 bình luận
Ý kiến trên Hacker News
Bài này gần như là bài trùng. https://news.ycombinator.com/item?id=48265206
Thời đại bây giờ đã khác trên nhiều phương diện. Ví dụ: 1) giờ đã có AI, và 2) giáo hoàng là người Mỹ, đồng thời đáng tin hơn các chính trị gia hàng đầu đương nhiệm của cả hai đảng
Nói đúng hơn thì không phải mọi người nhớ nhung thời giáo quyền, mà là họ đang tìm kiếm bất kỳ ai có chút lẽ thường
15 năm trước là Giáo hoàng Benedict, và ông ấy là một con người khá khác biệt. Cá nhân tôi nghĩ mình có lẽ đã hoài nghi ông ấy hơn Francis hay Leo
Nếu tiếp tục phép so sánh tôn giáo, thì người dùng HN thời đó có lẽ còn sốc hơn vì Chrome không còn được coi như Chúa tái lâm nữa