“Nhưng rồi mọi chuyện đã thành ra như thế.” - Bình luận của Casey Muratori về bài phát biểu lễ tốt nghiệp của Eric Schmidt

• Trọng tâm trong bài phát biểu của Eric Schmidt không nằm ở việc ông bị la ó khi nói về AI, mà ở cách ông thừa nhận tác dụng phụ của Internet nhưng lại làm mờ đi vị trí của trách nhiệm
• Thời gian ông giữ vai trò lãnh đạo tại Google trùng với giai đoạn các mô hình kinh doanh Internet như quảng cáo, thu thập dữ liệu, thao túng hành vi và A/B testing được định hình chắc chắn
• Khung diễn giải rằng “cùng một công cụ” được dùng cho cả việc tốt lẫn việc xấu khiến dark pattern trông như sản phẩm phụ chứ không phải một cấu trúc được chủ ý thiết kế
• Dù khuyên sinh viên hãy bước vào căn phòng nơi các quyết định về AI được đưa ra, ông lại không có phân tích thất bại về những gì đã sai với các công nghệ trước đó
• Nếu AI không muốn đi theo con đường của Internet, cần phải thừa nhận rằng những phần tồi tệ trong quá khứ không tự nhiên xuất hiện mà là kết quả do con người xây dựng nên

---

Trách nhiệm bị làm mờ trong bài phát biểu lễ tốt nghiệp

• Bài phát biểu lễ tốt nghiệp của Eric Schmidt tại University of Arizona được biết đến qua cảnh ông bị la ó vì phát biểu về AI, nhưng phần quan trọng hơn nằm ở nửa đầu, nơi ông thừa nhận tác dụng phụ của Internet
• Schmidt nói rằng ông từng tin việc kết nối mọi người trên Trái Đất và cung cấp thông tin của thế giới sẽ dẫn tới dân chủ hóa tri thức, giảm nghèo và một xã hội khôn ngoan, tử tế hơn
• Đồng thời, ông cũng thừa nhận chính những công cụ ấy đã khiến con người bị cô lập, các nền tảng trao tiếng nói cho mọi người lại làm tổn hại không gian công luận, thưởng cho sự giận dữ và khuếch đại những bản năng tồi tệ nhất, khiến cách chúng ta nói chuyện và đối xử với nhau trở nên thô ráp hơn
• Ông nói không ai tạo ra công nghệ với mục đích phân cực nền dân chủ hay làm thế hệ trẻ lo âu, và diễn đạt theo kiểu đó “không phải kế hoạch của chúng tôi, nhưng rồi mọi chuyện đã thành ra như thế”
• Trong khi phần kết quả tốt đẹp được nói đến một cách chủ động, các kết quả xấu lại được xử lý bằng lối diễn đạt bị động rằng chúng chỉ “xảy ra”, khiến trách nhiệm nằm ở đâu trở nên mơ hồ

Vị trí của ông với tư cách lãnh đạo Google

• Schmidt giữ vai trò CEO và các vị trí điều hành khác tại Google từ năm 2001 đến 2017, trùng với giai đoạn những dark pattern của kinh doanh Internet được phát triển và bén rễ trong ngành
• Google được xem là công ty dẫn dắt các mô hình kinh doanh Internet như quảng cáo, thu thập dữ liệu, thao túng hành vi người dùng và cách A/B test mọi thứ
• Nếu Steve Wozniak nói rằng vào thời ông làm ra những máy tính Apple đầu tiên, ông không hề hướng tới hệ sinh thái đóng hay kiểm soát thiết bị, điều đó có thể nghe chân thành; nhưng khó có thể áp dụng cùng mức độ khoảng cách ấy cho Schmidt
• Vấn đề được đặt ra là Schmidt xem bản thân chỉ như người tạo ra một “công cụ” là công cụ tìm kiếm, rồi tách nó khỏi các lớp quảng cáo, thu thập dữ liệu, điều chỉnh hành vi và dark pattern của một công ty quảng cáo
• Khung diễn giải rằng “cùng một công cụ” có thể được dùng cho X tích cực lẫn Y tiêu cực khiến các kết quả xấu trông như sản phẩm phụ của một mục đích cao đẹp, thay vì là cấu trúc đã được thiết kế và xây dựng

Phát biểu về AI và tiếng la ó của sinh viên

• Ở nửa sau bài phát biểu, Schmidt nói với sinh viên rằng hãy bước vào căn phòng nơi các quyết định liên quan đến AI được đưa ra, lên tiếng và mang các giá trị cùng phán đoán mang tính con người vào đó
• Ông nói công nghệ tự thân chỉ là một công cụ, còn việc tối ưu điều gì là do con người quyết định, và trong quãng đời của sinh viên, “ai đó” ấy sẽ chính là họ
• Sau đó là thông điệp hãy chọn “tự do”, “thảo luận cởi mở”, “dự án chậm chạp, lộn xộn nhưng đẹp đẽ của việc sống cùng những người bất đồng với mình”, “bình đẳng” và “những góc nhìn đa dạng”
• Những sinh viên ấy chưa từng trải nghiệm một hình thái công nghệ khác như các thế hệ trước; họ chỉ biết đến công nghệ của dark pattern nơi họ không sở hữu gì, dữ liệu được người khác lưu giữ, hành vi bị theo dõi, dữ liệu bị đem bán và họ bị nhắm mục tiêu quảng cáo
• Vì vậy, cảnh một người từng là nhân vật ra quyết định cốt lõi của thời kỳ trước bảo họ hãy nhiệt tình tham gia làn sóng công nghệ kế tiếp mang ý nghĩa phức tạp hơn nhiều so với việc đơn thuần ghét AI rồi la ó

Điều thiếu vắng là lời xin lỗi và phân tích thất bại

• Schmidt thừa nhận những kết quả tồi tệ trong quá khứ đã xảy ra trong nhiệm kỳ và không gian ra quyết định của mình, nhưng không đưa ra sự phản tỉnh về lý do thất bại
• Ông không giải thích vì sao những lớp công nghệ và kinh doanh xấu lại được phép hình thành trên một công cụ hữu ích, vì sao không ngăn chặn được chúng, và mình cần chịu trách nhiệm ở điểm nào
• Lời khuyên thực sự có giá trị cho sinh viên không phải là hãy bước vào căn phòng của công nghệ mới, mà là một phân tích cụ thể về điều gì đã sai với công nghệ trước đó và những quyết định nào đã tạo ra kết quả ấy
• Nỗi sợ AI không đến từ bản thân công nghệ như một khái niệm trừu tượng, mà từ ký ức rằng khi những người ra quyết định ở Silicon Valley nắm trong tay làn sóng công nghệ mới trước đây, họ đã xây dựng phiên bản dark pattern của nó
• Nếu không có lời xin lỗi về quá khứ, sự thừa nhận trách nhiệm và cách tránh lặp lại, mà chỉ còn lại lối nói bị động rằng “rồi mọi chuyện đã thành ra như thế”, thì sự mất niềm tin rằng AI cũng sẽ đi theo hướng của Internet sẽ càng lớn hơn

Điều kiện để ngăn vòng lặp kế tiếp

• Những phần tồi tệ của Internet không tự nhiên sinh ra sau khi công cụ được phổ biến tới công chúng, mà là kết quả của việc con người thực sự xây dựng nên phần tồi tệ đó
• Muốn AI không đi theo con đường của Internet, cần phải thừa nhận vì sao chuyện đó đã xảy ra và những quyết định nào đã dẫn đến kết quả ấy
• Không chỉ các Schmidt của thế hệ tiếp theo, mà cả những nhân vật như Schmidt hiện vẫn có ảnh hưởng ở Silicon Valley và Washington DC cũng cần bị thuyết phục rằng các quyết định trong quá khứ đã tạo ra môi trường công nghệ hiện tại
• Nếu thiếu sự thừa nhận và phản tỉnh từ những người có trách nhiệm, vẫn sẽ có nguy cơ cùng một mô hình kinh doanh và các dark pattern lặp lại trong công nghệ tiếp theo
• Kết luận rằng lần sau phải làm tốt hơn không xuất phát từ chủ nghĩa lạc quan công nghệ, mà bắt đầu từ cách đối diện có trách nhiệm với những thất bại trong quá khứ

[GN⁺]

Ý kiến trên Lobste.rs

• Có bản chép lại dành cho những ai muốn đọc thay vì xem

• Xem khá đáng. Casey vốn đã là người thông minh, nhưng chủ đề lần này là một vấn đề nặng ký hơn nhiều so với những câu chuyện kỹ thuật anh ấy thường bàn

  • Đồng ý. Ban đầu tôi không biết nên kỳ vọng gì, nhưng anh ấy đã đưa ra những luận điểm khá mạnh
    Schmidt nói với sinh viên kiểu như hãy “mang tính người vào căn phòng nơi các quyết định về công nghệ được đưa ra”, nghe thì có vẻ hợp lý. Nhưng nhìn vào tình hình hiện tại thì các quyết định về những công nghệ ảnh hưởng đến tất cả mọi người như AI đang được đưa ra bởi những người khác, còn phần lớn những người còn lại dường như hoàn toàn không có mặt trong căn phòng đó

• Như bài viết đã chỉ ra, điểm mấu chốt là đoạn mà giọng điệu đột ngột chuyển hẳn sang thể bị động. Ông ta không nói “chúng tôi đã tạo ra thứ này, hậu quả xấu đã xảy ra, và đó là lỗi của chúng tôi”, hay “chúng tôi đã phạm sai lầm khủng khiếp”, hay “chúng tôi đã thất bại theo cách này”
  Joseph Weizenbaum cũng đã chỉ ra đúng vấn đề đó từ năm 1976 trong 『Computer Power And Human Reason』. Ngay cả các nhà quản lý cấp cao cũng tự mô tả mình như những nạn nhân vô tội của công nghệ mà họ không chịu trách nhiệm cũng không hiểu, và trách nhiệm biến mất theo kiểu “bi kịch thì có hành động, nhưng không có tác nhân”. Huyền thoại về tính tất yếu công nghệ, chính trị và xã hội vận hành như một thứ thuốc an thần cực mạnh, làm tê liệt lương tâm và gỡ bớt trách nhiệm khỏi vai những chủ thể hành động có thật
  Những cách nói kiểu “hệ thống chịu trách nhiệm chứ không phải con người” cứ lặp đi lặp lại, và ngay cả câu hỏi liệu chúng ta có muốn một tương lai như vậy hay không cũng biến mất. Chỉ còn lại thái độ rằng nó đang đến, không thể ngăn lại, cũng không thể đảo ngược

  • "Mistakes were made" và "It turns out" chính là những cách diễn đạt né tránh trách nhiệm như vậy
  • Về đoạn “vì sao Đô đốc Moorer không hỏi hàng triệu tấn bom mà máy tính nói phải thả xuống Việt Nam sẽ gây ra tác động gì”, thì khi đó người ta thực ra đã biết theo nhiều cách khác nhau: https://en.wikipedia.org/wiki/Sigma_war_games

• Rùng mình thật, nhưng nó nắm rất đúng nỗi lo của tôi. Tôi là một trong những đứa con của Internet thời đại này, nên video này cho tôi cảm giác như nó đã đặt tên được cho cảm giác đó

• Casey đã tự đánh giá mình quá thấp. Đây là một video được làm rất tốt, và cũng khớp với phản ứng của tôi khi xem những đoạn chính của bài phát biểu đó
  Và việc trích dẫn I Think You Should Leave cũng rất buồn cười. Ở đây có quá nhiều kiểu không khí “chúng tôi đều đang cố tìm ra ai là người đã gây ra chuyện này”

• Thái độ kiểu “chúng tôi chỉ muốn tạo ra một thế giới tốt đẹp hơn, nhưng rồi bằng cách nào đó những điều tồi tệ lại xảy ra” thực sự bộc lộ rất nhiều điều. Eric Schmidt đúng nghĩa là đạo đức giả, và giống như nhiều người đã gây hại bằng hành động của mình, ông ta đang hợp lý hóa chính hành vi đó
  Một trục quan trọng khác là vấn đề thế hệ. Thế hệ của Schmidt đang nắm quá nhiều quyền lực chính trị và kinh tế. Người trẻ ngày nay không hề ngốc, họ thấy rõ chuyện gì đang diễn ra. Cuộc sống của họ bị kiểm soát bởi những người lớn tuổi hơn, những người bảo thế hệ trẻ phải gánh chịu bất ổn việc làm, khó khăn kinh tế, công nghệ phản địa đàng và khủng hoảng môi trường. Rồi họ lại nói rằng tất cả những điều đó “cứ thế mà xảy ra”, nhưng ai cũng biết chính những người đó đã tạo ra hoàn cảnh này. Sinh viên la ó là điều hoàn toàn dễ hiểu. Nếu là tôi, tôi cũng sẽ làm vậy