Chúng ta có phải là kẻ xấu không?

 (geohot.github.io)
1 điểm bởi GN⁺ 2025-07-07 | 1 bình luận | Chia sẻ qua WhatsApp
  • Dựa trên trải nghiệm với boosts của Hinge, bài viết phê phán cấu trúc trong đó các dịch vụ hằng ngày dùng kỹ thuật tâm lý và thuật toán để rút ra nhiều giá trị hơn từ từng tương tác
  • Từ màn hình tiền tip, thuật toán Uber, mua cà phê, hẹn hò, gọi xe cho đến thanh toán giữa bạn bè, bên trung gian chen vào và từng chút một gây thêm áp lực lên người dùng
  • Trái với kỳ vọng rằng thị trường sẽ bảo vệ những người dùng đã mệt mỏi vì bị thao túng, doanh nghiệp dùng dashboard và AI để tối ưu hóa giá trị vòng đời khách hàng một cách tinh vi hơn
  • Nếu không tối đa hóa mức độ tương tác thì sẽ tụt lại trong cạnh tranh, tạo ra một Red Queen’s race, và cả vốn xã hội lẫn giá trị cũng bị tiêu hao cho Moloch
  • Việc thao túng ở quy mô lớn bằng quảng cáo, phân biệt giá, big data, machine learning và tâm lý học khó có thể được biện minh; bài viết cho rằng chủ nghĩa tư bản hiện đại đã trở nên gần với wireheading

Cách các dịch vụ hằng ngày trích xuất giá trị

  • boosts gặp phải sau khi đăng ký Hinge là điểm khởi đầu của vấn đề
  • Màn hình tiền tip, thuật toán Uber và nhiều tương tác zero-sum khác là các ví dụ cho thấy những kỹ thuật tâm lý được dùng để rút ra thêm một chút giá trị từ từng khoảnh khắc trong xã hội
  • Ngay cả trong các hoạt động xã hội bình thường như mua cà phê, hẹn hò, gọi xe hay gửi tiền cho bạn bè cũng xuất hiện bên trung gian
    • Bên trung gian này đóng vai trò dùng các thuật toán AI mới nhất để vắt kiệt người dùng nhiều hơn
  • Kỳ vọng rằng thị trường sẽ tự sửa chữa khi người dùng cảm thấy mình bị thao túng là khá yếu
    • Doanh nghiệp nhận biết trước những phản ứng này bằng dashboard
    • Họ có thể điều chỉnh AI để khiến mọi người cảm thấy ít bị thao túng hơn
    • Mục tiêu không chỉ là trích xuất ngắn hạn mà là tối đa hóa giá trị vòng đời khách hàng

Hoài nghi về cạnh tranh và khả năng cải cách

  • Thoát khỏi cuộc cạnh tranh cũng rất khó
    • Để vận hành một doanh nghiệp cạnh tranh, phải tối đa hóa các chỉ số tương tác
    • Mọi chỉ số đều trở thành mục tiêu; nếu không tối đa hóa mức độ tương tác thì sẽ mất mức độ tương tác, tạo thành một Red Queen’s race
    • Điều này dẫn đến tình trạng dâng cả vốn xã hội và giá trị cho Moloch
  • Chỉ từ chối bằng lựa chọn cá nhân thì khó giải quyết được vấn đề; nó gần với một vấn đề hành động tập thể hơn
  • Bài viết cũng hoài nghi về khả năng cải cách dân chủ
    • Nó đặt câu hỏi liệu các thuật toán có cho phép một cuộc bỏ phiếu nhằm loại bỏ chính chúng hay không
    • Sự tách rời giữa bỏ phiếu và hành động được ví với cấu trúc trong đó số tiền Uber trả cho tài xế bị tách khỏi giá cước hành khách trả
    • Thậm chí bài viết còn dùng cách diễn đạt mạnh rằng không có cải cách, chỉ có cách mạng
  • Bài viết đặt câu hỏi liệu sau các sự kiện cực đoan như sụp đổ tài chính, World War 3 hay nạn đói quy mô lớn, người ta vẫn có thể coi thao túng quy mô lớn là chấp nhận được hay không
  • Bài viết khẳng định quảng cáo, phân biệt giá, và thao túng quy mô lớn bằng big data, machine learning, tâm lý học là không ổn
  • Nó cho rằng chủ nghĩa tư bản hiện đại là wireheading, và chúng ta sẽ chỉ học được bài học này sau khi đã đem phần lớn khách hàng cho Moloch nuốt chửng

Bài viết liên quan

1 bình luận

 
GN⁺ 2025-07-07
Ý kiến trên Hacker News

  • Với một số người, bản thân việc trả thêm tiền để vượt hàng đã là mục đích. Nhưng họ không lường trước rằng khi ai cũng trả phí premium, hàng chờ sẽ lại xuất hiện ngay trước mặt mình
    Người dùng dặm bay ở Úc nhìn chung đang ở tình cảnh như vậy: trước đây rào cản gia nhập cao nên còn có lợi ích, nhưng khi mô hình làm việc FIFO khiến hạng câu lạc bộ trở nên phổ biến, lợi thế khi lên máy bay gần như biến mất và vé đổi bằng điểm cũng hầu như không còn
    Vì vậy, khi việc theo đuổi địa vị và định giá phân tầng bị vũ khí hóa để nhắm vào người tiêu dùng, tôi cho rằng đó đúng là một mô thức phản xã hội. Uber bước vào thị trường bằng cách thậm chí bảo lãnh cho những người sẵn sàng vi phạm luật, và tôi từng ghét họ vì họ liên tục chuyển lợi nhuận ra nước ngoài, nhưng nhờ dịch vụ taxi đã trở nên quá tệ nên giờ chúng ta đã quen với Uber và giá tăng theo nhu cầu
    Việc PayWave và các dịch vụ ăn uống ở Úc đưa thêm tính năng tip cũng khiến mọi người thấy khó chịu. Nó không giống kiểu Úc. Đã có lương tối thiểu theo luật và phụ cấp làm thêm/phụ trội, nên tính năng đó nên bị tắt đi
    Ở châu Âu, động thái bắt buộc vé máy bay phải bao gồm hành lý cũng bị khá nhiều người chế giễu; vẫn còn những tín đồ thực thụ xem việc cần đồ lót sạch là yếu đuối

    • Tôi nghĩ những người không phải người Mỹ nên chống lại sự lan rộng của văn hóa tip. Nên từ chối mọi khoản tip
      Tôi biết nhân viên bị trả lương thấp, nhưng một khi bắt đầu tip, tiền lương sẽ còn giảm nữa và tất cả mọi người sẽ tệ hơn; đó là một con dốc trơn trượt
    • Uber và Lyft đắt, nhưng nếu còn nhớ đúng thời hoàng kim của taxi trước đây thì khó nói chúng tệ hơn thứ mà chúng đã thay thế. Ở các đô thị lớn như NYC, bạn có thể dễ dàng bắt taxi, nhưng ở những nơi khác phải dựa vào các hãng đáng ngờ tìm được trong danh bạ điện thoại, và cũng chẳng có gì đảm bảo xe sẽ đến
      Giờ thì ở đâu cũng có thể gọi xe tương đối nhanh. Các thực hành kinh doanh mang tính bóc lột nhắm vào tài xế hay hành khách là vấn đề nghiêm trọng và cần quản lý chặt hơn, nhưng tôi không muốn quay lại cách cũ
    • Với các hãng hàng không giá rẻ ở EU, đặc biệt là Ryanair hay EasyJet, giờ gần như ai cũng đứng ở hàng ưu tiên lên máy bay, còn hàng thường đôi khi chỉ có mỗi tôi. Trước đây trả thêm tiền thì được lên trước, nhưng giờ dù đứng ở hàng thường tôi vẫn thường vào trước 2/3 hàng ưu tiên, khá kỳ lạ
      Giá tăng theo nhu cầu của Uber ở đây cũng dao động mạnh trong vài phút, kiểu 40→50→38 euro, nên chỉ cần nhìn ứng dụng một lúc rồi chốt khi có giá tốt. Taxi hầu như luôn đắt gấp đôi, ở sân bay có khi gấp ba, nhiều khi còn thô lỗ và không thể chấm điểm, nên tôi ít đi
      Lần gần đây tôi đi taxi, Uber báo 15 euro cho quãng 10 phút ra sân bay, và tài xế taxi thật bảo cứ trả 15 euro nên tôi đi; nhưng với một hành khách khác lên cùng chiếc xe đó sau tôi, ông ta lấy 72 euro. Tức là kiếm gần 90 euro cho một chuyến 10 phút
      Ghét Uber đến mức không dùng khiến cuộc sống bất tiện quá nhiều so với những gì nhận được. Ngành taxi cần một cú sốc, và có vẻ đến giờ họ vẫn chưa học được gì. Phải đặt trước, ứng dụng thì tệ, lại đắt hơn nhiều. Nếu có từ 2 người trở lên thì nhiều khi còn rẻ hơn tàu hỏa, điều này khá lạ ở một quốc gia nơi người ta nói “nên đi tàu nếu có thể”
    • Nếu là người theo chủ nghĩa thị trường thuần túy, có lẽ họ sẽ nói điều này chỉ có nghĩa là sản phẩm đang bị định giá sai. Kiểu như giá vé thực tế phải là giá cộng thêm premium, và nên tăng cả giá vé lẫn giá để vượt hàng
    • Nếu không bận tâm và cứ chấp nhận rằng mình ở cuối hàng thì sẽ thấy tự do hơn. Không trả premium, ngồi thư giãn ở sảnh, rồi sau khi những người đã trả tiền chờ trong hàng gần như đi hết thì đến lượt mình

  • Không nên đánh giá thấp sự rời bỏ — phản ứng lâu đời của con người khi bị thao túng
    Đây không phải lý thuyết mà là chuyện đang xảy ra. Trào lưu detox kỹ thuật số, sự trở lại của điện thoại phổ thông trong giới trẻ, dịch chuyển từ feed công khai sang DM riêng tư, thế hệ “không làm phiền” — tất cả đều là cùng một hiện tượng. Mọi người cảm nhận được sự thao túng và đang thoát ra bằng cách tắt từng thông báo một

    • Chỉ số rời bỏ đó cũng có giá trị, nên tôi sẽ không còn giao nó miễn phí nữa. Ta có thể cố ý tham gia và rời bỏ một cách ngẫu nhiên để không ai biết được thứ gì có hiệu quả
      Detox kỹ thuật số và sự trở lại của điện thoại phổ thông giờ cũng đã thành một thị trường, chỉ là một “lifestyle” mà thôi. Mọi người không cảm nhận được sự thao túng. Ngay cả nhận thức về thao túng cũng đã thành thị trường, và chắc chắn sẽ có những YouTuber ăn nên làm ra nhờ nó
      Câu hỏi thú vị là có thể đánh lừa thuật toán lập hồ sơ đến mức nào. Quan trọng hơn là liệu có thể khiến nó tin rằng tôi là một thứ gì đó không phải tôi, và có thể làm nó hỏng đến mức nào
    • Không thể rời bỏ chủ nghĩa tư bản. Những mẹo như vậy có thể giúp bạn không trở thành con linh dương chậm nhất trong đàn, nhưng không có nghĩa là bạn hoàn toàn thoát khỏi bóc lột
    • Cuối cùng họ sẽ nhắm đến những đô la rời bỏ khó nắm bắt đó
      watch?v=9h9wStdPkQY — tôi bỏ phần đầu link vì ngôn ngữ và nội dung, nhưng bạn sẽ biết phải làm gì, và có lẽ cũng biết đó là video của ai
    • Tôi đã rời khỏi mạng xã hội và các ứng dụng hàng hóa hóa và kiếm tiền từ cả những phần nhỏ nhặt của cuộc sống từ năm 2012 rồi
    • “Rời bỏ” không giống với “mặc kệ”, và tôi cũng lo liệu đó có phải là phản ứng tốt của con người hay không
      “Mặc kệ” có tác dụng ở cấp độ cá nhân, nhưng rời bỏ có vẻ phải vận hành ở cấp độ tập thể. Tôi không phải chuyên gia khoa học xã hội, nhưng tôi cho rằng để rời bỏ dẫn đến thay đổi tích cực thì nó phải được kết hợp với thuyết cửa sổ vỡ. Vấn đề là nhiều người đã ở sẵn giai đoạn rời bỏ đó rồi
      Trong một bầu không khí khó chịu với tất cả mọi người, môi trường cùng suy tàn, nhưng không có thay đổi tập thể có định hướng nào xảy ra. Điện thoại phổ thông và detox kỹ thuật số gần như là ngoại lệ; trên thực tế, tiêu chuẩn chấp nhận được đang bị hạ thấp một cách có hệ thống. Tệ hơn nữa là trong khi điều đó diễn ra dưới danh nghĩa bình đẳng và hòa nhập, sự mất cân bằng giữa các nhóm lại càng lớn hơn
      Sau Occupy Wall Street và Mùa xuân Ả Rập, “không quan tâm” đã trở thành mốt. Nó tương phản với tối ưu hóa bản thân, growth hacking và lối sống dựa trên dữ liệu vốn gần với marketing doanh nghiệp; các hình vị như hyper/super/über cũng được hồi sinh từ nỗi hoài niệm về thời kinh tế bùng nổ thập niên 80–90, và chủ nghĩa tăng tốc thị trường tự do tân tự do cùng Bitcoin cũng khớp với dòng chảy đó
      “Không quan tâm” vốn là sự phê phán hệ thống hiện hữu đang chiếm đoạt sự chú ý nhằm nhấn mạnh cá tính của công dân, nhưng các chính trị gia và nhà điều hành doanh nghiệp đã hiểu nhầm nó thành việc tập trung vào sự nghiệp cá nhân hơn là trách nhiệm trong vai trò hiện tại. Trong một thế giới ngày càng kết nối, ngay cả họ cũng không còn “quan tâm” nữa
      https://en.wikipedia.org/wiki/Broken_windows_theory
      https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...

  • Ý tưởng rằng nếu chính phủ mở cho mọi người một tài khoản S&P 500 trị giá 1.000 đô la khi sinh ra thì nó sẽ trở thành nguồn tài chính cho an sinh xã hội là một điểm hay. Rốt cuộc, số tiền đó trở thành dòng vốn chảy vào được bảo đảm cho các công ty lớn nhất và những công ty được cho là một ngày nào đó sẽ lớn lên, và là một cách khác để tái phân bổ tiền công sang doanh nghiệp tư nhân
    Một ví dụ tương tự là thu nhập cơ bản, trông như bằng chứng của một nền kinh tế không còn năng động. Trên thực tế, đó là sự chấp thuận và thừa nhận rằng: “có lẽ bạn sẽ không tìm được một công việc tử tế để nuôi bản thân và gia đình, nên chính phủ sẽ cho bạn tiền để sống thoải mái chừng nào chính phủ còn tồn tại”

    • Tôi không nghĩ có nhiều người ủng hộ kiểu thu nhập cơ bản như vậy. Thu nhập cơ bản theo cách tôi hiểu là bảo đảm mức sống tối thiểu, và ý tưởng là dù bạn kiếm được nhiều hơn mức đó thì bảo đảm sinh kế cũng không nên bị giảm đi
      Tôi nghĩ một nền kinh tế thị trường dân chủ hóa cần thứ gì đó gần với thu nhập cơ bản, và các nước Scandinavia là bằng chứng ủng hộ lập luận đó
    • Đầu tư vào S&P 500 là phân bổ vào các công ty lớn nhất tại bất kỳ thời điểm nào
      ETF phải tái cân bằng, nên chúng tăng giảm tỷ trọng một số cổ phiếu, và đôi khi còn loại bỏ cổ phiếu. Khi mua SPY, bạn không chỉ tiếp xúc với các công ty hiện có trong chỉ số mà cả những công ty sẽ được đưa vào trong tương lai
      Khi một công ty bị loại khỏi chỉ số, giá cổ phiếu có thể giảm mạnh vì ETF hành động một cách máy móc. “Mạnh” là tương đối, nhưng PLTR giảm khá nhiều sau khi bị loại khỏi Russell 2000 tuần trước là một ví dụ
    • Đây là bằng chứng cho thấy Mỹ là nước xuất khẩu lạm phát. Thu nhập cơ bản không thể cạnh tranh với lạm phát chiến lược ở quy mô toàn cầu
    • Các công ty trong S&P 500 không nhận được dòng tiền vào chỉ vì cổ phiếu của họ được mua

  • Tôi thường tránh các bài viết phi kỹ thuật của George vì nhìn chung chúng có vẻ thiếu cảm hứng, nhưng bài này thực sự có lý
    Tất nhiên, có lẽ ông ấy sẽ không đi xa đến mức tự soi xét lại mối quan hệ với những người mà ông ấy thường khen ngợi và giao du, nhưng ít nhất những người khác có thể nhìn vào bên trong mình và hành xử khác đi
    Cần phải có gì đó thay đổi. Trên HN, tôi cũng có cảm giác tâm lý này đã tăng lên trong vài năm qua. Có thể chỉ là tôi nhận ra rõ hơn, nhưng vấn đề có lẽ không phải là bản thân sự tồn tại của Grape, mà là nó xuất phát từ đâu

    • Thấy tiêu đề là “Are we the baddies?”, tôi tưởng ông ấy sẽ nhìn lại dù chỉ một chút vai trò của mình trong toàn bộ chuyện này, nhưng không
    • Một phần có vẻ chỉ là chạy theo trào lưu. Cách tự vấn đọc lên giống như cách tiếp cận “gắn camera điện thoại lên bảng điều khiển để làm xe tự lái”
    • geohot là người đã dùng LLM để leo lên bảng xếp hạng Advent of Code
    • Tôi chỉ để lại liên kết này ở đây: https://x.com/ns123abc/status/1940980667455836578

  • Tác giả nên bắt đầu từ chính sản phẩm của mình. Sản phẩm đó sẽ ngừng hoạt động nếu không kết nối Internet ít nhất mỗi 14 ngày
    https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...

    • Cũng có chuyện sau khi Musk mua lại, Twitter đã trở thành thuật toán đề xuất tuyên truyền tối thượng, vậy mà ông ấy còn tình nguyện đến làm việc ở đó
      https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
    • Đúng rồi, vì sản phẩm ngách này chính là nguồn gốc mang tính cấu trúc của những vấn đề ông ấy nói đến mà

  • Tôi từng làm việc với các trình duyệt thời kỳ đầu và hạ tầng Internet hiện đại, và cũng tham gia xây dựng hạ tầng đám mây siêu quy mô đã làm nên Internet ngày nay. Tôi có dính dáng đến khá nhiều chuyện đang diễn ra, và thật lòng cảm thấy mình đang tạo ra điều gì đó tốt đẹp hơn
    Rồi vai trò quản lý sản phẩm xuất hiện, và tôi bắt đầu hối hận về mọi thứ mình đã làm

    • Tôi tò mò liệu bạn có thể nói rõ hơn không
      Tôi đã điều hành một doanh nghiệp nhỏ trong thời gian dài và xây dựng được một công ty khả thi, rồi sau đó bị cám dỗ và đi làm quản lý sản phẩm tại một công ty công nghệ khá lớn. Nó quá xa rời những gì tôi từng biết về việc tạo ra sản phẩm tuyệt vời, nhưng lại rất phù hợp với cách làm việc mà tôi học được khi “làm mọi thứ” ở công ty nhỏ. Tôi đạt được nhiều kết quả, nhưng gần như liên tục kiệt sức và lo âu
      Tôi cũng từng tham gia vào các dịch vụ đám mây và phần mềm mã nguồn mở rất phổ biến, nhưng phần lớn là ghét trải nghiệm đó. Đặc biệt là quản lý sản phẩm và tổ hợp công nghiệp quản lý sản phẩm, cách nó tách vai trò đó khỏi thực tế nhưng vẫn đòi phải sửa những trò ngu ngốc của nhà sáng lập, cấp C và thế hệ cũ. Tôi cũng mệt mỏi với các bảng Miro và những chuỗi bình luận GDocs bất tận
      Vì vậy tôi đã rời tổ chức sản phẩm, kể cả từ bỏ mức đãi ngộ cao, để quay lại việc xây dựng
      Tôi không phải là không đồng ý, chỉ muốn nghe thêm trải nghiệm cá nhân của bạn về sự trỗi dậy của vai trò quản lý sản phẩm. Dù vậy, tôi cũng nghĩ không thể chỉ đổ lỗi cho PM và văn hóa lấy PM làm trung tâm. Tôi vẫn chưa gặp đội ngũ lãnh đạo nào có những hành vi và quyết định mà tôi có thể tôn trọng hoặc chịu đựng được, và tất nhiên rất có thể vấn đề là ở tôi

  • Tiêu đề lấy từ một tiểu phẩm của chương trình Anh That Mitchell and Webb Look: https://www.youtube.com/watch?v=h242eDB84zY

  • Chỉ cần ra ngoài và nói chuyện với mọi người là được. Xung quanh các ứng dụng hẹn hò đâu có hào lũy gì, con người vẫn tồn tại trong không gian thực
    Tôi vẫn chưa thấy hợp đồng của ứng dụng hẹn hò nào cấm người lạ tiếp cận nhau một cách nhẹ nhàng. Người mai mối cũng vẫn còn

    • Không làm vậy được đâu. Nếu bạn hồn nhiên nói “chào” với một người lạ trong thành phố như thập niên 90, thì tốt lắm cũng có khả năng bị gắn mác là kẻ đáng sợ trên TikTok
    • Đáng tiếc là những chuyện như vậy chỉ khả thi ở các thị trấn nhỏ có mức độ tin cậy cao

  • Tôi thấy những bài viết kiểu này thú vị như một dạng bản đồ nhiệt nhân khẩu học. Vì điều đó có nghĩa là một người trước đây chỉ chạy theo mối quan tâm riêng của mình, như vụ hack của geohot, giờ đã nhận ra vấn đề và có đủ động lực để viết về nó
    Theo tôi, geohot đang ở khá sâu ngay giữa bản đồ đó

    • Việc có thể chỉ ra các vấn đề xã hội theo cách phân tán là một mặt tích cực. Nhìn Trevor Noah hay mạng xã hội nói chung cũng thấy rõ rằng xã hội chúng ta hiện nay đang rất cần cộng đồng
      Chúng ta cần một ngôi làng phiên bản hiện đại. Đừng đưa ra mọi quyết định chỉ theo lối cá nhân chủ nghĩa và lấy bản thân làm trung tâm, mà phải điều chỉnh theo nhu cầu và đòi hỏi của nhau. Ngay cả khi biết cha mẹ mình sai, đôi khi cũng không cần khăng khăng áp đặt ý kiến của bản thân. Đây là lúc phải nuôi dưỡng một xã hội phụ thuộc lẫn nhau, thay vì trở thành những thực thể bị chia cắt hoàn toàn và chỉ còn mang tính giao dịch
    • Tôi không ngờ lại nghe thấy từ George Hotz những điều nghe như chủ nghĩa phản tư bản cấp tiến
      Tuy vậy, tôi cũng đã cảm nhận những cảm xúc giống như Hotz bày tỏ trong bài viết này, và tôi đánh giá cao việc anh ấy đã nói ra điều đó

  • Câu trả lời là “đúng vậy”, và câu trả lời cho việc nó tệ đến mức nào là thật sự rất tệ. Con người trước đây chưa từng hiểu sự hợp tác bẩm sinh thiết yếu đến mức nào, và mong manh đến mức nào
    Điều gì sẽ xảy ra nếu tước bỏ khả năng dùng đường mòn pheromone của một đàn kiến?
    Điều gì sẽ xảy ra nếu lợi dụng các đường mòn pheromone của đàn kiến để khiến một số con kiến “hưởng lợi” bằng cách hy sinh những con khác?
    Kiến có thể hầu như không có ý thức về bản thân, nhưng nếu thêm cả ý thức vào đó, cho chúng biết rằng chúng đang bị thao túng, rồi lặp lại hai thí nghiệm trên thì sẽ ra sao?
    Một cách hay để hiểu các hệ thích nghi phức hợp như những hệ mà con người sử dụng là tự mình tạo ra một hệ như vậy. “Hidden Order” của John Holland gợi ý về cách làm đó