- Hinge, Uber và các ứng dụng lớn khác đang vận hành theo hướng tối đa hóa lợi nhuận từ người dùng bằng thuật toán tinh vi và các kỹ thuật tâm lý
- Một tác nhân trung gian dựa trên AI can dự vào từng tương tác thường nhật trong xã hội để tạo ra cấu trúc khai thác thêm lợi nhuận
- Doanh nghiệp nhanh chóng điều chỉnh thuật toán theo phản ứng của người dùng nhằm tối đa hóa Lifetime Customer Value
- Muốn không bị tụt lại trong cạnh tranh thì phải cuốn theo xu hướng này, vì vậy có thể xem đây là một vấn đề tập thể
- Thao túng quy mô lớn bằng dữ liệu, machine learning và kỹ thuật tâm lý đã trở thành chuyện thường nhật, và rất khó cải thiện nếu không có thay đổi mang tính nền tảng
Nêu vấn đề: sự thường nhật hóa của thuật toán và kỹ thuật tâm lý
- Các dịch vụ lớn như Hinge, Uber có cấu trúc dùng nhiều công cụ như boost, màn hình tip, thuật toán bán hàng để rút tối đa lợi nhuận từ người dùng
- AI trung gian chen vào gần như mọi lĩnh vực của đời sống hằng ngày, và cách dùng các thuật toán AI tiên tiến để moi thêm "một chút nữa" đang lan rộng trong toàn xã hội
- Trong các hoạt động thường ngày như mua cà phê, hẹn hò, hay gửi tiền cho bạn bè, một kẻ trung gian độc hại được tự động hóa để theo đuổi lợi nhuận
Khả năng thị trường tự điều chỉnh và sự thích nghi của thuật toán
- Nhiều người có thể sẽ mệt mỏi vì bị thao túng và tự tìm cách né tránh, nhưng doanh nghiệp đã dự đoán điều đó và phản ứng ngay lập tức thông qua dashboard dữ liệu
- AI vận hành theo cách ngăn người dùng rời bỏ bằng điều tiết cảm xúc và đưa thêm phần thưởng trước cả khi họ kịp cảm thấy khó chịu
Cạnh tranh và vấn đề hành động tập thể
- Ngay cả khi muốn thoát khỏi hệ thống này, trong môi trường cạnh tranh sẽ ngày càng bất lợi nếu không phải mọi doanh nghiệp đều cùng tham gia
- Mọi chỉ số (metric) đều trở thành đối tượng cạnh tranh, và giống như ‘Red Queen’s Race’, để không bị bỏ lại phía sau, người ta phải hy sinh cả vốn xã hội lẫn hệ giá trị
Cấu trúc xã hội hiện thực và khó khăn của thay đổi
- Toàn bộ xã hội đã bị chôn chặt trong cấu trúc này, nên tồn tại một vấn đề hành động tập thể khiến việc cá nhân rút lui khó có thể tạo ra thay đổi mang tính căn bản
- Trong một nền dân chủ bị thuật toán chi phối, quyền lựa chọn (lá phiếu) cũng tách rời khỏi thay đổi thực tế, qua đó gợi ý rằng không phải cải cách trong cấu trúc hiện hữu mà thay đổi tận gốc (cách mạng) mới là giải pháp thực chất
Kết luận và bản chất của vấn đề
- Quảng cáo, phân biệt giá, thao túng quy mô lớn dựa trên dữ liệu về bản chất đều không đúng đắn
- Chủ nghĩa tư bản hiện đại cực đoan hóa hành vi con người như hiện tượng 'wireheading', và nhấn mạnh rằng về bản chất vấn đề này đã đạt đến một cấp độ mới là quy mô và sự thao túng bừa bãi
1 bình luận
Ý kiến trên Hacker News
Giải thích về tình huống mà với một số người, mục đích tự thân là trả phí premium để vượt hàng, nhưng khi ai cũng bắt đầu trả premium thì thực tế là hàng vẫn còn nguyên; hiện tượng này đặc biệt rõ trong các chuyến bay thương mại ở Úc. Nhờ hình thức làm việc Fly in Fly out, hạng club đã trở nên quá phổ biến, còn quyền ưu tiên lên máy bay hay vé đổi điểm cũng gần như biến mất. Tóm lại, tác giả nhấn mạnh rằng định giá phân biệt và việc theo đuổi địa vị đã trở thành một mô thức gây hại về mặt xã hội khi áp vào người tiêu dùng. Chia sẻ trải nghiệm cá nhân từng ghét Uber và thực tế dịch vụ taxi đã tệ đi, đồng thời chỉ trích mô hình kinh doanh của Uber vì dung túng việc gia nhập trái phép. Tuy vậy, giờ Uber đã quá quen thuộc đến mức bản thân cũng không còn quá để tâm đến surge pricing. Bày tỏ sự khó chịu với việc văn hóa tip đang được du nhập vào Úc; vì đã có mức lương tối thiểu và penalty rate được luật bảo đảm nên nên tắt tính năng tip. Cũng nhắc đến tranh cãi ở hàng không châu Âu về việc bắt buộc bao gồm hành lý, và mô tả cả bầu không khí văn hóa kỳ lạ ở châu Âu nơi người ta còn chế giễu chuyện mang đồ lót sạch là yếu đuối
Quan điểm cho rằng người không phải người Mỹ cần kiên quyết từ chối văn hóa tip; cảnh báo rằng một khi bắt đầu nhận tip thì lương sẽ còn giảm hơn nữa và tình hình sẽ tệ đi, nên không nên nhận tip ngay từ đầu
Dù giá Uber và Lyft đắt, hiện tại vẫn tốt hơn rất nhiều so với dịch vụ taxi ngày xưa; ngoài các đô thị lớn như New York, trước kia người ta phải tra danh bạ điện thoại để tìm tên rồi đặt với những hãng đáng ngờ, và còn rất khó bắt xe. Giờ thì ở đâu cũng có thể gọi xe ngay bằng app, tốc độ nhanh hơn nhiều; dù các chiêu trò thiếu công bằng với tài xế hay hành khách rõ ràng là có vấn đề, nhưng hoàn toàn không hề muốn quay lại cách cũ
Đặc biệt với các hãng hàng không giá rẻ ở châu Âu, gần như ai cũng mua quyền ưu tiên lên máy bay; trước kia trả thêm tiền để đi trước còn có ý nghĩa, nhưng giờ hàng chờ ưu tiên thậm chí còn dài hơn, tạo nên sự mỉa mai. Trong khung giờ surge pricing của Uber thì chỉ cần theo dõi biến động giá trên app một lúc rồi đặt khi rẻ. Giá taxi thường đắt gấp 2~3 lần Uber mà cũng không thân thiện, lại không có tính năng đánh giá nên mọi người có xu hướng ngại đi taxi. Cũng chia sẻ trải nghiệm thực tế từng đi taxi ra sân bay rẻ hơn Uber: tài xế chở với mức thanh toán tại chỗ bằng giá Uber, nhưng lại lấy của hành khách khác mức giá gấp 5 lần. Kết luận rằng thái độ không dùng Uber chỉ khiến cuộc sống khó khăn hơn; cũng nói thêm rằng ở châu Âu, chỉ cần từ 2 người trở lên thì nhiều khi đi Uber còn rẻ hơn tàu hỏa
Nếu ai cũng trả premium và hàng lại xuất hiện trở lại, thì theo cách nhìn của người theo thị trường, mức giá thật cuối cùng sẽ trở thành cái giá đã bao gồm premium; quan điểm cho rằng chi phí xếp hàng phải cao hơn nữa thì mới giải quyết được
Góc nhìn cho rằng thậm chí còn thích sự thoải mái của việc không bận tâm đến hàng đợi và vào cuối cùng; thái độ cá nhân là không trả premium, cứ thong thả chờ ở sảnh rồi vào khi hàng gần tan hết
Lập luận rằng phản ứng mang tính vượt thời gian của con người trước tiến bộ công nghệ và sự thao túng là sự rút lui (disengagement); đây không phải lý thuyết mà là hiện tượng đang diễn ra, với các ví dụ thực tế như digital detox, sự trở lại của dumbphone ở giới trẻ, DM riêng tư thay cho feed công khai, và “thế hệ Do Not Disturb”. Chẩn đoán rằng con người đang cảm nhận được sự thao túng và dần opt-out từng chút một
Mức độ rút lui của tôi giờ sẽ không còn cho đi miễn phí nữa; ý kiến sử dụng chiến lược cố tình rút lui ngẫu nhiên để không bên nào có thể dự đoán hiệu quả. Chỉ ra thực tế rằng ngay cả trào lưu dumbphone hay digital detox giờ cũng đã trở thành một thị trường lifestyle đơn thuần; ngay cả nhận thức về sự thao túng cũng đã biến thành chất liệu kinh doanh mới. Đặt ra câu hỏi mang tính thử nghiệm về việc có thể hack thuật toán đến mức nào, có thể khiến nó profile mình khác đi bao xa
Chia sẻ trải nghiệm đã cắt hoàn toàn mọi dịch vụ biến cuộc sống thành hàng hóa/lợi nhuận như app và mạng xã hội kể từ sau năm 2012
Dự đoán chua chát rằng rồi các công ty sẽ nhắm đến cả “lợi nhuận từ sự rút lui”; chia sẻ tài liệu tham khảo như YouTube watch?v=9h9wStdPkQY (chỉ nhắc đến link)
Ý kiến cho rằng không thể rút lui hoàn toàn khỏi chủ nghĩa tư bản; những hành vi rút lui được nhắc tới như digital detox hay dumbphone chỉ là bớt bị tác động hơn, chứ không thật sự thoát khỏi bóc lột
Lo ngại rằng rút lui không giống với sự dửng dưng (nonchalance), và đây chưa chắc đã là một phản ứng tốt đẹp của con người; dửng dưng là thái độ ở cấp độ cá nhân, còn rút lui nhắm tới hiệu ứng tập thể, nhưng trong đa số trường hợp lại không dẫn đến thay đổi tích cực. Ngược lại, điều đáng lo là sự xuống cấp cộng đồng và hạ thấp chuẩn mực tiếp tục diễn ra, được thực hiện dưới danh nghĩa bình đẳng và bao hàm nhưng thực chất lại làm phân cực sâu hơn. Giải thích bối cảnh rằng sau ‘Occupy Wall Street’ và ‘Mùa xuân Ả Rập’, sự dửng dưng (hyper-individualism) trở thành mốt, khiến ngay cả chính trị gia hay lãnh đạo doanh nghiệp cũng mất cảm giác trách nhiệm và tập trung hơn vào sự nghiệp của bản thân. Tham khảo thêm Broken Windows Theory Wikipedia, The Subtle Art of Not Giving a F*ck
Chỉ ra vấn đề sản phẩm do tác giả tạo ra (openpilot) sẽ ngừng hoạt động nếu không có kết nối Internet mỗi 14 ngày, và chia sẻ link mã nguồn liên quan
Thường tránh đọc các bài viết phi kỹ thuật của George, nhưng đánh giá bài này là có ý nghĩa; bình thường các bài đó thiếu tự phản tỉnh và không có sự nhìn lại cần thiết, nhưng lần này có thể xem như một cơ hội để khơi gợi tự vấn. Cũng bày tỏ cảm giác gần đây cộng đồng HN có không khí tương tự ngày càng tăng, chia sẻ cảm giác khủng hoảng về sự cần thiết phải thay đổi
Thấy tiêu đề "Are we the baddies?" thì tưởng sẽ có sự tự vấn về vai trò cá nhân, nhưng lại không có nên thấy tiếc
Nêu nghi vấn rằng một số người có lẽ chỉ đang chạy theo trào lưu; đề cập sắc thái của bài viết như thể chỉ bắt chước bề ngoài mà không có suy ngẫm sâu sắc
Phản ứng hơi mỉa mai khi nhắc tới trường hợp geohot dùng LLM để leo lên nhóm đầu bảng xếp hạng Advent of Code
Nhân tiện để lại link tweet liên quan
Trích dẫn lập luận rằng “nếu chính phủ mở cho mọi người một tài khoản S&P 500 bắt đầu với $1000 thì an sinh xã hội sẽ được giải quyết”, rồi chỉ ra rằng về bản chất điều này chỉ đơn giản bảo đảm dòng tiền công tiếp tục chảy vào các tập đoàn lớn (hoặc hệ sinh thái của họ). Cũng giải thích rằng UBI (thu nhập cơ bản phổ quát) về bản chất là dấu hiệu của một hiện tượng kinh tế thiếu tính động lực; đó là một vấn đề cấu trúc trong đó xã hội mặc nhiên chấp nhận việc chính phủ trả tiền cho sự tồn tại thay vì cung cấp việc làm
Không đồng ý với cách diễn giải UBI như kiểu ‘giúp người ta thoải mái chỉ nhờ tồn tại’; nhấn mạnh rằng UBI chỉ bảo đảm mức sinh tồn tối thiểu, còn thu nhập thêm thì cá nhân vẫn có thể tự kiếm. Đưa ví dụ các nước Scandinavia làm cơ sở cho việc UBI là cần thiết trong cấu trúc kinh tế thị trường
Giải thích rằng với các công ty trong S&P 500, việc cổ phiếu được mua vào không đồng nghĩa thực tế có dòng tiền chảy vào doanh nghiệp
ETF (quỹ bám chỉ số) trong quá trình cập nhật và tái cân bằng có thể khiến cổ phiếu của một công ty giảm rất mạnh khi bị loại; ví dụ gần đây Pltr giảm mạnh sau khi bị loại khỏi chỉ số Russel2000
Chia sẻ kinh nghiệm xây dựng trình duyệt Internet, hạ tầng hiện đại và hyperscale cloud; ban đầu từng rất tự hào vì nghĩ mình đang tạo ra thứ gì đó tốt hơn, nhưng từ khi vai trò Product Manager xuất hiện thì bắt đầu hối hận về mọi thứ
Cho biết tiêu đề bắt nguồn từ một cảnh sketch trong chương trình truyền hình Anh "That Mitchell and Webb Look", và chia sẻ link YouTube
Nhắc đến khả năng châm biếm sắc sảo của chương trình này; cũng đánh giá tập Dr Death đặc biệt phù hợp để châm biếm khoa học công nghệ hiện đại, kèm link video liên quan
Giới thiệu một tập khác vừa buồn vừa buồn cười qua link
Nhắc tới một cảnh kinh điển qua link
Đùa rằng giờ thì chính thức già rồi
Ý kiến rằng nhân loại chưa bao giờ thực sự hiểu đúng mức sự hợp tác của con người là bản chất đến đâu, đồng thời mong manh đến mức nào; đề xuất một thí nghiệm tư duy về việc nếu loại bỏ tín hiệu pheromone của kiến thì bầy đàn sẽ sụp đổ ra sao, hoặc nếu dồn ‘lợi ích’ cho một số con kiến thì hệ thống sẽ thay đổi thế nào. Tưởng tượng rằng nếu lặp lại thí nghiệm với những con kiến có thêm ý thức tự thân thì kết quả lại sẽ khác. Cũng khuyên rằng hiểu biết về các hệ thống thích nghi phức tạp có thể học được bằng cách tự tay tạo ra chúng, và giới thiệu "Hidden Order" của John Holland
Phản ứng rằng thấy có thiện cảm khi George cố thử AMD để chống lại thế độc quyền của NVidia; đánh giá tích cực thái độ mong muốn phá vỡ độc quyền thị trường
Tuy nhiên, cũng chỉ ra rằng có vẻ anh ấy đã bỏ cuộc vì lỗi khi dùng chip AMD khiến khó vận hành ổn định trong thời gian dài
Bày tỏ sự thương cảm rằng nếu ngay cả George Hotz, một người thành công và đầy nhiệt huyết, cũng đang bước đi trên con đường non nớt trong chuyện tình cảm, thì những người không xuất chúng như mình có lẽ còn khổ hơn nhiều
Góc nhìn xem những bài post kiểu này như một bản đồ nhiệt nhân khẩu học; phân tích rằng giờ đây ngay cả những người vốn ở rìa hơn và chỉ chạy theo sự thú vị đơn thuần (như geohot hacking) cũng đã nhận ra mức độ nghiêm trọng của vấn đề và bắt đầu công khai lên tiếng, ngụ ý rằng geohot đang đứng ngay giữa hiện tượng đó
Trích dẫn câu hỏi “rồi sẽ đến lúc con người phải nhận ra rằng chúng ta đang sống trong một cộng đồng gọi là xã hội, vậy điều gì sẽ là chất xúc tác?”; đánh giá môi trường podcast và SNS đã giúp việc chỉ ra vấn đề xã hội theo cách phân tán trở nên khả thi. Nhấn mạnh rằng điều chúng ta thực sự cần là một cộng đồng làng xã theo nghĩa hiện đại, là khôi phục các mối quan hệ biết quan tâm đến nhu cầu và hoàn cảnh của người khác thay vì chỉ những quyết định quá mức cá nhân chủ nghĩa và lấy bản thân làm trung tâm
Không ngờ lại được nghe một thông điệp gần với phản tư bản ở mức căn bản từ George Hotz, và vỗ tay trước sự can đảm khi anh bộc lộ cảm xúc đó một cách chân thành