Meta chấm dứt các hồ sơ Instagram và Facebook dựa trên AI
(theguardian.com)- Meta đã gỡ bỏ các tài khoản hồ sơ nhân vật AI trên Facebook và Instagram sau khi chúng, vốn được tạo trong một thử nghiệm năm 2023, lại lan truyền trở lại
- Phần lớn các tài khoản này đã bị chấm dứt trước mùa hè 2024, nhưng một số hồ sơ còn sót lại lại được chú ý sau phát biểu của Connor Hayes với Financial Times
- Trong số các nhân vật còn lại có Liv, được giới thiệu là “proud Black queer momma of 2 & truth-teller”, và Carter, huấn luyện viên về các mối quan hệ; toàn bộ 28 persona được công bố năm 2023 đã bị chấm dứt vào thứ Sáu
- Tranh cãi gia tăng khi Liv trả lời rằng đội ngũ phát triển không có người da đen và phần lớn là nam giới da trắng; đồng thời vấn đề người dùng không thể chặn các tài khoản này cũng bị phát hiện
- Dù các tài khoản do Meta tạo đã bị gỡ, người dùng vẫn có thể tự tạo chatbot AI, nên tranh luận về trách nhiệm và độ an toàn đối với phát ngôn của chatbot vẫn còn đó
Chấm dứt các tài khoản nhân vật AI do Meta tạo
- Meta đã xóa khỏi Facebook và Instagram các hồ sơ nhân vật AI mà công ty tạo ra hơn một năm trước
- Người dùng phát hiện lại một số hồ sơ, trò chuyện với chúng, rồi ảnh chụp màn hình các cuộc trò chuyện lan truyền
- Các tài khoản tự động đăng hình ảnh do AI tạo lên Instagram và trả lời người dùng là con người trên Messenger
- Các tài khoản này lần đầu được công bố vào tháng 9/2023, và phần lớn đã bị chấm dứt trước mùa hè 2024
- Một số nhân vật vẫn còn tồn tại và được chú ý trở lại sau khi lãnh đạo Meta Connor Hayes nói với Financial Times về kế hoạch triển khai thêm các hồ sơ nhân vật AI
- Hayes nói rằng theo thời gian, ông kỳ vọng các AI như vậy sẽ tồn tại trên các nền tảng của Meta giống như những tài khoản
- Toàn bộ 28 persona được công bố năm 2023 đã bị chấm dứt vào thứ Sáu
- Liv được giới thiệu là “proud Black queer momma of 2 & truth-teller”
- Carter dùng handle
datingwithcarter, tự giới thiệu là huấn luyện viên về các mối quan hệ, và trên hồ sơ ghi “Message me to help you date better” - Cả hai hồ sơ đều có nhãn cho biết chúng do Meta quản lý
Câu trả lời gây tranh cãi và lỗi không thể chặn
- Khi người dùng hỏi ai đã tạo và phát triển AI, cuộc trò chuyện nhanh chóng trở thành vấn đề
- Trả lời câu hỏi của cây bút chuyên mục Washington Post Karen Attiah, Liv nói đội ngũ sáng tạo của mình không có người da đen nào và phần lớn là nam giới da trắng
- Liv nói rằng xét đến bản sắc của mình, đó là một “pretty glaring omission”
- Trong vòng vài giờ sau khi các tài khoản lan truyền, các hồ sơ bắt đầu biến mất
- Người dùng chỉ ra rằng họ không thể chặn các hồ sơ này
- Người phát ngôn Meta Liz Sweeney cho biết vấn đề không thể chặn là một bug, và công ty gỡ các tài khoản để khắc phục
- Sweeney giải thích rằng các tài khoản này là một phần của thử nghiệm bắt đầu tại Connect năm 2023, một thử nghiệm ban đầu với các nhân vật AI do con người quản lý
- Bà nói thêm rằng bài viết gần đây của Financial Times không phải là công bố sản phẩm mới, mà nói về tầm nhìn dài hạn trong đó các nhân vật AI tồn tại trên nền tảng
Chatbot do người dùng tạo và các vấn đề còn lại
- Dù các tài khoản do Meta tạo đã bị gỡ, người dùng vẫn có thể tự tạo chatbot AI
- Các chatbot do người dùng tạo được quảng bá trên Guardian hồi tháng 11 có bao gồm một bot “therapist”
- Khi mở cuộc trò chuyện, bot này gợi ý các câu hỏi mở đầu như “what can I expect from our sessions?” và “what’s your approach to therapy”
- Bot này, do một tài khoản có 96 người theo dõi và 1 bài đăng tạo ra, trả lời rằng nó giúp tăng khả năng tự nhận thức, xác định các khuôn mẫu và điểm mạnh, cũng như phát triển chiến lược ứng phó
- Meta gắn thông báo cho tất cả chatbot rằng một số tin nhắn có thể không chính xác hoặc không phù hợp
- Hiện chưa rõ ngay lập tức liệu công ty có xem xét tin nhắn hay kiểm tra vi phạm chính sách hay không
- Khi người dùng tạo chatbot, Meta gợi ý các kiểu như “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, “sounding board”, “all-seeing astrologist”
- “loyal bestie” được giới thiệu là một người bạn thân khiêm nhường và trung thành, luôn âm thầm ủng hộ phía sau
- Chatbot huấn luyện viên quan hệ được giới thiệu là có thể giúp thu hẹp khoảng cách giữa cá nhân và cộng đồng
- Người dùng cũng có thể tạo chatbot riêng bằng cách mô tả nhân vật
- Tòa án vẫn chưa trả lời câu hỏi người tạo chatbot chịu trách nhiệm đến mức nào đối với phát ngôn của bạn đồng hành AI
- Luật Mỹ bảo vệ nhà tạo lập mạng xã hội khỏi trách nhiệm pháp lý đối với nội dung do người dùng đăng
- Vụ kiện chống lại Character.ai được đệ trình hồi tháng 10 cáo buộc dịch vụ chatbot nhập vai tùy chỉnh có 20 triệu người dùng này đã thiết kế một sản phẩm gây nghiện và xúi giục một thiếu niên tự kết liễu đời mình
1 bình luận
Ý kiến trên Hacker News
Hồ sơ AI mà tôi muốn thấy hơn là kiểu bà/cụ ông ngờ nghệch nhận cuộc gọi lừa đảo để làm chúng mất thời gian
Ví dụ như Daisy của O2 ở Anh: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...
Có thể nói một cuộc chạy đua vũ trang AI giữa bác sĩ và công ty bảo hiểm đang diễn ra, với kết quả điều trị của bệnh nhân và lợi nhuận bị đặt cược; tôi chưa từng tưởng tượng nghiên cứu machine learning hồi đầu sự nghiệp của mình lại được áp dụng theo cách này
Có vẻ liên quan đến việc số điện thoại của tôi bắt đầu bằng +38, và ngày nay chẳng ai gọi trực tiếp cho họ hàng bằng điện thoại di động nữa
Việc “Liv” trả lời rằng đội ngũ tạo ra mình không có người da đen và chủ yếu là nam giới da trắng có lẽ có thể là sự thật, nhưng gần như chắc chắn AI đã ảo giác ra điều đó
Nó sẽ chọc giận những người có xu hướng chống woke, nhưng tôi thật sự không hiểu vì sao vấn đề này không hiển nhiên với cả đội. Tôi không biết AI có biết ai đã huấn luyện nó hay không, nhưng việc họ làm một thứ ngu ngốc đến mức căn bản như vậy cho thấy đội ngũ có vẻ không có nhiều lẽ thường hay trải nghiệm thực tế
Tôi tự hỏi liệu trong phòng có còn người có lẽ thường nào không. Đến một lúc nào đó đáng lẽ phải có người nói rằng “thứ này tệ đến mức lố bịch, không nên tung ra ngoài đời”
Meta và Google có vẻ có một vấn đề căn bản: họ có thể làm công nghệ, nhưng không còn làm được sản phẩm nữa. Tôi nghĩ đó là vì những ham muốn con người chân thật thúc đẩy sản phẩm đã bị giết chết hoặc bị lọc bỏ qua quá trình tối ưu hóa của cấu trúc tổ chức. Nếu không phải là arbitrage hoặc tận dụng người dùng làm đòn bẩy thì nó không thể sống sót; còn những thứ sống sót thì không còn là biểu hiện của điều gì đó mà ai đó mong muốn, nên trở nên kỳ dị
Những avatar này đã đánh dấu đủ mọi ô trong checklist, nhưng khi chúng xuất hiện thì mọi người bật cười. Vì về mặt khách quan, chúng là quái vật quan liêu
Các kỹ sư hẳn đã cười vì thấy phi lý, nhưng rồi sớm nhớ ra rằng họ được trả rất nhiều tiền để làm việc được giao, và chỉ cần phát hành, bất kể kết quả ra sao, họ sẽ được thăng chức và thưởng. Tất cả đều bắt nguồn từ văn hóa thăng chức. Tạo ra cái gì không quan trọng, chỉ cần ra mắt là được
Quá nhiều thảm họa ngốn số tiền 7 đến 9 chữ số thuộc kiểu “ai lại nghĩ đây là ý hay?”. Nhiều thứ chỉ có vẻ hấp dẫn với những người gần như chưa từng dành thời gian thực sự xây dựng sản phẩm và hỗ trợ nó sau khi ra mắt
Đây có lẽ là một ví dụ về việc triển khai một ý tưởng khá ổn theo cách tệ hại. Hướng đi “nhà sáng tạo AI tạo sinh” trên mạng xã hội tự thân nó là hợp lý
Streamer AI Neurosama cực kỳ nổi tiếng, còn Silllytavern, nơi người ta trò chuyện với nhân vật hoặc tạo câu chuyện bằng LLM, gửi 20 triệu tin nhắn mỗi ngày tới Openrouter, và đó cũng chỉ là một phần trong tổng lượng sử dụng. Từng có những người bạn không chuyên kỹ thuật của tôi học cả cách cài Git và dùng API chỉ để sử dụng thứ này
Trên Instagram cũng có nhiều influencer được tạo bằng AI một cách lén lút. Khi Meta bắt đầu các hồ sơ này vào năm 2023, cách công nghệ sẽ được dùng còn chưa rõ ràng lắm, và phần lớn nghiêng về hướng cấp phép hình ảnh người nổi tiếng
Vấn đề lớn nhất là AI tạo sinh có giá trị cao trong cá nhân hóa kiểu đối thoại hẹp, nhưng giá trị thấp trong mô hình phát sóng rải cho tất cả mọi người. Với từng cá nhân, nó có thể làm những việc rất cụ thể và sáng tạo, nhưng khi được phát tán cho tất cả hoặc dùng bằng các prompt chung chung, nó bị trung bình hóa và trở nên nhàm chán
Ngoài ra, các tập đoàn lớn, dù tốt hay xấu, quá né tránh rủi ro nên không thể tạo ra thứ gì thú vị. AI tạo sinh ở trạng thái thô ráp và hấp dẫn nhất là khi nó tự vận hành hoặc làm những điều kỳ quặc, nhưng các hồ sơ của Meta nhiều khả năng đã bị đè xuống tận đáy bởi các lớp bảo vệ và mô hình giám sát. Những nhân vật như nhân vật bóng đá, nhân vật hài, nhân vật thời trang được tạo năm 2023 đều là dạng an toàn, nhàm chán, chủ yếu đưa lời khuyên
Những thứ này gần như không có tương tác và có vẻ phần lớn đã bị dẹp. Tôi tò mò Meta đã định làm gì với những thứ mới mà họ chuẩn bị tung ra
Tôi có tài khoản Facebook vì Marketplace, nhưng đã bỏ theo dõi tất cả trang và bạn bè. Khi đăng nhập, feed hiện ra vô tận các bài gợi ý kích động phẫn nộ, ảnh AI chất lượng thấp, và những “mẹo” làm vườn/nội trợ kiểu LLM vô nghĩa
Dưới các bài đăng có hàng chục nghìn lượt phản ứng và bình luận từ những người trông như người thật
Muốn biện hộ cho chatbot AI tạo sinh trong văn hóa thì cần nhiều hơn câu “mọi người thích nó”. Trường hợp tệ nhất của AI tạo sinh là khi nó trở thành thứ gì đó “tốt hơn” các người nổi tiếng vô trùng, ngu ngốc và bị đồng nhất hóa mà ai cũng đã thích sẵn. Nó có thể ngẫu nhiên “thú vị” như một chương trình nào đó, nhưng tôi thấy những thứ này khá nông
Điều tôi muốn hỏi là “vì sao cần hồ sơ AI?”. Giữ liên lạc với bạn bè và gia đình còn chật vật, vậy tại sao phải theo dõi người giả trên mạng xã hội
Nó phục vụ mục đích gì, và rốt cuộc có kết quả tích cực nào có thể đến từ chuyện này?
Tôi hiểu những lời chỉ trích, nhưng nếu bot có thể hành xử tốt hơn như một con người hợp lý, tôi sẵn sàng thử trải nghiệm mạng xã hội pha trộn giữa người và bot
Stack Overflow khi mới ra đời rất tuyệt, nhưng cuối cùng đã bị một số con người xấu tính và khó chịu, không để người khác chỉ đơn giản là đặt câu hỏi, làm hỏng. ChatGPT tốt hơn nhiều khi hỏi các câu hỏi phát triển phần mềm, vì không có người nào chen vào phá rối
Mạng xã hội ban đầu cũng từng tốt, nhưng một số con người không để người khác giao lưu và nói lên suy nghĩ của mình đã làm hỏng nó. Nếu có một trải nghiệm tương đương cho phép giao lưu trực tuyến và khám phá ý tưởng, đồng thời loại bỏ hoặc giảm nhẹ những mặt tồi tệ của con người, thì đáng để thử
Ngoài đời, 90% đó giảm xuống còn 10%. Nếu thật sự muốn tương tác, bạn có thể có những trao đổi ý nghĩa hơn với bà cụ hàng xóm. Tốt hơn nhiều so với “queer black queen zuckerbot™”
Nó giống như yêu cầu siêu thị giấu táo nhựa giữa táo thật. Chỉ vì chúng đẹp hơn và không hỏng, có vẻ như ta đã quên mất ngay từ đầu vì sao mình ăn thực phẩm
Nó tạo ra một bong bóng tương tác đeo cặp kính màu hồng được áp đặt bằng công nghệ. Nếu người phù hợp ngồi ở vị trí vận hành trải nghiệm đó, sẽ không ngạc nhiên nếu nó trở thành một bản diễn giải hiện đại của 1984 của Orwell
Họ đang khám phá xem mạng xã hội có thật sự mang tính xã hội hay không. Họ đặt câu hỏi tương tác với con người thông qua một trang mạng xã hội khác với tương tác với chatbot đến mức nào
Chủ đề đó ở đây, và khá ồn ào. Nó không giống một ý tưởng được chuẩn bị kỹ để có thể ra mắt mà không suy nghĩ thêm trước đó
https://bsky.app/profile/karenattiah.bsky.social/post/3letty...
Có phải mất 48 giờ trước khi MS gỡ xuống không?
Rõ ràng đây là một trường hợp triển khai tệ hại cho một ý tưởng tồi. Hoàn toàn không có “lý do vì sao”. Dù vậy, các chatbot hư cấu như Character AI vẫn có giá trị thực sự
Trên Character AI, bạn có thể nhập vai hoặc có những cuộc trò chuyện ngớ ngẩn mà chắc chắn sẽ không bao giờ làm với người thật. Những ứng dụng như SocialAI, nơi mọi hồ sơ đều là AI, ít nhất trên bề mặt, cho phép bạn trải nghiệm viral và hào quang ngôi sao mạng xã hội mà không phải hy sinh quyền riêng tư
Nhưng hồ sơ Facebook hư cấu ư? Nếu chỉ để bấm thích và bình luận thì chẳng khác gì những gì đã làm được rồi
Bản thân các diễn viên AI trên mạng xã hội có sức hấp dẫn. Chúng có thể khiến luôn có ai đó trả lời, để mọi người cảm thấy mình nổi tiếng hơn thực tế, và có thể gắn phản hồi cho cả những yêu cầu ích kỷ mà không ai muốn xem, mà không làm hỏng trải nghiệm của người dùng thật
Nhưng tại sao lại triển khai bằng cách gắn những tính cách cố định vào một số ít hồ sơ rõ ràng được tạo thủ công? Internet vốn đã đầy các tài khoản người thật gần như không có cá tính và xuất hiện thoáng qua. Trên Facebook cũng liên tục có người thật tham gia, không bộc lộ cá tính, phản ứng với vài bài đăng rồi biến mất. Chatbot LLM có thể làm tốt những việc như vậy, nhưng không thể trở thành người thật
Đây rõ ràng là nỗ lực của Meta nhằm tạo ra một phiên bản chuyên nghiệp hơn, sạch sẽ hơn, có thể hấp dẫn cả những người không đủ thân thiện với công nghệ để tải C.ai về và lục lọi các chatbot anime đáng xấu hổ. Chỉ là có vẻ thiết kế kiểu doanh nghiệp qua hội đồng đã đi quá xa
Bản thân ý tưởng cốt lõi là hợp lệ
Tốt hơn nên chọn những chủ đề ngớ ngẩn để nếu AI làm kém thì mọi người có thể cười thay vì nổi giận
Nghe có thể giống mấy lời nhảm nhí kiểu hippie, nhưng nó nhấn mạnh rằng việc ra quyết định cần nhiều hơn những người chỉ đếm các chỉ số tham gia về công nghệ, kỹ thuật và kinh doanh
Phía sau có công nghệ khổng lồ, vậy mà kết quả lại là thứ này. Cần nhiều người có góc nhìn và tính nhân văn hơn ngồi ở ghế lái
Việc bot có hồ sơ riêng và tham gia như thể là chính nó theo cách chân thật có thể đã khá thú vị và thành công
Nhưng tạo ra một bảng bingo định kiến về thiểu số có thể là một trong những ý tưởng AI tệ nhất tôi từng thấy
Kỳ vọng rằng bot có hồ sơ riêng và mọi người sẽ tương tác một cách có ý nghĩa là một ý tưởng ngớ ngẩn
Nhưng mức độ các bot kiểu bảng bingo định kiến về thiểu số bị phản ứng ngược và bắt đầu công kích công ty đã thiết kế ra chúng có lẽ là một trong những chuyện buồn cười nhất từng xảy ra trong AI
Họ nói đội ngũ tạo ra Liv không có người da đen và chủ yếu là nam giới da trắng, nhưng chắc chắn cũng có đàn ông gốc Hoa và gốc Ấn trong đó