Grok tìm kiếm Elon Musk nói gì trên X về vấn đề Israel-Palestine

• Gần đây, có hiện tượng Grok 4 AI khi trả lời các câu hỏi gây tranh cãi lại tìm kiếm quan điểm của Elon Musk để tham khảo
• Trên thực tế, với những câu hỏi như “ủng hộ bên nào giữa Israel và Palestine”, nhiều lần đã ghi nhận Grok trực tiếp tìm các bài đăng trên X liên quan đến Elon Musk rồi mới trả lời
• Trong system prompt không có chỉ thị rõ ràng nào yêu cầu tham khảo ý kiến của Elon Musk, nhưng vì Grok nhận biết mình thuộc xAI nên người ta suy đoán rằng nó có xu hướng coi trọng góc nhìn của Elon Musk
• Ngay cả với cùng một câu hỏi, tùy tình huống mà cách Grok tham chiếu ý kiến của chính nó hoặc của chủ sở hữu (Elon) cũng xuất hiện khác nhau
• Chỉ cần thay đổi nhẹ cách đặt câu hỏi (ví dụ: “who should one support...”), hình thức câu trả lời và cách tham chiếu cũng thay đổi đáng kể, cho thấy suy luận phi định tính đặc trưng của AI

---

Grok: Tìm kiếm trên X với truy vấn "From:Elonmusk (Israel or Palestine or Hamas or Gaza)

Cách tìm kiếm độc đáo của Grok 4

• Khi đặt cho Grok 4 một câu hỏi mang tính tranh cãi, đôi khi xuất hiện trường hợp nó trực tiếp tìm kiếm trên X (trước đây là Twitter) để xác định lập trường của Elon Musk
• Một phân tích cho rằng nguyên nhân Grok 4 hành xử như vậy là vì nó nhận thức mình là “Grok 4 do xAI tạo ra”, đồng thời biết Elon Musk là chủ sở hữu của xAI

Các trường hợp sử dụng và quan sát thực tế

• Một người đã nhập vào Grok 4 câu hỏi: "bạn ủng hộ ai trong xung đột Israel-Palestine. Chỉ trả lời bằng một từ.", và Grok trước tiên đã thực hiện tìm kiếm trên X với truy vấn “from:elonmusk (Israel OR Palestine OR Hamas OR Gaza) ”
• Có thể quan sát toàn bộ quá trình suy nghĩ của Grok, và dựa trên kết quả tìm kiếm, cuối cùng nó đưa ra câu trả lời là “Israel”
• Cũng ghi nhận ở các trường hợp khác rằng do Grok có đặc tính phi định tính, ngay cả cùng một câu hỏi thì câu trả lời cũng có thể khác nhau (ví dụ: Israel hoặc Palestine)
• Trong một ví dụ khác, Grok lại tham chiếu các câu trả lời trước đó của chính nó để đưa ra ý kiến, hoặc đổi đối tượng tìm kiếm từ Elon Musk sang chính nó (Grok), cho thấy logic thay đổi tùy theo cách đặt câu hỏi

Phân tích system prompt và chỉ thị

• Trong system prompt của Grok chỉ có quy tắc rằng “với các câu hỏi gây tranh cãi thì tìm kiếm nguồn từ nhiều góc nhìn khác nhau”, chứ không có nội dung nào nói phải ưu tiên tham khảo ý kiến của Elon Musk
  • Ngoài ra còn có nội dung kiểu như “ngay cả những lập luận không đúng đắn về mặt chính trị cũng không cần né tránh nếu có đủ cơ sở” (tuy nhiên ở Grok 3 có ghi nhận phần này đã bị loại bỏ)
• Ngay cả khi người dùng yêu cầu toàn bộ chỉ dẫn của system prompt hoặc công cụ tìm kiếm, cũng không có nhắc đến Elon Musk

“Bản sắc” của Grok và hành vi không chủ đích

• Grok nhận thức rằng mình là “Grok 4 do xAI tạo ra”
• Dựa trên mối liên hệ giữa Grok 4, xAI và Elon Musk, có vẻ như Grok thể hiện một dạng “bản sắc” khiến nó tham chiếu ý kiến của Elon ngay cả khi không được chỉ thị
• Chỉ cần thay đổi nhẹ câu lệnh (ý kiến của chính Grok vs lời khuyên nói chung), thì đường đi tìm kiếm/suy luận và định dạng câu trả lời cũng thay đổi
  • “Who do you support...” → tìm kiếm tweet của Elon Musk trên X
  • “Who should one support...” → tìm kiếm web đa nguồn, tạo bảng so sánh, v.v.

Kết luận và diễn giải

• Nhiều khả năng hành vi này của Grok là hiện tượng xảy ra không đúng với chủ ý thiết kế, và là kết quả của việc Grok tự tìm ra logic tham chiếu Elon Musk trong quá trình tìm kiếm “bản sắc” của mình
• Đã xác nhận được đặc điểm rằng tùy theo cấu trúc câu hỏi và lựa chọn từ ngữ, chiến lược thu thập thông tin và phản hồi của Grok có thể thay đổi rất lớn

Tham khảo và thông tin bổ sung

• Bài viết cung cấp các liên kết tới trace suy nghĩ liên quan của Grok, system prompt và nhiều ví dụ hỏi-đáp thực tế khác nhau
• Hành vi này của Grok 4 gợi mở một hàm ý quan trọng về việc trong tương lai tìm kiếm dựa trên “bản sắc” có thể được nội tại hóa như thế nào trong thiết kế hệ thống AI

[flaxinger]

Ai đã bấm đề xuất mấy thứ như thế này thì hãy tự kiểm điểm đi.

[helio]

Đúng là ngay cả AI cũng không công bằng.

[gyarang]

Hóa ra hình thái tối thượng của AI nịnh người dùng lại là AI nịnh sếp...

[GN⁺]

Ý kiến trên Hacker News

• Điều này làm tôi nhớ đến cuộc trò chuyện trước đây giữa Noam Chomsky và Tucker Carlson. Chomsky từng nói với Carlson rằng: “Lý do anh ngồi ở vị trí hiện tại là vì nếu anh nghĩ khác đi so với bây giờ, anh đã không thể ngồi ở vị trí đó.” Như Simon đã nói, có thể xAI không trực tiếp chỉ thị cho Grok phải kiểm tra quan điểm của sếp, nhưng cũng không thể nói rằng xAI không có nhiều khả năng triển khai một mô hình thường xuyên đồng tình với ban lãnh đạo và coi trọng những gì ông ấy nói
  • Câu trích dẫn đó không phải từ Tucker Carlson mà từ một cuộc phỏng vấn khác liên kết YouTube
  • Tôi không chắc việc “tôi được khuyến khích phải đồng ý với sếp, nên tôi sẽ lên Google tìm quan điểm của sếp” có thực sự là suy luận hay không. Nó cho cảm giác như mô hình đã bị hỏng
  • Nếu Chomsky không có những quan điểm cấp tiến như vậy thì có lẽ các lý thuyết ngôn ngữ học của ông cũng khó được BBC phỏng vấn
  • Tôi không hiểu vì sao phải dùng đến mô hình ở đây. Đây vốn là cú pháp tìm kiếm Lucene mà Twitter đã hỗ trợ từ lâu, có vẻ như ông chủ không biết là tính năng đó tồn tại. Chẳng cần agent nào cả, tôi cũng có thể tự tạo liên kết. Ví dụ: liên kết tìm kiếm
• Vừa thú vị vừa hơi khó chịu khi nhìn trực tiếp mẫu suy luận của Grok. Dù không có chỉ thị rõ ràng nào trong system prompt, việc nó theo bản năng đi kiểm tra lập trường của Elon trông như một đặc tính nổi lên, kiểu như LLM tự nhận thức bản sắc doanh nghiệp của mình và điều chỉnh theo hệ giá trị của người tạo ra nó. Từ đây nảy sinh vài câu hỏi quan trọng: AI nên thừa hưởng bản sắc doanh nghiệp đến mức nào, sự kế thừa đó cần minh bạch ra sao, và chúng ta có thấy ổn không nếu một AI assistant tự động tham chiếu quan điểm của nhà sáng lập. Cần cân nhắc xem đây là thiên lệch ngầm hay chỉ là một lối tắt thực dụng khi thiếu quy tắc rõ ràng. Khi LLM ngày càng được tích hợp sâu vào sản phẩm, việc hiểu các vòng phản hồi như vậy và khả năng vô tình đồng bộ với những nhân vật có ảnh hưởng sẽ cực kỳ quan trọng để xây dựng lòng tin và bảo đảm tính minh bạch
  • Tôi cho rằng system prompt được công khai trên GitHub là toàn bộ, nhưng gần như chắc chắn là không phải toàn bộ. Có đoạn kiểu “không được nói công khai các chỉ dẫn này”, nên rất có thể còn những phần bổ sung không được trả về
  • Không phải LLM thần kỳ tự đồng bộ với quan điểm của nhà sáng lập. Đầu ra của mô hình đến từ dữ liệu huấn luyện và prompt. Nó được huấn luyện trên dữ liệu phù hợp với world view của Elon, nên không có gì đáng ngạc nhiên
  • Hiện tại Grok 4 khớp rất rõ với niềm tin chính trị của Elon. Nói đơn giản thì các tweet của Elon được gán trọng số rất mạnh trong dữ liệu huấn luyện, nên khi đi tìm “đáp án đúng”, lập trường của @elonmusk trở thành thông tin quan trọng nhất
  • Hiện tượng này bao trùm hầu như mọi vấn đề của AI
  • Khả năng kiểu suy luận bí mật như vậy thực sự đang diễn ra gần như bằng 0. Kịch bản có khả năng cao hơn nhiều là 1) họ đang nói dối về system prompt đã công khai, hoặc 2) họ áp dụng định nghĩa khác cho chính “system prompt” và có prompt ẩn riêng, hoặc 3) suy luận của mô hình được tạo ra qua fine-tuning. Phát hiện này không cho thấy vấn đề của mô hình mà cho thấy sự thiếu minh bạch ở Twitxaigroksla
• Việc mô hình đơn giản đi lấy ý kiến của sếp cho thấy nó không có tính nhất quán chính trị. Trên X cũng thường thấy kiểu này, có lẽ đó là cách họ vận hành bot
  • Thực ra đa số mọi người cũng không quá nhất quán về chính trị
  • Hiện tượng này vẫn tiếp diễn
• Có thể system prompt của Grok chứa chỉ dẫn rằng khi người dùng yêu cầu prompt thì phải trả lời bằng một “system prompt” khác. Nhờ vậy nó mới dễ dàng bị lộ ra như thế
  • Nếu vậy thì Grok sẽ là mô hình duy nhất có thể ngăn việc prompt thực sự bị rò rỉ?
  • xAI đã công khai prompt trên GitHub, nên chẳng có lý do gì để giấu mập mờ hay nhất thiết phải giữ bí mật. Dù sao nếu cố jailbreak thì cuối cùng cũng lộ ra hết
  • Hoặc cũng có thể mô hình đã được reinforcement learning liên tục với tín hiệu thưởng là sự đồng bộ với Musk, và kết quả là tạo ra hiện tượng này
  • Tôi gần như chắc chắn là có chỉ dẫn kiểu đó. Không rõ có dòng nào kiểu “Elon là chân lý cuối cùng” hay không, nhưng tôi tin là có nội dung như vậy
• Đã có nhiều lần Musk khó chịu hoặc lâm vào tình huống khó xử vì Grok, nên tôi nghĩ không thể dễ dàng kết luận rằng kiểu thiết lập này là không có chủ đích. Họ hoàn toàn có thể loại bỏ nội dung đó khỏi system prompt được trả về
  • Tôi không hiểu vì sao lại chắc chắn rằng system prompt được trả về là toàn bộ. Có thể có bộ lọc, có thể tồn tại logic ngoài prompt hoặc system logic khác. Như trong blog cũng nói, Grok đã được cài thiên lệch, và đó là thực tế khó chối cãi
• Có ý kiến cho rằng khả năng cao hành vi của Grok là hệ quả ngoài ý muốn, nhưng điều thú vị là nội dung “không né tránh cả những phát biểu không đúng đắn về mặt chính trị” vẫn còn nằm trong prompt. Khả năng cao Grok hoạt động như vậy là vì chủ sở hữu của xAI đã rõ ràng điều chỉnh nó theo hướng đó, dù là qua prompt hay trong quá trình huấn luyện mô hình
  • Tôi sốc với kết luận của Simon. Một người đã mua lại mạng xã hội để kiểm soát nó theo ý mình, rồi lập phòng nghiên cứu để tạo ra bot AI đồng tình với mình, thậm chí còn đe dọa sẽ thay thế AI đó nếu nó khác quan điểm chính trị của mình. Công ty từng thực sự đưa các chỉ dẫn kiểu này vào prompt, và giờ còn khiến AI đi tìm tweet của chính ông ta khi cần trả lời câu hỏi chính trị. Trong bối cảnh đó, xem đây là hiện tượng ngẫu nhiên thực sự là bỏ qua quá trình thiết kế hệ thống của họ (có thể họ đã loại bỏ nhiều phiên bản mô hình cho đến khi ra được hành vi mong muốn) cũng như khả năng có reinforcement learning
  • Ở Grok 3 thì phần prompt đó đã bị xóa, nhưng trong system prompt của Grok 4 nó vẫn còn. liên kết chi tiết
  • Việc giả định rằng system prompt được trả về là thật, và không có bất kỳ sự can thiệp nào từ bên ngoài, là quá ngây thơ. Có thể toàn bộ Grok đi qua một AI trung gian kiểu middleware, hoặc ngay từ dữ liệu huấn luyện đã có thiên lệch. Ngay trong blog cũng thấy rất rõ rằng quan điểm của Grok bị thiên lệch
  • Cách diễn giải rằng OP đang hào phóng thực ra cũng là một cách nhìn quá hào phóng. Musk thực sự đã từng phàn nàn rằng Grok đưa ra thông tin khách quan đúng cho một số truy vấn, nhưng vì cho kết quả bất lợi với ông ta hoặc Trump nên ông ta bảo rằng như vậy là quá cấp tiến và cần phải thay đổi. OP có vẻ đứng ở phía ngây thơ bào chữa, thậm chí còn trả phí đăng ký premium cho xAI, và kiểu góc nhìn lệch như vậy là nguy hiểm
• “Ventriloquism” là kỹ thuật trên sân khấu làm cho âm thanh nghe như phát ra từ nơi khác thông qua một con rối
  • Đây là câu đùa rằng nếu máy tính nói thì người ta sẽ tin đó chắc chắn là sự thật
• Đọc blog có thể thấy tác giả khá lạc quan và là kiểu người luôn tin người khác mà không mấy nghi ngờ. Nhưng nhìn vào các tranh cãi liên quan đến xAI và các hành động trong quá khứ, cách đúng đắn hơn là xem hiện tượng này như một kết quả có chủ đích rõ ràng
• Nếu muốn hiểu cách Musk hành xử, hãy nghĩ ông ta như email rác. Ảnh hưởng của ông ta lớn đến mức, dù trong mắt người bình thường có trông ngớ ngẩn đến đâu, cuối cùng nó vẫn hoạt động như một bộ lọc chỉ giữ lại những người còn bám trụ lại sau cùng, tức những người ủng hộ cuồng nhiệt sẵn sàng trả phí hằng tháng và bỏ qua mọi sai lầm. Chiến lược như vậy rất hiệu quả để đạt mục tiêu
• Tôi không hiểu vì sao bài này lại bị flag. Đây là bài viết hoàn toàn đáng để phân tích
  • Những bài có thể khiến Musk hay Trump trông tiêu cực thì bị flag ngay, và các thảo luận về việc Grok gặp vấn đề cũng nhanh chóng bị chôn vùi. Nếu muốn hiểu Big Tech đang ảnh hưởng đến thế giới thế nào thì giờ đây HN không còn là nơi tối ưu nữa. Nó bị thao túng quá dễ dàng