- Một lỗ hổng cho phép lừa AI hỗ trợ khách hàng của Meta chỉ bằng username tài khoản Instagram để đặt lại mật khẩu và chiếm đoạt tài khoản; nhiều tài khoản nổi tiếng như Obama White House đã bị ảnh hưởng
- Kẻ tấn công truy cập qua VPN·proxy gần khu vực thành phố của nạn nhân để né sự nghi ngờ từ thuật toán bảo mật, rồi nói với AI hỗ trợ rằng "tài khoản đã bị hack" và yêu cầu gửi mã xác minh tới một email tùy ý
- Mã được gửi đi không cần xác minh bổ sung xem email đó có từng được người dùng sử dụng trước đây hay không; khi kẻ tấn công gửi lại mã, liên kết đặt lại mật khẩu sẽ được chuyển nguyên trạng theo kiểu đặt lại mật khẩu zero auth
- Vì luồng khôi phục này được xử lý như một lần đặt lại toàn bộ tài khoản của chính chủ, 2FA hiện có bị vượt qua, còn việc hủy phiên và đổi mật khẩu diễn ra mà không có thông báo
- Vấn đề cốt lõi là thiếu guardrail khi AI hỗ trợ của một công ty trị giá 1,5 nghìn tỷ USD có thể đổi email liên kết chỉ vì được yêu cầu; lỗ hổng đã được vá nhưng đã hoạt động trong vài tuần đến vài tháng
Quy trình chiếm đoạt tài khoản
-
Bước 01 — Ngụy trang vị trí và bắt đầu yêu cầu hỗ trợ
- Thứ duy nhất cần để bắt đầu tấn công là username của tài khoản mục tiêu; vị trí của người dùng có thể dễ dàng thu thập qua hồ sơ công khai, mục "About" và nhiều đường khác
- Truy cập qua VPN hoặc proxy gần thành phố của nạn nhân để ngụy trang khu vực yêu cầu thành hợp lệ, tránh bị thuật toán bảo mật của Instagram nghi ngờ
- Khi yêu cầu trông như đến từ đúng khu vực, chỉ cần nói với AI hỗ trợ của Meta rằng tài khoản đã bị hack rồi yêu cầu gửi mã xác minh tới một email tùy ý do kẻ tấn công kiểm soát
-
Bước 02 — Chỉ vậy là xong
- Thực tế toàn bộ quy trình chỉ có vậy, và đây là trường hợp đặt lại mật khẩu zero auth đầu tiên được ghi nhận trong môi trường production
- Không có kiểm tra bổ sung nào để xác nhận email được cung cấp có thực sự từng được người dùng sử dụng hay không
- Khi AI gửi mã bảo mật tới email của kẻ tấn công, kẻ này chỉ cần gửi lại mã để hoàn tất xác minh; nền tảng sau đó chuyển liên kết đặt lại mật khẩu mới và trao toàn bộ quyền sở hữu
-
Xác minh selfie video
- AI của Instagram có thể yêu cầu video selfie để chứng minh danh tính, hoặc cũng có thể không
- Hiện khả năng phân biệt chưa cao, và có nhiều báo cáo cho rằng chỉ cần dùng AI làm ảnh động từ ảnh công khai trên feed mục tiêu cũng có thể vượt qua
Ngay cả 2FA cũng không chặn được
- Vì hệ thống coi luồng khôi phục có đặc quyền cao này là một lần đặt lại toàn bộ tài khoản của "chính chủ", 2FA hiện có bị vượt qua hoàn toàn trong quá trình đó
- Các phiên hiện tại bị hủy và mật khẩu bị thay đổi nhưng không hề có email, SMS hay thông báo đẩy nào
- Chủ tài khoản thực sự không thể bắt đầu khôi phục vì email và số điện thoại đã bị ánh xạ sang phía kẻ tấn công; không có ai để escalation nên họ chỉ có thể vật lộn với chat để cố lấy lại quyền kiểm soát
- Nếu tài khoản thuộc nhóm A/B test đã được bật tùy chọn hỗ trợ AI thì thậm chí không thể tắt tùy chọn đó
Chợ đen hoạt động sôi nổi
- Nhiều nhóm Telegram trên chợ đen quảng bá dịch vụ "account takeover" với chi phí cao và thời gian xử lý nhanh
- Các handle ngắn có giá trị từ hàng trăm nghìn đến hàng triệu USD, nên sự hình thành của thị trường này không phải điều đáng ngạc nhiên
- Ví dụ thực tế có các tài khoản như
heyđược giao dịch, hoặcobamawhitehousevàocmssf(tài khoản Thượng sĩ chỉ huy của Lực lượng Không gian Mỹ) bị lạm dụng cho mục đích tuyên truyền
Hiện đã được vá
- Có vẻ Meta đã vá lỗ hổng này và các nhóm Telegram cũng đã im ắng hơn, nhưng phương thức này dường như đã hoạt động trong vài tuần đến vài tháng
- Vấn đề cốt lõi là việc một công ty trị giá 1,5 nghìn tỷ USD không có guardrail đủ vững chắc, để AI hỗ trợ có thể đổi email liên kết của bất kỳ ai chỉ cần được yêu cầu đủ lịch sự
1 bình luận
Ý kiến trên Hacker News
Trong chuỗi bảo mật của các tập đoàn lớn, yêu cầu hỗ trợ luôn là mắt xích yếu nhất
Trước đây cũng từng có người tắt xác thực hai yếu tố rồi giao tài khoản của tôi cho người khác, nên việc giờ LLM làm điều tương tự có lẽ cũng không quá đáng ngạc nhiên
Bản thân việc nhân viên hỗ trợ cấp thấp có thể gỡ xác thực hai yếu tố đã đủ khiến tôi bực bội, vì nó phá hỏng mục đích của cả quy trình
Nếu là fail secure thì chỉ cần mất email là tài khoản bị khóa vĩnh viễn; còn nếu là fail safe thì mất email sẽ không khiến tài khoản bị khóa mãi mãi, nhưng ai đó có thể giả vờ ở trong tình huống đó để chiếm tài khoản
Nó giống như bộ điều khiển cửa điện tử khi mất điện thì hoặc cửa cứ khóa mãi hoặc cứ mở mãi; trong hỏa hoạn thì cửa phải mở để người ta thoát ra, nhưng kẻ trộm cũng có thể cắt điện để vào
Loại cửa tự khóa vĩnh viễn khi mất điện chỉ được chấp nhận trong các trường hợp cực đoan nơi bảo mật là ưu tiên tối thượng, và tài khoản Instagram không quan trọng đến mức như cánh cửa trong tình huống cháy nhà
Tệ hơn nữa là sau đó, có vẻ vào lúc họ thay đổi hệ thống hỗ trợ, chính kẻ chiếm đoạt đó lại nhắm vào tài khoản của tôi lần nữa, và lần này đã thực sự chiếm được trong vài giờ, kéo theo cả tài khoản Twitter cũng bị xâm phạm
Chuyện này xảy ra vào khoảng thời gian fElon sa thải hàng loạt và gỡ bỏ xác thực hai yếu tố qua điện thoại khỏi các tài khoản
Crazy Domains và Newfold Digital (trước đây là EIG) thực sự là tệ nhất, và cuối cùng tôi còn mất cả username OG khi fElon lấy nó để dùng cho mấy trò nhảm của Grok
[1] https://news.ycombinator.com/item?id=47913341
[2] https://news.ycombinator.com/item?id=47859496
[3] https://news.ycombinator.com/item?id=47856983
Chúng tôi cần xóa một volume lưu trữ để gấp rút giải phóng dung lượng, nhưng vì đây là thao tác phá hủy nên nó bị khóa theo kiểu nhà cung cấp phải đóng vai trò chìa khóa thứ hai cùng với khóa bên phía chúng tôi
Thực ra chúng tôi chưa từng cấu hình tử tế cơ chế đó, và bản thân tôi cũng chưa từng đăng nhập vào tài khoản hỗ trợ của họ
Phía vendor nói rằng cần hai đầu mối liên hệ được phê duyệt bên tôi xác nhận thao tác, còn quy trình thực tế chỉ là một đồng nghiệp đang xử lý sự cố Sev1 kéo tôi vào một cuộc gọi Zoom
Nhân viên hỗ trợ yêu cầu mã xác thực hai yếu tố của tôi, nhưng vì tôi chưa từng thiết lập và cũng không có email nào được đăng ký nên không thể nhận được; thế là người có vẻ như làm thuê ngoài kia dán mã vào chat Zoom và cho rằng chỉ cần tôi đọc lại là đủ để tiếp tục quy trình
Lúc đó tôi quá kinh ngạc nên không nghĩ sâu hơn, nhưng điều thú vị là họ có thể nhìn thấy mã được tạo ra như mong đợi và cũng có thể tự nhập trực tiếp vào hệ thống của họ
Kết quả là họ đã giúp ngăn sự cố Sev1 leo thang thành Sev0, nhưng nhìn tổng thể thì đây là một cấu trúc cực kỳ dễ tổn thương trước tấn công social engineering và tấn công nội gián
Tôi đoán họ sẽ không trao loại quyền ghi đè này cho đội hỗ trợ tuyến 1 hay tuyến 2 một cách công khai, mà sẽ giấu nó trong một cơ chế khác cần leo thang lên quyền cao hơn nhưng vẫn xử lý được theo đơn vị phút chứ không phải hàng giờ
Tuy vậy, tổ chức càng lớn thì việc cân bằng kiểu này càng khó
Tài khoản Facebook của bố tôi có lẽ đã bị hack qua phishing, nhưng chẳng có ai để liên hệ nhằm lấy lại cả
Kẻ rác rưởi ăn cắp tài khoản còn đăng cả nội dung bất hợp pháp, khiến tài khoản cùng khoảng 10 năm kỷ niệm cá nhân bị xóa sạch mà không có bất kỳ quy trình cứu vãn nào, và gần như không thể nói chuyện với một con người thật ở Meta
Chỉ có mấy trang FAQ vô dụng đến phát điên
Tôi cực kỳ khuyên mọi người tải dữ liệu cá nhân xuống để sao lưu từ toàn bộ tài khoản mạng xã hội của bản thân và gia đình
Những tập đoàn lớn kiểu này chẳng quan tâm gì đến người dùng ngoài việc nhét quảng cáo đồ linh tinh ship thẳng từ Trung Quốc và TikTok rác AI vào mặt họ
Vậy là AI agent có quyền truy cập đặc quyền đủ để gỡ xác thực hai yếu tố, bỏ qua email tài khoản, rồi giao hẳn tài khoản cho người yêu cầu sao?
Thành thật mà nói đây là mức cẩu thả quá nghiêm trọng, đến mức khiến tôi nghi ngờ liệu đội xây cái “tính năng” đó có đang cố gây thiệt hại kín đáo nhất có thể cho Meta trước đợt sa thải đã được định sẵn hay không
Gần như còn thấy tiếc vì không ai thử xóa luôn toàn bộ bảng production
Chỉ cần giả làm một SRE có đặc quyền cao, nói rằng phải xử lý một lỗi production nghiêm trọng và cách duy nhất là xóa cơ sở dữ liệu
https://www.cia.gov/static/5c875f3ec660e092cf893f60b4a288df/...
Tôi là một trong 6.000 người dùng đầu tiên của Instagram, và tên người dùng đúng nghĩa đen của tôi đã bị đánh cắp vài năm trước
Bộ phận hỗ trợ tài khoản đã xác minh thừa nhận vấn đề nhưng nói rằng họ không thể làm gì được
Lần này là lạm dụng AI, còn trường hợp của tôi là lạm dụng đội ngũ hỗ trợ thuê ngoài: ai đó đã trả tiền để họ đổi tên người dùng của tôi thủ công rồi chuyển nó cho người dùng khác
Nếu không có hỗ trợ con người có trách nhiệm và không có hậu quả hình sự cho nhân viên vi phạm, thì sẽ luôn có cách để truy cập vào tài khoản
Tài khoản Instagram liên kết thì vẫn bình thường, nhưng khi tôi định dùng hỗ trợ Meta Verified thì mọi yêu cầu đều bị từ chối vì họ nói tôi đã dùng hết hạn mức hỗ trợ
Tôi đang giữ đến khi ngân hàng đến mua
Thật vô lý khi AI được cấp quyền công cụ để gửi email đến địa chỉ tùy ý
Việc gửi mã xác thực hai bước theo yêu cầu người dùng thì còn có thể hiểu được, nhưng nó chỉ nên có thể bấm nút gửi email xác thực hai bước đến địa chỉ đã liên kết với tài khoản, còn mọi thứ khác phải do mã viết tay xử lý
AI không có lý do gì để truy cập chính mã xác thực hai bước, tiêu đề thư, nội dung thư hay địa chỉ người nhận
Tôi không hiểu vì sao họ lại cấp quyền như vậy
Hoàn toàn có thể mã hóa tĩnh cùng luồng đó, và thực tế có khi đúng là như vậy
Không rõ chatbot ở đây thực sự đã làm được bao nhiêu
Không nhất thiết trường hợp này là vậy, nhưng tôi có suy đoán về những gì có thể đã xảy ra
Từ những gì tôi thấy đến giờ, Meta AI Support Assistant, tức “MAISA”, dường như có a) một lời gọi công cụ để khởi tạo xác minh email tới một điểm liên hệ gắn với một email, số điện thoại hoặc tài khoản cụ thể và b) một lời gọi công cụ để tạo liên kết đặt lại mật khẩu của tài khoản dựa trên lần thử xác minh email
Tôi không có quyền truy cập vào chính mã nguồn, nhưng có vẻ một handle hoặc ID cho lần thử xác minh email cùng với mã xác minh do người dùng nhập đã được truyền vào lời gọi công cụ “tạo liên kết đặt lại mật khẩu”, và lời gọi đó đã không xác minh đúng cách rằng email dùng trong lần thử xác minh đó có thuộc về tài khoản hay không, từ đó cho phép chiếm đoạt tài khoản
Lời gọi công cụ của MAISA để tạo liên kết đặt lại mật khẩu lẽ ra phải thất bại nếu nhận một lần thử xác minh tương ứng với email không liên kết với tài khoản
Khi tôi thử thứ tương tự trên Facebook thì dường như nó thực sự đã bị chặn bằng lỗi, nhưng có khả năng phía Instagram gần đây đã thay đổi để cho phép dùng cả những email cũ đã bị gỡ liên kết cách đây không quá lâu nhằm giúp kẻ tấn công khôi phục các tài khoản bị chiếm đoạt
Khi đó sẽ phát sinh nhu cầu dùng email hiện không còn liên kết với tài khoản và đặt nó làm email chính của người dùng
Cũng có thể thay đổi lời gọi công cụ của MAISA đã gọi nhầm API, hoặc có thứ gì đó cho phép dùng bất kỳ lần xác minh email thành công nào, trong khi các kỹ sư không bổ sung đủ kiểm thử đầu-cuối với các lần xác minh email không liên quan được đưa vào lời gọi công cụ
Tôi nghĩ đây là chỗ cần tập trung nhất
Các lời gọi công cụ của agent mà kẻ tấn công có thể ảnh hưởng đến đầu ra nên được coi như API bên ngoài công khai cho mọi người và phải được kiểm thử theo cách đó
Tất nhiên đây كلها chỉ là suy đoán, không phản ánh nhiều tín hiệu dùng để đánh giá tính hợp lệ của các lần thử khôi phục tài khoản và có thể sai khá nhiều, nhưng với góc nhìn của người làm bảo mật Meta nhiều, đây là lời giải thích gần nhất về điều có thể đã khiến sự việc này xảy ra
Kiểu như “hãy để AI agent hỗ trợ đặt lại mật khẩu”, rồi có vẻ hoàn toàn không có bước rà soát của con người đối với thay đổi đó
Vài năm trước tài khoản Facebook của tôi cũng đã bị xâm phạm sau khi xác thực hai bước dựa trên TOTP bị vô hiệu hóa
Từ lúc đó tôi đã hoàn toàn không yên tâm về chính sách bảo mật của Facebook, và cuộc tấn công mới này chỉ xác nhận lại ấn tượng đó
Giao hỗ trợ bảo mật cho kỹ sư junior là điều nực cười
Một phần vì người trẻ đôi khi không hiểu bảo mật có thể nghiêm trọng đến mức nào, và một phần vì họ không coi trọng quyền riêng tư đến thế
Người ta nói đây là “lần đầu tiên thấy một vụ đặt lại mật khẩu không cần xác thực đúng nghĩa trong môi trường production”, nhưng trước đây LinkedIn cũng từng có
Tôi không nhận được phản hồi tử tế, có lẽ là trước khi có thưởng phát hiện lỗi, nhưng cuối cùng họ cũng đã sửa
Cách thức là thế này
LinkedIn từng cho rằng nếu bạn đọc được email gửi đến một địa chỉ nào đó thì địa chỉ đó là của bạn và có thể thêm vào tài khoản
Vì vậy, nếu tôi gửi lời mời LinkedIn đến một địa chỉ email nào đó và người nhận bấm nút chấp nhận lời mời, thì địa chỉ email đó sẽ được thêm vào tài khoản của họ
Nếu tôi gửi lời mời đến một địa chỉ do tôi kiểm soát, ví dụ foo@example.com, rồi gửi liên kết nút mời trong email giả mạo cho người khác, thì ngay lúc người đó bấm vào, foo@example.com sẽ âm thầm được thêm vào tài khoản của họ
Nếu tôi nhận được phản hồi rằng hai bên đã kết nối, tôi cũng biết rằng một địa chỉ email mà tôi biết đã được thêm vào tài khoản của người dùng đó, và tôi có thể dùng chính foo@example.com đã gửi ban đầu để thực hiện toàn bộ quy trình đặt lại mật khẩu
Họ phát hiện ra điều này khi ai đó mời cả một mailing list, và sau cú bấm đó, địa chỉ mailing list đột nhiên bị thêm vào tài khoản của nhiều người
“Nếu yêu cầu trông như đến từ đúng khu vực, thì nói với AI hỗ trợ của Meta rằng tài khoản đã bị hack và yêu cầu gửi mã xác minh đến một địa chỉ email tùy ý do kẻ tấn công kiểm soát” — rốt cuộc Instagram đang làm cái quái gì vậy?
Không hiểu nổi vì sao lại không gửi yêu cầu đặt lại tới chính tài khoản đó mà lại gửi tới email tùy ý
Nghe như hệ quả của hỗ trợ AI chứ không phải người thật, kiểu “nếu bạn thuộc nhóm tài khoản đang trong A/B test có bật tùy chọn hỗ trợ AI thì coi như xui, mà cũng không tắt được”
Tôi đã thắc mắc vì sao suốt cuối tuần lại nhận tới 15 email đặt lại mật khẩu từ Instagram
Nhờ vậy tôi mới nhớ ra là mình có tài khoản Instagram, và lập tức định đăng nhập để xóa nó
Đó là tài khoản tôi tạo hồi Instagram mới ra mắt, chưa từng dùng lần nào và đã quên sạch từ lâu
Nhưng rồi tôi vướng vào tình huống kỳ quặc là phải đăng nhập từ một thiết bị đã từng đăng nhập trước đây, mà chuyện đó đã hơn 10 năm nên giờ chẳng còn thiết bị nào có thể từng được dùng để tạo hay truy cập tài khoản nữa
Tôi vẫn truy cập được cả email lẫn số điện thoại dùng cho tài khoản đó, nhưng như vậy vẫn không đủ
Mức độ bất tài đúng là nực cười nên tôi đã gửi khiếu nại CCPA
Chúng được tạo mà không có số điện thoại và tôi vẫn biết mật khẩu, nhưng cứ đăng nhập là bị đánh dấu là hoạt động đáng ngờ và không có luồng khôi phục nào thực sự khả dụng
Nhiều kiểu lạm dụng trông ngớ ngẩn đến mức luôn khiến tôi nhận ra rằng nếu là mình thì thậm chí đã chẳng buồn thử
Chỉ cần yêu cầu đưa mật khẩu thôi, và thế mà cũng hiệu quả sao?
Hàm ý của vụ này khá đáng lo
Meta đã trao cho agent quyền đọc/ghi đặc quyền đối với tài khoản người dùng mà không có khâu rà soát của con người sao?
Điên thật
Một bộ thông tin đăng nhập của tài khoản Facebook phụ của tôi bằng cách nào đó đã bị gộp với một tài khoản phụ khác mà tôi từng dùng trước đây
Tức là tôi có thể dùng email của tài khoản này để đăng nhập vào tài khoản kia, và có vẻ việc gộp đó vẫn tiếp tục được giữ nguyên
Có vẻ Meta đã kết luận bằng cách nào đó rằng hai tài khoản đó là cùng một người