Tương lai của lừa đảo đã đến rồi, chỉ là chưa được phân bố đồng đều
(manishearth.github.io)- LLM có thể tạo ra các vụ lừa đảo được cá nhân hóa bằng những cái cớ riêng cho từng người như phỏng vấn tuyển dụng, liên lạc khẩn cấp từ gia đình, email ngân hàng, hay chuyện tình cảm, rồi sau khi chiếm được tài khoản còn có thể giám sát dài hạn và tiếp tục các đợt tấn công sau đó
- Lừa đảo truyền thống được chia thành loại phát tán hàng loạt chi phí thấp và loại nhắm mục tiêu chi phí cao, nhưng LLM đang lấp đầy khoảng giữa, cho phép lặp lại các cuộc tấn công có nhắm mục tiêu với chi phí rẻ
- Một bài báo năm 2024 ước tính chi phí email spearphishing dựa trên LLM vào khoảng 4 xu, và dù kịch bản lừa đảo tuyển dụng phức tạp hơn, với năng lực LLM năm 2026 thì nó có thể đã đáng để triển khai
- Các heuristic như “văn bản tự nhiên”, “sự hiện diện web vững chắc”, “xác minh qua điện thoại hoặc gọi video” từng là chỉ báo thay thế cho chi phí và năng lực, nhưng nhân bản giọng nói và deepfake thời gian thực đang làm chúng kém đáng tin hơn
- Phòng thủ không thể chỉ dừng ở việc nghi ngờ mọi tin nhắn; cần các thói quen mới như mật khẩu nói giữa người thân, xác minh qua kênh riêng, ưu tiên tin các kênh do chính mình chủ động khởi tạo, và 2FA phần cứng
Kịch bản lừa đảo tuyển dụng do LLM tạo ra
- Người tìm việc nhận được trên LinkedIn một lời mời tuyển dụng rất phù hợp với mình, rồi tham gia vào một quy trình phỏng vấn trông như cơ hội tốt từ một công ty nổi tiếng
- Trước buổi phỏng vấn, họ đăng nhập vào một nền tảng trông giống dịch vụ SaaS pháp lý để ký NDA, sử dụng luồng kiểu “Sign in with Google/iCloud”
- Màn hình đăng nhập trông như thật, và mật khẩu người dùng nhập cùng luồng 2FA kiểu “nhấn Có trên thiết bị của bạn” sẽ được kẻ tấn công dùng ở đầu bên kia để đăng nhập vào tài khoản thật
- Kẻ tấn công lưu cookie phiên, đồng thời khiến người dùng tưởng như mình đã đăng nhập bình thường để che giấu việc truy cập tài khoản
- Sau đó, các buổi phỏng vấn và thông báo trượt chỉ là một màn kịch để nạn nhân không nghi ngờ
- Vài tháng sau, nạn nhân mới phát hiện danh tính bị đánh cắp, thẻ tín dụng mang tên mình bị chi tiêu, một phần tài khoản chứng khoán bị rút, đồng thời mất quyền truy cập email và nhiều tài khoản trực tuyến khác
Luồng tấn công có thể xảy ra sau khi chiếm đoạt
- Kẻ tấn công duy trì quyền truy cập email và tài khoản, đồng thời giám sát hành vi của người dùng
- Lọc trước các email cảnh báo từ những tài khoản bị nhắm tới để thông báo không đến được với nạn nhân
- Tải xuống các tệp trên đám mây và dùng tài khoản đó để đăng nhập vào các trang khác
- Dùng thông tin của nạn nhân để mở thẻ tín dụng
- Rút tiền khỏi tài khoản tài chính không hề dễ do các cơ chế bảo vệ của hệ thống tài chính hiện đại
- Chuyển khoản ngân hàng trực tuyến có thể bị phát hiện, mất vài ngày, và do quy định KYC nên tài khoản đích có khả năng bị lần ra
- Các trang ngân hàng thường dùng 2FA và thông báo đăng nhập
- Tuy vậy, nếu có quyền truy cập dài hạn mà không bị phát hiện, kẻ tấn công có thể nhắm vào những tài khoản ít được kiểm tra hơn như tài khoản chứng khoán
- Có thể phát hiện các tài khoản nhận lương tự động
- Sau khi truy cập bằng cách đặt lại mật khẩu, chúng có thể tạo mẫu sử dụng bằng những khoản chuyển nhỏ
- Có thể dùng thông tin trên lịch như lịch đi nghỉ để chọn thời điểm nạn nhân khó nhận ra nhất
- Nếu cho rằng vụ lừa đảo sắp bị lộ, chúng có thể khóa nạn nhân khỏi tài khoản, khiến việc hiểu chuyện gì đã xảy ra trở nên khó hơn
Điểm mà cấu trúc chi phí của lừa đảo thay đổi
- Lừa đảo truyền thống nhìn chung chia thành hai nhóm
- Phát tán hàng loạt: rẻ, dễ thực hiện, nhắm vào những người ít thành thạo hơn
- Nhắm mục tiêu: đắt, tinh vi, nhắm vào người hoặc tổ chức có giá trị tấn công cao hay có quyền hạn trong tổ chức
- Lý do lừa đảo kiểu spam cố tình trông cẩu thả là để những người có kinh nghiệm hơn tự rời đi từ sớm, qua đó giảm chi phí xử lý ở các bước sau
- Những người rành công nghệ tương đối an toàn trước lừa đảo phát tán hàng loạt chỉ nhờ các thực hành bảo mật máy tính cơ bản và hiểu được giới hạn của hệ thống
- Những vụ lừa đảo tinh vi nhắm vào tài sản cá nhân thực ra vẫn tồn tại, nhưng đa số mọi người từng nghĩ khả năng mình bị nhắm tới là thấp
- LLM đang thay đổi cấu trúc phân cực về năng lực của kẻ tấn công
- Bài báo năm 2024 ước tính chi phí spearphishing do LLM thực hiện là khoảng 4 xu mỗi email
- Kịch bản lừa đảo tuyển dụng phức tạp và tốn kém hơn, nhưng LLM năm 2026 đã tiến bộ hơn nên có thể đủ đáng giá để triển khai
- Kẻ lừa đảo có thể vận hành đồng thời hàng nghìn vụ lừa đảo, nghiên cứu tư liệu từng cá nhân để dựng lên các cái cớ phù hợp
Những năng lực mà LLM mang đến cho lừa đảo
- Những công việc từng đòi hỏi nỗ lực đáng kể từ con người có kỹ năng cho từng mục tiêu giờ đây có thể được LLM làm với chi phí thấp
- Nghiên cứu nạn nhân và chọn cách tiếp cận tối ưu
- Giao tiếp cá nhân hóa, điều chỉnh theo phản hồi
- Nhân bản giọng nói của người thân đáng tin cậy
- Deepfake gọi video gần như thời gian thực
- Xây dựng sự hiện diện web giả nhưng thuyết phục
- Giám sát thời gian thực các tài nguyên đã chiếm được và mở rộng tấn công theo đó
- Tìm kiếm và sàng lọc mục tiêu
- Né bộ lọc spam dựa trên chữ ký
- Tìm kiếm và liên kết các CVE đã biết trong phần mềm triển khai chưa vá
- Những năng lực này đã tồn tại và nhiều khả năng còn tiếp tục tốt lên
- Lừa đảo vận hành bằng chi phí token có thể được lặp lại như một vòng
for, và mở rộng quy mô khiến các chiến lược vốn khó dùng ở từng vụ riêng lẻ trở nên khả thi
Ba thay đổi mà quy mô mở ra
- Quy mô cho phép kiên nhẫn
- Một nhóm người khó có thể chờ nhiều tháng hay nhiều năm với một cá nhân, nhưng với LLM xử lý đồng thời nhiều người, chiến dịch có thể nằm im một thời gian dài
- Thậm chí có thể chồng nhiều vụ lừa đảo lên nhau ở những thời điểm tách biệt
- Quy mô cho phép kết hợp
- Có thể tuyển người vận chuyển tiền bằng những vụ lừa đảo nhỏ, rồi dùng họ để hỗ trợ rút những khoản lớn hơn
- Cách bộ phim The Sting mô phỏng cả một thiết chế đáng tin bằng nhiều trò lừa nhỏ có thể nay thực hiện được với chi phí thấp hơn rất nhiều
- Quy mô tạo ra mục tiêu mới
- 1.000 tài khoản bị chiếm đoạt trở thành 1.000 vị trí đã được xác thực bên trong mỗi nền tảng
- Những kẽ hở mà nền tảng từng chấp nhận vì “lợi ích lớn hơn chi phí của vài vụ lừa đảo lẻ tẻ” sẽ trở thành lỗ hổng lớn cần bị đóng ngay nếu 1.000 tài khoản cùng bị khai thác
- Phép tính trong bài “The optimal amount of fraud is nonzero” có thể thay đổi trước việc bị khai thác đồng loạt ở quy mô lớn
- Việc kết hợp các cuộc tấn công như vậy vẫn cần kỹ thuật, nhưng nếu công cụ tái sử dụng được đem bán trên thị trường lừa đảo thì có thể xuất hiện các “script kiddies cho lừa đảo”
- Có thể một số kẻ lừa đảo đã dùng những năng lực này, nhưng vì chúng chưa phổ biến nên heuristic của cá nhân và doanh nghiệp vẫn chưa được điều chỉnh đầy đủ
Vì sao các heuristic cũ đang suy yếu
- Khi nhận được liên lạc từ người lạ, mọi người thường tìm kiếm đối phương, xác minh liên lạc từ người thân qua điện thoại hoặc gọi video, và cảnh giác khi cuộc trò chuyện chuyển sang các yêu cầu có sức ép
- Một phần của các heuristic đó vốn là chỉ báo thay thế cho chi phí
- Văn bản trôi chảy và cá nhân hóa là dấu hiệu cho thấy có người thật đã bỏ thời gian
- Sự hiện diện web mạnh là tín hiệu khó dựng và tốn kém
- Mọi người từng cho rằng kẻ lừa đảo sẽ không bỏ ra chừng ấy công sức chỉ vì một người
- Các heuristic khác dựa trên giới hạn về năng lực
- Trước đây rất khó bắt chước tự nhiên giọng nói của người thân qua điện thoại
- Từng có kỳ vọng rằng người xuất hiện trong gọi video là người thật, và nếu cần thì cảnh sát có thể xác định được danh tính
- LLM và deepfake đang làm lung lay cả hai nền tảng là chi phí và năng lực
- Kết quả là mọi người không chỉ phải nỗ lực hơn để tránh lừa đảo, mà còn phải tốn nhiều công hơn để chắc chắn điều gì là thật
- Khi một người thân ở thành phố khác yêu cầu chuyển tiền khẩn cấp, cần đồng thời tính đến khả năng tài khoản bị chiếm, liên lạc bị chặn, và deepfake
- Có thể sẽ cần các bước xác minh bổ sung ở mức trực tiếp đến gặp hoặc nhờ người khác trong khu vực đó xác nhận
Các heuristic mang tính thể chế cũng bị lung lay
- Không chỉ cá nhân mà cả các tổ chức tài chính và cơ quan quản lý cũng dựa vào heuristic
- Bảo vệ người tiêu dùng ngân hàng tại Mỹ vạch ra ranh giới rõ về việc ai là người phê duyệt chuyển tiền
- Nếu ai đó truy cập tài khoản và thực hiện chuyển khoản gian lận thì ngân hàng sẽ bồi hoàn thiệt hại
- Nếu người dùng bị lừa và tự tay chuyển tiền thì có thể báo án, nhưng không có nghĩa là nhất thiết phải có bên nào bồi hoàn
- Sự phân biệt này có lý trong một thế giới mà “đánh cắp mật khẩu” dễ hơn lừa thuyết phục thủ công có nhắm mục tiêu, nhưng sẽ lung lay nếu LLM làm giảm chi phí thuyết phục có nhắm mục tiêu
- Anh đã thông qua luật năm 2024 yêu cầu ngân hàng bồi hoàn cho khách hàng bị lừa chuyển tiền
- Tuy nhiên, nếu mọi thiệt hại do lừa đảo đều do ngân hàng gánh thì chi phí có thể bị chuyển quá mức sang phía ngân hàng, và các ngân hàng có thể chọn không phục vụ những người có nguy cơ cao trở thành nạn nhân lừa đảo
Những cách phòng vệ mới cần có
- Chỉ đơn thuần cực kỳ nghi ngờ mọi email và mọi giọng nói qua điện thoại là không đủ
- Vì các heuristic cũ giờ chỉ là chỉ báo thay thế để phát hiện những tín hiệu đã có thể bị làm giả với chi phí rẻ
- Giống như thời từng cấm dùng Wikipedia cho bài tập ở trường, việc bám lấy các quy tắc niềm tin cũ có thể là một sự điều chỉnh sai hướng
- Sau khi thông tin trên Internet bùng nổ, người ta cần các heuristic mới như kiểm tra nguồn và đối chiếu chéo
- Thời đại lừa đảo bằng LLM cũng cần những heuristic mới
- Cách nhìn vào bộ khung chung của lừa đảo có thể vẫn hữu ích
- Tính khẩn cấp, yêu cầu giữ bí mật, và đòi dùng kênh khác thường là những mô-típ lặp đi lặp lại trong nhiều vụ lừa đảo
- Dù câu chữ có tinh vi hơn, cấu trúc “đang đòi hỏi bạn làm điều gì đó” vẫn còn đó
- Với người thân, việc thống nhất mật khẩu nói là hữu ích
- Nếu không có mật khẩu, có thể dùng những sự kiện trong quá khứ khó xuất hiện trong hồ sơ công khai để xác minh
- Với người thân không rành công nghệ, có thể dặn rằng “nếu nhận được cuộc gọi của tôi với nội dung nghiêm trọng, khẩn cấp hoặc bí mật, hãy nghi ngờ, cúp máy rồi xác minh qua kênh khác”
- Khó có thể tin chắc tính xác thực của liên lạc đến, nhưng những đường liên hệ do chính người dùng chủ động khởi tạo thì đáng tin hơn tương đối
- Một email được soạn gửi đến một địa chỉ cụ thể nhìn chung sẽ đến đúng hộp thư đó
- Một cuộc gọi đến một số cụ thể nhìn chung sẽ đến đúng thiết bị đó
- Ngược lại, header
from:của email và số người gọi có thể bị giả mạo dễ dàng
Thực hành bảo mật và sự thích nghi sắp tới
- 2FA phần cứng có thể giúp chặn nhiều công cụ trong bộ đồ nghề của kẻ lừa đảo
- FIDO2/WebAuthn, khi được hỗ trợ, đưa tên miền website vào quá trình trao đổi khóa nên trang phishing khó chỉ đơn giản chuyển tiếp chữ ký
- Nó được xem là biện pháp bảo vệ mạnh hơn SMS hay ứng dụng xác thực
- Việc hoàn toàn không bao giờ bị lừa là không thực tế, nhưng bạn có thể trở thành mục tiêu đắt đỏ và khó khai thác hơn
- Bên phòng thủ cũng có thể dùng năng lực của LLM
- Mozilla đã red-team Firefox bằng Mythos và cho rằng các công cụ như vậy thực sự có khả năng tìm ra mọi lỗ hổng bảo mật
- Android gần đây đã giới thiệu impersonated call detection
- Các tổ chức và hệ thống rồi sẽ có thể xây dựng các biện pháp bảo vệ tốt hơn theo thời gian, nhưng quá trình đó cần thời gian và có thể trở thành một cuộc chạy đua vũ trang
- Trong thời gian tới, lừa đảo được dự đoán sẽ tăng mạnh, và mỗi cá nhân nên nghĩ xem sự thay đổi này có ý nghĩa gì với bản thân, bạn bè và gia đình, cũng như tìm cách hỗ trợ họ
1 bình luận
Ý kiến trên Lobste.rs
Nạn nhân chẳng nhận được email cảnh báo đăng nhập mới à? Cũng không xem được các phiên đã đăng nhập sao?
Các phiên đã đăng nhập thì sẽ thấy, nhưng không phải ai cũng kiểm tra ngay lập tức sau khi nhận được thông báo yêu cầu đăng nhập. Tài khoản Google thỉnh thoảng yêu cầu đăng nhập lại vì nhiều lý do, chuyện đó không hiếm
Có các biện pháp giảm thiểu như chú ý kỹ hơn đến thanh URL, nhưng chính bối cảnh quy trình phỏng vấn đã được thiết kế để làm giảm cảnh giác
Và cần nhấn mạnh rằng, vụ lừa đảo mở đầu bài gốc chỉ là một ví dụ về kiểu lừa đảo hiện nay dễ tự động hóa hơn nhiều so với trước đây, chứ không phải loại duy nhất cần phải lo
Họ giả định rằng chỉ cần các thành phần đã phần nào tồn tại là có thể lắp ráp tất cả lại, nhưng các mô hình ngôn ngữ lớn vẫn chưa đủ độ tin cậy để những thứ như vậy vận hành tử tế ở quy mô lớn