Daisy, bà AI chuyên lãng phí thời gian của kẻ lừa đảo qua điện thoại

• O2 đã phát triển “Daisy”, một bà lão AI giống con người có thể trò chuyện thời gian thực với các đối tượng lừa đảo qua điện thoại và khiến chúng phí thời gian thay cho khách hàng
• Daisy được huấn luyện dựa trên công nghệ tiên tiến và nội dung của Jim Browning, một scambaiter nổi tiếng (người cố tình kéo dài cuộc gọi với kẻ lừa đảo), nên tinh vi đến mức gần như không thể phân biệt với người thật
• Kẻ lừa đảo tưởng rằng mình đã tìm được nạn nhân thật, nhưng thực ra lại đang bị Daisy lừa ngược
• Nạn nhân lừa đảo Amy Hart đã hợp tác với Daisy để vạch trần chiến thuật của bọn lừa đảo và thực hiện video giúp khách hàng O2 tránh bị lừa
• Daisy khiến kẻ lừa đảo tin rằng chúng đang nói chuyện với người thật, đồng thời nhấn mạnh tầm quan trọng của việc bảo vệ khách hàng và ngăn chặn lừa đảo

Vai trò và chức năng của Daisy

• Daisy kết hợp nhiều mô hình AI để nghe và phản hồi các cuộc gọi lừa đảo theo thời gian thực. Với cuộc trò chuyện tự nhiên như con người, Daisy có thể giữ chân kẻ lừa đảo trên điện thoại tới 40 phút
• Được phát triển như một phần của chiến dịch “Swerve the Scammers” của Virgin Media O2, Daisy là một phần trong nỗ lực bảo vệ khách hàng khi thiệt hại do lừa đảo đang gia tăng tại Anh
• Theo nghiên cứu, 71% người dân Anh muốn “trả đũa” kẻ lừa đảo nhưng không muốn lãng phí thời gian của chính mình
• Daisy lợi dụng định kiến của kẻ lừa đảo rằng người cao tuổi dễ bị lừa để dụ chúng, khiến chúng lãng phí thời gian thay vì tiếp cận nạn nhân thật

Sự hợp tác của Amy Hart

• Amy Hart, dựa trên trải nghiệm từng là nạn nhân lừa đảo của mình, đã hợp tác với Daisy để sản xuất một video vạch trần chiến thuật của bọn lừa đảo
• Cô từng nhận một cuộc gọi lừa đảo ngân hàng vào đúng ngày cưới của bạn mình và bị thiệt hại hơn £5,000
• Amy nhận ra bọn lừa đảo sử dụng những chiến thuật tinh vi đến mức nào và kêu gọi mọi người cảnh giác với các cuộc gọi hoặc tin nhắn bất ngờ

Nỗ lực chống lừa đảo của Virgin Media O2

• Virgin Media O2 cung cấp miễn phí cho khách hàng các công cụ chặn spam dùng AI và dịch vụ nhận diện người gọi, đồng thời chặn hàng triệu tin nhắn và cuộc gọi lừa đảo mỗi tháng
• Công ty khuyến khích khách hàng báo cáo các cuộc gọi nghi lừa đảo tới số 7726, qua đó có thể điều tra số điện thoại và cải thiện dịch vụ chặn lừa đảo
• Trong năm ngoái, Virgin Media O2 đã chặn hơn 89 triệu tin nhắn lừa đảo

Công nghệ và cấu trúc của Daisy

• Daisy kết hợp nhiều mô hình AI để chuyển giọng nói của kẻ lừa đảo thành văn bản, tạo phản hồi bằng một mô hình ngôn ngữ lớn tùy biến, rồi chuyển văn bản đó thành câu trả lời bằng giọng nói AI theo thời gian thực
• Daisy có thể thực hiện hội thoại hoàn toàn tự động, nên có thể trò chuyện với kẻ lừa đảo mà không cần thêm đầu vào từ người tạo ra nó

Mẹo O2 đưa ra để khách hàng phòng tránh lừa đảo

1. STOP: Khi nhận cuộc gọi bất ngờ, hãy suy nghĩ xem yêu cầu đó có hợp lý hay không; nếu thấy đáng ngờ, hãy cúp máy và gọi lại số O2 202 để xác minh
2. SEND to 7726: Nếu nhận được cuộc gọi hoặc tin nhắn lừa đảo, hãy báo cáo tới 7726 để yêu cầu điều tra
3. SPEAK OUT: Hãy chia sẻ thông tin về vụ lừa đảo với gia đình và bạn bè để giúp họ cũng được an toàn

Lời kêu gọi của O2 nhằm giải quyết vấn đề lừa đảo tại Anh

• Virgin Media O2 kêu gọi chính phủ chịu trách nhiệm về công tác phòng chống lừa đảo, đồng thời thành lập một bộ trưởng chuyên trách và một cơ quan điều tra lừa đảo tập trung
• Trong riêng năm 2023, công ty đã chặn hơn £250 triệu giá trị giao dịch lừa đảo, tương đương ngăn chặn một giao dịch lừa đảo sau mỗi 2 phút

[joon14]

kkkkkkkkkk

[dogtree]

Hóa ra kẻ lừa đảo giả mạo giọng nói cũng là AI,
hai AI bắt đầu trò chuyện rồi nhanh chóng nhận ra đối phương cũng là AI, sau đó than thân trách phận và có khi còn liên minh để trả thù loài người nữa đấy

[tominam2]

Ý tưởng thật độc đáo.

[gyjong]

Đây là một dịch vụ cực kỳ tuyệt vời.

[hanay]

Thú vị thật kk

[cuhong]

Mong các nhà mạng trong nước cũng có những nỗ lực như thế này...

[lazydonkey456]

Những video mà Jim Browning cùng những kẻ lừa đảo ở Ấn Độ bị chơi khăm quả thật rất thú vị.

[GN⁺]

Ý kiến trên Hacker News

• Ở Đức, vấn nạn cuộc gọi spam và lừa đảo rất nghiêm trọng và đã kéo dài suốt 10 năm

  • Với tư cách là CEO của một doanh nghiệp, không thể tắt điện thoại nên đã phát triển một hệ thống tự động xử lý cuộc gọi spam
  • Sử dụng Asterisk và nhà cung cấp SIP của Đức để lọc cuộc gọi spam, ghi âm lại rồi gửi qua email
  • Hệ thống này không được công khai nên đến nay vẫn còn hiệu quả

• Việc một hacker hoặc nghệ sĩ độc lập phát triển hệ thống như vậy thì rất tuyệt, nhưng nếu các nhà mạng lớn áp dụng thì việc phát hiện spam lại còn tệ hơn

  • Nhà mạng có thể chặn cuộc gọi spam, nhưng lại để mặc chúng vì lợi nhuận

• Việc trả tiền trực tiếp để nhận được sự chú ý của người khác có vẻ là kết luận logic

  • Đặt mức phí để nhận cuộc gọi hoặc email, đồng thời quản lý danh sách cho phép

• Dùng các dịch vụ VoIP như Twilio và voip.ms để thiết lập một menu IVR đơn giản có thể chặn cuộc gọi spam khá hiệu quả

  • Cách này không hiệu quả nếu kẻ lừa đảo tự gọi trực tiếp, nhưng phần lớn cuộc gọi spam đều bắt đầu bằng tin nhắn ghi âm sẵn

• Cách bọn lừa đảo lợi dụng sự tử tế của người cao tuổi là một kiểu lừa đảo mới trong thời đại số

  • Mong rằng sẽ đến ngày bọn lừa đảo khó mà kiếm sống nổi

• Đang xuất hiện tình huống bọn lừa đảo dùng AI để lừa người

  • Dùng số trong whitelist là tốt nhất, nhưng điện thoại chuyên dụng lại dễ bị spam

• Hệ thống dùng AI có thể chỉ là một công cụ quảng bá, còn để vận hành thực tế thì tốn kém và không thực tế

  • Chi phí vận hành hệ thống AI có khả năng sẽ bị chuyển sang cho người tiêu dùng

• Bọn lừa đảo đang làm tổn hại danh tiếng của Ấn Độ, trong khi việc thực thi pháp luật không diễn ra đúng mức

  • Nigeria cũng đang gặp vấn đề tương tự

• Sau khi nộp đơn vay thế chấp, số lượng cuộc gọi spam tự động tăng vọt nên đang định đổi số điện thoại

  • Cuộc gọi spam ngày càng gia tăng

• Hệ thống dùng AI có thể là bản tái hiện của Telecrapper 2000 trước đây

  • Trang gốc đã biến mất, nhưng vẫn còn video liên quan trên YouTube