Trí tuệ nhân tạo và giám sát quy mô lớn

 (schneier.com)
1 điểm bởi GN⁺ 2023-12-07 | 1 bình luận | Chia sẻ qua WhatsApp

Trí tuệ nhân tạo và giám sát quy mô lớn

  • Giám sát và hoạt động do thám là những khái niệm khác nhau nhưng có liên quan. Trước đây, giám sát là công việc thủ công tốn nhiều chi phí và thời gian, nhưng nay vị trí, giao dịch mua sắm, người trò chuyện cùng và nhiều thông tin khác được theo dõi tự động thông qua smartphone, thẻ tín dụng, ứng dụng và các phương tiện tương tự.
  • Trong giám sát quy mô lớn, vốn đã trở thành mô hình kinh doanh của internet, chúng ta rơi vào tình thế gần như không thể từ chối. Hoạt động do thám vẫn còn phụ thuộc vào sức lao động của con người, nhưng trí tuệ nhân tạo (AI) đang sẵn sàng thay đổi điều đó.

Sự thay đổi do AI mang lại

  • Các hệ thống AI tạo sinh hiện đại làm rất tốt việc tóm tắt, có thể sắp xếp hàng triệu cuộc hội thoại theo chủ đề hoặc cho biết ai đang nhắc đến một chủ đề cụ thể.
  • Những công nghệ này chưa hoàn hảo, nhưng con người cũng mắc sai lầm, còn AI thì đang được sao chép và cải tiến rất nhanh, nên mỗi năm sẽ ngày càng tốt hơn. Kỷ nguyên do thám quy mô lớn đang đến gần.

Tương lai của giám sát và do thám quy mô lớn

  • Giám sát quy mô lớn cung cấp khả năng quay ngược về quá khứ để theo dõi, và vẫn có thể giám sát ngay cả khi không biết trước đối tượng cụ thể.
  • Do thám quy mô lớn sẽ lưu trữ mọi dữ liệu, đồng thời cho phép tìm kiếm và hiểu chúng ở quy mô lớn. Có thể phát hiện các cuộc trò chuyện về một chủ đề cụ thể, kế hoạch phạm tội, sự lan truyền của tin đồn, hay kế hoạch tham gia biểu tình chính trị.
  • Việc phân tích phức tạp như làm lộ cấu trúc tổ chức hoặc tìm ra những người chia sẻ bí mật cũng sẽ trở nên khả thi. Không chỉ các cuộc trò chuyện, mà ở bất kỳ đâu có microphone, hoạt động do thám cũng sẽ trở nên khả thi.

Tác động xã hội của giám sát và hoạt động do thám

  • Tình trạng bị giám sát liên tục ảnh hưởng đến hành vi của con người, thúc đẩy sự tự kiểm duyệt và kiểm soát xã hội.
  • Chính phủ đã sử dụng giám sát quy mô lớn và cũng sẽ bắt đầu triển khai do thám quy mô lớn.
  • Các doanh nghiệp sẽ giám sát con người vì mục đích marketing, qua đó càng củng cố mạnh hơn ngành quảng cáo cá nhân hóa.

Quyền riêng tư dữ liệu và các giới hạn

  • Google trước đây từng muốn dùng nội dung Gmail để cung cấp quảng cáo cá nhân hóa, nhưng đã dừng lại vì dữ liệu từ khóa không mang lại nhiều hiệu quả. Tuy nhiên, khi các công nghệ này được cải thiện, khả năng họ khởi động lại là có thể xảy ra.
  • Có thể áp đặt giới hạn lên năng lực do thám quy mô lớn hoặc đưa vào các quy định mạnh mẽ về quyền riêng tư dữ liệu, nhưng cũng giống như chúng ta đã không hạn chế được giám sát quy mô lớn, hoạt động do thám có lẽ cũng sẽ không khác.

Ý kiến của GN⁺

Điểm quan trọng nhất của bài viết này là nó mang lại góc nhìn sâu sắc về cách sự phát triển của công nghệ trí tuệ nhân tạo (AI) đang làm thay đổi bản chất của quyền riêng tư cá nhân và giám sát. Bằng cách hiểu tác động của giám sát và do thám quy mô lớn đối với hành vi xã hội cũng như sự kiểm soát, độc giả có thể xây dựng nền tảng để tham gia vào những thảo luận quan trọng liên quan đến quyền riêng tư dữ liệu. Xét đến tốc độ phát triển nhanh của AI và ảnh hưởng rộng khắp mà nó có thể gây ra đối với đời sống thường nhật, bài viết này đặc biệt là một chủ đề thú vị đối với các chuyên gia kỹ thuật như kỹ sư phần mềm.

Bài viết liên quan

1 bình luận

 
GN⁺ 2023-12-07
Ý kiến trên Hacker News

  • Bản chất của vấn đề chính trị

    • Đây không phải là vấn đề kỹ thuật mà là vấn đề chính trị. Ví dụ, Liên Xô cũ đã thực hiện giám sát quy mô lớn hiệu quả chỉ với công nghệ cơ bản. Việc điều này không xảy ra ở Mỹ không phải vì thiếu năng lực kỹ thuật mà vì không có sự quan tâm về mặt chính trị.
    • Trước đây, đã có những đạo luật cấm những điều từng không thể tưởng tượng nổi. Việc ban hành luật biến thu thập dữ liệu thành bất hợp pháp cũng sẽ không phải là một bước nhảy pháp lý quá lớn, nhưng hiện tại hoàn toàn không có sự quan tâm chính trị nào.

  • Rủi ro giám sát của trí tuệ nhân tạo

    • Trong thực tế của một nhà nước giám sát, lượng dữ liệu quá lớn khiến việc theo dõi trên thực tế là bất khả thi, nhưng AI có thể giải quyết điều đó bằng cách tóm tắt chúng. Đây là rủi ro thực sự của AI trong ngắn hạn, vì nó có thể trở thành công cụ nhắm mục tiêu mọi thứ lệch khỏi chuẩn mực.

  • Bot trợ lý cá nhân của doanh nghiệp

    • Các bot của Google, Meta, Microsoft và những công ty khác sẽ theo dõi không chỉ web hay mạng xã hội mà cả các chủ đề và con người cụ thể. Những bot trợ lý cá nhân này giả vờ giúp người dùng, nhưng thực chất thu thập thông tin và cung cấp thông tin bị thao túng để phục vụ mục đích của doanh nghiệp.

  • Thực thi pháp luật đối với tội phạm quy mô lớn bằng AI

    • Luật hình sự được xây dựng trên giả định rằng điều tra và truy tố cần có tài nguyên, nhưng AI có thể xóa bỏ những giới hạn này. AI có thể giám sát hoạt động công cộng và tự động hóa quy trình pháp lý, từ đó cho phép truy tố cả những tội nhẹ nhặt.

  • Tác động của kiểm duyệt

    • Khả năng kiểm duyệt và mô hình kinh doanh dựa trên nó còn đáng lo hơn cả giám sát. Ví dụ, các ứng dụng hẹn hò có thể buộc người dùng trả tiền để trao đổi thông tin liên lạc, hoặc mạng xã hội có thể ngay lập tức xóa các quan điểm nhất định.

  • Sự phát triển tất yếu của công nghệ

    • Khi công nghệ phát triển, giám sát và kiểm duyệt sẽ xảy ra một cách tất yếu. Cần thảo luận về cách chấp nhận đây là hiện thực và thích nghi với nó. Có thể giảm rủi ro giám sát bất hợp pháp thông qua quy định pháp lý và công nghệ chống giám sát.

  • Nhận diện khuôn mặt vì mục đích "an ninh"

    • Với danh nghĩa "an ninh", việc quét khuôn mặt thường xuyên sẽ sớm diễn ra và trở thành bắt buộc trong nhiều mặt của cuộc sống chúng ta.

  • Nỗ lực bảo vệ quyền riêng tư của Google

    • Google không phải lúc nào cũng lắng nghe với "Hey Google"; âm thanh chỉ được gửi đi khi nhận diện một từ cụ thể. Đội ngũ bảo vệ quyền riêng tư của Google đang cố gắng làm điều đúng đắn.

  • Thực tế của giám sát quy mô lớn bằng AI

    • Giám sát quy mô lớn đã tồn tại, và AI có thể được dùng để khai thác dữ liệu hành vi của mọi người trong hàng chục năm. Nếu dữ liệu này chỉ được dùng để truy tố tội phạm, xã hội có thể trở thành nơi không ai đứng trên pháp luật, nhưng những con người kiểm soát hệ thống lại muốn có vị thế có lợi cho mình.

  • Tự do của phần mềm AI

    • Phần mềm AI không nên bị hạn chế, và người dân bình thường cũng như những người có ý thức công dân cần có khả năng phát triển các hệ thống AI cá nhân và công cộng để đối trọng với AI của doanh nghiệp. Tương lai của AI mang tính đối kháng, và quyền tự do phát triển phần mềm AI cần được bảo đảm, trong khi việc sử dụng nó nên được quản lý.