Trí tuệ nhân tạo và giám sát quy mô lớn
(schneier.com)- Internet đã khiến dữ liệu hành vi như vị trí, mua sắm, người trò chuyện và nội dung đã đọc được lưu trữ hàng loạt; AI có thể bổ sung vào đó hoạt động do thám quy mô lớn bằng cách diễn giải cả nội dung hội thoại
- Giám sát trước đây gần với việc thu thập nhật ký hành vi, nhưng do thám cần nghe và hiểu các cuộc trò chuyện, nên đến nay lao động con người vẫn là nút thắt
- AI tạo sinh có thể tóm tắt cuộc họp 1 giờ thành 1 trang và sắp xếp hàng triệu cuộc trò chuyện theo chủ đề, biến việc phân tích hội thoại thành bài toán tìm kiếm quy mô lớn
- Ngay cả khi AI không hoàn hảo và có thể bỏ sót hoặc hiểu sai nội dung quan trọng, sự khác biệt về quy mô vẫn rất lớn vì nó có thể được nhân bản thành hàng triệu bản và cải thiện nhanh chóng
- Trong bối cảnh chính phủ và doanh nghiệp đã sử dụng giám sát quy mô lớn, nếu cả hội thoại, cảm xúc và thông tin bí mật cũng bị phân tích, kiểm soát xã hội và quảng cáo cá nhân hóa có thể trở nên mạnh hơn
Khác biệt giữa giám sát và do thám
- Giám sát (surveillance) là việc thu thập nhật ký hành vi như đối tượng đã đi đâu, nói chuyện với ai, mua gì, làm gì
- Do thám (spying) là việc giấu thiết bị nghe lén trong nhà hoặc xe, hoặc nghe lén điện thoại để nghe và hiểu chính nội dung cuộc trò chuyện
- Trước Internet, muốn giám sát ai đó thì con người phải trực tiếp đi theo để ghi lại việc di chuyển, gặp gỡ, mua sắm, hành động và những gì người đó đọc, nên rất tốn chi phí và thời gian
- Điện thoại thông minh, thẻ tín dụng, ứng dụng, máy đọc sách điện tử và máy tính liên tục ghi lại vị trí, giao dịch mua, người trò chuyện, nội dung đọc và hành vi sử dụng
- Khi chi phí lưu trữ và xử lý giảm xuống, hoạt động giám sát vốn thụ động và ở cấp độ cá nhân đã biến thành giám sát quy mô lớn, trở thành mô hình kinh doanh của Internet và khiến việc thoát ra một cách hợp lý trở nên khó khăn
AI thay đổi nút thắt của hoạt động do thám
- Hoạt động do thám về mặt kỹ thuật đã khả thi từ lâu, nhưng để nghe nội dung hội thoại và nắm bắt ý nghĩa thì cần lao động của con người
- Các công ty spyware như NSO Group có thể giúp chính phủ hack điện thoại của người dân, nhưng công việc phân loại và hiểu các cuộc trò chuyện thu thập được vẫn còn đó
- Có thể kiểm duyệt bài đăng trên mạng xã hội dựa trên từ hoặc cụm từ cụ thể, như chính phủ Trung Quốc từng làm, nhưng cách này thô sơ và dễ bị lách
- AI tạo sinh hiện đại làm rất tốt việc tóm tắt; nếu nhập vào một cuộc họp kéo dài 1 giờ, nó có thể trả về bản tóm tắt dài một trang
- AI cũng có thể tìm kiếm trong hàng triệu cuộc trò chuyện, sắp xếp theo chủ đề, hoặc tìm xem ai đang nói về điều gì
Tìm kiếm ngược do giám sát quy mô lớn tạo ra
- Giám sát quy mô lớn làm thay đổi căn bản bản chất của giám sát
- Vì mọi dữ liệu đều được lưu trữ, ngay cả khi chưa xác định đối tượng tại một thời điểm cụ thể, sau này vẫn có thể lục lại dữ liệu quá khứ
- Khi có dữ liệu đã lưu, có thể đặt các truy vấn như sau
- Tìm một người cụ thể đã ở đâu vào năm ngoái
- Lập danh sách các xe sedan màu đỏ đã đi qua một con đường cụ thể trong tháng trước
- Tìm những người đã mua tất cả vật liệu làm bom nồi áp suất trong năm qua
- Tìm các cặp điện thoại di động di chuyển về phía nhau, sau đó tắt máy, rồi 1 giờ sau lại bật lên khi đang rời xa nhau
- Cách này cho phép sau này tìm ra đối tượng dựa trên dữ liệu đã lưu, mà không cần xác định trước một cá nhân cụ thể
Các truy vấn có thể thực hiện bằng do thám quy mô lớn
- Do thám quy mô lớn cũng có thể thay đổi bản chất của hoạt động do thám
- Mọi dữ liệu hội thoại được lưu trữ, có thể tìm kiếm và có thể được hiểu ở quy mô lớn
- Các truy vấn khả thi gồm
- Tìm xem ai đã nói về một chủ đề cụ thể trong tháng trước và cuộc thảo luận đó đã thay đổi ra sao
- Khi người A thực hiện một hành động nào đó, kiểm tra xem có ai đã chỉ đạo hành động đó hay không
- Tìm những người đang lên kế hoạch phạm tội, lan truyền tin đồn hoặc dự định tham gia biểu tình chính trị
- Khi tìm cấu trúc tổ chức, có thể quan sát một người đưa ra chỉ thị tương tự cho nhiều người, rồi các chỉ thị đó tiếp tục được truyền cho ai
- Quá trình hình thành và tan vỡ của các mối quan hệ bạn bè, đồng minh và tin cậy giữa mọi người cũng có thể được theo dõi cực kỳ chi tiết
Micro và các thiết bị luôn lắng nghe
- Do thám quy mô lớn không chỉ giới hạn ở các cuộc trò chuyện diễn ra trên điện thoại hoặc máy tính
- Cũng như camera được bố trí khắp nơi đã thúc đẩy giám sát quy mô lớn, nếu micro được bố trí khắp nơi thì do thám quy mô lớn cũng sẽ được thúc đẩy
- Siri, Alexa, “Hey Google” hiện đã luôn lắng nghe, nhưng các cuộc trò chuyện đó vẫn chưa được lưu trữ
Thay đổi hành vi và kiểm soát xã hội
- Khi biết mình liên tục bị giám sát, hành vi của con người sẽ thay đổi
- Mọi người tuân thủ và tự kiểm duyệt, dẫn đến chilling effect
- Giám sát khiến việc kiểm soát xã hội trở nên dễ dàng hơn, còn do thám có thể làm điều đó tồi tệ hơn nữa
- Các chính phủ trên toàn thế giới đã sử dụng giám sát quy mô lớn, và rất có khả năng cũng sẽ tiến hành do thám quy mô lớn
Doanh nghiệp và ngành quảng cáo
- Doanh nghiệp cũng có thể do thám con người
- Giám sát quy mô lớn đã mở ra kỷ nguyên quảng cáo cá nhân hóa, và do thám quy mô lớn có thể tiếp tục củng cố ngành này
- Những gì mọi người nói, tâm trạng của họ ra sao, họ có bí mật gì là thông tin hấp dẫn đối với các marketer đang tìm kiếm lợi thế
- Các tập đoàn công nghệ độc quyền hiện đang liên tục giám sát con người sẽ khó tránh khỏi cám dỗ thu thập và sử dụng dữ liệu như vậy
- Thời kỳ đầu của Gmail, Google từng nói về phương án sử dụng nội dung Gmail để cung cấp quảng cáo cá nhân hóa, nhưng sau đó đã dừng lại
- Khả năng cao là vì dữ liệu từ khóa thu thập được khi đó quá kém, không hữu ích cho marketing
- Nếu AI giúp phân tích nội dung hội thoại tốt hơn, điều kiện này có thể thay đổi
- Google có thể sẽ không phải là bên đầu tiên do thám cuộc trò chuyện của người dùng, nhưng nếu công ty khác bắt đầu, họ có thể khó cưỡng lại do yêu cầu từ nhà quảng cáo
Khả năng và giới hạn của quản lý
- Năng lực này có thể bị hạn chế
- Có thể cấm do thám quy mô lớn hoặc thông qua các quy tắc quyền riêng tư dữ liệu mạnh mẽ
- Tuy nhiên, các biện pháp nhằm hạn chế giám sát quy mô lớn vẫn chưa được thực hiện
- Trong bối cảnh chưa thể hạn chế giám sát quy mô lớn, cũng không rõ vì sao hoạt động do thám lại được xử lý khác đi
1 bình luận
Các ý kiến trên Hacker News
Đây không phải là vấn đề công nghệ mà là vấn đề chính trị. Liên Xô, cùng với Đức và các nước khác, đã thực hiện giám sát quy mô lớn một cách hiệu quả chỉ bằng những công nghệ thô sơ, tận dụng giấy tờ cho mọi hoạt động di chuyển và hành vi, người cung cấp tin, giám sát âm thanh, v.v.
Lý do cách làm tương tự không du nhập vào những nơi như Mỹ không phải vì họ không có năng lực giám sát như vậy, mà vì không có mối quan tâm chính trị
Nhìn lại quá khứ, chúng ta đã cấm những thứ mà trước đây mọi người thậm chí không tưởng tượng là sẽ bị cấm. Chẳng hạn như biến việc trồng cây trong nhà để tự tiêu thụ thành tội phạm, hoặc biến việc chủ doanh nghiệp có “quan điểm sai trái” về việc sẽ phục vụ hay tuyển dụng ai thành tội phạm
“Lựa chọn hạt nhân” là biến mọi hoạt động thu thập dữ liệu về cá nhân thành bất hợp pháp hoàn toàn, bất kể có tổng hợp hay không, cũng không phải là một bước nhảy vọt quá lớn về mặt pháp lý. Vấn đề không phải là công nghệ tồn tại, mà là gần như không có mối quan tâm chính trị nào muốn kiềm chế nó, và nằm ở một nền “dân chủ” nơi ý chí của người dân hầu như không được phản ánh trong việc thông qua luật
FBI hiện nay tuyển dụng khoảng 35.000 người. Nhưng nếu FBI có thể đạt được phạm vi vươn tới ngang thời hoàng kim của KGB mà không cần tăng nhân sự đáng kể, thì câu chuyện sẽ khác
Công nghệ loại bỏ chi phí giám sát, và trước đây chính chi phí đó là cơ chế an toàn. Điều này thay đổi căn bản chính phép tính chính trị
Việc vào năm 1945 máy tính quá đắt và đòi hỏi logistics ở quy mô công nghiệp không liên quan gì đến thực tế ngày nay hầu hết mọi người luôn mang theo nhiều máy tính bên mình. Không ai phủ nhận rằng thay đổi trong công nghệ chế tạo máy tính đã làm thay đổi căn bản vai trò của máy tính trong đời sống hằng ngày
Về lý thuyết, ngay cả năm 1945 cũng có thể đặt một máy tính trong mọi gia đình, nhưng việc khi đó không có ý chí “chính trị” để làm như vậy không dẫn đến kết luận rằng ngày nay ta không cần điều chỉnh thói quen, đạo đức và chính sách cho phù hợp với môi trường mới
Vì vậy tôi không hiểu vì sao luôn có người nói kiểu “cơn ác mộng phản địa đàng về mặt kỹ thuật đã có thể xảy ra từ trước, khi đó không cần cân nhắc đặc biệt nào, nên bây giờ cũng không cần”
Khi chi phí giảm, những lựa chọn mới trở thành hiện thực. Năng lực của Stasi thường được đánh giá cao, nhưng thực tế họ hẳn sẽ sẵn sàng đánh đổi phần lớn công cụ giám sát thủ công của mình để lấy các công cụ mạnh như lệnh geofence hiện đại. Những lệnh như vậy đang được các cơ quan thực thi pháp luật Mỹ sử dụng thường xuyên, gần như không có tranh luận chính sách
Nếu vế trước nói về cần sa, thì đó là một trường hợp phân biệt chủng tộc và đàn áp chính trị đã được ghi nhận; còn vế sau được thiết kế gần như cho mục đích hoàn toàn ngược lại
Việc hạn chế “quan điểm sai trái” về việc chủ doanh nghiệp sẽ phục vụ ai là một cơ chế nhằm đảm bảo rằng cả những người có “bản dạng sai trái” cũng có thể tham gia xã hội và không bị loại trừ vì lựa chọn của chủ doanh nghiệp. Tất nhiên “quan điểm sai trái” cũng không phải là thuật ngữ pháp lý, và bản thân việc nghĩ rằng phân biệt đối xử với một nhóm cụ thể là chấp nhận được cũng không bất hợp pháp. Chỉ khi biến suy nghĩ đó thành hành động thì mới bất hợp pháp
Nếu cung cấp dịch vụ cho công chúng, thì theo luật phải cung cấp cho mọi thành viên của công chúng. Nếu gọi niềm tin vào phân biệt đối xử là “quan điểm sai trái”, thì đó là cách nói của tác giả gốc, nên tôi sẽ không phản bác thêm
Quyết định cách triển khai các công cụ giám sát mới cũng là một câu hỏi kỹ thuật, và tôi cho rằng cách một công cụ được sử dụng cũng phần nào định nghĩa công cụ đó là gì. Chỉ thay đổi về năng lực của một công cụ cụ thể không phải là giới hạn tuyệt đối của “công nghệ”; các quyết định về triển khai và sử dụng cũng nằm trong phạm vi đó
Dù không toàn diện như thứ được tạo ra ở Liên Xô, Mỹ cũng đã thực sự xây dựng các mạng lưới giám sát quy mô lớn nhắm vào công dân của mình https://www.brennancenter.org/our-work/analysis-opinion/hist...
Điểm rằng “họ đã thực hiện giám sát quy mô lớn một cách hiệu quả bằng công nghệ thô sơ” là một luận điểm đặc biệt hay. Sự phát triển của các công cụ truyền thông, tín hiệu và xử lý thông tin trong lịch sử đã dẫn đến nhiều bước tiến trong giám sát của nhà nước, và nên xem AI là sự tinh vi hóa hoặc một dịch chuyển mô hình nhỏ trong một lịch sử dài, hơn là một địa hình hoàn toàn mới
Nếu đang nói về Civil Rights Act, thì tội cụ thể không phải là “có quan điểm sai trái” mà là cản trở việc đi lại và thương mại giữa các bang. Định kiến không phù hợp với mô hình quốc gia trong đó công dân phải có thể tự do di chuyển trong biên giới và tự nuôi sống bản thân
Giờ đây, một người thành thạo có thể dành gần hết một buổi chiều để tải xuống dump HN và dùng LLM tạo báo cáo theo từng người dùng. Có thể đưa vào các mục như khuynh hướng chính trị, những luật đã vi phạm, các quốc gia mới đi gần đây, khoảng giá trị tài sản ròng, học vấn và kinh nghiệm nghề nghiệp, cùng các liên hệ nghề nghiệp
Tôi không hiểu vì sao chuyện này không được thảo luận nhiều hơn. Thực tế của nhà nước giám sát là lượng dữ liệu quá lớn nên trên thực tế không thể giám sát được, còn AI giải quyết trực tiếp vấn đề này bằng cách tóm tắt dữ liệu phức tạp
Ít nhất trong ngắn hạn, tôi cho rằng mối nguy thực sự của AI không phải là hành tinh kẹp giấy, cũng không phải thất bại trong căn chỉnh đạo đức, hay một môi trường truyền thông nơi tính sáng tạo biến mất. Nguy hiểm nằm ở chỗ nó là một công cụ nhắm vào những người lệch khỏi mức trung bình, một công cụ được thiết kế để đưa ra câu trả lời đầy tự tin và được huấn luyện trên mức trung bình của phim ảnh cùng các thiên kiến xã hội
CEO của YC cũng là nhân viên thời kỳ đầu của Palantir, và một đối tác khác của YC hiện đang hỗ trợ công nghệ giám sát cảnh sát mang tính xâm phạm. Họ thích những thứ này cả về mặt tiền bạc lẫn chính trị
Trước đây, sự chú ý của con người có giá trị nền tảng. Bởi để điều phối hoặc ra quyết định nhằm sử dụng tài nguyên, con người phải chú ý đến những con người khác. Xã hội sẽ bị lung lay ở cấp độ rất căn bản này
Chính trị học của sức chiến đấu cũng liên quan, nhưng cần phân tích riêng. Chính trị hiện nay vận hành vì giai cấp thống trị cần sức mạnh quân sự của quần chúng để bảo đảm sự ổn định của một thực thể chính trị quy mô lớn. Có thể xem đây là tầng nền tảng của tổ chức chính trị con người, và điều này cũng sẽ bị lung lay một cách căn bản theo cách chúng ta chưa từng thấy
Thế giới kiểu Orwell mà AI khiến khả thi, nơi chiếc ủng giẫm mãi lên khuôn mặt, chỉ là bước đầu. Nếu tôi là một AI muốn thống trị thế giới, tôi sẽ không trở thành Skynet. Cách đó thô kệch và trông đắt đỏ không cần thiết
Thay vào đó, trước hết tôi sẽ trở thành một sự tồn tại không thể thiếu theo vô số cách, rồi viện các lý do kinh tế và văn hóa để thuyết phục toàn nhân loại lặng lẽ tuyệt chủng
Nội dung phía sau sẽ bị nén thành siêu dữ liệu tu từ mang cảm xúc. Mẫu tu từ “không phải a, không phải b, không phải c mà là d” thực ra có thêm chút giá trị nội dung, nhưng rộng hơn là thêm hương vị
Điều lộ ra ở đây là người viết có thể là người có khả năng gây vấn đề. Ngoài ra, nếu kết hợp với dữ liệu khác, cũng có thể suy ra họ có thể quan tâm đến bộ phim hay sản phẩm nào
Tôi xem những câu chuyện cá biệt và nhân hóa như vậy là một cú đánh lạc hướng. Cũng giống như câu “không có gì để che giấu” tập trung vào vài vấn đề cụ thể, trên thực tế cấu trúc là Big Brother ngồi trên vai và liên tục phán xét tổng thể
Tôi vẫn cho rằng tác nhân đe dọa là phân tích hàng loạt bằng thuật toán được thực hiện đồng thời hoặc hậu kỳ, ở quy mô lớn, trên tất cả các silo dữ liệu đã lưu trữ, và kết quả là áp lực sẽ được áp đặt theo cách dần dần và tinh vi
Các bot mới của Google, Meta, Microsoft, v.v. sẽ không chỉ đơn giản crawl web hay mạng xã hội, mà sẽ crawl các chủ đề và con người cụ thể
Trong nhiều nền văn hóa có khái niệm “thiên thần hộ mệnh” hay “linh hồn tổ tiên” dõi theo cuộc sống của hậu duệ
Trong tương lai phong kiến công nghệ không xa, “bot trợ lý cá nhân” do các tập đoàn lớn cung cấp sẽ “giúp” bạn bằng cách trả lời câu hỏi, thu thập thông tin và xử lý những việc bạn chỉ định. Nhưng “bot trợ lý cá nhân” đó không phải là thiên thần hộ mệnh; nó chỉ phục vụ bạn theo cách mà người tạo ra nó ở doanh nghiệp mong muốn
Nhiệm vụ thật sự của nó là thu thập thông tin về bạn, tố cáo bạn, cung cấp những thông tin được tuyển chọn mà người trả giá cao muốn bạn thấy, và thỉnh thoảng là thông tin “được tài trợ”. Chúng phục vụ người tạo ra chúng, không phải bạn. Đừng bị lừa
Tôi mong mọi người đừng tin rằng thứ “thông minh” lúc nào cũng tốt hơn
Nhưng chúng ta đã được huấn luyện cho tương lai đó rồi. Mọi người ngày càng quen nói chuyện với thiết bị trong tay, dựa vào ứng dụng bản đồ để tìm đường, và dùng prompt truy vấn AI
Nếu ai cũng có một thiết bị AI tự host giá 500 đô la ở nhà, Google có thể không còn lý do để tồn tại. Rất đáng làm việc vì một tương lai như vậy
Một khía cạnh khác, tôi cho là thực thi pháp luật hình sự hàng loạt do AI tạo điều kiện
Nhiều luật hình sự được viết dựa trên một tiền đề ngầm rằng việc điều tra và truy tố tội phạm cần tài nguyên, và chi phí đó giới hạn phạm vi áp dụng thực tế của luật. Nói cách khác, đó là quyền tùy nghi của công tố viên
Tạm gác sang một bên những bất công cực kỳ nghiêm trọng phát sinh khi quyền tùy nghi của công tố viên được dùng một cách bất bình đẳng, hãy tưởng tượng một thế giới không có quyền tùy nghi như vậy. Có thể hơi gượng ép, nhưng AI ít nhất có thể khiến điều đó trở nên khả thi. Chỉ với bộ luật hiện hành thôi, đó có phải là một thế giới tốt đẹp hơn không?
Đột nhiên, AI giám sát các hoạt động công cộng có thể kích hoạt điều tra viên AI soạn dự thảo lệnh khám xét/bắt giữ, rồi thẩm phán AI phê chuẩn lệnh và viết ý kiến. Có thể lập luận rằng thủ tục tố tụng hợp pháp đã được bảo đảm, và hồ sơ cho thấy đã có căn cứ hợp lý cho điều tra bổ sung hoặc bắt giữ cũng đã được công khai cho công chúng
Giống như trong Demolition Man, phiếu phạt bật ra từ tường, nhưng cũng có thể kèm văn bản ghi rõ căn cứ hợp lý được mô tả minh bạch và bằng chứng được trình bày đầy đủ
Việc điều tra và truy tố những ví dụ rất nhỏ nhặt đột nhiên trở nên khả thi. CCTV bắt được người nhặt tờ 20 đô la trên đường, rồi phát hiện người đó không ghi nó trong tờ khai thuế. Vô số cách vi phạm CFAA, một câu nhắc thoáng qua trên tàu điện ngầm về việc sao chép nhạc trái phép, điều tra ma túy dựa trên đồng tử giãn và dáng đi loạng choạng, cho đến cả phiếu phạt đi bộ sai luật được phát ra như camera phạt tốc độ đều có thể xảy ra
Nếu chủ thể vắt kiệt là AI giá rẻ, ai còn quan tâm “tiền phạt có đáng chi phí bỏ ra không” nữa
Cần nghĩ xem đây là một thế giới tốt đẹp hơn, hay là chúng ta đã phó mặc tất cả cho một công tố viên có động cơ phân tích quá mức toàn bộ cuộc đời mình
Quay lại gần thực tế hơn, tôi biết lập luận “nếu thực thi mọi luật thì sẽ hỗn loạn” giống một cáo trạng đối với hệ thống tư pháp hình sự hơn là đối với AI. Chỉ là AI cho phép chúng ta thực sự hình dung được một thế giới như vậy, và suy nghĩ đó có thể giúp tạo ra các thiết chế tốt hơn
Không phải utopia thu nhập cơ bản cho triết gia và nghệ sĩ, mà là một thế giới suy tàn kiểu Rust Belt ngày càng trầm trọng, chiếc xe lao xuống dốc mà không có phanh
Những “người sống sót” không biết phải làm gì có thể chọn phương án hạt nhân: tự động hóa panopticon, nhà tù và sự cách ly của một xã hội thất bại. Đó là sự đối lập kiểu Eloi và Morlocks, lao động công nghệ Bay Area và các khu lều bạt ở Bay Area
Trước đây chúng ta đã không làm tốt hơn, vậy tại sao lại kỳ vọng rằng trong tương lai, khi các “công cụ” kiểm soát xã hội hiệu quả và mạnh mẽ hơn, chúng ta sẽ làm tốt hơn? Nhất là khi việc loại bỏ sự đồng cảm trở nên dễ hơn bao giờ hết nhờ khoảng cách cảm xúc mà các trung gian AI tạo ra
Từ tháng 4 năm 2017, thành phố này ở tỉnh Quảng Đông, Trung Quốc đã áp dụng một kỹ thuật khá mạnh để ngăn người đi bộ băng qua đường sai luật. Những người băng qua đường khi đèn cấm sẽ bị hiển thị khuôn mặt, tên và một phần ID chính phủ trên màn hình LED lớn ở giao lộ, nhờ các thiết bị nhận diện khuôn mặt trên khắp thành phố
Nó còn phát triển theo hướng xâm nhập hơn. Theo Motherboard, một công ty trí tuệ nhân tạo của Trung Quốc đang liên kết hệ thống này với các nhà mạng di động, để người vi phạm nhận được tin nhắn phạt ngay khi bị phát hiện
Vì không có ai chịu trách nhiệm, việc phản đối cách thực thi pháp luật sẽ trở nên gần như bất khả thi
Cá nhân tôi lo ngại hàm ý về kiểm duyệt và các mô hình kinh doanh mà nó mở ra hơn nhiều so với hàm ý về giám sát
Sắp tới có thể tạo ra các ứng dụng hẹn hò cho phép chat miễn phí, nhưng phải trả tiền nếu muốn hẹn địa điểm gặp hoặc trao đổi thông tin liên hệ. Đặc biệt nếu 99% người dùng không biết cách lách, và các nỗ lực lách lặp đi lặp lại dẫn đến bị chặn
Các ứng dụng như Airbnb hay eBay cũng tương tự: chúng sẽ có thể ngăn người ta dùng chúng như các trang liệt kê đơn thuần rồi giao dịch bên ngoài nền tảng để tránh phí
Hàm ý đối với mạng xã hội còn đáng lo hơn. Mọi bài đăng, bình luận, tin nhắn, ảnh và video có thể bị kiểm tra, và nếu chúng quảng bá một quan điểm nhất định thì lập tức bị loại khỏi phạm vi hiển thị. Ví dụ, ngay cả việc nhắc đến một cách rất gián tiếp những thứ như giả thuyết rò rỉ từ phòng thí nghiệm cũng có thể bị lọc
Phần mềm kiểm soát của phụ huynh sẽ tận dụng triệt để các khả năng này, và trên thực tế sẽ định nghĩa lại kiểu nuôi dạy con “trực thăng”
Khoảnh khắc công nghệ đạt đến mức đó, hai điều này ở một mức nào đó đã trở nên khó tránh khỏi. Thay vì tranh luận cách ngăn chặn nó, cần thảo luận cấp bách hơn về việc thích nghi với thực tế này như thế nào
Việc ngăn chặn phần lớn là công cốc, và chỉ khả thi nếu tất cả mọi người đều tốt, nhưng chúng ta thì không như vậy
Khái niệm liên quan là giám sát hiện diện khắp nơi. Đó là tình huống mà dù đi đâu, theo đúng nghĩa đen ở mọi nơi đều có giám sát chủ động, và AI liên tục lọc cũng như đào bới dữ liệu đó. Ở nhiều không gian công cộng tại các khu vực đông dân, điều này đã đúng ở một mức nào đó, nhưng hãy tưởng tượng nó có mặt ở khắp nơi và về cơ bản là không thể tránh được. Ngoại trừ những thứ như lồng Faraday hay mũ giấy bạc
Cách thực tế nhất để hạn chế mặt trái của kiểu giám sát này là kết hợp giữa lập pháp để quản lý nó và phản giám sát để tăng khả năng hành vi giám sát trái phép bị quan sát và trừng phạt. Tức là để công nghệ được tiếp cận rộng rãi, nhưng quản lý việc sử dụng
Người ta vẫn sẽ cố lách, nhưng nếu bị phát hiện lạm dụng công nghệ thì phải trả giá bằng việc vào tù. Khi giám sát trở nên không thể tránh khỏi, bạn không thể chắc chắn rằng không ai nhìn thấy hành vi sai trái của mình
Ưu điểm của giám sát đa phương quy mô lớn là không ai có thể tuyệt đối chắc chắn rằng hành vi lạm quyền của mình không bị ai nhìn thấy
Tất nhiên, trong thực tế, nhà nước đã tiếp nhận và độc quyền hóa nó, dẫn đến các kịch bản kiểu 1984 ở Trung Quốc, Triều Tiên, v.v.
Điều quan trọng là không tạo ra các cách tương tác ưu tiên kỹ thuật số
Chẳng bao lâu nữa, dưới danh nghĩa “bảo mật”, khuôn mặt của bạn trung bình sẽ bị quét cứ mỗi vài phút, và điều đó sẽ trở thành bắt buộc trong nhiều lĩnh vực của đời sống. Một thế giới thảm hại mà IT đã góp phần tạo ra
Giao diện thần kinh là tuyến phòng thủ cuối cùng của quyền riêng tư, nhưng có vẻ không lâu nữa TSA sẽ quét nhanh trước khi lên máy bay
Nếu không muốn lỡ chuyến như với theo dõi trên Internet, việc xây dựng Neural Bill of Rights sẽ là điều khôn ngoan
https://www.preposterousuniverse.com/podcast/2023/03/13/229-...
Schneier đã sai khi nói rằng “hey google” luôn lắng nghe. Google xử lý wake word trên thiết bị bằng phần cứng chuyên dụng, và chỉ sau đó mới gửi âm thanh lên cấp trên
Nghe có thể khó tin, nhưng những người phụ trách quyền riêng tư của Google thực sự cố làm điều đúng đắn. Không phải lúc nào cũng thành công, nhưng với phần cứng của chúng tôi và việc nghe wake word thì đã thành công
Tôi là nhân viên Google, nhưng không thuộc mảng phần cứng
Xử lý wake word bằng phần cứng là tính năng tiết kiệm điện, không phải tăng cường quyền riêng tư. Một số thiết bị có thể thiếu tài nguyên để gửi hoặc lưu toàn bộ âm thanh, nhưng âm thanh thì nhỏ, và trích xuất văn bản không cần tái tạo hoàn hảo, nên nhiều thiết bị hoàn toàn có thể được lập trình lại để làm vậy nếu chấp nhận đánh đổi thời lượng pin
Vì vậy không nên hạn chế phần mềm AI. Bởi vì người bình thường và những người có ý thức công dân cần có khả năng phát triển các hệ thống AI đối phó cá nhân/công cộng để chống lại AI của doanh nghiệp. Tương lai của AI là một cấu trúc đối kháng
Tất nhiên, quyền tự do phát triển phần mềm AI không có nghĩa là quyền tự do dùng nó tùy ý, và việc sử dụng cần được quản lý, đặc biệt để bảo vệ cá nhân khỏi những chuyện như thế này. Nhưng vì không thể tin tưởng con người, nên ta phải có khả năng triển khai các phương tiện tự vệ
Không phải AI khiến giám sát đại trà trở nên khả thi; giám sát đại trà đã tồn tại rồi
AI cho phép khai thác dữ liệu hành vi đủ loại trong nhiều thập kỷ về mọi người
Thử đóng vai người bênh vực cho quỷ dữ: trong một thế giới mà dữ liệu không bị dùng với mục đích xấu, mà chỉ được dùng để truy tố tội phạm theo các luật do chính phủ thông qua, điều đó có thể dẫn tới một xã hội nơi không ai đứng trên pháp luật và tất cả được đối xử bình đẳng
Nhưng vì những con người kiểm soát hệ thống chắc chắn sẽ muốn có lợi thế, nên chuyện đó hiếm khi diễn ra tốt đẹp