Thông báo lỗi nhận diện khuôn mặt trên máy bán hàng tự động làm dấy lên lo ngại về quyền riêng tư tại Đại học Waterloo

• Việc ứng dụng nhận diện khuôn mặt trên máy bán hàng tự động thông minh ở khuôn viên University of Waterloo hiển thị lỗi đã làm dấy lên lo ngại trong sinh viên rằng việc phát hiện dữ liệu sinh trắc học và nhân khẩu học có thể đã diễn ra mà không có thông báo
• Thiết bị liên quan là máy bán sô-cô-la và kẹo mang thiết kế M&M, được lắp đặt tại nhiều nơi trong khuôn viên như tòa nhà Modern Languages và Hagey Hall
• Sau khi ảnh chụp lỗi lan truyền trên mạng, sinh viên bắt đầu xem lỗ nhỏ trên máy là camera hoặc cảm biến và che lại bằng sticky tack, kẹo cao su, giấy ghi chú và các vật khác
• Nhà cung cấp dịch vụ Adaria phủ nhận việc sở hữu, sản xuất thiết bị hay có quyền truy cập dữ liệu, còn nhà sản xuất Invenda cho biết phần mềm chỉ xử lý cục bộ và không lưu hay truyền hình ảnh hoặc thông tin định danh cá nhân
• University of Waterloo đã yêu cầu gỡ các máy bán hàng này khỏi khuôn viên càng sớm càng tốt, và trong thời gian chờ đợi thì vô hiệu hóa phần mềm liên quan

---

Tranh cãi về máy bán hàng trong khuôn viên bị lộ qua thông báo lỗi

• Các máy bán hàng tự động thông minh tại University of Waterloo dự kiến sẽ bị dỡ khỏi khuôn viên sau khi sinh viên bày tỏ lo ngại về quyền riêng tư
• Các máy này dán hình M&M và bán sô-cô-la cùng các loại kẹo khác
  • Địa điểm lắp đặt gồm có tòa nhà Modern Languages và Hagey Hall
• Đầu tháng 2, một sinh viên phát hiện thông báo lỗi trên máy bán hàng ở tòa nhà Modern Languages
  • Thông báo này dường như cho thấy có vấn đề với ứng dụng nhận diện khuôn mặt
  • Sinh viên năm cuối River Stanley nói rằng nếu không có lỗi này thì sinh viên đã không biết, và tại hiện trường cũng không có cảnh báo nào

Phản ứng của sinh viên và sự lan truyền trên mạng

• Sau khi ảnh chụp thông báo lỗi được đăng lên mạng, nó nhanh chóng được chia sẻ giữa các sinh viên
• Nhiều sinh viên xem lỗ nhỏ trên máy là vị trí camera và cố che lại
  • Các vật được dùng gồm sticky tack, kẹo cao su và giấy ghi chú
• Sinh viên Dilpreet Sandhu nói rằng cô rất ngạc nhiên vì không nghĩ máy bán hàng tự động lại cần đến nhận diện khuôn mặt
• Sandhu nói thêm rằng sau khi biết việc này, cô bắt đầu tự hỏi liệu công nghệ tương tự có đang được sử dụng ở những nơi khác hay không
  • Cô cũng nói rằng người dùng điển hình trong khuôn viên trường là những người trẻ trưởng thành ở độ tuổi cuối thiếu niên đến đầu 20

Lập trường của Adaria, MARS và Invenda

• Adaria Vending Services Limited, đơn vị cung cấp máy bán hàng, cho biết qua email rằng họ là fulfillment service provider
  • Không sở hữu hay sản xuất thiết bị
  • Không thể truy cập loại dữ liệu được tạo ra từ thiết bị
• Máy bán hàng thuộc sở hữu của MARS, còn nhà sản xuất là Invenda
• MARS không phản hồi yêu cầu bình luận từ CTV
• Invenda cũng không phản hồi yêu cầu bình luận từ CTV, nhưng trong email gửi cho Stanley, công ty nói phần mềm phát hiện nhân khẩu học trong máy bán hàng hoạt động hoàn toàn cục bộ
  • Không lưu hình ảnh hay thông tin định danh cá nhân
  • Không truyền thông hay gửi đi hình ảnh hoặc thông tin định danh cá nhân

Mô tả chức năng phát hiện trên website của Invenda

• Theo website của Invenda, Smart Vending Machines có thể phát hiện sự hiện diện của con người, độ tuổi ước tính và giới tính
• Website cho biết phần mềm xử lý cục bộ theo thời gian thực bản đồ ảnh số từ cảm biến quang học USB
  • Dữ liệu này không được lưu trên phương tiện lưu trữ vĩnh viễn
  • Không được truyền lên đám mây qua Internet
• Invenda trả lời Stanley rằng phần mềm này tuân thủ GDPR, luật bảo vệ dữ liệu cá nhân của Liên minh châu Âu
• Stanley đặt câu hỏi liệu công nghệ này có hợp pháp tại Canada hay không

Vụ việc quyền riêng tư tại Canada và phản ứng của trường

• Trong cuộc điều tra năm 2020 của Ủy viên Bảo vệ Quyền riêng tư Liên bang Canada, camera tích hợp trong các ki-ốt thông tin số của Cadillac Fairview bị xác định đã ghi lại hơn 5 triệu hình ảnh của khách mua sắm mà không có sự nhận biết hay đồng ý của họ
  • Các ki-ốt này đã sử dụng công nghệ nhận diện khuôn mặt
• Stanley cho rằng sinh viên cần được biết về các trường hợp có thể vi phạm luật quyền riêng tư nếu không có sự đồng ý rõ ràng và có ý nghĩa
• University of Waterloo cho biết đang xử lý tình huống này
  • Nhà trường đã yêu cầu gỡ các máy bán hàng liên quan khỏi khuôn viên càng sớm càng tốt
  • Trong thời gian đó, trường yêu cầu vô hiệu hóa phần mềm
• Stanley nói rằng nếu nhà trường không thực hiện việc gỡ máy bán hàng, anh sẽ nộp đơn khiếu nại lên Ủy viên Thông tin và Quyền riêng tư Ontario

[GN⁺]

Các ý kiến trên Hacker News

• Tìm thử brochure của bên bán thì thấy họ nói khá trắng trợn về việc máy bán hàng dùng thông tin này vào đâu
  Họ thu thập thông tin nhân khẩu học về ai mua gì, theo giới tính, độ tuổi, v.v., rồi dùng để nhắm mục tiêu quảng cáo. Tài liệu cũng nói dữ liệu được dùng chung với “các đối tác môi giới truyền thông”
  Họ còn khoe rằng nếu cài ứng dụng thì có thể tăng doanh thu nhờ “game hóa”: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

  • Những máy bán hàng tự động bị phủ kín bằng màn hình lớn tượng trưng cho mọi thứ tôi ghét ở công nghệ hiện đại
    Từ góc nhìn người mua, chẳng có gì tốt hơn. Không thể nhìn toàn bộ hàng trong máy chỉ trong một lần, không biết còn bao nhiêu, mà bản thân máy cũng không biết điều đó một cách đáng tin cậy. Mọi tương tác đều chậm, và đổi lại ta nhận được quảng cáo cùng mini game
    Đêm muộn đang đói, tàu sẽ chạy sau 2 phút, tôi chỉ muốn mua một thanh Snickers thôi. Những công ty kiểu này gần như là có hại
  • Brochure đó thật xuất sắc. Điểm bán hàng tôi thích nhất là phần cho phép hiển thị và bán cả những sản phẩm thực ra không có trong máy, rồi đưa cho khách một giấy ghi nợ kỹ thuật số thay vì đồ uống

    "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
    Họ biến một lần mua bốc đồng dựa trên sự tiện lợi thành thêm một việc lặt vặt phải quay lại xử lý sau
    Chắc hẳn cuối cùng vẫn có một góc độ kinh doanh nào đó mà tôi chưa hiểu. Nếu không thì tính năng này không thể nào thực sự tăng doanh thu. Tôi tự hỏi họ muốn bán hàng hóa kỹ thuật số, hay muốn dùng phiếu giảm giá kỹ thuật số được nhắm mục tiêu để kéo khách tới cửa hàng gần đó. Cũng tò mò không biết đã ai thực sự thấy nó ngoài đời chưa

  • Dùng nhận diện khuôn mặt để phát hiện giới tính trong khuôn viên đại học Mỹ thế kỷ 21 ư, rốt cuộc chuyện gì có thể sai đến mức gây bão truyền thông đây
  • Ở Nhật, từ năm 2010 người ta đã dùng máy bán hàng nhận diện khuôn mặt để gợi ý sản phẩm và thu thập thống kê: https://www.youtube.com/watch?v=S2hwnGrn3go
  • Ngay cả khi mua một thanh Mars, cả thế giới cũng cố gửi quảng cáo nhắm mục tiêu cho tôi

• Tôi nghĩ chuyện này là thật, nhưng cũng khiến tôi tưởng tượng ra khả năng ai đó đang nghịch cho vui. Tiêu đề hộp thoại hay tên ứng dụng trông như được cố ý đặt như vậy
  Cuối những năm 2000, công ty tôi làm chuyển tới một văn phòng có bồn tiểu tự động, thời đó là thứ khá lạ. Đó là một thiết bị nhựa đen mờ, có tay gạt xả nước và một ô cửa sáng bóng bằng nhựa tối màu truyền được tia hồng ngoại
  Rõ ràng đó là cảm biến tiệm cận để tự xả nước, nhưng có người đã dán một tờ như thông báo chính thức ghi “Không chạm vào camera”, làm vài người thật sự bất an

• Nhìn câu trên website rằng “xử lý cục bộ theo thời gian thực các bản đồ hình ảnh số bắt nguồn từ USB optical sensor”, tôi nghi rằng USB optical sensor thực chất là camera giấu kín, còn “digital image maps” chính là hình ảnh từ camera đó
  Nếu vậy thì phần còn lại của câu, rằng “không lưu dữ liệu đó vào phương tiện lưu trữ lâu dài hoặc truyền qua Internet lên đám mây”, cũng có thể là cách diễn đạt để chừa đường lách

  • Có lẽ nó giống cảm biến Face ID của Apple. Theo nghĩa chặt chẽ thì là “camera”, nhưng là thiết bị ghi bản đồ độ sâu hơn là chụp ảnh
    Tôi có thể tin việc họ không gửi hình ảnh hay bản đồ độ sâu thô qua Internet. Dung lượng dữ liệu cũng lớn, và cũng khó nghĩ ra họ sẽ dùng dữ liệu thô đó vào việc gì
    Nhưng việc cố gắng liên kết thông tin nhân khẩu học, thậm chí có thể cả từng người dùng riêng lẻ, với các mẫu hình mua hàng cụ thể thì gần như chắc chắn

• Năm 2018, Renesas tổ chức cuộc thi “Facial Expression Kit Giveaway” và tôi nhận được một bộ. Đó là “RZ Omron Facial Expression Kit giveaway”, còn RZ khi ấy là một trong các dòng vi điều khiển tương đối mới
  Muốn nhận giải phải ký một bản tuyên bố, và tôi thật sự đã ký, nhưng cuối cùng không dùng đến, rồi sau đó nó được chuyển sang một Hamfest địa phương. Mã ví dụ là máy bán hàng tự động
  Tài liệu liên quan tôi tìm được hôm nay chỉ có chừng này: “OMRON Develops Real-Time Facial Expression Estimation Technology” https://www.omron.com/media/press/2012/10/e1023.html

• Máy bán hàng tự động ở nơi tôi từng làm bắt nhập bốn chữ số cuối của SSN. Tôi cực kỳ ghét chuyện đó

  • Xin hãy giải thích như cho trẻ năm tuổi

• Ở Mỹ nhận diện khuôn mặt vẫn chưa phổ biến sao?
  Ở Anh thì nó đã được dùng khắp nơi rồi. Có trong hầu hết cửa hàng và hệ thống thanh toán, được dùng trên hệ thống CCTV toàn quốc, còn cảnh sát dùng để nhận diện người biểu tình. Các trường học trong khu vực tôi sống thậm chí còn cài spyware lên điện thoại của trẻ để giám sát trẻ và gia đình
  Ở đây, tôi khó tưởng tượng sẽ có ai bận tâm nếu một máy bán hàng tự động nhận diện tôi. Nguy cơ là gì?

  • Đây không phải một người lớn phiền phức đứng đó nói oang oang với người qua đường rằng bạn đã mua gì
    Đây là bộ thu thập dữ liệu để bán quảng cáo tốt hơn, gom thông tin có thể lan đi khắp thế giới
    Họ có thể tạo các phân loại kiểu bạn có mua nước ngọt lúc 05:00 thứ Sáu hằng tuần không. Chẳng hạn như “dân tiệc tùng”. Hoặc cũng có thể không, nhưng khó tin rằng họ bỏ thêm tiền cho phần mềm và camera chỉ vì rất muốn mất tiền
  • Tôi biết Anh đang tệ đi nhanh chóng vì mấy trò nhà nước giám sát vớ vẩn, nhưng đã đến mức đó rồi sao?
    Tôi càng kính trọng hơn những người liều mình vì lợi ích công cộng để phá hỏng và tháo dỡ camera giám sát của chính phủ
  • Nguy cơ là vô số mảnh thông tin nhỏ mà công nghệ này thu thập sẽ rơi vào tay một nhà độc tài diệt chủng tiếp theo. Không biết họ sẽ dùng chỉ số nào làm căn cứ thanh trừng
  • EU đã thông qua GDPR từ vài năm trước, tôi không hiểu vì sao ở Anh lại thành ra thế này

• Những thứ như thế này thật sự khiến người ta phát điên, nhưng đoạn kết của bài viết không tuyệt vọng như tôi tưởng. Thật tốt khi thấy sinh viên phản kháng từ cơ sở, trường đại học có lẽ sẽ có biện pháp, và mọi người cảm thấy mình có thể làm gì đó theo pháp luật
  Chúng ta cần tiếp tục thúc đẩy để những việc như thế này ngày càng ít bị bình thường hóa, và mức phạt cũng phải ngày càng nặng hơn. Có như vậy mọi người mới có thêm sức mạnh để đứng lên phản đối
  Luật cũng cần làm rõ rằng chúng ta có quyền “phá hỏng” những thiết bị như thế này. Cá nhân tôi cho rằng hành vi đập nát thứ này bằng gậy bóng chày ít nhất cũng nên có thể được bào chữa trước tòa

• Tôi tò mò ranh giới nằm ở đâu giữa những kiểu theo dõi mà mọi người cảm thấy “chấp nhận được” và những kiểu “không thể chấp nhận”
  Ở đây có vẻ gần như tất cả sinh viên đều ghét nhận diện khuôn mặt. Trong khi đó, tôi cũng thấy nhiều người nói họ không bận tâm đến việc bị theo dõi trực tuyến
  Có lẽ khi việc theo dõi bước ra thế giới thực và có cảm giác “thật” hơn, mọi người trở nên nhạy cảm hơn

  • Có một thứ gọi là sự đồng ý ngầm. Khi tạo tài khoản Gmail, ta biết Google có thể truy cập toàn bộ email của mình. Khi dùng Gmail, ta cũng phần nào biết rằng Google sẽ lập hồ sơ quảng cáo về mình, và coi như ta ngầm đồng ý với điều đó
    Nhưng nếu biết họ đang gom các file PDF xét nghiệm máu do bác sĩ gửi rồi bán cho công ty bảo hiểm, thì điều đó khách quan mà nói đã vượt xa phạm vi đồng ý hợp lý
    Trong bối cảnh bán M&M, ngưỡng thu thập dữ liệu cho phép mà tôi cho là phù hợp sẽ rất thấp
  • Tôi không quá bận tâm đến quảng cáo nhắm mục tiêu trực tuyến. Nếu quảng cáo “sinh tố acai berry” đổi thành quảng cáo “kỳ nghỉ ở bãi biển”, thì trải nghiệm tốt hơn vì nó chuyển từ thứ tôi không quan tâm sang thứ tôi quan tâm. Tôi cũng hiểu điều kiện trao đổi khi dùng các sản phẩm miễn phí như Google Maps hay Facebook
    Nhưng trong trường hợp này, công ty máy bán hàng tự động hoặc một mắt xích nào đó trong mạng lưới phân phối của họ dùng nó để hiển thị quảng cáo dựa trên nhân khẩu học cho khách hàng của máy bán hàng. Tôi vẫn phải trả tiền sản phẩm, và cũng không phải quảng cáo không nhắm mục tiêu trước đây được thay bằng quảng cáo nhắm mục tiêu. Ngay từ đầu vốn đã không có quảng cáo
    Họ cũng sẽ chẳng chia lại cho tôi một phần doanh thu quảng cáo, và nhiều khả năng các máy bán hàng xung quanh đều thuộc cùng một công ty nên cũng không có cạnh tranh. Rốt cuộc đó chỉ là một nguồn doanh thu bổ sung cho công ty, hoàn toàn vô ích với người dùng

• Những kẻ phá hoại cần thiết vào những lúc thế này đã đi đâu hết rồi?

• Chỉ cần một chút keo siêu dính là giải quyết được việc này