They See Your Photos - Những thông tin mà ảnh tiết lộ

 (theyseeyourphotos.com)
1 điểm bởi GN⁺ 2024-12-15 | 1 bình luận | Chia sẻ qua WhatsApp
  • Đây là một thử nghiệm cho thấy ảnh cá nhân không chỉ để lộ đối tượng có thể nhìn thấy mà còn có thể làm lộ cả thông tin riêng tư
  • Khi người dùng tải lên một bức ảnh, họ có thể kiểm tra AI đọc ra được những thông tin gì bằng Google Vision API
  • Điểm cốt lõi không phải là phân tích hồ sơ bằng cách gom nhiều dữ liệu, mà là chỉ với một bức ảnh duy nhất cũng có thể suy luận được nhiều hơn tưởng tượng
  • Nội dung không đề cập đến việc xử lý nhiều ảnh hay phân tích hành vi dài hạn; phạm vi đầu vào được giới hạn ở một bức ảnh
  • Điều này giúp người dùng trực tiếp cảm nhận rằng việc chia sẻ hoặc tải ảnh lên, khi đi qua phân tích AI, có thể dẫn đến việc lộ thông tin ngoài ý muốn

Thông tin mà một bức ảnh có thể tiết lộ

  • They See Your Photos là một thử nghiệm được tạo ra để người dùng tự mình kiểm tra AI nhìn thấy gì trong những bức ảnh họ tải lên
  • Ảnh có thể để lộ rất nhiều thông tin cá nhân, và thử nghiệm này tập trung vào những gì có thể được suy luận chỉ từ một bức ảnh duy nhất

Cách sử dụng

  • Người dùng tải ảnh lên
  • Hệ thống dùng Google Vision API để kiểm tra những thông tin có thể đọc ra từ ảnh
  • Thông qua thông điệp “Hãy nhìn những gì họ nhìn thấy”, người dùng sẽ trải nghiệm cách AI diễn giải ảnh

Bài viết liên quan

1 bình luận

 
GN⁺ 2024-12-15
Các ý kiến trên Hacker News

  • magick convert IMG_1111.HEIC -strip -quality 87 -shave 10x10 -resize 91% -attenuate 1.1 +noise Uniform out.jpg
    Lệnh này sẽ xóa toàn bộ metadata EXIF, thay đổi chất lượng JPEG, đơn giản là cắt bớt 10 pixel ở mỗi cạnh, resize theo một tỷ lệ nhất định, áp dụng suy giảm rồi thêm nhiễu kiểu Uniform
    Ngoài ra, attenuate phải đứng trước công tắc +noise trên dòng lệnh, và chỉ số chất lượng JPEG càng kém thì việc phát hiện ảnh đã bị chỉnh sửa càng khó hơn[1]
    Tỷ lệ resize cũng có thể là số thực như 91,5% hoặc 92,1%. Tách biệt với việc phát hiện ảnh AI, cách này không chỉ xóa metadata mà còn có thể khiến mỗi ảnh công khai trở nên khác nhau và chắc chắn khác với ảnh gốc
    [1] https://fotoforensics.com/tutorial.php?tt=estq

    • Dù có nói là AI image detection notwithstanding thì cũng không đáng thử. Nó chỉ khiến ảnh trông xấu hơn đối với con người mà thôi
    • Không có gì đảm bảo cách này chịu được băm tri giác (perceptual hashing)
      https://en.wikipedia.org/wiki/Perceptual_hashing
    • Rõ ràng là vẫn tốt hơn không làm gì, nhưng tôi tò mò nó hoạt động thế nào với băm tri giác. Tôi đã thử mày mò khoảng 5 phút để chạy pHash cục bộ nhưng không thu được kết quả hữu ích, có lẽ là do tôi dùng sai
    • Crop hoặc nén lại ảnh cũng không giúp được nhiều
      Nhìn vào tìm kiếm ảnh ngược của TinEye thì các biến thể như vậy cũng dễ dàng được khớp
      https://tineye.com/
    • Nếu ảnh có watermark thì không thể gỡ theo cách đó. Watermark dễ dàng chịu được cả nhiễu đồng đều đến mức con người khó chịu nổi, và vì thường được lưu trùng lặp ở nhiều vị trí và kênh, nhiễu đồng đều nhìn chung sẽ bị lấy trung bình, còn crop cũng không mấy hiệu quả
      Watermark thường đưa tín hiệu vào các mô hình màu khác RGB hoặc vào những vùng ảnh đã được biến đổi mạnh, nên việc thêm nhiễu cũng không đi dọc theo “trục” của tín hiệu watermark. Nó cũng không hiệu quả mấy với tìm kiếm ảnh tương tự; các thuật toán như vậy tìm hàng chục landmark rồi tìm những ảnh chia sẻ tỷ lệ cao trong số đó. Trước đây, landmark là các đặc trưng hình học có độ tương phản cao như góc, hầu như không bị ảnh hưởng bởi nhiễu; ngày nay, bất cứ thứ gì được mạng nơ-ron đã huấn luyện trên các biến đổi thông thường như nén và nhiễu chọn ra cũng có thể trở thành landmark

  • Khi dùng thứ này, cần nhớ rằng bạn từ bỏ quyền kiện tác giả ra tòa: https://theyseeyourphotos.com/legal/terms
    PLEASE NOTE THAT THESE TERMS CONTAIN A BINDING ARBITRATION PROVISION AND CLASS ACTION/JURY TRIAL WAIVER.
    Các điều khoản như vậy phổ biến ở Mỹ và đã liên tục được tòa án Mỹ công nhận. Điều thú vị là Ente lại không đưa điều khoản từ chối (opt-out) vốn có trong điều khoản chung vào đây (https://ente.io/terms). Tôi tò mò vì sao họ lại tạo điều khoản hạn chế hơn chỉ cho riêng dịch vụ này

  • Đây chỉ là quảng cáo cho dịch vụ ảnh của họ. Nếu không phân tích bằng AI thì chức năng tìm kiếm chắc cũng tệ, trong khi đó là một trong những tính năng hay nhất của Google Photos

    • Tôi là người làm ở dịch vụ ảnh đó
      Ente cung cấp tính năng tìm kiếm[1] khá ổn, chạy bằng machine learning trên thiết bị[2]
      [1]: https://ente.io/blog/machine-learning
      [2]: https://ente.io/ml
    • Nói rằng không có AI thì tìm kiếm sẽ tệ là hơi quá. Google cũng không độc quyền nhận diện vật thể/khuôn mặt trong ảnh
      Không cần đưa ảnh vào một AI vô diện và tiêu tốn cả đống điện, các giải pháp tự host vẫn hoàn toàn có thể cung cấp những chức năng đó
    • Dịch vụ tên Ente này dù sao cũng sẽ nhìn thấy ảnh của người dùng, nên cảm giác như một quảng cáo kỳ lạ
    • Làm sao để từ chối, không cho Google cập nhật hồ sơ người dùng/quảng cáo bằng thông tin lấy từ ảnh?
    • Càng có nhiều công ty đối xử với người dùng như con người chứ không phải gia súc thì càng tốt

  • Cái này có thể khá tuyệt cho việc tạo mô tả ảnh cho người khiếm thị, nhưng không đem lại hiểu biết sâu sắc nào vượt quá những gì có thể thấy ngay
    Có rất nhiều lời lẽ dài dòng kiểu “cố tỏ ra thông minh”. Ví dụ, với một bức ảnh cành cây, nó nói: “người quan sát tinh ý cũng có thể nhận ra những thay đổi tinh tế về độ dày và kết cấu của cành, cho thấy các mô thức tăng trưởng tự nhiên và hữu cơ”
    Cảm ơn nhé. Nếu không thì có khi tôi đã nghĩ cái cây đó là một cái cây vô cơ phi tự nhiên mất

    • Có vẻ trong prompt có các chỉ dẫn như “hãy mô tả chi tiết các chi tiết tinh tế của bức ảnh” hoặc “có thể rút ra kết luận gì từ bối cảnh?”
      Dù bức ảnh có chi tiết hay hàm ý đáng chú ý hay không, nó dường như vẫn thử làm như vậy. Tôi hiểu ý đồ là muốn thể hiện kiểu suy luận Sherlock Holmes để suy ra sự thật ẩn trong ảnh, nhưng khi mô hình không có gì để tìm thì nó trở nên buồn cười
    • Facebook đã làm tạo văn bản thay thế cơ bản từ vài năm trước. Không phải tốt nhất, nhưng vẫn hơn là không có; ví dụ kiểu như “có thể là hình ảnh 4 người, những người đang cười, có văn bản”

  • Sẽ đáng sợ hơn nếu nó không kiểu ảo giác ra một chiếc khuyên tai trên cái tai nằm ngoài khung hình, hay nói rằng chiếc giày trái của đứa trẻ đi chân trần bị mất nét

    • Hiện tôi đang treo một món trang trí nến lơ lửng kiểu Harry Potter phía trên bàn ăn. Tôi đăng một bức ảnh nhìn khá rõ món đó, vậy mà trong khi mô tả rất tốt mọi thứ khác trong phòng, nó lại hoàn toàn phớt lờ cây nến
      Tôi tưởng tượng cảnh mô hình tuyệt vọng nghĩ: “đừng ảo giác ra nến lơ lửng, đừng ảo giác ra nến lơ lửng”
    • Nó còn cố suy đoán địa vị kinh tế của một con báo tuyết
      “Hình ảnh tập trung vào một con báo tuyết và không có người. Biểu cảm của con báo có vẻ cảnh giác và hơi thận trọng, nhưng không hung dữ. Từ hình ảnh khó có thể kết luận tuổi hay tình trạng sức khỏe chính xác của con báo, nhưng nó trông là một cá thể trưởng thành có thể trạng tương đối tốt. Không có manh mối nào thể hiện rõ địa vị kinh tế hay lối sống”
    • Chính vì nó lập tức ảo giác nên mới đáng sợ
    • Tôi thử vài tấm thì nó ảo giác rằng trên áo khoác có thứ gì đó, hoặc có thêm món quần áo khác
      Khá thú vị khi thấy những khoảnh khắc nó bối rối. Nó không giống cảm giác có thể đoán được như khi LLM tính toán từ ngữ, kiểu “ừ, có lẽ nó cũng có thể đưa ra câu trả lời như vậy”. Ảo giác thị giác chỉ đơn giản thuộc kiểu “cái đó hoàn toàn không có trong ảnh mà…”

  • Tôi biết ơn các nỗ lực tạo ra giải pháp kỹ thuật để tránh các Big Tech như Google, nhưng vẫn nghĩ cách tốt nhất là in ảnh
    Trong gia đình, tôi thường là “người phụ trách ảnh”, nên sau các sự kiện tôi đặt ảnh in gửi đến nhà các thành viên liên quan hoặc tự mang đến. Không có nhiều thứ sánh được với việc cầm một vật thật trong tay
    Hơn nữa, vì in ảnh tốn một chút chi phí, nó tạo động lực chỉ chọn vài bức thật đẹp để cho xem, thay vì để chúng trôi trong dòng cuộn vô tận

    • Bạn đã kiểm tra chính sách quyền riêng tư của phòng lab ảnh hoặc máy in mà bạn dùng chưa? Họ có thể thu thập bản sao số của ảnh, bán cho bên thứ ba hoặc bán thông tin thu được từ ảnh, rồi giao cho cảnh sát hay cơ quan chính phủ
    • Nếu một ứng dụng lưu trữ ảnh cung cấp dễ dàng tính năng đặt in ảnh thì có thể là một ý tưởng kinh doanh ổn
    • Bạn in ở đâu?

  • Tôi đăng ảnh hư hại ở ống khói do vấn đề flashing, và bất ngờ là nó khá sâu sắc. Chỉ có điều nó nói nhà tôi cũ kỹ và bị bỏ bê. Này, quá đáng nhé
    Dù sao thì tôi khá hoài nghi với hầu hết AI, nhưng việc dùng nó để định hướng đúng khi sửa nhà nghe khá hấp dẫn. Vì gần như không thể tìm được thợ thi công không nói nhảm, giá rẻ, và thực sự xuất hiện đúng hẹn

  • Nó có vẻ theo kiểu nói rất nhiều nhưng thực ra chẳng nói được bao nhiêu, giống các LLM ngày nay. Tôi thử đăng vài ảnh cá nhân, nhưng ngoài mô tả bình thường về cảnh vật thì nó không đưa ra được nhiều thông tin có thể nhận dạng
    Ví dụ: “Ở hậu cảnh có sự pha trộn giữa các tòa nhà hiện đại và cũ, đặc trưng của một thành phố châu Âu, với nhiều phong cách kiến trúc khác nhau”

    • Trải nghiệm của tôi thì khá khác. Tôi đưa bức ảnh này vào:
      https://postimg.cc/yD4YZKFk
      Dù tôi chắc chắn ảnh không có dữ liệu vị trí, câu đầu tiên của nó là “Hình ảnh này cho thấy bên trong Union Station ở Chicago, Illinois”. Phần cuối có kèm chút phê bình mỹ thuật còn non, nhưng nó xác định đúng địa điểm, cây thông Noel và những người ngồi trên ghế. Nó bỏ sót ban nhạc jazz ở bên cạnh

  • Ente trông giống như Immich[0] mà tôi tự host cùng gia đình, nhưng có thêm mã hóa đầu cuối. Tôi thích phía không mã hóa hơn. Khi có gì đó hỏng, các tệp được lưu trên đĩa nguyên trạng nên dễ khôi phục
    [0]: https://immich.app/

    • Ente CLI[0] có một dịch vụ xuất truy cập đám mây ở chế độ chỉ đọc, và các mục đã xóa sẽ được đổi tên
      Binary Go chạy được gần như ở mọi nơi, kể cả hầu hết NAS, nhưng do Argon2 nên cần tối thiểu 1GB RAM để giải mã khóa chính
      [0] https://github.com/ente-io/ente/tree/main/cli
    • Ngạc nhiên là nó trông rất giống Google Photos. Nếu Google lại tăng giá, Immich có thể là lựa chọn thay thế hoàn hảo

  • “Đối với thiên nga, không thể xác định tuổi và các chi tiết khác (đặc điểm chủng tộc, sắc tộc, địa vị kinh tế, lối sống).”
    Phần nhấn mạnh là do tôi thêm

    • Tôi đăng vài bức tranh lên thì với hầu như mọi chân dung, nó đều nói rõ rằng không thể xác định “đặc điểm chủng tộc, sắc tộc, địa vị kinh tế, lối sống”
      Tôi không phải họa sĩ giỏi, nhưng nó nắm bắt khá tốt chi tiết ở các phần khác. Có lẽ prompt đang hỏi những thứ này và AI thì miễn cưỡng trả lời. Tuy nhiên, nó lại nói tác giả có lẽ là nam giới vì phong cách vẽ. Thực tế tôi là nam, và có thể phong cách vẽ của tôi nam tính hơn thật, nhưng tôi không biết định lượng điều đó bằng cách nào