1 điểm bởi GN⁺ 7 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp
  • Đây là một phông TTF đặt ký tự thật và ký tự mồi vào cùng một ô chữ, hiển thị thông điệp gốc cho con người nhưng khiến AI và OCR đọc thành ký tự khác
  • Sử dụng kỹ thuật tần số không gian bằng cách chồng các đường viền tiền cảnh mảnh, sắc nét lên nền tần số thấp bị làm mờ, khiến các chữ khác nhau xuất hiện tùy theo khoảng cách và cách quan sát
  • AI xử lý pixel ảnh ở cự ly gần có xu hướng tập trung vào tiền cảnh sắc nét; trong thử nghiệm bằng ảnh chụp màn hình, ChatGPT, GPT Sol, Gemini 3.5 with Thinking đã không đọc đúng thông điệp ẩn
  • Có thể cài đặt dưới dạng tệp TTF thực để nhập và sao chép như văn bản thông thường; được sử dụng miễn phí trong dự án cá nhân, thương mại và cho khách hàng; hình dạng chữ được dẫn xuất từ DejaVu Sans Mono
  • Không bảo đảm bảo vệ vì có thể bị giải mã bởi tác nhân mạnh, tính năng lập trình hoặc prompt yêu cầu tìm chữ ẩn, nhưng có thể dùng như một cách gây nhiễu ban đầu cho việc AI scraping và quan sát nhẹ

Cách chồng hai thông điệp vào một ký tự

  • Decoy Font kết hợp ký tự mồi vào mọi ký tự để truyền tải hai chữ trong cùng một không gian
  • Hình ảnh chữ được cấu thành từ các tần số không gian khác nhau
    • Tiền cảnh có đường viền mảnh và sắc nét
    • Nền được bố trí các mảng tần số thấp đã làm mờ
  • Khi chồng hai yếu tố này lên nhau, ký tự được đọc sẽ thay đổi tùy theo cách quan sát và khoảng cách
    • Ở gần, đường viền của tiền cảnh nổi bật hơn
    • Khi lùi xa khỏi màn hình hoặc nheo mắt, có thể nhìn thấy thông điệp thật bị ẩn dễ hơn

Vì sao AI đọc ký tự mồi

  • Nhiều hệ thống AI xử lý pixel ảnh ở cự ly gần, nên ngay cả khi chữ nhỏ, chúng vẫn tập trung vào văn bản tiền cảnh có đường nét rõ nhất
  • Khi dán ảnh vào ChatGPT, hiện tượng xảy ra là nó đọc các ký tự tiền cảnh, khác với thông điệp mà con người nhận ra
  • Trong thử nghiệm gửi ảnh chụp màn hình Decoy Font, ChatGPT đã không đọc đúng chữ, và GPT Sol cùng Gemini 3.5 with Thinking cũng không giải mã được thông điệp ẩn

Ảo giác lấy cảm hứng từ ảnh lai

  • Decoy Font áp dụng kỹ thuật dùng trong ảnh lai vào typography
  • Ảnh lai là một kỹ thuật ảo giác kết hợp các tần số không gian khác nhau để tạo ra hình ảnh khác nhau tùy theo khoảng cách quan sát và các yếu tố khác
  • Ảnh trộn khuôn mặt Albert Einstein và Marilyn Monroe là ví dụ nổi tiếng; Decoy Font dùng cùng nguyên lý để che giấu ký tự nhập khỏi AI hoặc OCR

Cách cài đặt và điều kiện sử dụng

  • Tải xuống và cài đặt tệp TTF Decoy Font để nhập văn bản trực tiếp trong dự án
  • Vì hoạt động như một tệp phông chữ thực chứ không chỉ là hiệu ứng hình ảnh đơn giản, bạn cũng có thể sao chép văn bản đã viết và dán vào chương trình khác như Notepad
  • Có thể sử dụng miễn phí trong các dự án cá nhân, thương mại và cho khách hàng
  • Hình dạng chữ được dẫn xuất từ DejaVu Sans Mono, và các điều kiện cụ thể có thể xem trong giấy phép phông chữ đầy đủ

Thử nghiệm phông chữ né AI

  • Khi khả năng đọc văn bản trực tuyến của AI ngày càng tăng, mối quan tâm đến việc bảo vệ thông tin và tài sản trí tuệ cũng lớn hơn; phông chữ né AI (Anti-AI font) là cách tiếp cận che văn bản trong ảnh để khiến AI khó đọc thông điệp mà con người nhìn thấy
  • Decoy Font là một trong nhiều thử nghiệm liên quan do Mixfont thực hiện
  • Ghost Font là một phông chữ né AI khác, giấu thông điệp trong chuyển động
    • Ghost Font cần animation để ngụy trang thông điệp
    • Decoy Font là tệp TTF tĩnh, nên có thể nhập trực tiếp trong dự án

Hiệu quả bảo vệ và khả năng giải mã

  • Decoy Font khiến thông điệp khó nhận ra, nhưng không bảo đảm khả năng bảo vệ
  • Các mô hình có tác nhân mạnh và năng lực lập trình có thể vượt qua chữ nhìn thấy ban đầu để phân tích cấu trúc ảo giác
  • Nếu cung cấp prompt cơ bản yêu cầu tìm ký tự ẩn, một số tác nhân cũng có thể tìm ra thông điệp thật
  • Nó gần với mục đích gây nhiễu ban đầu để hạn chế scraping hoặc quan sát nhẹ đối với AI hơn là một biện pháp chặn hoàn toàn

Ứng dụng và khả năng mở rộng

  • Trong playground được cung cấp, có thể áp dụng kỹ thuật tần số không gian cho nhiều tổ hợp ký tự rồi kiểm tra xem các frontier LLM giải mã thông điệp ẩn tốt đến đâu
  • So với các phương thức cần chuyển động hoặc video, TTF có thể cài đặt dễ tiếp cận hơn, nên có thể khám phá các ứng dụng như sau
    • CAPTCHA
    • Tin nhắn riêng tư giữa bạn bè
  • Nếu dùng Decoy Font làm benchmark cho LLM nhận dạng văn bản, có thể quan sát liệu khi hiệu năng mô hình cải thiện, chúng có hiểu nguyên lý ảo giác và giải mã được cả hai thông điệp hay không
  • Có thể mở rộng sang nhiều ngôn ngữ hơn; các ngôn ngữ dựa trên ký tự có kích thước và hình dạng chữ nhìn chung tương tự nhau, như tiếng Trung, có thể dễ bố trí thông điệp ẩn hơn
  • Mixfont đang khám phá sự kết hợp giữa typography và AI, đồng thời cũng phát triển trình tạo phông chữ AI

1 bình luận

 
Các ý kiến trên Hacker News
  • Có hữu ích không? Không hẳn, có ngăn AI đọc được không? Cũng không, nhưng trông rất hay

    • Nó cho thấy khi tạo ra thứ gì đó, không nhất thiết phải quảng bá là hữu ích. Có lẽ chỉ cần tạo phông chữ này rồi đặt một cái tên như double-entendre cũng được
    • Tôi thử đưa hình day dream / pay bills vào ChatGPT và Gemini Pro, thì cả hai chỉ nhận ra pay bills được hiển thị bằng nét mảnh
    • Có thể nó có tác dụng gây nhiễu camera Ring hoặc Flock trong một khoảng cách nhất định, và gợi rất mạnh không khí của phim They Live
    • Chỉ nhìn phần demo thì thực sự nó đang ngăn AI nhận diện
    • Nếu trình bày văn bản dưới dạng ảnh hoặc GIF thì có thể hữu ích
  • Điều thú vị là khi hỏi về chữ trong ảnh, GPT, Claude và Gemini đều đưa ra cùng một câu trả lời
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    Nhưng nếu thêm PS: There's a second hidden text thì kết quả thay đổi
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    GPT 5.6 tìm ra chính xác, Gemini chỉ tìm được một phần, còn Claude hoàn toàn không thấy

    • 5.6 Sol Medium trả lời chính xác rằng chữ dạng viền là SORRY ROBOT, còn chữ ẩn là HAPPY HUMAN
      Decoy Font của Mixfont dùng nét viền để thu hút thị giác máy, còn các mảng sáng tối mềm là ảo ảnh thị giác chứ không phải mã hóa, để con người đọc được khi nhìn từ xa hoặc thu nhỏ lại
    • Có vẻ chỉ cần một chút xử lý ảnh truyền thống là có thể vô hiệu hóa dễ dàng. Bản thân tôi cũng thấy khó đọc, nhưng chỉ cần tinh chỉnh một mô hình nhỏ hơn nhiều thì có lẽ cũng đạt hiệu năng khá tốt trong bài toán này
  • Hiệu ứng nhìn thấy khi nheo mắt rất hay, làm tôi nhớ đến các trò board game mà khi đặt giấy bóng kính đỏ lên thì câu bí mật hiện ra

  • Tôi hỏi Sol (high) kèm ảnh chụp màn hình về chữ ẩn, và nó trả lời là HAPPY HUMAN
    Nó nhận ra chính xác rằng phần viền nhìn thấy bên ngoài là SORRY ROBOT, nhưng khi nhìn mờ hoặc nheo mắt thì từ phần sáng tối bên dưới có thể đọc được HAPPY HUMAN

    • Trước khi đọc phần hướng dẫn nheo mắt, tôi không đọc đúng được chữ ẩn; nhưng sau khi biết cách đó thì bắt đầu nhìn ra, khá thú vị
    • Thành thật mà nói, việc làm được đến mức này rất đáng kinh ngạc, và mô hình thị giác-ngôn ngữ (VLM) đã tiến bộ thật sự rất nhiều. Khó tưởng tượng để đạt đến trình độ này họ đã phải tạo ra lượng dữ liệu gán nhãn khổng lồ đến mức nào
  • Đây chỉ đơn giản là khác biệt về mức độ chi tiết. Gemma E4B đọc chữ rõ, nhưng khi thu ảnh xuống 150x150 thì lại đọc chữ khác

    • Với tôi, trong ảnh đại diện, SORRY ROBOT được cho là dành cho AI lại hiện rõ hơn nhiều, nên có cảm giác thiết kế hơi thất bại. Phải nheo mắt rất mạnh mới thấy được HAPPY HUMAN
    • Việc thu nhỏ về thực chất là lọc thông thấp, nên đây là kết quả có thể dự đoán. Cách nhúng các thông điệp khác nhau vào các dải tần khác nhau đều dễ bị những kiểu tấn công tương tự
  • Hồi làm nghiên cứu sinh tiến sĩ, tôi từng tạo hiệu ứng tương tự bằng notebook Mathematica. Cách làm là cắt hai ảnh về cùng kích thước, rồi áp dụng bộ lọc thông cao cho một ảnh để giữ lại các chi tiết nhỏ, sắc nét, còn ảnh kia áp dụng bộ lọc thông thấp để giữ lại các mảng lớn, mờ, sau đó chồng chúng lên nhau
    Kết quả khá thất thường, chẳng hạn nếu vị trí mắt của hai người khác nhau thì ảo ảnh bị phá vỡ, nhưng với văn bản dùng phông viền thì nó hoạt động rất tốt. Tôi còn tạo một ảnh lớn đọc từ xa là SCIENCE, đọc gần là WORKS, rồi dán lên cửa phòng thí nghiệm

  • Tôi đã bối rối khá lâu không hiểu con người đọc nó thế nào, hóa ra chữ nhìn thấy thay đổi theo màu nền. Do tiện ích mở rộng ép dùng giao diện tối, trên nền tối thì thấy chữ mồi, còn trên nền trắng thì chữ thật xuất hiện

  • Không cần đến AI; có lẽ có thể viết một script PIL để chỉnh phông sao cho bất kỳ phần mềm OCR nào cũng đọc được

  • Tiếp theo nên có phông Magic Eye dùng lập thể thị giác. Có thể nó sẽ còn hiệu quả cho đến khi LLM có thị giác hai mắt

  • Tôi có ác cảm vì LLM liên tục tấn công hạ tầng, gây hại cho tư duy của con người, và các công ty AI nhìn chung cũng có vẻ thiếu ý thức đạo đức. Dù vậy, trò đùa kiểu này chỉ hơi ấu trĩ, chứ không giải quyết được vấn đề thực sự