- Theo dõi vị trí dựa trên hình ảnh bằng ChatGPT đang lan rộng như một xu hướng viral
- Các mẫu mới nhất của OpenAI là o3 và o4-mini kết hợp khả năng phân tích hình ảnh với tìm kiếm web để suy luận vị trí với độ chính xác cao
- Người dùng đưa vào o3 thực đơn nhà hàng, cảnh đường phố, ảnh chân dung và nhiều loại ảnh khác để thử đoán vị trí như trò chơi "GeoGuessr"
- Lo ngại xâm phạm quyền riêng tư đang gia tăng, và dù OpenAI cho biết có các biện pháp an toàn nhưng vẫn thiếu biện pháp ngăn chặn rõ ràng
- OpenAI cho biết họ có hệ thống phát hiện và phản ứng với hành vi lạm dụng, nhưng vẫn có ý kiến cho rằng các giới hạn thực tế còn chưa đủ
Xu hướng truy ngược vị trí từ hình ảnh bằng ChatGPT
- Gần đây, trong cộng đồng người dùng đang lan rộng xu hướng truy vị trí trong ảnh thông qua ChatGPT
- Các mẫu mới o3 và o4-mini do OpenAI phát hành được trang bị khả năng suy luận thông tin thị giác trong ảnh
- Ngay cả ảnh mờ hoặc bị méo cũng có thể được phân tích sau các bước tiền xử lý như cắt, xoay, phóng to
- Khi kết hợp với tính năng tìm kiếm web, khả năng này cho thấy hiệu năng rất tốt trong suy luận vị trí của thành phố, địa danh, nhà hàng, quán bar và nhiều nơi khác
ChatGPT được dùng như GeoGuessr
- Người dùng yêu cầu o3 "hãy hành xử như GeoGuessr" và thử ước đoán vị trí từ ảnh chụp màn hình story Instagram, ảnh đường phố, thực đơn và nhiều loại ảnh khác
- GeoGuessr là một trò chơi trực tuyến nơi bạn tải ảnh lên và tìm vị trí
- ChatGPT có thể suy ra vị trí chỉ từ các manh mối thị giác, ngay cả khi không có lịch sử trò chuyện trước đó hay siêu dữ liệu EXIF
- Đặc biệt, o3 cho thấy hiệu năng vượt GPT-4o trong một số tình huống nhất định
Ví dụ: khi xem ảnh một vật trang trí hình tê giác màu tím treo trong một quán bar tối
- GPT-4o trả lời sai là "một quán pub ở Anh"
- o3 suy luận chính xác là "một quán speakeasy ở Williamsburg"
GPT-4o cũng cho thấy độ chính xác đáng kinh ngạc
- Trong bài kiểm tra do TechCrunch thực hiện, GPT-4o cũng cho thấy độ chính xác khá cao và tốc độ xử lý nhanh hơn
- Tuy vậy, cũng có những trường hợp chỉ o3 mới xác định đúng được vị trí
- Nhưng o3 cũng không hoàn hảo, và vẫn có những lúc không đưa ra được câu trả lời hoặc gợi ý một địa điểm hoàn toàn sai
Lo ngại về nguy cơ xâm phạm quyền riêng tư
- Việc bất kỳ ai cũng có thể dùng ảnh của người khác để truy ra vị trí mà gần như không có ràng buộc nào là một vấn đề lớn
- Ví dụ, việc chụp màn hình story Instagram có thể dẫn tới nguy cơ doxxing
- Hiện tại, với các mẫu o3 và o4-mini, OpenAI không đề cập đến vấn đề này trong báo cáo an toàn chính thức
Lập trường chính thức của OpenAI
- Vài giờ sau khi bài báo được đăng, OpenAI đã gửi cho TechCrunch tuyên bố sau:
“o3 và o4-mini bổ sung năng lực suy luận thị giác vào ChatGPT,
và có thể được sử dụng hữu ích trong các tình huống liên quan đến khả năng tiếp cận, nghiên cứu và ứng phó khẩn cấp.
Chúng tôi đã huấn luyện hệ thống để từ chối các yêu cầu liên quan đến thông tin nhạy cảm,
triển khai cơ chế ngăn chặn nhận diện cá nhân và giám sát lạm dụng,
đồng thời chủ động phản ứng khi có hành vi vi phạm chính sách.” - Tuy nhiên, hiện vẫn thiếu các cơ chế chặn cụ thể hoặc biện pháp kiểm soát kỹ thuật đối với tính năng truy ngược vị trí
6 bình luận
Thực ra chỉ là máy tính làm thay phần phiền phức thôi; chẳng phải bản thân phương pháp này vốn đã tồn tại rồi sao?
AI vốn là để làm những việc con người có thể làm mà. (giống như robot hút bụi)
Thời gian và chi phí cần bỏ ra đã rẻ hơn hàng chục lần. Rõ ràng đây là một sự gia tăng mức độ đe dọa.
Đúng như bài viết nói, vì đây vốn đã là thứ được người ta tận hưởng dưới dạng một "trò chơi", nên trước đây nó cũng không phải ở mức quá khó để người bình thường tiếp cận.
Mối đe dọa xuất hiện khi bạn đăng lên những bức ảnh có thể dễ dàng bị xác định vị trí trong những tình huống mà lẽ ra không nên để lộ vị trí.
Ngay cả trước đó, như trong các bình luận trên Hacker News đã nói, việc đăng bất cứ thứ gì lên Internet công khai vốn dĩ đã là chuyện phải mặc định rằng thông tin sẽ bị lộ ra.
Nhìn chung tôi đồng ý. Nhưng việc giờ đây bất kỳ ai cũng có thể làm điều đó chỉ trong chốc lát quả thật khiến người ta nghĩ đến không ít tác dụng phụ đáng sợ.
Ý kiến trên Hacker News