- ‘ELITE’ là công cụ nội bộ của Palantir được Cơ quan Thực thi Di trú và Hải quan Mỹ (ICE) sử dụng để tìm người thuộc diện trục xuất, trực quan hóa mật độ mục tiêu ở các khu vực cụ thể thông qua giao diện dựa trên bản đồ
- Ứng dụng này có hình thức tương tự Google Maps, sử dụng dữ liệu bao gồm mật độ người nhập cư để đánh dấu ‘khu vực có nhiều mục tiêu’
- Khi người dùng chọn một cá nhân cụ thể, hệ thống hiển thị hồ sơ cá nhân (dossier) gồm tên, ảnh, Alien Number, ngày sinh, địa chỉ
- Theo tài liệu nội bộ, hệ thống này còn cung cấp cả điểm độ tin cậy (confidence score) về địa chỉ hiện tại của mục tiêu, và đang được dùng cho việc lập hồ sơ chủng tộc quy mô lớn
- Bài viết cho rằng công nghệ như vậy đang góp phần tăng cường quyền lực hành chính để trục xuất con người mà không qua thủ tục pháp lý, đồng thời đặt ra vấn đề về trách nhiệm đạo đức của các nhà phát triển
Sự hợp tác công nghệ giữa ICE và Palantir
- Theo tài liệu nội bộ của ICE và lời chứng của những người liên quan, đã xác nhận có mối liên hệ trực tiếp giữa hạ tầng công nghệ do Palantir xây dựng cho ICE và các hoạt động truy quét ngoài hiện trường
- Theo đưa tin của 404 Media, hệ thống ELITE đang được ICE sử dụng để xác định khu vực cho các chiến dịch trục xuất quy mô lớn
- Công cụ này đánh dấu những người có khả năng là đối tượng trục xuất trên bản đồ, đồng thời cung cấp điểm độ tin cậy (confidence score) cho địa chỉ của từng người
Chức năng và giao diện của ELITE
- ELITE dựa trên giao diện bản đồ tương tự Google Maps, trực quan hóa ‘khu vực dày đặc mục tiêu’ bằng dữ liệu bao gồm mật độ người nhập cư
- Khi người dùng nhấp vào một cá nhân cụ thể trên bản đồ, hệ thống hiển thị hồ sơ cá nhân (dossier) bao gồm tên, ảnh, Alien Number, ngày sinh, địa chỉ đầy đủ
- Dữ liệu này được ICE sử dụng để theo dõi vị trí của đối tượng và lên kế hoạch cho các chiến dịch bắt giữ
Vấn đề đạo đức được nêu ra
- Bài viết gọi hệ thống này là “lập hồ sơ chủng tộc quy mô lớn”, đồng thời chỉ trích việc công nghệ đang được dùng cho hành vi trục xuất con người mà không qua thủ tục pháp lý
- Tác giả mô tả xung đột đạo đức mà nhân viên Palantir có thể cảm thấy khi phát triển những sản phẩm như vậy
- Qua cách diễn đạt “mỗi ngày đi làm để viết phần mềm trục xuất con người”, bài viết nhấn mạnh sự xa cách giữa công việc thường nhật của nhà phát triển và đạo đức
- Bài viết chỉ ra rằng dù nhân viên Palantir được hưởng lương, stock option, phúc lợi và các đãi ngộ khác, công nghệ họ tạo ra vẫn đang góp phần vào hành vi bạo lực của lực lượng vũ trang
Mối liên hệ giữa công nghệ và bạo lực
- Bài viết đề cập đến việc ICE là một lực lượng có vũ trang thực hiện hành vi bắt cóc dân thường và nổ súng, và mô tả ELITE đang hỗ trợ các hoạt động đó bằng một “giao diện bản đồ đẹp đẽ và hiện đại”
- Bài viết nhắc đến các trường hợp bạo lực như vụ ICE bắn vào mặt một phụ nữ, đồng thời chỉ trích việc công nghệ đang bị dùng như công cụ giúp thực thi hành chính bạo lực hiệu quả hơn
Kỹ sư công nghệ và trách nhiệm xã hội
- Bài viết mô tả rằng nhân viên Palantir có thể vừa cảm thấy “thật vui khi làm việc với đội ngũ này”, vừa trải qua xung đột nội tâm rằng “mình cần tìm công việc khác”
- Bài viết đặt câu hỏi rằng khi lao động của một kỹ sư góp phần vào bạo lực xã hội, liệu họ có thể biện minh điều đó chỉ bằng lý do mưu sinh hay sự nghiệp hay không
- Kết lại, ELITE là một hệ thống hỗ trợ về mặt kỹ thuật cho các chiến dịch truy quét mang tính bạo lực của ICE, đồng thời được nêu như một trường hợp cho thấy vấn đề trách nhiệm đạo đức của nhà phát triển công nghệ
1 bình luận
Ý kiến trên Hacker News
Tôi chưa từng làm ở Palantir, nhưng nếu bỏ qua kiểu đóng vai phản diện của ban lãnh đạo ồn ào, công ty này trông rất giống một nhà cung cấp enterprise điển hình
Sản phẩm thì bình thường, nhưng được thổi phồng để bán cho các bên mua là tổ chức, rồi cuối cùng bị ép cho nhân viên tuyến đầu phải dùng
Vấn đề là các quyết định chính sách khiến những công cụ như vậy được đưa vào sử dụng, và cấu trúc cho phép truy cập rộng rãi vào dữ liệu lẽ ra phải bị kiểm soát
Thay vì chỉ gán cho Palantir hình ảnh “kẻ xấu”, nên tập trung vào bối cảnh chính sách đã khiến người ta muốn có những công cụ như thế
Họ bán những “forward deployed engineer” đắt đỏ để tùy biến theo nhu cầu từng khách hàng
Khó mà xem đây là một công ty có đạo đức, nhưng họ không trực tiếp tự thu thập thông tin cá nhân. Dữ liệu là do khách hàng cung cấp
Sự thay đổi phải đến từ phía khách hàng đó
Nếu văn hóa doanh nghiệp buộc phải tỏ ra còn xấu xa hơn thực tế, thì đó là sự phá sản đạo đức của xã hội
Người ta hoàn toàn có thể chọn không tạo ra công cụ đó, cũng như chọn không sử dụng nó
Nhưng rốt cuộc, việc kiểm soát chính phủ là trách nhiệm của cử tri
Dạo này có cảm giác mọi người đã đánh mất khả năng suy nghĩ phức hợp
Bạn có thể tin rằng ICE có một nhiệm vụ rõ ràng và hợp đạo đức, nhưng đồng thời cho rằng cách họ thực hiện nhiệm vụ đó là sai
Bạn cũng có thể tin rằng việc tuân thủ quy trình pháp lý là quan trọng mà không cần đóng dấu người nhập cư trái phép là “về bản chất là bất hợp pháp”
Thế giới không phải trắng đen, nhưng tôi không hiểu vì sao người ta ngày càng chỉ nghĩ theo hai cực. Có lẽ là ảnh hưởng của mạng xã hội
Đây không phải một cuộc đấu ý thức hệ đối xứng. Làn sóng xanh trong kỳ bầu cử giữa nhiệm kỳ sắp tới có lẽ là hy vọng cuối cùng
Nếu điều đó không xảy ra, có lẽ sự tuyệt vọng trong văn học Nga sẽ trở nên gần gũi hơn nhiều
Nhiệm vụ pháp lý của ICE không hề rõ ràng, và trên thực tế đang được thực hiện bằng những cách phi đạo đức và bất hợp pháp
Chỉ vì đó là một niềm tin “có thể có” không có nghĩa là nó được biện minh
Với người nghèo, bản thân hàng chờ còn không tồn tại. Họ thậm chí không thể nộp đơn xin visa hợp pháp
Tôi muốn nói với lãnh đạo hay người tuyển dụng ở các công ty khác
Mong họ công khai tuyên bố sẽ phỏng vấn các kỹ sư muốn rời Palantir vì lý do đạo đức
Sẽ tốt hơn nếu việc hạ thấp rào cản chuyển việc và tạo nơi trú ẩn cho những người như vậy trở thành một chuẩn mực mới của ngành
Nếu đến giờ mới nhận ra điều đó thì có vẻ là người ấy thiếu nguyên tắc
Lạ là tôi chưa từng thấy CV của cựu nhân viên Palantir. Có thể chúng bị lọc tự động, hoặc họ không quan tâm đến những công ty như thế này
Từ khi thành lập đến nay, Palantir đã nhận khoảng 10 tỷ USD tiền thuế từ chính phủ Mỹ
Nếu muốn thread này không bị xóa thì cần có thảo luận sâu hơn
Cần nói cụ thể Palantir đang dùng dòng sản phẩm nào, FOIA (Đạo luật Tự do Thông tin) được áp dụng ra sao, và họ cung cấp những dữ liệu gì
Có vẻ đội ngũ quản lý hình ảnh của Palantir đã can thiệp vào thread này nhanh hơn hẳn lần này
Thậm chí biết đâu còn bán nó như một dịch vụ cho khách hàng
Để ngăn chuyện này, các trang web nên tăng cường xác minh danh tính thật của tài khoản ẩn danh
Khi tôi 19 tuổi, có một nhân viên Palantir đến nói chuyện về TDD, và sinh viên đã tẩy chay
Hồi đó tôi thấy như vậy là quá cực đoan, nhưng giờ thì lại thấy họ đúng
Tôi sẽ không bao giờ làm việc cho một công ty như Palantir. Nếu quay lại quá khứ, tôi cũng sẽ tham gia tẩy chay
Lập luận kiểu “Trung Quốc cũng làm vậy nên ta cũng phải làm” thì ghê tởm về mặt đạo đức
Giải pháp cho một thế giới tha hóa không phải là trở nên tha hóa hơn. Kiểu lý luận đó trút bỏ trách nhiệm, xóa nhòa tính người và làm xung đột trầm trọng thêm
Chúng ta phải chống lại sự mục ruỗng đạo đức này
Đây không chỉ đơn thuần là vấn đề “người nhập cư trái phép”
Hạ tầng giám sát quy mô lớn đã được dựng lên rồi. Giờ nó nhắm vào một nhóm cụ thể, nhưng sớm muộn gì tất cả mọi người cũng sẽ thành mục tiêu
Các hệ thống giám sát như Flock, Ring cùng với AI và tích hợp dữ liệu chính là nền tảng của chuyện đó
Những người tạo ra công nghệ này phải chịu trách nhiệm đạo đức, và cần có các nền tảng có thể truy vết
Bài gốc: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
Link lưu trữ: archive.ph/wa32f