Cảnh báo nội bộ của Bộ Quốc phòng: vai trò trọng yếu của Palantir trong chính phủ Anh là mối đe dọa an ninh quốc gia

• Palantir, công ty Mỹ về giám sát và an ninh AI, bị các kỹ sư công nghệ cấp cao nội bộ cảnh báo đang đe dọa an ninh quốc gia Anh thông qua nhiều hợp đồng với Bộ Quốc phòng Anh (MoD) và các cơ quan chính phủ
• Các nguồn tin nội bộ chỉ ra rằng dù quyền kiểm soát dữ liệu vẫn thuộc về chính phủ, nhưng các “insights” được rút ra từ đó lại do công ty nắm giữ, khiến Palantir trên thực tế tích lũy thông tin cốt lõi của Anh
• Palantir đang có các hợp đồng chính phủ trị giá £670m, trong đó £15m liên quan đến cơ quan vũ khí hạt nhân, và có lo ngại rằng việc kết hợp dữ liệu có thể suy luận ra thông tin mật
• Tương tự trường hợp trước đây với Sở Cảnh sát New York, Palantir từng khẳng định kết quả phân tích dữ liệu là tài sản trí tuệ của mình, nên nguy cơ tương tự có thể xảy ra với dữ liệu của chính phủ Anh
• Các chuyên gia và nghị sĩ xem việc phụ thuộc vào doanh nghiệp nước ngoài đối với dữ liệu chủ quyền là một rủi ro nghiêm trọng, đồng thời nhấn mạnh sự cần thiết phải có phản ứng từ quốc hội và cơ quan quản lý

---

Cảnh báo từ người trong Bộ Quốc phòng

• Hai kỹ sư hệ thống cấp cao thuộc Bộ Quốc phòng cảnh báo rằng công nghệ của Palantir là một “mối đe dọa ở tầm quốc gia” đối với an ninh Anh
  • Họ là những người trực tiếp xử lý cấu trúc phần mềm của Palantir, và đánh giá lập trường của chính phủ rằng “dữ liệu vẫn nằm dưới chủ quyền” là “một nhận định ngây thơ hoặc gây hiểu lầm”
  • Họ giải thích rằng Palantir có thể xây dựng một bức tranh cực kỳ chi tiết về quốc phòng, hạ tầng và nền tảng công nghiệp của Anh thông qua thu thập dữ liệu và phân tích siêu dữ liệu
• Một nguồn tin cho biết “việc một công ty nước ngoài duy nhất tiếp cận dữ liệu trên toàn bộ chính phủ vốn dĩ đã là nguy hiểm”, đồng thời nói rằng việc được Trung tâm An ninh mạng Quốc gia phê duyệt là điều khó hiểu

Vấn đề tách rời giữa quyền kiểm soát dữ liệu và ‘insights’

• Các nguồn nội bộ cho rằng rủi ro cốt lõi nằm ở chỗ quyền sở hữu dữ liệu và quyền sở hữu kết quả phân tích bị tách rời
  • Ngay cả khi không sở hữu dữ liệu gốc, Palantir vẫn có thể trích xuất, chuyển đổi và sử dụng siêu dữ liệu để xây dựng một hệ thống thông tin riêng
  • Một nguồn trong lĩnh vực tình báo nói rằng Palantir “có thể đã nắm hồ sơ của toàn bộ dân số Anh”, và đây là “một rủi ro an ninh rõ ràng”
• Người phát ngôn Bộ Quốc phòng nói rằng “mọi dữ liệu đều thuộc sở hữu của MoD và quyền kiểm soát được bảo đảm theo hợp đồng”, nhưng nguồn nội bộ phản bác rằng “đó là lập luận né tránh bản chất vấn đề”, nhấn mạnh ‘chỉ cần có thể đọc dữ liệu thì đã là rủi ro’

Khả năng suy luận ra thông tin mật

• Có những ví dụ cụ thể cho thấy Palantir có thể rút ra thông tin mật từ việc kết hợp nhiều tập dữ liệu không được phân loại
  • Ví dụ, nếu kết hợp thông tin giao hàng của nhà thầu quốc phòng như mã linh kiện, địa chỉ và ngày đến, có thể suy luận ra vị trí và lịch trình của tàu ngầm hạt nhân
  • Việc kết hợp dữ liệu như vậy cho phép tạo ra “thông tin phát sinh không được cấp phép” ở mức độ mà chính phủ có thể không nhận ra
• Duncan McCann của Good Law Project đặt câu hỏi ‘điều này phục vụ lợi ích của ai’, cho rằng chính phủ đã trao cho doanh nghiệp tư nhân quyền truy cập quá sâu

Phản ứng của Palantir và so sánh quốc tế

• Người phát ngôn của Palantir bác bỏ bài báo, gọi đây là “những cáo buộc hoàn toàn sai sự thật và vô căn cứ”
• Trong khi đó, quân đội Thụy Sĩ đã từ chối công nghệ của Palantir, và trong tài liệu chính thức có nêu rõ lo ngại về khả năng chính phủ Mỹ có thể tiếp cận
• Trước đây, sau khi chấm dứt hợp đồng với Sở Cảnh sát New York (NYPD), Palantir từng khẳng định kết quả phân tích dữ liệu là tài sản trí tuệ của mình
  • Tranh chấp khi đó không xoay quanh bản thân dữ liệu, mà là quyền sở hữu đối với kết quả phân tích (insights) do phần mềm tạo ra
  • Điều này cho thấy khả năng phát sinh xung đột pháp lý tương tự với dữ liệu của chính phủ Anh

Phản ứng từ giới chính trị và các tổ chức dân sự

• Nghị sĩ Dân chủ Tự do Martin Wrigley nói rằng “năng lực chủ quyền phải nằm trong tay chủ quyền”, đồng thời kêu gọi loại bỏ các doanh nghiệp có liên hệ với thế lực chính trị nước ngoài
• Jim Killock của Open Rights Group cảnh báo rằng “nếu Mỹ có được cái nhìn sâu về toàn bộ hoạt động của MoD, điều đó có thể được dùng như một công cụ gây sức ép ngoại giao”
  • Ông nhấn mạnh rằng “nếu Palantir biết mọi thứ, điều đó sẽ mang lại đòn bẩy thương lượng khổng lồ”
• McCann chỉ ra các đặc điểm chung của những hợp đồng với Palantir là tính bí mật, sự thiếu minh bạch và sự vắng mặt của cơ chế giám sát, đồng thời chỉ trích rằng “các cơ quan quản lý trên thực tế không vận hành”

Bối cảnh hoạt động toàn cầu của Palantir

• Tại Mỹ, Palantir tham gia nhiều dự án chính phủ như theo dõi người nhập cư và hỗ trợ các chiến dịch của ICE, tích hợp dữ liệu về thuế và an ninh nội địa, và hỗ trợ tác chiến quân sự dựa trên AI
  • Các hệ thống AI của Palantir cũng đang được sử dụng trong các chiến dịch của Mỹ tại Venezuela, Gaza và Iran
• Các hoạt động ở nước ngoài này càng làm gia tăng lo ngại tại Anh về mức độ ảnh hưởng và phạm vi tiếp cận dữ liệu của Palantir

---

[GN⁺]

Ý kiến trên Hacker News

• Palantir đã đệ đơn kiện Republik, một cơ quan báo chí điều tra độc lập của Thụy Sĩ
  vì tờ báo này đưa tin rằng Palantir đã bị từ chối bởi các cơ quan chính phủ Thụy Sĩ, bao gồm cả quân đội
  Liên kết bài viết

  • Công ty tôi từng làm việc cũng đã ký hợp đồng với Palantir
    Nếu phải đoán lý do, có lẽ là vì các cổ đông gây áp lực lên ban lãnh đạo để dòng tiền chảy vào mạng lưới của họ
    Thực sự rất khó hiểu giá trị kinh doanh mà nền tảng này mang lại là gì
  • Luật Thụy Sĩ có cơ chế gọi là quyền phản hồi (right of reply), theo đó nếu cho rằng nội dung đưa tin không chính xác thì có thể yêu cầu đăng phản hồi thông qua tòa án
    Vụ kiện lần này của Palantir có vẻ là một phần của thủ tục đó
    Họ không yêu cầu bồi thường thiệt hại hay gỡ bài
  • Tôi nghĩ cùng với dự án Golden Dome, Palantir giờ đây không chỉ là vấn đề ở cấp quốc gia mà đã trở thành mối đe dọa an ninh toàn cầu
    Giải thích về Golden Dome
  • Những nhà độc tài yếu kém không đủ năng lực cai trị dường như đặc biệt ưa chuộng Palantir
  • Palantir tạo cảm giác giống như Oracle 2.0

• Hôm nay có một cuộc họp liên quan đến NHS và Palantir
  Liên kết sự kiện

  • Peter Thiel, hay còn gọi là “dark data lord”, đang cố với tới mọi nguồn dữ liệu có thể
  • NHS cũng có mức độ phụ thuộc vào AWS rất cao

• Palantir giống như palantír của Sauron, một sự hiện diện kéo theo tha hóa
  Thiel không hề che giấu ý định dùng công nghệ để lách qua nền dân chủ, và Palantir chính là công cụ đó
  Những hệ thống như vậy trao cho người cầm quyền phương tiện kiểm soát chính xác, đồng thời làm suy yếu tự do của công dân

  • Tôi không thể hiểu nổi vì sao Thiel và Karp lại đặt tên công ty theo một thứ vốn nổi tiếng là công cụ của cái ác
    Cảm giác như biến trò đùa “chúng ta có phải phản diện không?” thành hiện thực

• Tôi từng thắc mắc vì sao Palantir bị xem là mối đe dọa
  Theo hiểu biết của tôi thì nó chỉ là một công cụ phân tích mạnh hơn PowerBI một chút, nên tôi không hiểu vì sao người ta lại sợ đến vậy

  • Thứ nhất, nó xử lý dữ liệu nhạy cảm và được vận hành tại Mỹ
    Thứ hai, phát ngôn của ban lãnh đạo quá mang tính kích động nỗi sợ, nên rất khó tin tưởng
  • Palantir là nền tảng dùng để hợp nhất (fusion) và phân tích dữ liệu của một tổ chức
    Vấn đề là nếu chính phủ hợp nhất mọi hệ thống vào một instance Palantir duy nhất, thì một hệ thống giám sát quy mô lớn có thể trở thành hiện thực
    Liên kết tham khảo
    Thảo luận liên quan
  • Nền tảng của Palantir không hẳn là một công cụ đơn lẻ mà giống nền tảng dữ liệu cấp độ hệ điều hành hơn
    Nó gần với tổ hợp AWS + Databricks + thư viện AI riêng, và gần như không thể dùng nếu không có Forward Deployed Engineer
    Thêm vào đó, khả năng tồn tại backdoor là rất cao, và khó có thể kỳ vọng vào một cuộc kiểm toán đầy đủ
  • Ngay cả khi phần mềm đó bình thường đi nữa, tôi vẫn cho rằng giao an ninh quốc gia cho một công ty do những nhà sáng lập ám ảnh với Kẻ Phản Kitô điều hành là rất nguy hiểm

• Trong Chúa tể những chiếc nhẫn, Saruman và Denethor đều bị tha hóa bởi palantír

  • Điều buồn nhất là tính biểu tượng của sự tha hóa đó đang lặp lại ngoài đời thực
  • Có người châm biếm chính cái tên này bằng câu “Palantir of NOTHANKS”

• Tôi tự hỏi vì sao các công ty tệ hại luôn có những cái tên hay

  • Thực ra Palantir là một lựa chọn tên gọi khủng khiếp
    Vì đó là tên của một công cụ gắn với cái ác, nên tranh cãi cứ lặp đi lặp lại mãi
  • Cuối cùng thì chúng ta đã biến lời cảnh báo “Torment Nexus” trong tiểu thuyết khoa học viễn tưởng thành hiện thực
  • Chủ nghĩa phát xít coi trọng thẩm mỹ, nên dường như ám ảnh với tên gọi và vẻ bề ngoài

• Nguồn gốc của Palantir có thể lần theo đến CIA và In-Q-Tel
  Chiliad do Christine Maxwell và Alan Wade tạo ra từng được FBI sử dụng, sau đó Wade trở thành CIO của CIA
  Rồi In-Q-Tel cùng với Thiel đã đồng sáng lập Palantir
  Nhìn vào bối cảnh đó thì việc các chính phủ châu Âu cân nhắc Palantir là điều khó thể hiểu nổi

  • Nhưng nếu nhìn vào việc thủ tướng Đức xuất thân từ BlackRock, thì có lẽ chuyện này cũng không quá đáng ngạc nhiên

• Chúng ta không còn là một quốc gia nghiêm túc nữa
  Ngay cả giữa khủng hoảng năng lượng và chiến tranh, chúng ta vẫn chỉ lặp đi lặp lại chính sách trợ cấp mà không có giải pháp căn cơ

  • Nếu là một “quốc gia nghiêm túc” thì liệu sẽ có cách giải quyết tốt hơn không? Tôi cũng tò mò không biết có thể gọi quốc gia nào như vậy

• Ban lãnh đạo Palantir thực ra đã lộ nguyên hình từ rất lâu rồi, nên việc mọi thứ đi đến mức này thật kỳ lạ

  • Đây là kết quả của việc những người ra quyết định thiếu hiểu biết bỏ phiếu khi chẳng hiểu gì về công nghệ

• Tôi tự hỏi vì sao Palantir phải tồn tại
  Nó trông giống một cơ sở dữ liệu hào nhoáng bề ngoài kiểu Salesforce hay Jira

  • Nếu Tableau là giao diện người dùng cho trực quan hóa, thì Palantir là giao diện người dùng cho hệ chuyên gia dựa trên ontology
    Nhờ AI mà tổ chức vẫn có thể vận hành ngay cả khi kém hiệu quả
    Cá nhân tôi cho rằng Palantir là con đường dành cho phe cánh Peter Thiel trong CIA
  • Thực ra nhiều công ty cũng chẳng “cần phải tồn tại”, nhưng thương hiệu, quan hệ và quán tính lại quan trọng hơn năng lực kỹ thuật
  • Palantir nhận dữ liệu của khách hàng, làm sạch (cleaning) chúng và cung cấp insight dựa trên dữ liệu đó
    Liên kết giải thích trước đây
  • Nếu xem demo sản phẩm quân sự Maven Smart System của Palantir, thì sản phẩm thương mại Foundry là một nền tảng phức tạp có thể xây dựng pipeline dữ liệu và phát triển ứng dụng low-code
    Video demo
  • Cuối cùng, mô hình kinh doanh của Palantir là cung cấp cấu trúc CRUD và schema dữ liệu cụ thể để doanh nghiệp không phải tự phát triển
    Việc thuê ngoài những mảng không phải năng lực cốt lõi là một lựa chọn hợp lý