Nghiên cứu bảo mật cho Private Cloud Compute

• Apple đã công bố tài liệu để các nhà nghiên cứu bên ngoài có thể trực tiếp kiểm chứng các đảm bảo về bảo mật và quyền riêng tư của Private Cloud Compute (PCC), hệ thống xử lý trên đám mây cho các yêu cầu tính toán cao của Apple Intelligence
• Phạm vi công bố bao gồm PCC Security Guide, các tệp nhị phân phần mềm, mã nguồn của các thành phần cốt lõi, và cả Virtual Research Environment (VRE) đầu tiên trên nền tảng Apple
• VRE cho phép chạy phần mềm nút PCC dưới dạng máy ảo trên máy Mac Apple silicon, hỗ trợ kiểm tra bản phát hành, xác minh nhật ký minh bạch, tải xuống tệp nhị phân, khởi động ảo, suy luận với mô hình demo, chỉnh sửa và gỡ lỗi
• Apple Security Bounty đã bổ sung PCC làm mục tiêu mới, với mức thưởng tối đa 1 triệu USD nếu đạt được thực thi mã tùy ý với đặc quyền tùy ý thông qua tấn công từ xa vào dữ liệu yêu cầu
• Hệ thống xác minh của PCC tập trung vào việc giúp người dùng có thể trực tiếp xác nhận phần mềm đang chạy trong trung tâm dữ liệu và đảm bảo quyền riêng tư ngay cả trong xử lý AI trên đám mây

---

Công bố tài liệu xác minh PCC

• Private Cloud Compute (PCC) là hệ thống mở rộng mô hình bảo mật của thiết bị Apple lên đám mây, đồng thời xử lý các yêu cầu tính toán chuyên sâu của Apple Intelligence
• Apple cho phép các nhà nghiên cứu bảo mật và quyền riêng tư kiểm tra và xác minh các đảm bảo đầu cuối của PCC nhằm tăng mức độ tin cậy công khai
• Trong vài tuần sau khi công bố Apple Intelligence và PCC, Apple đã cung cấp trước các tài liệu này, bao gồm cả PCC Virtual Research Environment (VRE), cho kiểm toán viên bên thứ ba và một số nhà nghiên cứu bảo mật
• Với lần công bố này, các nhà nghiên cứu bảo mật, quyền riêng tư và bất kỳ ai có quan tâm kỹ thuật đều có thể tìm hiểu và xác minh PCC một cách độc lập
• Apple Security Bounty cũng đã được mở rộng để bao gồm PCC, cung cấp phần thưởng cho các báo cáo về những vấn đề phá vỡ các đảm bảo bảo mật và quyền riêng tư của PCC

PCC Security Guide đề cập những gì

• Private Cloud Compute Security Guide trình bày cách kiến trúc PCC được thiết kế để đáp ứng các yêu cầu cốt lõi
• Tài liệu hướng dẫn mô tả các thành phần của PCC và cách chúng phối hợp để cung cấp mức độ quyền riêng tư trong xử lý AI trên đám mây
• Các chủ đề chính bao gồm
  • Cách cơ chế chứng thực của PCC được xây dựng trên các chức năng nền tảng bất biến được triển khai trong phần cứng
  • Cách các yêu cầu PCC được xác thực và định tuyến để cung cấp khả năng không thể nhắm mục tiêu (non-targetability)
  • Cách bảo đảm về mặt kỹ thuật rằng có thể kiểm tra phần mềm đang chạy trong trung tâm dữ liệu của Apple
  • Cách các thuộc tính quyền riêng tư và bảo mật của PCC vẫn được duy trì trong nhiều kịch bản tấn công khác nhau

Virtual Research Environment

• Apple cung cấp Virtual Research Environment (VRE) đầu tiên dành cho nền tảng Apple
• VRE là bộ công cụ cho phép trực tiếp thực hiện phân tích bảo mật của Private Cloud Compute trên máy Mac
• Các nhà nghiên cứu không chỉ có thể hiểu các tính năng bảo mật của PCC mà còn có thể xác nhận liệu PCC có duy trì quyền riêng tư của người dùng đúng như Apple mô tả hay không
• VRE chạy phần mềm nút PCC trong một máy ảo chỉ với một số sửa đổi nhỏ
  • Phần mềm không gian người dùng chạy giống hệt như trên nút PCC
  • Quy trình khởi động và kernel được điều chỉnh để phù hợp với môi trường ảo hóa
  • Bao gồm cả Secure Enclave Processor (SEP) ảo, lần đầu tiên cho phép nghiên cứu bảo mật đối với thành phần này
  • Việc suy luận sử dụng hỗ trợ đồ họa bán ảo hóa của macOS

Những gì có thể làm trong VRE và điều kiện chạy

• Các tác vụ có thể thực hiện bằng công cụ VRE gồm
  • Liệt kê và kiểm tra các bản phát hành phần mềm PCC
  • Xác minh tính nhất quán của nhật ký minh bạch
  • Tải xuống các tệp nhị phân tương ứng với từng bản phát hành
  • Khởi động bản phát hành trong môi trường ảo hóa
  • Thực hiện suy luận với mô hình demo
  • Chỉnh sửa và gỡ lỗi phần mềm PCC để phục vụ điều tra sâu hơn
• VRE được cung cấp trong macOS Sequoia 15.1 Developer Preview mới nhất
• Để chạy cần có máy Mac Apple silicon và ít nhất 16GB bộ nhớ hợp nhất
• Cách bắt đầu có tại tài liệu thiết lập Private Cloud Compute Virtual Research Environment

Mã nguồn PCC được công bố

• Apple đã công bố mã nguồn của một số thành phần cốt lõi giúp hiện thực các yêu cầu về bảo mật và quyền riêng tư của PCC
• Mã nguồn được cung cấp theo thỏa thuận giấy phép sử dụng hạn chế để cho phép phân tích PCC sâu hơn
• Các dự án được công bố bao phủ nhiều khu vực của PCC
  • CloudAttestation: phụ trách cấu thành và xác minh chứng thực nút PCC
  • Thimble: bao gồm daemon privatecloudcomputed chạy trên thiết bị người dùng, sử dụng CloudAttestation để áp đặt tính minh bạch có thể xác minh
  • splunkloggingd: lọc các nhật ký có thể được xuất từ nút PCC để ngăn rò rỉ dữ liệu vô tình
  • srd_tools: bao gồm các công cụ VRE, có thể dùng để hiểu cách VRE chạy mã PCC
• Mã nguồn PCC hiện có thể xem tại dự án GitHub apple/security-pcc

Apple Security Bounty dành cho PCC

• Apple đã mở rộng Apple Security Bounty để thưởng cho các lỗ hổng xâm phạm các đảm bảo bảo mật và quyền riêng tư nền tảng của PCC
• Các hạng mục thưởng mới cho PCC được căn chỉnh với các mối đe dọa chính trong Security Guide
  • Rò rỉ dữ liệu ngoài ý muốn: lỗ hổng gây lộ dữ liệu không chủ đích do lỗi cấu hình hoặc vấn đề thiết kế hệ thống
  • Xâm nhập từ bên ngoài thông qua yêu cầu người dùng: lỗ hổng cho phép tác nhân bên ngoài lợi dụng yêu cầu của người dùng để truy cập trái phép vào PCC
  • Truy cập vật lý hoặc nội bộ: lỗ hổng cho phép xâm nhập hệ thống thông qua truy cập vào giao diện nội bộ
• Mức thưởng được đưa ra tương đương với chương trình thưởng của iOS
• Các lỗ hổng xâm phạm dữ liệu người dùng và dữ liệu yêu cầu suy luận bên ngoài ranh giới tin cậy của PCC sẽ nhận mức thưởng tối đa

Mức tiền thưởng PCC

• Các hạng mục thưởng của PCC gồm
  • Tấn công từ xa vào dữ liệu yêu cầu: tối đa $1,000,000 nếu thực thi mã tùy ý với đặc quyền tùy ý
  • Truy cập dữ liệu yêu cầu của người dùng hoặc thông tin nhạy cảm liên quan đến yêu cầu của người dùng bên ngoài ranh giới tin cậy: tối đa $250,000
  • Tấn công dữ liệu yêu cầu từ vị trí mạng có đặc quyền: tối đa $150,000 nếu truy cập dữ liệu yêu cầu của người dùng hoặc thông tin nhạy cảm khác bên ngoài ranh giới tin cậy
  • Có thể thực thi mã chưa được chứng thực: tối đa $100,000
  • Rò rỉ dữ liệu ngoài ý muốn hoặc không lường trước do vấn đề triển khai hoặc cấu hình: tối đa $50,000
• Apple cho biết ngay cả khi không khớp chính xác với các hạng mục đã công bố, những vấn đề bảo mật có tác động nghiêm trọng đến PCC vẫn sẽ được xem xét cho Apple Security Bounty
• Báo cáo sẽ được đánh giá dựa trên chất lượng trình bày, bằng chứng về khả năng khai thác và tác động tới người dùng
• Thông tin chương trình và cách gửi báo cáo có tại trang Apple Security Bounty

Tính minh bạch có thể xác minh trong xử lý AI trên đám mây

• PCC được thiết kế như một phần của Apple Intelligence nhằm thúc đẩy mạnh mẽ quyền riêng tư trong AI
• Một thuộc tính cốt lõi là tính minh bạch có thể xác minh, điểm khác biệt so với các cách tiếp cận AI dựa trên máy chủ khác
• Dựa trên kinh nghiệm từ Apple Security Research Device Program, các công cụ và tài liệu được công bố giúp việc nghiên cứu và xác minh các chức năng bảo mật và quyền riêng tư cốt lõi của PCC trở nên dễ dàng hơn
• Apple mô tả PCC là kiến trúc bảo mật tiên tiến nhất từng được triển khai cho điện toán AI đám mây ở quy mô lớn, và muốn cùng cộng đồng nghiên cứu thúc đẩy độ tin cậy của hệ thống cũng như tăng cường bảo mật và quyền riêng tư