Meta bắt đầu thu thập chuyển động chuột và thao tác gõ phím của nhân viên để huấn luyện AI

• Meta đã cài phần mềm theo dõi chuyển động chuột, cú nhấp chuột và thao tác gõ phím trên máy tính của nhân viên tại Mỹ để dùng làm dữ liệu huấn luyện mô hình AI, đồng thời cũng định kỳ chụp ảnh chụp màn hình từ các ứng dụng và website phục vụ công việc
• Công cụ này có tên Model Capability Initiative(MCI), nhằm thu thập dữ liệu huấn luyện ở những lĩnh vực mà AI vẫn chưa thể sao chép tốt hành vi của con người, như chọn menu thả xuống hay dùng phím tắt
• CTO Andrew Bosworth đã đưa ra tầm nhìn rằng thông qua chương trình chuyển đổi AI nội bộ được đổi thương hiệu thành Agent Transformation Accelerator(ATA), “tác nhân sẽ chủ yếu thực hiện công việc còn con người sẽ chỉ đạo, rà soát và cải thiện”
• Meta sẽ bắt đầu cắt giảm 10% nhân sự toàn cầu từ ngày 20/5, đồng thời đang tích cực khuyến khích nhân viên sử dụng tác nhân AI cho các công việc như lập trình
• Các học giả luật cho rằng biện pháp này áp dụng mức giám sát thời gian thực vốn trước đây chỉ thấy ở lao động giao hàng và gig worker lên nhân viên văn phòng, đồng thời cũng có khả năng cao vi phạm GDPR của châu Âu

---

Cách công cụ MCI hoạt động

• MCI chạy trên ứng dụng và website phục vụ công việc của nhân viên để ghi lại chuyển động chuột, cú nhấp chuột và thao tác gõ phím
• Công cụ này cũng bao gồm chức năng định kỳ chụp snapshot nội dung màn hình của nhân viên
• Thông tin được công khai thông qua một bản ghi nhớ nội bộ do một nhà khoa học nghiên cứu AI đăng trên kênh nhóm Meta SuperIntelligence Labs
• Mục đích là cải thiện những mảng mà mô hình AI khó tái tạo tương tác máy tính của con người, như chọn menu thả xuống hoặc sử dụng phím tắt
• Theo mô tả, “mọi nhân viên Meta đều có thể đóng góp vào việc cải thiện mô hình chỉ bằng cách thực hiện công việc hằng ngày”

Chiến lược chuyển đổi công việc sang AI

• Trong một bản ghi nhớ riêng, CTO Andrew Bosworth cho biết công ty sẽ tăng cường thu thập dữ liệu nội bộ và đổi thương hiệu chương trình này thành Agent Transformation Accelerator(ATA)
• Ông đưa ra tầm nhìn rằng “tác nhân sẽ chủ yếu thực hiện công việc, còn vai trò của con người là chỉ đạo, rà soát và hỗ trợ cải thiện”
• Mục tiêu là để tác nhân tự động xác định những điểm mà con người cảm thấy cần phải can thiệp, để lần sau làm tốt hơn
• Bosworth không giải thích rõ cách huấn luyện tác nhân, nhưng cho biết công ty sẽ nghiêm ngặt trong việc tích lũy dữ liệu và đánh giá về mọi loại tương tác trong quá trình làm việc
• Người phát ngôn của Meta, Andy Stone, thừa nhận dữ liệu MCI là một trong các đầu vào dùng để huấn luyện mô hình

Tái cấu trúc nhân sự dựa trên AI

• Dữ liệu MCI không được dùng cho đánh giá hiệu suất mà chỉ phục vụ huấn luyện mô hình; Meta cho biết có biện pháp bảo vệ “nội dung nhạy cảm”, nhưng không giải thích cụ thể loại dữ liệu nào sẽ bị loại khỏi quá trình thu thập
• Khả năng của các công cụ AI trong việc xử lý các công việc phức tạp với mức giám sát tối thiểu của con người như tạo ứng dụng hay sắp xếp khối dữ liệu lớn đang làm rung chuyển Thung lũng Silicon, kéo theo đà giảm giá cổ phiếu của các công ty phần mềm truyền thống và kế hoạch cắt giảm nhân sự quy mô lớn
• Meta sẽ bắt đầu cắt giảm 10% nhân sự toàn cầu từ ngày 20/5 và cũng đang xem xét thêm các đợt cắt giảm lớn trong năm nay
• Amazon trong vài tháng gần đây đã cắt giảm khoảng 30.000 nhân viên văn phòng (khoảng 10%), còn Block đã sa thải gần một nửa nhân sự vào tháng 2
• Meta đang khuyến khích nhân viên dùng tác nhân AI cho các công việc như lập trình, ngay cả khi tốc độ có thể chậm hơn trong ngắn hạn
• Công ty cũng đang tiến hành xóa bỏ ranh giới giữa một số vị trí công việc để hợp nhất dưới danh xưng chung "AI builder"
• Tháng trước, Meta đã thành lập đội kỹ thuật Applied AI(AAI) để tăng cường năng lực lập trình của mô hình Meta AI và tập trung phát triển các tác nhân AI sẽ đảm nhiệm phần lớn công việc xây dựng sản phẩm và hạ tầng trong tương lai
• Từ đầu tháng này, công ty đã bắt đầu điều chuyển các kỹ sư phần mềm “xuất sắc” sang AAI

Lo ngại về giám sát nhân viên văn phòng

• Theo Ifeoma Ajunwa, giáo sư luật tại Đại học Yale, các công nghệ ghi log máy tính và chụp màn hình trong lịch sử vốn được dùng để phát hiện hành vi sai phạm hoặc hoạt động ngoài công việc của nhân viên
• Việc ghi lại thao tác gõ phím đưa hoạt động thu thập dữ liệu đi xa hơn một bước, áp mức giám sát thời gian thực mà trước đây chỉ tài xế giao hàng hoặc gig worker mới trải qua lên nhân viên văn phòng
• Theo luật liên bang Mỹ, không có hạn chế đối với việc giám sát người lao động, còn luật bang phần lớn chỉ yêu cầu chủ lao động thông báo một cách khái quát rằng có hoạt động theo dõi
• Valerio De Stefano, giáo sư luật tại Đại học York, đánh giá rằng theo luật châu Âu, kiểu giám sát này nhiều khả năng bị cấm
  • Tại Italy, việc theo dõi năng suất của nhân viên bằng giám sát điện tử là bất hợp pháp một cách rõ ràng
  • Tòa án Đức giữ tiền lệ rằng chỉ trong những tình huống ngoại lệ như nghi ngờ tội phạm nghiêm trọng thì mới cho phép ghi log thao tác gõ phím
• Thực tiễn này nhiều khả năng cấu thành vi phạm GDPR của châu Âu
• Nhận thức về sự giám sát của chủ lao động có tác dụng làm nghiêng cán cân quyền lực trong nơi làm việc về phía chủ lao động

[unsure4000]

Người viết đoạn mã cho hệ thống theo dõi đó đã nghĩ gì vậy nhỉ

[t7vonn]

Nói là để cải thiện mô hình, nhưng thực chất có vẻ như họ đang tích lũy dữ liệu để biện minh cho các đợt sa thải.

[winkagn]

Tôi đang nghĩ là chuyện này khác gì với Big Brother đâu nhỉ.

[GN⁺]

Ý kiến trên Hacker News

• Cái này trông đúng là rác độc hại. Mong là nó sẽ bị hack trên diện rộng, và sẽ có ai đó làm ra biện pháp đối phó nhồi thật nhiều dữ liệu giả lố bịch vào cái đường ống thu thập tham lam của Meta
• Tôi nghĩ chuyện này sẽ tạo ra hiệu ứng làm người ta co cụm rất lớn với nhân viên. Giờ ngay cả chuyện ngoài công việc hay tán gẫu cũng phải diễn ra trong tình trạng gần như không còn chút kỳ vọng riêng tư tối thiểu nào. Trước đây có thể cũng xem log được, nhưng việc chỉ nhìn lại một cách hạn chế sau khi có sự cố và giám sát thường trực trên diện rộng là hai vấn đề hoàn toàn khác nhau
  • Chẳng có tập đoàn nào hợp với chuyện này hơn. Mức độ mỉa mai lớn đến mức như thể máy đo còn muốn nổ tung
  • Từ trước đến nay tôi luôn mặc định rằng trên thiết bị của công ty, mọi thứ tôi làm đều có thể bị IT giám sát. Vì vậy tôi chưa bao giờ làm bất cứ gì công ty có thể không thích dù chỉ một chút trên phần cứng của công ty, mà dùng điện thoại thông minh và máy tính cá nhân của mình. Hồi trước ở một startup có xung đột giữa kỹ sư và ban lãnh đạo, các kỹ sư đã lập một nhóm riêng bằng tài khoản Signal cá nhân và nói chuyện với nhau không vấn đề gì
  • Thành thật mà nói, tôi không nghĩ Meta có quan tâm chuyện họ có làm nhân viên co cụm hay không. Có vẻ họ đã bước sang giai đoạn vắt thêm giá trị rồi, và cũng không còn là công ty thu hút được nhân tài hàng đầu nữa
  • Tôi hiểu lập luận rằng máy làm việc là tài sản của công ty nên không nên có kỳ vọng về quyền riêng tư. Tôi làm ở một công ty công nghệ tại Ấn Độ, và để giảm rủi ro phụ thuộc vào nhân sự chủ chốt, chúng tôi được khuyến khích tạo skills.md dựa trên đặc điểm của đồng nghiệp. Thực tế, mã của vài kỹ sư bị sa thải trong đợt tái cơ cấu hiện còn đang được bản sao AI của họ bảo trì. Có lẽ Meta cũng đang đi theo hướng đó
  • Từ khi bắt đầu đi làm, tôi đã nghĩ tài sản và thiết bị của công ty thì công ty có quyền giám sát, thậm chí keylog. Trên thực tế nhiều nơi còn không làm tới mức đó nên tôi còn thấy ngạc nhiên, nhưng tôi vẫn cho rằng họ có quyền đó. Tôi không thật sự hiểu vì sao mọi người lại kỳ vọng mình có quyền làm việc ngoài công việc trong giờ làm. Tất cả công ty tôi từng làm đều ghi rõ phạm vi cho phép trong hợp đồng và chính sách, và nếu muốn chê công ty thì hãy làm ngoài Slack hay Teams, ra ngoài công ty hoặc đứng cạnh máy nước thật mà nói, hoặc dùng số cá nhân
• Có người đùa rằng AI thế hệ tiếp theo có lẽ sẽ cực kỳ giỏi lướt Hacker News
• Tôi thật sự không hiểu sao cái này lại hợp pháp. Gần như có cảm giác ở Mỹ Facebook chẳng hề có yêu cầu tuân thủ thực chất nào. Ảnh chụp màn hình chuỗi thời gian của màn hình SRE chắc chắn sẽ chứa thông tin nhạy cảm như mật khẩu, khóa mã hóa, PII; vậy mà cái máy hút bụi dữ liệu này lại đi lưu những thứ đó thì thật vô lý. Tôi cũng thắc mắc không biết nhân viên có thể tự tắt nó đi hay không, và nếu ai đó lỡ để hiện khóa riêng ssh root của cả công ty trên màn hình mà không thể tắt đi thì sẽ ra sao. Bỏ qua chuyện hợp pháp hay không, chỉ riêng việc ai đó có quyền truy cập vào dữ liệu huấn luyện kiểu này cũng đồng nghĩa họ có quyền truy cập quá rộng trên toàn bộ hệ thống của công ty, và cuối cùng chỉ làm tăng rủi ro bị hack
  • Theo luật Mỹ, đặc biệt là trên thiết bị công ty, chuyện này với phần lớn doanh nghiệp thường là hợp pháp, và đáng buồn là cũng không hiếm. Về mặt tuân thủ, dữ liệu kiểu này thường được xử lý giống dữ liệu nhạy cảm khác, tức là chỉ cho một nhóm nhất định truy cập ảnh chụp màn hình. Tôi cũng không ủng hộ, nhưng nhiều công ty làm vậy không phải vì phớt lờ lo ngại bảo mật, mà ngược lại còn lấy danh nghĩa giải quyết vấn đề bảo mật. Tuy nhiên Meta có vẻ khác bản chất hơn, giống như họ muốn tạo mô hình để thay thế một phần nhân lực
  • Cuối cùng dữ liệu này rồi sẽ bị lộ ra trong một sự cố rò rỉ. Nó sẽ bị dùng bất lợi ở tòa, sẽ bị đem đi huấn luyện, và dù ai nói gì thì nếu AI có thể làm thay công việc, nó cuối cùng cũng sẽ bị dùng để sa thải. Mà ngay cả khi mọi chuyện đó xảy ra, Meta có lẽ vẫn sẽ né được trách nhiệm. Vì thế tôi càng thấy cần gấp việc ban hành luật để chặn chuyện này
  • Có cảm giác rằng các thí nghiệm tâm lý có liên quan dù chỉ chút ít tới web đã bắt đầu được coi là tự động hợp pháp sau khi A/B test được bình thường hóa. Vốn dĩ đây không phải kiểu chuyện nên bị che phủ bằng một mẫu đồng ý chung chung, mà là lĩnh vực cần sự tham gia tự nguyện và quy trình thẩm định độc lập. Dù con mèo đã ra khỏi cái túi rồi, điều đó cũng không có nghĩa là đây không phải vấn đề
• Cái này thật sự điên rồ. Trước kia kỹ sư đúng là từng được đối xử như một nghề chuyên môn, còn giờ thì có vẻ công ty đã đi tới mức đòi spyware thay cho sự tin tưởng. Nó nghe chẳng khác gì đề xuất cài phần mềm giám sát lên laptop của hãng luật để phòng luật sư thông đồng với thẩm phán, hay đòi giám sát mọi hành động của bác sĩ 24/7. Thậm chí còn khiến người ta châm biếm rằng thà áp dụng giám sát 24/7 có thể kiểm toán công khai cho chính trị gia thì hơn
  • Chắc chắn các chính trị gia sẽ là những người đầu tiên tự tạo ngoại lệ cho mình, viện lý do như an ninh chẳng hạn. Đáng lẽ quyền lực càng lớn thì trách nhiệm giải trình và giám sát càng phải đi kèm, nhưng ngoài đời thật thì mọi thứ lại vận hành ngược hẳn như vậy
  • Trong các ví dụ bạn nêu, chỉ có chính trị gia là bên tôi trực tiếp trả tiền thuế cho và trên nguyên tắc là làm việc cho tôi. Luật sư và bác sĩ không phải nhân viên của tôi, cũng không phải người làm việc trên tài sản của tôi. Điều vụ này cho thấy đúng hơn là cái mặt nạ trong quan hệ chủ lao động - người lao động ở Mỹ gần như đã rơi xuống hoàn toàn, và khi cả bảo hiểm cũng bị trói vào việc làm mà vẫn đi tới mức này thì không còn mấy dư địa để phản kháng nữa
  • Nghe như cài kiểu giám sát đó lên laptop của văn phòng luật sư lại còn là ý hay
  • Tôi thật sự từng bị vài luật sư đâm sau lưng. Thực tế thì thứ đáng lo hơn email là các cuộc gọi điện thoại
• Có người phản ứng rằng liệu nhân viên Meta có tin vào lời nói dữ liệu thu thập được sẽ không dùng cho đánh giá hiệu suất hay mục đích khác, mà chỉ dùng để huấn luyện mô hình hay không
  • Những nhân viên này vốn đã tự nguyện viết code cho một trong những mạng lưới giám sát lớn nhất hành tinh, nên có lẽ họ cũng sẵn sàng tin khá nhiều thứ
  • Nếu đã có sa thải suốt 4 năm liên tiếp và lại đang có không khí chuẩn bị cắt thêm 20%, thì có lẽ nhân viên Meta, dù khá ít, cũng sẽ cực kỳ nghi ngờ
  • Cuối cùng điều quan trọng vẫn là đền bù, và mức lương cao có lẽ sẽ kéo theo sự phục tùng
  • Độ đáng tin của câu đó bị chê là cũng ngang với "It's free and always will be" ngày xưa
• Nghĩ đến việc mình ngay từ đầu đã quyết định không bắt đầu quy trình phỏng vấn với Meta thật đúng là may mắn. Hồi đó công ty đã trông khá nực cười rồi, còn bây giờ thì ở một đẳng cấp hoàn toàn khác
• Người ta bắt đầu tưởng tượng công ty đối lập hoàn toàn với Meta sẽ trông như thế nào. Có lẽ là nhỏ và đặt quyền riêng tư làm trọng tâm, và nơi HN bị chặn trong công ty chăng; cũng tự hỏi liệu mình có đang bỏ sót điều gì không
• Tôi hình dung hệ thống này rốt cuộc sẽ thu thập hàng loạt cảnh nhân viên Meta làm việc bằng AI. Rồi họ lại triển khai mô hình được huấn luyện từ đó, và lần sau lại tiếp tục thu thập nhân viên dùng AI giỏi trong việc dùng AI, rồi lặp lại vài lần như vậy, cuối cùng sẽ đi tới mức thu cả những lần người ta tuyệt vọng đập bàn phím loạn lên và hét lên vì sao mô hình chẳng làm được gì, đúng kiểu hài kịch đen
  • Có người đoán đây chỉ lấy cớ huấn luyện AI, còn thực chất là cái cớ để đẩy người ra đi bằng các đợt sa thải quy mô lớn mà bớt lộ liễu hơn và giảm cả trợ cấp thôi việc
  • Dữ liệu này cũng sẽ cho thấy ai không dùng AI đủ nhiều, nên cuối cùng những nhân viên đó có thể bị đưa vào PIP hoặc bị sa thải
  • Có góc nhìn cho rằng dù đây nghe như một kiểu lỗi hài hước, về mặt kỹ thuật lại có thể là điều tốt. Vì mô hình đã phần nào có được các kỹ năng mà con người từng giao cho AI làm, nên dù là theo kiểu dùng tác tử cấp dưới hay gộp luôn phần việc do AI thay thế vào bên trong mô hình, việc con người đã thay đổi phân phối công việc để gần với phân phối của AI hơn thực ra lại làm cho việc huấn luyện dễ hơn
  • Tin nóng đây: Meta đã tạo ra trình mô phỏng tối thượng "mèo ngồi lên bàn phím"
• Câu chuyện này làm tôi nhớ đến Manna của Marshall Brain, và tôi thấy tác phẩm ở https://marshallbrain.com/manna1 khá ăn khớp với tình hình hiện tại