1 điểm bởi GN⁺ 1 ngày trước | 2 bình luận | Chia sẻ qua WhatsApp
  • Tác giả nêu review code dựa trên LLMxác minh độ tuổi là hai yếu tố có thể thay đổi tương lai của FOSS, đặc biệt cho rằng xác minh độ tuổi có thể trở thành tác nhân chấm dứt FOSS theo hình thức hiện nay
  • Review code bằng LLM có thể khảo sát không gian tìm kiếm mà con người khó kiểm tra theo chiều rộng hơn và sâu hơn, nhưng sau các thành quả lớn ban đầu, hiệu quả có thể giảm dần nên tính bền vững kinh tế vẫn chưa chắc chắn
  • Nếu các quốc gia muốn đối phó tội phạm trực tuyến và bảo vệ trẻ em bằng cách yêu cầu xác minh độ tuổi, thì sẽ cần phần mềm được chứng thực bằng mật mã và các nền tảng điện toán mà người dùng không thể sửa đổi
  • Yêu cầu về chủ quyền số và quy trách nhiệm của EU xung đột với cấu trúc FOSS vốn dựa vào các maintainer cá nhân và các điều khoản miễn trừ trách nhiệm; khi đã tạo ra doanh thu thì ngoại lệ FOSS của Cyber Resilience Act cũng chấm dứt
  • Các dự án FOSS có tầm ảnh hưởng có thể sẽ không còn do các BDFL cá nhân điều hành, mà do các ủy ban do doanh nghiệp hoặc tổ chức quản lý bổ nhiệm vận hành; người dùng có thể chỉ còn được phép đọc mã nguồn hoặc tự build mà không được sửa đổi

Bài Bikeshed cuối cùng và hai biến số của tương lai

  • Khoảng 20 năm trước, một lời nhờ viết về flash memory đã trở thành khởi đầu cho chuyên mục Bikeshed xuất hiện chừng mỗi năm một lần
  • Tác giả kết thúc chuyên mục vì không muốn trở thành một bậc lão làng quá tự tin, và mong rằng các dự đoán của mình về tương lai xa sẽ sai hoàn toàn
  • Tác giả chỉ ra review code có trợ giúp của LLM và xác minh độ tuổi là những vấn đề sẽ tác động lớn tới FOSS hiện nay

Thành quả và giới hạn của review code bằng LLM

  • Từ kinh nghiệm dùng nhiều công cụ chất lượng mã nguồn, một mô hình lặp đi lặp lại luôn xuất hiện
    • Trong 1~2 ngày đầu, phát hiện được rất nhiều vấn đề cần xử lý
    • Từ ngày 3~5, lộ ra một vài bug rõ ràng và một số vấn đề về mặt kỹ thuật là bug nhưng không nghiêm trọng
    • Từ tuần thứ hai trở đi, gần như không còn thành quả mới
  • Mô hình này kéo dài từ khi tác giả gặp lint(1) trong tài liệu Zilog Zeus năm 1984 cho tới lần gần đây dùng phân tích tĩnh của Clang
  • Từ đó, tác giả cho rằng hơn một nửa những bug phần mềm tệ hại nhất mà công cụ LLM có thể tìm ra có lẽ đã được công bố rồi
  • Việc ngành AI muốn công bố các thành quả lớn càng sớm càng tốt để thổi bùng làn sóng đầu tư cũng củng cố nhận định này
  • Tác giả đề xuất rằng nếu cung cấp cho mô hình toàn bộ tài liệu thiết kế và hoàn công của một nhà máy điện hạt nhân, ta vừa có thể thử giới hạn của nó trong việc xử lý độ phức tạp của các hệ thống do con người thiết kế, vừa có thể thu hút sự chú ý rất lớn

Săn bug giống như chơi cờ

  • Việc LLM tìm bug giống với cờ máy
    • Con người dùng cách tìm kiếm theo xác suất và heuristic trên các đường đi có khả năng cao để tiết kiệm thời gian và năng lượng
    • LLM có thể khảo sát cây tìm kiếm rộng hơn và sâu hơn con người
  • Tấn công và phòng thủ mạng về bản chất là một trò chơi kiểu cờ, và trong tương lai sẽ cần công cụ tốt hơn để viết các chương trình mà con người giao phó cả tính mạng
  • Vấn đề mấu chốt là liệu review code bằng LLM có thể đứng vững về mặt kinh tế ngay cả khi không còn bong bóng đầu tư hay không

Chi phí huấn luyện mô hình và tính kinh tế của sao chép

  • Phần lớn công sức và chi phí của mô hình được bỏ vào giai đoạn huấn luyện từ trước, nhưng thành quả là trọng số mô hình lại nhỏ đến mức có thể chứa trong thiết bị lưu trữ di động hiện đại
  • Muốn có lãi thì phải bán cùng một bộ trọng số đó hàng triệu lần
  • Điều này giống ngành điện ảnh và video: bỏ hàng triệu đô vào bối cảnh, diễn viên, phục trang, hiệu ứng đặc biệt và marketing để tạo ra video 4K có thể chứa trong một thiết bị lưu trữ nhỏ, rồi thu lợi nhuận theo từng đơn vị chỉ tương đương một phần tiền tiêu vặt của thanh thiếu niên
  • Hollywood phần nào duy trì được cấu trúc này nhờ bảo vệ bản quyền, nhưng ngành LLM thì liên tục viện dẫn fair use trong các vụ kiện vi phạm bản quyền nên có thể khó giành được mức bảo vệ tương tự
  • Nếu bong bóng đầu tư vỡ và thành quả ngày càng giảm, thì không rõ ai sẽ gánh chi phí huấn luyện cho thế hệ mô hình tiếp theo

Xung đột giữa nhà nước và tính ẩn danh sau thời kỳ mã hóa

  • Trong thời kỳ đầu của truyền thông lưu-trữ-rồi-chuyển-tiếp và phong trào mã nguồn mở phát sinh từ đó, các chủ thể có ảnh hưởng lớn hầu như không mấy quan tâm
  • Khi việc kiếm tiền trở nên khả thi, nguồn vốn cho phát triển xuất hiện và lĩnh vực này tiến hóa thành thị trường lớn hơn là truyền thông số trực tuyến
  • Trong quá trình đó, FOSS đồng thời thúc đẩy cả tiến bộ công nghệ lẫn tạo doanh thu
  • Sau các tiết lộ của Edward Snowden, ngành công nghệ đã thúc đẩy rộng rãi mã hóa đầu cuối để ngăn giám sát
  • Kết quả là tội phạm dễ che giấu dấu vết trực tuyến hơn; ngoài những kẻ quá vụng về hoặc các vụ gây thiệt hại kinh tế rất lớn, việc truy tố trở nên khó khăn
  • Tác giả cho rằng còn có nhiều tội phạm số thậm chí không được báo cáo vì mọi người nghĩ cảnh sát không thể giải quyết
  • Mã hóa đã dồn nhà nước vào thế bí không có đường lui, và giờ nhà nước đang tìm cách thoát khỏi tình thế đó

Xác minh độ tuổi và sự thu hẹp của quyền riêng tư

  • Những người bảo vệ quyền riêng tư phản đối rằng việc bắt buộc xác minh độ tuổi có thể dẫn tới xác minh danh tính toàn diện trên toàn Internet, và xem các lo ngại dân sự của chính phủ chỉ như lập luận kiểu “hãy nghĩ đến trẻ em”
  • Tác giả đánh giá rằng rất hiếm phụ nữ làm trong công nghệ đòi hỏi một quyền riêng tư tuyệt đối
  • Với tư cách là cha của con gái, tác giả ủng hộ khả năng tính ẩn danh trên Internet sẽ giảm tới mức khi con gái nhận chiếc điện thoại đầu tiên, cha mẹ không còn cần một cuộc trò chuyện riêng về các nguy cơ trực tuyến
  • Theo tác giả, lẽ ra có thể thiết kế các giao thức sao cho tương thích tối thiểu với nhà nước pháp quyền, nhưng vì xem thỏa hiệp là phản bội nên cuối cùng chúng ta có thể sẽ mất nhiều quyền riêng tư hơn mức cần thiết

Xung đột giữa FOSS có thể sửa đổi và xác minh độ tuổi

  • Nếu có thể thay đổi mã nguồn rồi biên dịch lại, người dùng có thể gỡ bỏ chức năng xác minh độ tuổi
  • Tác giả đưa ra tính toàn vẹn phần mềm được chứng thực bằng mật mã như cách duy nhất để ngăn điều đó
    • Phải có ai đó chính thức bảo chứng rằng một hệ điều hành là đáng tin cậy
    • Nếu người dùng có thể sửa hệ điều hành rồi biên dịch lại, sẽ không ai muốn đứng ra bảo chứng
  • Internet đang bị chia cắt theo hướng vùng nào cũng ngày càng ít khả năng truy cập bằng bất kỳ trình duyệt, thiết bị hay phần mềm nào
  • Ngày càng nhiều dịch vụ chỉ cho phép truy cập từ nền tảng điện toán được chứng thực (attested computing platform), và dù người dùng có thể xem mã nguồn thì cũng có thể không được phép thay đổi nó

Chủ quyền số của EU và quy trách nhiệm

  • Trong nhiều thập kỷ của chủ nghĩa tân tự do và toàn cầu hóa, ngành công nghệ Mỹ đã thống trị phần lớn thị trường IT châu Âu, bao gồm cả mạng xã hội
  • EU cùng các quốc gia thành viên và doanh nghiệp xem đây là một sai lầm nghiêm trọng và muốn giành lại chủ quyền số
  • Nếu châu Âu có các doanh nghiệp độc quyền trực tuyến của riêng mình, họ có thể phản ứng bằng thay đổi pháp luật, nhưng châu Âu không có công ty tương ứng với Google, Apple, Oracle, Microsoft, Facebook hay Twitter
  • Dù các CIO châu Âu có tìm thấy mã nguồn FOSS, họ cũng không có nhà cung cấp để đàm phán hợp đồng hay một pháp nhân để ký kết
  • Văn hóa tổ chức hiện tại thường thích đẩy trách nhiệm sang chủ thể khác hơn là tự giải quyết vấn đề, nhưng cách đó không phù hợp với những bài toán như chủ quyền số, nơi cần có bên chịu trách nhiệm cuối cùng
  • Do các giấy phép FOSS đều có chung điều khoản không bảo hành và miễn trừ trách nhiệm, cũng khó áp dụng mô hình phân bổ trách nhiệm hiện tại vào FOSS
  • Với những người ra quyết định lớn lên trong môi trường “không ai bị sa thải vì mua Microsoft”, sự chuyển đổi này là điều không quen thuộc

Ngoại lệ FOSS trong Cyber Resilience Act

  • EU xem FOSS là hy vọng thực tế duy nhất cho chủ quyền số, nên trong đạo luật gần đây là Cyber Resilience Act đã dành một ngoại lệ lớn
  • Nhưng ngay khi bắt đầu kiếm tiền từ FOSS, ngoại lệ đó sẽ chấm dứt
  • Tác giả cho rằng trong 10 năm tới, FOSS sẽ tạo ra lợi ích đáng kể tại EU, và vì vậy thương mại hóa có thể đẩy nhanh sự kết thúc của FOSS theo hình thức hiện nay

Tính bền vững của cấu trúc maintainer cá nhân

  • Nhiều dự án FOSS tồn tại theo ý chí của duy nhất một người, mà người đó có thể không biết hoặc không quan tâm đã có bao nhiêu tầng hạ tầng được chất lên trên dự án của mình
  • Burnout của maintainer đã là chuyện có thật, và vì FOSS có phần giống một hiện tượng thế hệ như quần ống loe hay flower power, cái chết của maintainer cũng có thể trở thành vấn đề thường gặp hơn
  • Việc lôi kéo người kế nhiệm thay cho các maintainer vốn dựa trên thiện chí của thế hệ hiện tại đã khó từ lâu
  • Khi maintainer không được trả công nhưng các vai trò mới như “FOSS steward” và “FOSS manufacturer” lại kiếm tiền từ chính phần mềm đó, việc tìm người kế nhiệm càng trở nên bất khả thi
  • Tác giả dự đoán thời đại của Benevolent Dictator for Life đã qua, và các dự án có ảnh hưởng sẽ được duy trì bởi các ủy ban do tổ chức quản lý FOSS hoặc doanh nghiệp bổ nhiệm

FOSS đi vào bên trong hàng rào

  • Để đối phó với quyền riêng tư tuyệt đối vốn có thể tạo điều kiện cho tội phạm, sẽ cần các nền tảng điện toán được chứng thực
  • Nền tảng cho chủ quyền số của EU cũng cần một chủ thể quản lý có tư cách pháp lý, chứ không phải “một cá nhân nào đó”
  • Không gian FOSS từng cho phép các thế hệ trước tự do thử nghiệm có thể biến thành một môi trường được kiểm soát, được quản lý và phê duyệt an toàn trong phạm vi tiền thuế chi trả, đồng thời tách biệt khỏi lưu lượng thương mại
  • Trong các đặc tính hiện tại của FOSS, thứ còn lại có lẽ chỉ là việc người dùng vẫn có thể đọc mã nguồn
  • Nếu reproducible builds trở nên phổ biến, người dùng có thể vẫn tự biên dịch từ mã nguồn, nhưng có thể kèm điều kiện không được sửa đổi

Mô hình app store khép kín

  • Con đường ít gây phản kháng nhất để đưa trách nhiệm giải trình vào FOSS có thể là mô hình app store khép kín
    • Chỉ các kernel được chứng minh là xác thực bằng mật mã mới cung cấp được bằng chứng pháp lý cần cho xác minh độ tuổi và truy cập web
    • Chỉ các chương trình chưa bị sửa đổi, được tải từ app store do tổ chức quản lý FOSS phê duyệt, mới được chạy bên ngoài sandbox của trình duyệt
  • Tác giả nhìn thấy dáng dấp tương lai đó khi cài Ubuntu lên chiếc laptop mới cho một người bạn quen hơn 40 năm
  • Tác giả thừa nhận Ubuntu đã đóng góp cho việc phổ biến FOSS, nhưng cảm thấy quá trình cài đặt lại quá giống với tương lai mà mình lo ngại, và hy vọng dự đoán này là sai

2 bình luận

 
Ý kiến trên Hacker News
  • Với các quyết định có thể đảo ngược, tốt hơn là để người tự nguyện xử lý theo trực giác. Thay vì để những người lương cao họp bàn các vấn đề vụn vặt và đốt tổng chi phí nhân công 5.000–10.000 đô la, để một kỹ sư tầm trung triển khai lại hai ba lần còn rẻ hơn và cũng giúp họ trưởng thành hơn
    Giao diện của mã thì quan trọng với mọi người, nhưng phần triển khai nội bộ chủ yếu quan trọng với những người thuộc bus factor sẽ chịu trách nhiệm về đoạn mã đó. Đã có trường hợp người thực sự chịu trách nhiệm muốn một cách ít gây hiệu ứng lan truyền hơn, nhưng tập thể lại chọn thiết kế hào nhoáng hơn và mong manh hơn

    • Những đội thích so sánh bất tận sẽ làm prototype bằng mọi thư viện và framework mã nguồn mở cho tính năng mới, viết báo cáo và tranh luận xong xuôi rồi mới bắt đầu triển khai thật. Tốt hơn là chọn một thứ theo trực giác, nếu prototype chạy được thì dùng luôn làm bản triển khai, và chỉ tìm phương án thay thế khi có lý do đủ mạnh để xem xét lại
      Nếu lý do khó quyết định là vì khác biệt giữa các ứng viên quá nhỏ, thì mức độ quan trọng cũng thấp, đến mức tung xúc xắc để chọn cũng được
    • Khi những nhân sự xuất sắc thiết kế giải pháp rất lâu trên giấy nhưng thực tế lại không hoạt động, vậy mà họ không thừa nhận sai lầm mà còn đổ thêm chi phí chìm để cố cứu nó, tình hình sẽ càng tệ hơn
    • Có vẻ như việc bắt mọi API, kể cả lời gọi đồng bộ, chạy trên Kafka chỉ vì kinh nghiệm thực chiến của họ đã dừng lại 10 năm trước và họ từng thấy Kafka giải quyết vấn đề hàng đợi của ai đó một lần, là công việc chính của một số người phụ trách kiến trúc doanh nghiệp
    • Nếu giao thiết kế cho người thiếu năng lực, phiên bản đầu tiên và cũng là tệ nhất có thể sẽ tồn tại vĩnh viễn. Ở công ty tôi sắp rời đi, mỗi khi phát hiện vấn đề, họ giao toàn bộ thiết kế cho chính người sẽ viết mã, còn QA chỉ nhận được bản hoàn chỉnh 1–2 tuần trước khi phát hành và chỉ có thể báo các lỗi bề mặt
      Kết quả là codebase và tinh thần làm việc cùng sụp đổ; trên nền thiết kế sai, lại thêm thiếu ngân sách và thiếu quy trình, nhiều lỗi hơn chất chồng đến mức giờ đã khó sửa. Sản phẩm vẫn cầm cự được nhờ tính độc đáo trong thị trường ngách và sự hỗ trợ của tập đoàn lớn đã mua lại, nhưng tập đoàn đó cũng không phụ thuộc nhiều nên không dành thời gian kiểm toán toàn diện
    • Khái niệm cánh cửa hai chiều (two-way door) của Amazon chính là điều này. Khi nhận diện được những lựa chọn không nguy hiểm vì có thể đưa ra, hủy bỏ và đưa ra lại với chi phí tương đối thấp, ta có thể tập trung vào các quyết định thật sự rủi ro
  • Trong số nhiều việc, PHK đã tạo ra thuật toán băm mật khẩu MD5crypt ($1$…). Nó được commit vào năm 1994, trước bcrypt (1999), scrypt (2009) và SHA2crypt (2016)
    https://svnweb.freebsd.org/base/head/lib/libcrypt/crypt.c?re...
    https://github.com/freebsd/freebsd-src/commit/3b2b7f71deba2a...
    https://phk.freebsd.dk/sagas/md5crypt/
    https://en.wikipedia.org/wiki/Poul-Henning_Kamp

    • Điều đó không có nghĩa là ông ấy tạo ra bản thân MD5. MD5 do Ron Rivest tạo ra năm 1991; tôi lần đầu biết đến nó vào khoảng 1995–1996 và coi nó như một công cụ kỳ diệu cho công việc web backend, rồi dùng khắp nơi
    • Tôi không rõ PHK có tư cách gì liên quan đến chủ đề lần này
  • Lần đầu đọc tôi đã tức giận, nhưng sau khi đọc lại vài lần, ấn tượng của tôi thay đổi rất nhiều. Đáng đọc nhiều lần để hiểu tác giả thực sự muốn nói gì

    • Với mã hóa, gần như không có vùng trung gian để thỏa hiệp. Chỉ có hai lựa chọn: hoặc buộc mọi thiết bị điện tử chỉ chạy phần mềm được phê duyệt, hoặc cho phép nhắn tin mã hóa dễ dàng; mọi sự làm yếu đi dù nhỏ đều làm hại quyền riêng tư của tất cả, nhưng để ngăn tội phạm sử dụng thì phải cấm hoàn toàn mã hóa
      Tác giả dường như cho rằng một chút thỏa hiệp có thể xoa dịu tòa án, nhưng đã hiểu sai động cơ. Các dự luật thực tế xuất phát từ vận động hành lang của các công ty công nghệ lớn muốn né trách nhiệm và kiếm lợi từ việc bán dữ liệu người dùng: https://github.com/upper-up/meta-lobbying-and-other-findings
    • Tác giả quy trách nhiệm những việc vài tập đoàn lớn đã làm cho cả FOSS và cái gọi là giới tinh hoa công nghệ, rồi chấp nhận các quy định mà những công ty đó vận động như hình phạt dành cho chúng ta. Dù thừa nhận đó không phải lý do lập pháp thực sự, ông vẫn gọi đó là điều ác cần thiết để bảo vệ trẻ em, và dường như coi những người coi trọng quyền riêng tư là cực kỳ thiểu số hoặc hư cấu, nên rất khó chấp nhận
    • Tôi không thích cách viết cố tình khơi phản ứng bằng cách ném ra một lập luận mà tác giả thực ra không tin và biết là ác ý, với giọng điệu khúm núm kiểu “hãy chứng minh tôi sai đi”. Tôi sẽ không đọc lại nhiều lần và cũng không giữ nó trong đầu nữa
    • Poul-Henning đã hoạt động lâu năm trong lĩnh vực này và được tôn trọng, hơn nữa ông không xuất thân từ văn hóa Mỹ. Cũng đáng cân nhắc khả năng có những góc nhìn hữu ích chỉ ra điều mà văn hóa của mình bỏ sót
  • Tôi cho rằng các giới hạn độ tuổi về lâu dài sẽ không ảnh hưởng lớn đến FOSS. Công nghệ hiện đại, đặc biệt là mạng xã hội, gây hại cho trẻ em nên bản thân việc quản lý là điều có thể hiểu được
    Nếu là quy định hợp lý, có thể để lại một phần trách nhiệm cho phụ huynh, nhưng áp dụng giới hạn độ tuổi mặc định trên các thiết bị tiêu dùng như smartphone và laptop, đồng thời có thể chặn việc thay hệ điều hành hoặc firmware trước khi xác minh độ tuổi. Đối tượng không phải toàn bộ phần mềm, mà chỉ là các sản phẩm được cài sẵn trên thiết bị tiêu dùng hoặc được phân phối thương mại; sau khi xác minh thì nên mở như hiện nay

    • Ý tưởng rằng tôi phải chứng minh mình là người lớn chỉ để trả hóa đơn hoặc khai thuế trên một thiết bị ở trạng thái mặc định, trong khi nhà không có trẻ con và cũng không ai khác dùng thiết bị của tôi, là hết sức vô lý
    • Là cha/mẹ của ba đứa trẻ, tôi không hiểu vì sao không thể giao toàn bộ trách nhiệm cho phụ huynh. Dù bọn trẻ từng nhiều lần gãy xương và phải vào phòng cấp cứu khi chơi các môn thể thao va chạm ngoài đời, tôi vẫn ủng hộ việc chúng chơi thể thao
      Tôi đặt giới hạn nghiêm ngặt trong Family Link, nhưng vẫn tự hỏi vì sao chỉ tác động của thời gian dùng màn hình lên tinh thần lại phải được đối xử đặc biệt, khác với việc vẫn cho phép chơi thể thao dù đã nhiều lần gãy xương
    • Nếu mục tiêu chỉ là bảo vệ trẻ em khỏi mạng xã hội, thì có thể cung cấp điện thoại dành cho trẻ em không thể truy cập hoặc có áp dụng hạn chế. Cũng hiếm người nghiện mạng xã hội trên desktop, nên có thể vừa bảo đảm quyền riêng tư vừa bảo vệ được trẻ
    • Việc bắt buộc hệ điều hành và trình duyệt có tính năng kiểm soát của phụ huynh tích hợp, dễ bật, là hợp lý; nếu muốn, trình duyệt cũng có thể tự nguyện gửi dấu hiệu “người dùng là trẻ em” cho website
      Nhưng các dự luật hiện nay lại đối xử với trẻ nhỏ như hacker và buộc mọi website phải khử ẩn danh người dùng. Cách làm này ngược đời đến mức khiến người ta nghi ngờ đây là bước đầu để cấm ẩn danh và kiểm soát toàn bộ quyền truy cập trực tuyến; ở Anh thậm chí đang có thảo luận về việc cấm VPN vì lý do trẻ em che giấu IP
    • Quy định hợp lý phải nhắm vào chính các tính năng công nghệ gây hại, chứ không phải bắt người dùng chứng minh danh tính với bên thứ ba rồi tiếp tục tự làm hại mình bằng đúng các tính năng đó
      Đây là cách tiếp cận phi lý giống như thay vì đóng cửa nhà hàng mất vệ sinh, lại để công ty an ninh tư nhân kiểm tra giấy tờ tùy thân của khách xem họ có đủ tuổi để đồng ý bị ngộ độc thực phẩm hay không
  • Dự đoán rằng “review code có LLM hỗ trợ sẽ không tạo ra thay đổi đột phá lớn” đã không còn khớp với thực tế. Trong vài tháng đến một năm qua, tiến bộ diễn ra rất nhanh, khiến cách nhìn về LLM trở nên lỗi thời đáng kể

    • Tác giả không nói rằng LLM không hữu ích. Câu hỏi cốt lõi là liệu tính kinh tế của công cụ review code bằng LLM có còn đứng vững sau khi bong bóng tan hay không
    • Tác giả giải thích rằng dựa trên kinh nghiệm lặp lại, có khả năng họ đã thấy hơn một nửa danh sách “những lỗi phần mềm tệ nhất mà công cụ LLM phát hiện”. Ngược lại, cũng chưa có bằng chứng rõ ràng rằng review code bằng LLM đã tạo ra một thay đổi khổng lồ
    • Luận điểm là giống như các trình kiểm tra mô hình trước đây, LLM cũng sẽ tìm được lỗi trong một thời gian, nhưng cuối cùng khi những lỗi đó được sửa, mọi thứ sẽ quay lại cách làm thường lệ. Điều đó không có nghĩa là hoàn toàn không tìm được lỗi
  • Khi làm trong ngành công nghệ, tôi đã gặp những phụ nữ cảnh giác với quyền riêng tư và sự kiểm soát của nhà nước; ngoài ngành công nghệ cũng có không ít phụ nữ lo rằng các cơ chế như vậy sẽ được dùng để tấn công và phân biệt đối xử với phụ nữ. Việc khái quát rằng hầu như không có phụ nữ nào lo về quyền riêng tư trông có vẻ ngạo mạn hoặc mang tính phân biệt giới tính
    Trớ trêu là tác giả lại đặt vấn đề từ góc nhìn gia trưởng của một người cha lo cho con gái mình

    • Trong số phụ nữ làm công nghệ, thực sự có những người coi trọng quyền riêng tư và pháp quyền nhưng vẫn ủng hộ an toàn trẻ em và các phương thức xác minh độ tuổi tốt hơn. Vì những lý do hiển nhiên, phụ nữ cũng thường lên tiếng nhiều hơn về các vấn đề như phát tán hình ảnh riêng tư không có sự đồng ý (NCII)
  • Trên thực tế, từng tác vụ riêng lẻ có thể nhanh hơn, nhưng toàn bộ quy trình phát triển không tự động được cải thiện; cuối cùng vẫn phụ thuộc rất nhiều vào năng lực của người thực sự làm việc

  • Nếu cơ quan quản lý can thiệp, hệ sinh thái đóng có thể sẽ chiếm ưu thế như Discord đã báo trước. Kỷ nguyên các mạng xã hội công khai quy mô lớn có thể kết thúc và phân mảnh thành các mạng riêng của những cá nhân không giao lưu với nhau
    Nhìn vào lịch sử, ta có thể phần nào dự đoán kiểu hành vi nào sẽ xuất hiện, nhưng không thể biết toàn bộ động lực sẽ diễn biến ra sao

    • Chỉ là suy đoán không có căn cứ, nhưng việc chấm dứt các mạng xã hội công khai quy mô lớn có vẻ như là mục tiêu cuối cùng của các dự luật xác minh độ tuổi. Nếu vậy thì khó hiểu vì sao không nhắm thẳng về mặt pháp lý vào chính mô hình kinh doanh, thay vì đi đường vòng qua xác minh độ tuổi
  • Tùy độ tuổi, nhưng có khả năng các cô con gái đã tự phát hiện đủ thứ hoặc nghe từ người khác từ trước khi được nhận điện thoại

    • Ở đây, “cuộc trò chuyện đó” có vẻ không phải là giáo dục giới tính, mà là lời cảnh báo rằng chỉ vì là con gái, các em có thể bị những người đàn ông xa lạ gửi ảnh bộ phận sinh dục không được yêu cầu
    • Khó hình dung cụ thể một thế giới nơi các bà mẹ không còn phải có “cuộc trò chuyện đó” với con gái sẽ trông như thế nào
    • Sẽ không có thế giới nào mà ta không phải giải thích cho trẻ về người lạ, bản chất con người, và rủi ro của công nghệ họ sử dụng. Nói rằng smartphone buộc ta phải có những cuộc trò chuyện như vậy cũng giống như nói chủ nghĩa tư bản buộc ta phải kiếm thức ăn; mặt xấu xí của con người đã tồn tại lâu hơn smartphone rất nhiều
      Thái độ rằng mọi người dùng Internet phải xuất trình giấy tờ tùy thân cho chính phủ chỉ để tác giả có thể đưa cho cô con gái tuổi teen một chiếc máy tính luôn kết nối cùng micro và camera mà không cần cân nhắc bất kỳ rủi ro nào cho thấy sự lười biếng và ý thức đặc quyền, cũng như thái độ coi thường tự do của người khác
  • Tôi không rõ câu “trọng số mô hình cần bán hàng triệu lần mới có lãi lại dễ dàng nằm gọn trong thiết bị lưu trữ cỡ bỏ túi” đang nói đến mô hình và thiết bị nào. Cũng không ai dùng Gemma 4 để phát hiện vấn đề an ninh mạng, và nhiều câu trong bài khiến khó phân biệt là châm biếm hay nghiêm túc, nên có lẽ tôi đã đọc quá nghiêm túc

    • Ý ở đây không phải là chạy mô hình, mà là nói về dung lượng lưu trữ trọng số. Ngay cả các mô hình lớn như Kimi 3 cũng chỉ khoảng 1–2TB, nên có thể chứa trong ổ cứng cỡ bỏ túi
 
Các bình luận trên Lobste.rs
  • Việc thu hẹp tính ẩn danh trên Internet có thể cướp đi mạng sống của người thật, bao gồm cả trẻ em trong những gia đình muốn đàn áp bản dạng LGBT của các em

    • Trẻ em LGBT chỉ là phần nổi của tảng băng; sự minh bạch hoàn toàn có thể đẩy đủ loại người đến chỗ chết
      Loài người đã tiến hóa trong môi trường nơi tính ẩn danh là điều tự nhiên, và đã dựa vào các cơ chế sinh tồn chỉ vận hành khi không bị giám sát, cùng khoảng không để sống theo cách của mình đằng sau thể diện
      Cho đến khi chúng ta học được cách sống sót hoặc né tránh trong môi trường minh bạch và đặt phanh cho sự minh bạch quá mức, nhiều hy sinh khó lường có khả năng sẽ tiếp diễn
    • Việc tác giả nói về an toàn của phụ nữ nhưng lại không cho con gái mình tiếng nói, chỉ dựa trên suy nghĩ của bản thân, gây cảm giác khó chịu
      Điều này cũng bỏ qua thực tế rằng một phần đáng kể các vụ xâm hại tình dục trẻ em do thành viên gia đình gây ra
  • Trái với nhận định rằng các nữ kỹ sư ủng hộ quyền riêng tư tuyệt đối là hiếm, chúng tôi ở ngay đây
    Nếu không hiểu quyền không tiết lộ danh tính trên Internet giúp phụ nữ sinh tồn như thế nào, thì có lẽ chính bạn lại gần với kiểu tech bro mà bạn đang phê phán hơn

    • Bài viết này lại bổ sung thêm một lý do để ghét cụm từ tech bro
  • Tương lai không phải là thứ đã định sẵn; chúng ta cần tạo ra một tương lai an toàn hơn cho tất cả mọi người, kể cả trẻ em, đồng thời bảo đảm tự do như một quyền con người và xã hội phải cùng nhau bảo vệ nhân quyền
    Sự căng thẳng giữa an toàn và tự do không phải là khiếm khuyết cần loại bỏ, mà là một đặc tính nhất thiết phải được duy trì

  • Chẩn đoán rằng FOSS là hiện tượng chỉ giới hạn trong một thế hệ giống như quần ống loe hay văn hóa hippie, nên các dự án sẽ biến mất vượt ra ngoài vấn đề kiệt sức của maintainer, là điều khó hiểu về mặt căn cứ

    • Có thể hiểu là nói đến sự đứt gãy maintainer, khi maintainer hiện tại nghỉ việc vì không tìm được người kế nhiệm phù hợp, khiến không còn ai tiếp tục dự án
    • Dường như xu hướng ưa chuộng thành công cá nhân hơn lợi ích xã hội đã mạnh hơn trước
      Việc ngẫu hứng làm một ứng dụng thị trường dự đoán dựa trên blockchain để nhắm tới khoản tiền lớn có thể trông hấp dẫn hơn so với việc bảo trì FOSS, vốn tương đối ít được đền đáp và cảm ơn
      Tuy vậy, như một phản ứng trước chủ nghĩa tư bản hậu kỳ, khả năng một thế giới quan biết quan tâm hơn sẽ lấy lại sức mạnh cũng vẫn tồn tại, và tôi cũng định nỗ lực để tạo ra thay đổi đó
  • Nếu khác biệt về giá trị và thực hành giữa các thế hệ là lớn, thế hệ sau có lẽ sẽ thấy dễ thay thế hoàn toàn dự án hơn là tiếp nhận nguyên trạng vai trò của các maintainer hiện tại

  • Sau khoảng 20 năm quan sát, tôi cảm nhận rất rõ rằng FOSS đang đối mặt với biến động lớn nhất
    LLM, sự rời bỏ của maintainer, đầu tư mạo hiểm vào các dự án nguồn mở như Bun, Deno, uv, tình trạng thiếu vốn của các dự án phi doanh nghiệp, và mã do AI tạo ra dù đã học từ mã có giấy phép yêu cầu ghi nguồn nhưng lại không công khai điều đó, tất cả đang tác động cùng lúc
    Hy vọng EU CADA và các chiến lược nguồn mở liên quan sẽ giúp giảm bớt những mất cân bằng lâu nay trong cộng đồng nguồn mở
    Việc cho phép hoặc buộc các công ty nước ngoài yêu cầu và xử lý thông tin danh tính người dùng trực tiếp làm suy giảm chủ quyền số
    Nếu mạng xã hội thu thập những gì ta công khai chia sẻ, thì các giao diện hội thoại dựa trên LLM còn thu thập cả những nỗi băn khoăn và hình ảnh mà ta thậm chí sẽ không nói ra, nên đáng sợ hơn nhiều
    Trong vài năm gần đây, tôi đã dẫn dắt công việc về chủ quyền số trong công việc chính của mình, và đặt khá nhiều kỳ vọng vào hướng đi của CADA