1 điểm bởi GN⁺ 2024-04-30 | 1 bình luận | Chia sẻ qua WhatsApp
  • SB-1047 hướng tới mục tiêu phát triển AI an toàn, nhưng các điều khoản hiện tại có thể tạo gánh nặng quá mức cho nhà phát triển mã nguồn mở và doanh nghiệp nhỏ
  • Nếu các hạn chế phát triển trở nên nghiêm ngặt hơn, tính minh bạch và hợp tác sẽ giảm, từ đó cũng làm suy yếu khả năng của cộng đồng chuyên gia rộng lớn hơn trong việc phát hiện và khắc phục các vấn đề an toàn
  • Định nghĩa “covered model” quá rộng, cùng các yêu cầu bắt buộc về tạm dừng, báo cáo và tuân thủ hướng dẫn, có thể làm chùn bước cả hoạt động phát triển mô hình mã nguồn mở thiện chí
  • Khả năng phải chịu kiểm toán, tư vấn pháp lý, phí và chế tài dân sự có thể trở thành rào cản gia nhập và áp lực tự kiểm duyệt đối với startup và nhà nghiên cứu
  • Cách tiếp cận tốt hơn là quản lý các trường hợp sử dụng rủi ro cao thay vì bản thân việc phát triển mô hình, đồng thời hỗ trợ mã nguồn mở, hợp tác giữa ngành–học thuật–chính phủ và đầu tư vào chuyên môn AI của chính phủ

Lập trường cơ bản về SB-1047

  • Bài viết này là ý kiến cá nhân Jeremy gửi tới những người soạn thảo dự luật SB-1047, không phải lập trường chính thức của Answer.AI
  • Bản thân mục tiêu mà SB-1047 theo đuổi, là phát triển AI an toàn và bảo mật, có thể được nhìn nhận tích cực
  • Vấn đề là một số điều khoản hiện tại của dự luật có thể gây tác động tiêu cực tới nhà phát triển mã nguồn mở, doanh nghiệp nhỏ và đổi mới trong toàn bộ hệ sinh thái AI
  • Nếu phát triển mã nguồn mở bị hạn chế, mức độ an toàn của AI cũng có thể suy yếu theo
    • Khi tính minh bạch và hợp tác giảm, sẽ khó hơn để nhiều chuyên gia nhận diện và giải quyết các vấn đề an toàn tiềm ẩn
    • Nếu quyền kiểm soát tập trung vào một số ít chủ thể lớn, tính đa dạng và khả năng chống chịu sẽ giảm, làm tăng khả năng xuất hiện điểm lỗi đơn lẻ và rủi ro mang tính hệ thống

Lo ngại phát triển mã nguồn mở bị thu hẹp

  • Mã nguồn mở là yếu tố cốt lõi giúp ngành phần mềm Mỹ thành công, đồng thời giúp nhiều người tiếp cận được các công cụ phần mềm quan trọng
  • Phần lớn các thành phần nền tảng của AI hiện đại cũng xuất phát từ mã nguồn mở, và nghiên cứu học thuật cũng như nghiên cứu an toàn và bảo mật hầu như đều được tiến hành dựa trên mã nguồn mở
  • Nếu mã nguồn mở suy yếu, nhà phát triển, người tiêu dùng, giới học thuật và các startup mới đều sẽ bị ảnh hưởng
  • Định nghĩa “covered model” quá rộng

    • Định nghĩa “covered model” trong dự luật rất rộng, nên có thể bao gồm cả nhiều mô hình mã nguồn mở có rủi ro thấp
    • Kết quả là hoạt động của các nhà phát triển thiện chí thực hiện những dự án AI có ích cũng có thể vô tình bị hình sự hóa
  • Vấn đề trách nhiệm đối với công cụ đa dụng

    • Mô hình AI gần với phần mềm đa dụng chạy trên máy tính, giống như trình xử lý văn bản, máy tính bỏ túi hay trình duyệt web
    • Cũng như nhà phát triển trình duyệt web hay máy tính bỏ túi không thể ngăn mọi hành vi lạm dụng, nhà tạo ra mô hình cũng khó có thể bảo đảm rằng mô hình tuyệt đối không bị dùng vào việc gây hại
    • Nếu áp đặt trách nhiệm như vậy lên người tạo ra công cụ đa dụng, trên thực tế sẽ rất khó để bất kỳ bên nào ngoài các tập đoàn lớn có đội ngũ pháp lý đầy đủ có thể tạo ra công cụ
  • Gánh nặng từ các yêu cầu đối với nhà phát triển

    • Dự luật đặt lên nhà phát triển các gánh nặng như tạm dừng bắt buộc, báo cáo rộng rãi và tuân thủ “covered guidance” có thể còn mơ hồ
    • Với các nhà phát triển mã nguồn mở thiếu nguồn lực để xử lý những quy trình pháp lý phức tạp, các yêu cầu này sẽ có tác động lớn hơn
    • Nỗi sợ về hậu quả pháp lý và thủ tục quan liêu có thể làm giảm sự tham gia vào phát triển mã nguồn mở, đồng thời làm suy yếu văn hóa hợp tác từng thúc đẩy tiến bộ AI
    • Khi tính minh bạch giảm, việc phát hiện và giải quyết các vấn đề an toàn tiềm ẩn cũng trở nên khó khăn hơn

Tác động tới doanh nghiệp nhỏ và hệ sinh thái nghiên cứu

  • Các quy định được đề xuất có thể tạo ra rào cản gia nhập lớn đối với doanh nghiệp nhỏ và startup muốn đổi mới trong lĩnh vực AI
  • Chi phí tuân thủ quy định và rủi ro pháp lý có thể làm chùn bước nhà sáng lập và hạn chế cạnh tranh
  • Kết quả là tốc độ đổi mới có thể chậm lại, và quyền lực có khả năng tập trung nhiều hơn vào các tập đoàn lớn hiện hữu
  • Chi phí và rủi ro pháp lý

    • Các chi phí tuân thủ quy định như phí, kiểm toán và tư vấn pháp lý là gánh nặng lớn đối với doanh nghiệp nhỏ và startup
    • Cấu trúc chi phí như vậy có thể hạn chế cạnh tranh, tập trung quyền lực vào các tập đoàn lớn hiện hữu và cản trở đổi mới
  • Nghiên cứu bị thu hẹp và chảy máu nhân tài

    • Nỗi sợ vô tình kích hoạt các điều khoản của dự luật có thể dẫn tới tự kiểm duyệt ở nhà nghiên cứu và nhà phát triển
    • Nếu tránh né những hướng nghiên cứu AI nhiều triển vọng, tiến bộ khoa học và tiềm năng của AI trong giải quyết các vấn đề xã hội sẽ bị hạn chế
    • Một môi trường hạn chế có thể khiến các nhà nghiên cứu và phát triển AI tài năng rời khỏi California
    • Điều này có thể gây thiệt hại cho kinh tế California và làm suy yếu vai trò dẫn dắt đổi mới AI của bang

Tác động lan tỏa tới đổi mới AI của California và Mỹ

  • California đóng vai trò quan trọng trong việc dẫn dắt đổi mới của Mỹ, đặc biệt trong lĩnh vực công nghệ
  • Nếu SB-1047 đặt gánh nặng quá mức lên phát triển AI, vai trò dẫn dắt của California trong lĩnh vực then chốt này có thể suy yếu
  • Ảnh hưởng đó có thể lan rộng ra toàn nước Mỹ, làm chậm tiến bộ chung của hoạt động nghiên cứu và phát triển AI

Các phương án thay thế được đề xuất

  • Cần một cách tiếp cận tập trung vào ứng dụng AI và rủi ro thực tế, thay vì quản lý bản thân việc phát triển mô hình AI
  • Hỗ trợ phát triển mã nguồn mở

    • Khuyến khích phát triển mã nguồn mở cho các mô hình AI có thể tăng cường hợp tác và minh bạch, đồng thời tạo ra một hệ sinh thái AI đa dạng và có khả năng chống chịu tốt hơn
  • Tập trung quản lý việc sử dụng thay vì phát triển

    • Trọng tâm của quy định nên là cách sử dụng AI, chứ không phải việc phát triển mô hình AI
    • Đặc biệt cần tập trung vào các ứng dụng gây rủi ro cao đối với an toàn và an ninh công cộng
    • Nếu quản lý việc sử dụng AI trong các lĩnh vực có khả năng gây thiệt hại lớn như y tế, tư pháp hình sự và hạ tầng trọng yếu, có thể bảo đảm trách nhiệm đối với các cách sử dụng gây hại trong khi vẫn tiếp tục thúc đẩy phát triển công nghệ AI
  • Đầu tư vào minh bạch, hợp tác và chuyên môn

    • Thông qua hợp tác giữa ngành công nghiệp, học thuật và chính phủ, có thể khuyến khích xây dựng và áp dụng các thực hành tốt nhất cho phát triển AI có trách nhiệm
    • Cần đồng thời xây dựng tiêu chuẩn ngành, thúc đẩy phát triển mã nguồn mở và đầu tư vào nghiên cứu an toàn AI
    • Nếu cung cấp nguồn lực để các cơ quan chính phủ có chuyên môn về AI, họ có thể giám sát và ứng phó hiệu quả hơn với các rủi ro tiềm ẩn
    • Cách tiếp cận này cho phép xây dựng quy định AI tinh vi hơn, cân bằng giữa an toàn và đổi mới

Các điều khoản cụ thể gây lo ngại

  • Section 22602 (f): Định nghĩa “covered model” quá rộng, có thể bao gồm nhiều mô hình mã nguồn mở khác nhau
  • Section 22603 (b): Các yêu cầu đối với nhà phát triển quá mức, có thể làm phát triển mã nguồn mở chùn bước
  • Section 22606 (a): Khả năng bị chế tài dân sự có thể tạo hiệu ứng đóng băng đối với nghiên cứu và đổi mới
  • Section 11547.6 (c)(11): Quyền áp phí có thể tạo rào cản gia nhập đối với doanh nghiệp nhỏ

1 bình luận

 
GN⁺ 2024-04-30
Ý kiến trên Hacker News
  • Nhà tạo mô hình không thể bảo đảm rằng mô hình sẽ tuyệt đối không bị dùng vào việc có hại; điều này cũng đúng với nhà phát triển trình duyệt web, máy tính hay trình xử lý văn bản.
    Nếu quy trách nhiệm cho những người tạo ra công cụ đa dụng như vậy, trên thực tế sẽ chỉ còn các tập đoàn lớn có đội ngũ pháp lý đủ mạnh mới có thể tạo ra các công cụ này. Việc bảo đảm một công nghệ không bị dùng cho “mục đích có hại” gần như là bất khả thi, và những điều khoản như thế có vẻ sẽ trở thành một rào cản nữa ngăn những bên ngoài các tập đoàn lớn tham gia phát triển LLM.

    • Tôi hiểu luật này không yêu cầu phải bảo đảm điều gì, mà chỉ ở mức tuân theo các thực hành tốt nhất vẫn chưa được xác định và báo cáo các sự cố an toàn.
      Cũng không phải chịu trách nhiệm về bản thân sự cố an toàn, chỉ cần báo cáo; dù có thể hơi phiền phức, nhìn chung điều này có vẻ khá hợp lý.
    • Frontier Model Division mới chỉ là một tổ chức tiếp nhận thông tin và ban hành hướng dẫn, không phải chế độ cấp phép, cũng không phải cơ quan điều tra nhà phát triển.
      Việc một mô hình hiệu năng cao bị dùng vào việc xấu, thậm chí gây thiệt hại thảm khốc, không đồng nghĩa tự động phải chịu trách nhiệm; điểm cốt lõi là đã thực hiện các biện pháp phòng ngừa hợp lý hay chưa. Hoàn toàn có thể áp dụng cơ chế trách nhiệm nghiêm ngặt, buộc chịu trách nhiệm về thiệt hại thảm khốc bất kể nhà phát triển có lỗi hay không, nhưng dự luật này không làm như vậy.
      Nhìn chung, nếu một mô hình có thể gây thiệt hại thảm khốc, thì dù các mô hình hiện tại chưa thuộc diện đó, các mô hình tương lai có thể sẽ thuộc diện; vì vậy không nên triển khai chúng theo cách có thể dự đoán được là sẽ gây ra thiệt hại như vậy. Theo tinh thần đó thì khá hợp lý.
      Nếu muốn biết chi tiết cụ thể của dự luật, tôi khuyên đọc bài viết chi tiết của Zvi. Cá nhân tôi cho rằng đây là một đề xuất khá hẹp, tập trung vào những rủi ro nghiêm trọng nhất, và hẹp hơn nhiều so với, chẳng hạn, EU AI Act: https://thezvi.substack.com/p/on-the-proposed-california-sb-...
    • Nếu không xác định ngưỡng thiệt hại thì lập luận đó không có ý nghĩa.
      Nếu không, ta cũng phải phê phán luôn việc ngăn chặn nghiên cứu tác nhân sinh học nguồn mở, đầu đạn hạt nhân nguồn mở, hay giao thức nhân bản người nguồn mở. Tất cả những thứ này đều là công nghệ lưỡng dụng và xét khách quan thì trung lập về mặt đạo đức.
    • Người tạo ra những thứ cực kỳ nguy hiểm phải chịu trách nhiệm về chúng, hoặc bản thân việc sản xuất phải bị quản lý rất chặt.
      Cũng giống như việc không cho phép bán lựu đạn ở góc phố. Thái độ muốn trốn tránh trách nhiệm là một trong những điểm tôi không thích nhất ở các công ty công nghệ lớn.
    • Định nghĩa về thiệt hại được giấu ở phần dưới của dự luật là: tạo ra hoặc sử dụng vũ khí hóa học, sinh học, phóng xạ hoặc hạt nhân gây thương vong hàng loạt; tấn công mạng vào hạ tầng trọng yếu gây thiệt hại từ 500 triệu USD trở lên; trường hợp mô hình AI tự chủ thực hiện hành vi mà nếu do con người làm thì sẽ vi phạm luật hình sự và gây thiệt hại từ 500 triệu USD trở lên; cùng các mối đe dọa an toàn, an ninh công cộng ở mức tương tự.
      Điều này có thể bao gồm AI dùng cho phát triển thuốc mới và khoa học vật liệu, AI quản lý lưới điện và lưu lượng băng rộng, AI trong tài chính và y tế, v.v. Phía tổ hợp công nghiệp-quân sự có thể hoàn toàn nằm ngoài phạm vi luật này nếu chỉ liên quan đến hợp đồng liên bang. Việc phát triển AI quân sự mật nghe có vẻ liều lĩnh; không biết họ chưa xem War Games hay sao.
      https://technologymagazine.com/top10/top-10-military-technol...
      Ít nhất nếu là nguồn mở thì năng lực của nó sẽ bộc lộ tức thì hơn.
  • Giới chính trị đang nhắm rất mạnh vào AI nguồn mở, trông như một tình huống điên rồ.
    Soros nói rằng sự kết hợp giữa các dự án AI của doanh nghiệp và của chính phủ tạo ra một mối đe dọa mạnh hơn cả những nhà độc tài thời Chiến tranh Lạnh vốn tránh xa đổi mới doanh nghiệp. Nội dung là: “Sự kết hợp giữa các chế độ áp bức và độc quyền CNTT đem lại cho các chế độ đó một lợi thế sẵn có so với xã hội mở. Chúng đặt ra mối đe dọa chí tử đối với xã hội mở.”
    https://www.wired.com/story/mortal-danger-chinas-push-into-a...
    Theo nghĩa đen, mọi bên theo đuổi ảnh hưởng toàn cầu đều đang thèm muốn AI. Đến mức tôi nghiêm túc cân nhắc liệu khi Mac Studio 512GB ra mắt có nên mua để chạy các mô hình llama3 lớn có thể sắp bị cấm hay không.

    • Tôi mong ai đó thực hiện một bài điều tra về mối quan hệ giữa giới chính trị và AI thương mại/đóng.
      Các nhà đầu tư hoặc bên hưởng lợi từ những công ty như OpenAI có thể có quan hệ gần gũi với các chính trị gia. Nhiều khả năng sẽ không có liên hệ trực tiếp, và họ có lẽ đã rất thành thạo trong việc che giấu các liên hệ đó cũng như tạo ra khả năng phủ nhận nghe có vẻ hợp lý.
    • Tôi không rõ kế hoạch dài hạn là gì, và có lẽ các nhà lập pháp không hiểu lĩnh vực này sẽ đi về đâu trong dài hạn.
      Đây vẫn thật sự là giai đoạn rất sơ khai. Trừ khi giới học thuật thất bại lớn, khoảng 5 năm nữa các cụm nghiên cứu của giáo sư sẽ có thể huấn luyện các mô hình ở mức tối tân hiện nay, và có lẽ cũng không chỉ giới hạn ở các đại học R1.
      Về dài hạn, có vẻ bất kỳ ai có quyền truy cập lượng văn bản bằng một thư viện cũng sẽ có thể tạo ra một mô hình dùng được. Não chúng ta không có gì kỳ diệu cả, nên một ngày nào đó có thể dạy máy tính đọc và viết với số sách tương đương lượng cần để dạy con người. Ngay cả nếu nó ngu hơn chúng ta 10 lần, một người Mỹ bình thường đọc vài trăm cuốn sách trong đời; vậy chẳng lẽ sở hữu hơn vài nghìn ebook cũng phải xin phép?
    • Nếu những người ủng hộ AI đúng, thì AI hiển nhiên là một mối đe dọa gây bất ổn khổng lồ.
      Ngay cả phiên bản yếu hơn, hoàn toàn không có tính tự chủ và chỉ là kết quả của prompt, nếu nó thực sự cung cấp hiệu năng như đã hứa thì cũng sẽ gây bất ổn nghiêm trọng. Chúng ta hoàn toàn chưa sẵn sàng cho một thế giới nơi gần như mọi thứ giả đều có chi phí gần bằng 0.
      Mặt khác, cũng rất có khả năng nó sẽ biểu hiện dưới dạng những quy tắc rất kỳ quặc, gần như không liên quan đến an toàn thực tế, giống ITAR hiện nay.
    • Nếu chỉ cần chạy được, còn tốc độ không quan trọng, thì có thể chạy trên Dell R720. Nó hỗ trợ hàng trăm GB RAM, và tải xuống bằng https://ollama.com/ cũng dễ.
      Rẻ hơn Mac Studio rất nhiều. Tôi đã mua một chiếc R820 với giá vài trăm đô, có 256GB RAM và vẫn còn khả năng mở rộng thêm.
  • Vì không thấy nói trong blog nên bổ sung thêm: ngày 7/2/2024, Thượng nghị sĩ Scott Wiener đã đề xuất SB-1047 tại cơ quan lập pháp bang California.
    Tên chính thức là Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act, một dự luật nhằm quản lý việc phát triển và sử dụng các mô hình AI tiên tiến. Dự luật yêu cầu nhà phát triển phải đưa ra một số đánh giá an toàn trước khi huấn luyện mô hình AI, tuân thủ nhiều yêu cầu an toàn và báo cáo các sự cố an toàn AI. Ngoài ra, dự luật còn lập Frontier Model Division trong Department of Technology để giám sát, và áp dụng tiền phạt dân sự khi vi phạm.
    https://www.dlapiper.com/en/insights/publications/2024/02/ca...

  • Tôi lo rằng kiểu quản lý này sẽ tạo ra hiệu ứng cố định vị thế có lợi cho các công ty AI dẫn đầu hiện nay và khiến người mới không thể gia nhập.

    • Điều đó được gọi là regulatory capture, và rất có thể đang diễn ra ở đây.
    • Chi phí cho frontier model đã hơn 100 triệu USD rồi, nên có vẻ con tàu đó đã rời bến.
      Nếu không phải là một đội hoàn toàn điên rồ có thể gọi vốn khoảng 1 tỷ USD ngay từ đầu, thì chẳng còn cơ hội cạnh tranh.
    • Một số người có thể nói đó chính là mục đích được nhắm tới.
  • Khó tin thật. Tôi thích chính sách nhà ở của Scott Wiener, nhưng dự luật này đầy rẫy sự can thiệp quá mức của chính phủ.
    Trớ trêu là nó sẽ tạo ra hiệu ứng giống hệ thống NIMBY mà ông ấy đã đấu tranh chống lại suốt thời gian dài.
    Kiểu như trước khi bắt đầu huấn luyện một mô hình ứng dụng không phái sinh, phải triển khai khả năng nhanh chóng dừng hoàn toàn mô hình đó cho đến khi thuộc diện được miễn các nghĩa vụ hạn chế. Rốt cuộc nghe như chỉ được huấn luyện những gì đã được cho phép.
    Tất nhiên, đi kèm sẽ là một bộ phận mới có quyền thu phí. Dự luật lập Frontier Model Division để xem xét báo cáo chứng nhận hằng năm của nhà phát triển, công bố kết quả tóm tắt, và có thể thu các khoản phí liên quan để đưa vào một quỹ riêng.
    Và tất nhiên cũng phải trả tiền cho tư vấn. Department of Technology sẽ giao cho các nhà tư vấn xây dựng một cụm điện toán đám mây công cộng tên là CalCompute, với mục tiêu chính là nghiên cứu triển khai an toàn và bảo mật các mô hình AI quy mô lớn, đồng thời thúc đẩy đổi mới công bằng.

    • Yêu cầu triển khai khả năng dừng hoàn toàn ngay lập tức nghĩa là phải có thể tắt nó đi.
      Có vẻ việc đó nên dễ, và dù sao đảm bảo có thể tắt được cũng là điều tốt.
  • Tôi tò mò về lâu dài bang nào sẽ tốt nhất cho startup AI.
    Trước đây tôi sẽ nghĩ là California, nhưng giờ có vẻ quan trọng hơn là chọn bang ít có khả năng lao vào quản lý quá mức. Washington hiện chưa có động thái như vậy, không có thuế thu nhập bang, và có nhiều kỹ sư cũng như nhà nghiên cứu AI ở Seattle/Redmond, nên tôi ở đây. Texas cũng nhiều khả năng sẽ không bổ sung quy định, và nếu ở Austin thì có những lợi thế tương tự. Nếu California đẩy ngành này đi bằng quy định, nơi nào khác sẽ nổi lên?

    • Yếu tố cốt lõi là một bang có thời tiết tốt quanh năm, đã có vùng đô thị lớn, và luật pháp cũng như thuế tốt hơn California.
      Vì vậy các thành phố ở Texas và Florida đang tăng trưởng. Seattle thời tiết xấu, Washington thì lạnh, các thành phố lớn lại không được quản lý tốt nên không hấp dẫn với các gia đình giàu có để sinh sống.
    • Chính trị cấp bang cũng quan trọng, nhưng giá điện và khả năng có bất động sản cho trung tâm dữ liệu mới cũng quan trọng.
      California có giá điện đặc biệt cao và cũng khiến việc xây dựng cơ sở công nghiệp mới trở nên khó khăn. Điều này càng đúng nếu ở gần các vùng nước có thể giúp nhu cầu làm mát. Doanh nghiệp có thể để một phần nhân viên ở California, nhưng phần cứng nhiều khả năng sẽ chạy ở nơi khác.
    • Dân Miami có xu hướng phản đối rất mạnh về mặt ý thức hệ đối với những đạo luật như thế này.
    • Tennessee có thể là một lựa chọn. Ở đó có đập thủy điện để đáp ứng nhu cầu điện.
  • Bài này rất tệ và có mùi sản phẩm do LLM tạo ra.
    Nếu muốn thật sự hiểu dự luật này, tốt hơn nên đọc phân tích của Zvi: https://thezvi.substack.com/p/on-the-proposed-california-sb-...

    • Có vẻ Zvi đã bỏ sót vài phần quan trọng của dự luật này.
      Ví dụ, trước khi bắt đầu sử dụng mô hình ứng dụng một cách thương mại, công khai và rộng rãi, nếu không có đánh giá an toàn tích cực hoặc miễn trừ nghĩa vụ hạn chế, nhà phát triển phải triển khai các biện pháp bảo vệ và yêu cầu hợp lý để “ngăn cá nhân sử dụng mô hình đó tạo ra mô hình phái sinh gây thiệt hại nghiêm trọng”.
      Điều này đơn giản là bất khả thi. Nếu đưa trọng số mô hình cho tôi, chắc chắn tôi có thể fine-tune nó để gây thiệt hại trong ứng dụng. Chẳng hạn khiến nó cung cấp hướng dẫn chế tạo vũ khí hóa học/sinh học. Yêu cầu này không thể đáp ứng, và nếu không đáp ứng thì không thể phát hành mô hình ứng dụng.
    • Liên quan đến cụm “có mùi sản phẩm do LLM tạo ra”, Answer.AI tự giới thiệu là một phòng thí nghiệm R&D AI kiểu mới, chuyên tạo ra các sản phẩm thực dụng cho người dùng cuối dựa trên các đột phá nghiên cứu nền tảng.
      Rất có khả năng công ty hoặc tác giả đã trực tiếp dùng thử sản phẩm nội bộ.
    • Mong là đừng sa vào tranh cãi quanh nguồn gốc của bài viết, mà hãy tập trung vào nội dung thực chất của văn bản.
  • “Mô hình được áp dụng” là mô hình AI đáp ứng một trong hai tiêu chí
    Thứ nhất, mô hình được huấn luyện với hơn 10^26 phép toán số nguyên hoặc dấu phẩy động. Thứ hai, mô hình được huấn luyện với lượng phép toán đủ lớn để có thể được kỳ vọng hợp lý là đạt hiệu năng tương đương hoặc cao hơn so với một mô hình AI, tính theo chuẩn năm 2024, được huấn luyện với hơn 10^26 phép toán; điều này được đánh giá bằng các benchmark thường dùng để định lượng hiệu năng tổng quát của các mô hình nền tảng tiên tiến nhất
    Chỉ cần học một lớp cơ bản về kiến trúc CPU cũng biết phép toán số nguyên và phép toán dấu phẩy động có gánh nặng tính toán rất khác nhau. Một bên nào đó có thể dùng cách diễn đạt này trước tòa để hạ thấp đáng kể tiêu chí áp dụng theo hướng hồi tố. Chẳng hạn, họ có thể lập luận rằng 1 phép toán dấu phẩy động tương đương 10 phép toán số nguyên, nên ngưỡng là 10^26 phép toán số nguyên hoặc 10^25 phép toán dấu phẩy động
    Vì cố gắng chuẩn bị cho tương lai, kể cả các thuật toán tốt hơn, dựa trên benchmark của hôm nay, quy định đi đến mức bản thân lượng nỗ lực không còn quan trọng nữa. Dù benchmark hôm nay có phản ánh năng lực thực tế hay không, có vẻ như nó đang được dùng để kẻ một đường chuẩn. Một mô hình nhỏ có thể được huấn luyện để cố ý đạt hiệu năng thấp trên các benchmark này, trong khi lại rất giỏi ở những nhiệm vụ mà họ lo ngại, như chế tạo vũ khí hạt nhân

    • Trong dự luật còn có một mảnh thú vị hơn
      Dự luật nói rằng trước khi bắt đầu huấn luyện một mô hình thuộc diện áp dụng, nhà phát triển có thể xác định liệu mô hình đó có đạt hiệu năng thấp hơn trên tất cả benchmark hay không; nhưng làm sao biết được hiệu năng trước khi huấn luyện?
    • Tạm gác phép toán số nguyên sang một bên, độ chính xác dấu phẩy động được lấy theo tiêu chuẩn nào? Chỉ riêng điều đó cũng có thể làm sai lệch con số rất lớn
    • Theo một nghĩa nào đó, điều này thậm chí có thể khiến người ta tạo ra trí tuệ nhân tạo tổng quát chạy trong túi áo
      Khi có một trần giới hạn có thể dùng, sự sáng tạo của con người sẽ dồn vào hướng khớp trong phạm vi đó. Tất nhiên, đây chỉ là câu chuyện của Mỹ. Trung Quốc, Nga, Triều Tiên, Iran, v.v. vẫn có thể tự do theo đuổi công nghệ này
  • Toàn bộ bài này có cảm giác như được viết bằng ChatGPT
    Ví dụ, ngay cả dự luật gốc cũng không được trích dẫn, mà chỉ liên tục đưa ra những lập luận mơ hồ về giá trị của mã nguồn mở

    • Sự nhiệt tình tóm tắt ý chính thành danh sách gạch đầu dòng cũng là lối diễn đạt kiểu ChatGPT
    • Kiểu khẳng định như thế này có vẻ sắp trở thành điều cấm kỵ trên trang
      Tôi không rõ nó đóng góp gì cho cuộc thảo luận, và cũng nghi ngờ liệu có lập luận nào trong đó đóng vai trò phản bác hay không
  • Tôi thích đề xuất rằng thay vì quản lý bản thân việc phát triển các mô hình AI, nên quản lý các lĩnh vực ứng dụng, đặc biệt là những lĩnh vực gây rủi ro cao cho an toàn và an ninh công cộng
    Nếu quản lý việc sử dụng AI trong các lĩnh vực rủi ro cao có khả năng gây hại lớn nhất, như y tế, tư pháp hình sự và hạ tầng trọng yếu, ta có thể tiếp tục cho phép công nghệ AI phát triển, đồng thời bảo đảm trách nhiệm đối với các cách sử dụng gây hại. Tôi tự hỏi liệu có lập luận thuyết phục nào phản đối cách tiếp cận này không