Mô hình mã nguồn mở mới của OpenAI thực chất là Phi-5

 (seangoedecke.com)
5 điểm bởi GN⁺ 2025-08-08 | 1 bình luận | Chia sẻ qua WhatsApp
  • OpenAI đã công bố hai mô hình ngôn ngữ lớn mã nguồn mở gpt-oss-120b và gpt-oss-20b; chúng thể hiện chất lượng nổi bật trên một số benchmark nhưng vẫn có giới hạn trong ứng dụng thực tế
  • Các mô hình này có kiến thức tổng quát nhưng bị đánh giá là thiếu hụt kiến thức ở một số lĩnh vực cụ thể như văn hóa đại chúng
  • Tương tự như chuỗi Phi của Microsoft, việc học chủ yếu từ dữ liệu tổng hợp giúp nâng điểm benchmark nhưng lại có xu hướng làm giảm hiệu quả sử dụng thực tế
  • Học từ dữ liệu tổng hợp có lợi thế là tăng độ an toàn và giảm rủi ro lạm dụng có thể phát sinh khi mô hình được phát hành mã nguồn mở
  • OpenAI dường như chọn hướng tiếp cận theo kiểu Phi để vừa giành lợi thế benchmark so với mô hình mã nguồn mở của Trung Quốc, vừa duy trì mức an toàn

Công bố LLM mã nguồn mở đầu tiên của OpenAI

  • OpenAI đã công bố gpt-oss-120b và gpt-oss-20b, đánh dấu mô hình ngôn ngữ lớn mã nguồn mở đầu tiên của họ, và cho phép trò chuyện trực tiếp trên web
  • Chúng thể hiện hiệu suất tốt trên một số benchmark, nhưng mức độ suy giảm thể hiện trong các bài kiểm tra cụ thể như SimpleQA
  • Các mô hình có kiến thức khái quát tốt trong các lĩnh vực như khoa học, nhưng thiếu hụt kiến thức về văn hóa đại chúng
  • Hiệu quả ứng dụng thực tế dự kiến sẽ rõ ràng hơn sau khoảng 6 tháng, và khả năng hiệu năng ngoài thực tế thấp hơn benchmark là khá lớn

Mô hình Phi và việc huấn luyện dữ liệu tổng hợp

  • Năm 2024, chuỗi Phi do Sebastien Bubeck của Microsoft dẫn dắt là các mô hình được huấn luyện hoàn toàn bằng dữ liệu tổng hợp
  • Dữ liệu tổng hợp là văn bản dựa trên tài liệu được tạo bởi mô hình ngôn ngữ khác hoặc do con người chọn lọc, dễ kiểm soát chất lượng hơn nhưng tốn chi phí tạo dữ liệu lớn
  • Cách tiếp cận này giúp nâng hiệu suất benchmark, nhưng thường cho kết quả dưới mong đợi trong môi trường thực
  • Do có thể tạo dữ liệu phù hợp với từng loại bài test benchmark, nó cho phép kiểu huấn luyện thiên về thi cử, song làm giảm tính tổng quát

Sự gia nhập của Sebastien Bubeck tại OpenAI và gpt-oss

  • Cuối năm 2024, Bubeck rời Microsoft để gia nhập OpenAI
  • Chi tiết dữ liệu tiền huấn luyện của mô hình gpt-oss chưa được công bố, nhưng rất có khả năng đã sử dụng dữ liệu được lọc chặt hoặc tổng hợp
  • Cách tiếp cận này có thể mang tính chất tương tự Phi-5 và Phi-5-mini

Lợi ích an toàn của dữ liệu tổng hợp

  • Mô hình mã nguồn mở có thể được fine-tuning không giới hạn sau khi mở, dẫn đến các rủi ro an toàn tiềm ẩn
  • Đặc biệt, do một trong những sử dụng không chính thức phổ biến của mô hình ngôn ngữ nhỏ là diễn cảnh người lớn, nên quản lý an toàn có vai trò quan trọng
  • Huấn luyện trên dữ liệu tổng hợp hoặc dữ liệu dựa trên giáo trình giúp tăng an toàn vì không chứa nội dung nguy hiểm
  • Có vẻ OpenAI chọn chiến lược vừa giữ vững lợi thế benchmark trước các mô hình mã nguồn mở đến từ Trung Quốc, vừa duy trì an toàn

Kết luận: Thực chất là dòng Phi-5

  • Các mô hình gpt-oss có thiết kế lấy an toàn làm trung tâm dựa trên dữ liệu tổng hợp, và được cho là ưu tiên điểm benchmark cũng như an toàn hơn là hiệu năng thực chiến
  • Do đó, bản chất các mô hình này gần giống Phi-5 và Phi-5-mini

Bài viết liên quan

1 bình luận

 
GN⁺ 2025-08-08
Bình luận Hacker News

  • Mình đang test bằng cách cho mô hình dịch một chương truyện khoa học viễn tưởng ngẫu nhiên, và mô hình này phản ứng từ chối khi xử lý nội dung liên quan đến người chưa thành niên và ngữ cảnh tình dục. Để xác định nguyên nhân, mình cắt từng phần truyện ra kiểm tra và thấy nguyên nhân đến từ một câu hội thoại ngắn, hoàn toàn thuần khiết và lãng mạn giữa hai nhân vật phụ 17 tuổi. Một vấn đề khác là thỉnh thoảng khi muốn trò chuyện về chuyện đời sống thường ngày thì cả một đoạn văn bị thay thành ký tự kiểm duyệt hoặc đột nhiên có phản hồi từ chối. Với mức kiểm duyệt như vậy, mô hình này gần như vô dụng cho sáng tác, dịch thuật hay các bài toán thực tế (trừ toán/lập trình). Với 120B MoE, kiến thức cũng quá thấp. Dù có giả vờ "suy luận", cảm giác chủ yếu nó chỉ đang kiểm tra việc có vi phạm chính sách hay không. Ban đầu mình nghĩ có thể vì giai đoạn hậu huấn luyện đang quá tập trung chặn các phát biểu rủi ro mà làm tê liệt mô hình, nhưng cũng phần nào hiểu rằng vấn đề này bắt nguồn từ việc tiền huấn luyện dựa trên dữ liệu tổng hợp.

    • Đây là một trải nghiệm khá buồn cười, vì mình cũng từng gặp tình huống tương tự. Khi đưa bản thảo podcast chưa biên tập vào LLM để trích câu quan trọng, mọi cụm từ kiểu “được trói vào giường” đều bị đổi thành ngôn ngữ nhẹ nhàng hơn. Mình muốn tìm lại bản dịch cũ, nhưng lần này dịch sang tiếng Tây Ban Nha rồi dịch ngược lại thì câu gốc gần như giữ nguyên nên không bị lặp lại theo kiểu kỳ quặc.

    • Mình tò mò không biết mô hình này sẽ phản ứng thế nào nếu xử lý một cuốn tiểu thuyết kiểu A Song of Ice and Fire.

    • Dù sao thì không có gì đáng ngạc nhiên khi đây là mô hình mở cho người dùng phổ thông. Nếu muốn làm gì thực sự, nên tìm một mô hình mở ít kiểm duyệt hơn để dùng.

  • Mình thấy trên Twitter nhiều người than phiền rằng GPT-OSS không thể tùy chỉnh và "không có linh hồn", nhưng đa phần họ không chỉ rõ mình muốn làm gì. Cuối cùng, sau khi đọc câu trả lời rằng "mục tiêu chính của việc fine-tune LLM nhỏ là chơi erotic roleplay và có nhu cầu thực tế lớn" thì mình hiểu thêm một chút.

    • Vấn đề không chỉ ở erotic roleplay. Với thói quen sinh hoạt hằng ngày của mình thường xuyên có những cuộc trò chuyện tình dục, nên cả tóm tắt cuộc trò chuyện thông thường, sửa email và dịch thuật cũng bị chặn ngay. Google Translate quá sát nghĩa nên mình hay dùng LLM để tìm diễn đạt tự nhiên hơn, hiện mình đang dùng abliterated llama 3.1. Mình không cần chức năng thị giác và muốn dùng bộ nhớ đã lưu vào ngữ cảnh nhiều hơn. Nếu GPT-OSS không được gỡ kiểm duyệt (uncensoring) thì gần như vô dụng. Nhưng nếu trong dữ liệu huấn luyện không hề có nội dung gợi dục, thì dĩ nhiên không thể ép nó vượt qua, và thực ra mình không quan tâm đến việc cho nó làm erotic roleplay. Bởi vì nếu không phải con người thật thì chẳng hấp dẫn gì cả.

    • Mình không cần nó cho mục đích roleplay, chỉ muốn nó hợp gu ngôn ngữ của mình hơn.

    • Mình không dùng cho erotic roleplay, nhưng muốn triển khai NetHack bằng AI. Muốn để AI tự chịu trách nhiệm tạo cấu trúc dungeon, thoại NPC, và vô số tương tác chi tiết nổi tiếng của NetHack. Những việc này cần có "linh hồn", kiến thức nền và khả năng sử dụng công cụ.

    • Porn luôn là tuyến đầu sáng tạo. Mô hình kinh doanh cũng khá đơn giản và thường nội dung tự thân đã là sản phẩm. Vào thập niên 1980, porno tại nhà là trải nghiệm mới và đây là lĩnh vực có tác động lớn tới đường dây 1-900, internet, thậm chí cả việc phổ biến smartphone. Khoảng 80% lượng tiêu thụ nội dung người lớn diễn ra trên mobile. Trải nghiệm on-demand dựa trên AI, cá nhân hóa và tương tác đa phương tiện là cốt lõi của ngành này. Và điểm đặc biệt là có thể đóng vai bị cấm mà không làm hại ai ngoài đời. Một premise fiction kiểu “Lúc thì hóa ra…”

    • “Mình đang nghĩ là đang nói chuyện với AI mà…” cũng đã là chất liệu đủ dùng.

    • Mình không hiểu tại sao lại có gì sai ở đó. Kể từ khi nhân loại bắt đầu viết lách, văn học khiêu dâm đã tồn tại hàng nghìn năm. Istanbul 2461

  • Trích từ bài viết: "OpenAI tiếp tục huấn luyện mô hình phong cách Phi vì lý do an toàn. Nếu phát hành dưới dạng mã mở, tên tuổi của họ sẽ mãi gắn với nó và nhà nghiên cứu sẽ tìm cách gỡ cơ chế an toàn." Nhưng mình nghĩ đó không phải là điều gây vấn đề thực sự. Llama 2, 3 cũng đã bị gỡ kiểm duyệt sau chưa đầy một tuần mà không gây tranh cãi. Trái lại, thứ thực sự làm tổn thương uy tín của công ty là mô hình chất lượng kém. Thất bại của Llama 4 đã gây tổn hại nhiều hơn cho uy tín AI của Meta.

    • Khi nghĩ về Llama, hình ảnh hiện lên trước tiên là các mô hình đã được gỡ kiểm duyệt. Mình chưa từng dùng trực tiếp, nhưng nếu phải chọn thì đã có nhiều mô hình tốt hơn thay vì dùng mô hình bị kiểm duyệt.

    • Việc "nhà nghiên cứu háo hức gỡ bỏ an toàn" chỉ là cái cớ, theo mình. Thật ra, rủi ro lớn hơn là mô hình trở thành trò cười vì bị kiểm duyệt sai chỗ. Từ đó mình liên tưởng: nếu năm 1985, Bill Gates không phát hành MS Paint chỉ vì sợ người ta có thể vẽ tranh khó chịu, thì có vô lý không.

  • Mình đã dùng Phi-4 tại nhà khá tốt, và bản GPT-OSS 20B khi so với các mô hình (Devstral 24B, Falcon 3 7B, Qwen2.5-coder 14B, Phi 4 14B) thì rất ấn tượng. GPT-OSS bắt đúng chỗ mà các mô hình khác đều sai, và có những phỏng đoán hợp lý. Nó cũng giải thích mã chi tiết hơn, bù đắp cả chi tiết dễ bỏ lỡ. Nếu có GPU đủ mạnh, thì gần như hoàn hảo.

    • Nếu lắp Strix Point hoặc Strix Halo, kèm 128GB DDR5 RAM, có thể chạy GPT-OSS 120B ở 10-20+ TPS.

    • Mình tự hỏi có thể chia sẻ loại bài toán SQL nào không, hay là bị giấu để cố tình ngăn rò rỉ dữ liệu huấn luyện?

  • Mình tò mò dữ liệu tổng hợp được tạo ra như thế nào. Có phải chỉ tạo mẫu bừa bãi, hay có sử dụng kỹ thuật sinh prompt tự động, lọc, và cơ chế phản hồi trong huấn luyện?

    • Phi-5 thì mình chưa rõ, nhưng mình tin rằng các phiên bản Phi trước đó chủ yếu học từ dữ liệu thật tương tự như các mô hình lớn trong bộ OpenAI GPT series.

    • Mình từng thử trực tiếp ở meta/FAIR, và tài liệu Llama 3 cũng mô tả chi tiết. Họ lấy các website/code/image/tổng mục/nhu cầu người dùng một cách ngẫu nhiên làm seed, rồi yêu cầu mô hình sinh dữ liệu liên quan. Sau đó dữ liệu sinh ra phải đi qua một chuỗi bộ xác minh (Verifiers) để kiểm tra chất lượng.

    • Một cách tạo mẫu ngẫu nhiên là dùng khung kiểu “PP làm GG ở XX”, chèn người/động tác/địa điểm bằng thuật toán. Tuy nhiên, dù dùng cùng prompt để sinh, kết quả cũng không hoàn toàn ngẫu nhiên nên tăng temperature cũng không tạo ra khác biệt nhiều. Vì vậy dữ liệu và kỹ thuật mới là yếu tố tạo ra sự khác biệt mô hình, nên chi tiết tạo dữ liệu tổng hợp được giữ bí mật gần như hoàn toàn.

    • Thông thường họ dùng rejection sampling. Mô hình sinh nhiều mẫu, rồi loại những mẫu không đạt ngưỡng (trả lời đúng, được mô hình lớn đánh giá, v.v.).

  • Có ý kiến rằng "tri thức khoa học rất rộng, nhưng không hiểu lắm về văn hóa đại chúng" và mình thấy hướng này hợp lý. Thông tin công khai mới có thể thay đổi đột ngột trong một ngày, nên thay vì học thuộc lòng danh sách văn hóa đại chúng, nên ưu tiên năng lực hiểu biết tổng quát, tìm kiếm thông tin cập nhật và dùng công cụ.

    • Mình tự hỏi liệu có lý do gì để nội dung phải thay đổi. Khi mô hình đã học gần như tất cả văn bản trên thế giới, thì 'văn hóa đại chúng 2025' sang '2026' đâu có khác mấy nhiều; giống như văn hóa đại chúng những năm 1980 vẫn giữ nguyên theo thời gian.

    • Mình thấy hơi chạnh lòng khi AI phải dành dung lượng mô hình cho kiến thức bách khoa kiểu Harry Potter, Pokémon, meme Reddit...

  • Mục tiêu của Phi3 mini là khả năng chạy onboard trên thiết bị và tốc độ, và với 128K context cùng 3B tham số nó khá hữu ích. Mình đã dùng trực tiếp trong một dự án năm ngoái, nhưng cuối cùng vẫn chọn mô hình Mistral bên Open weights nổi tiếng về hiệu năng.

  • Mình tò mò liệu mô hình chỉ huấn luyện bằng dữ liệu tổng hợp có thể cho kết quả như đây không.

    • Về nguyên tắc, nếu mô hình không có thông tin ấy trong tập huấn luyện thì không thể nói rằng nó "biết". Tất nhiên có thể dùng công cụ kéo thông tin bên ngoài, nhưng để đạt hiệu năng tốt thì thực tế phải đưa phần lớn văn bản công khai của thế giới vào dữ liệu huấn luyện.

    • Về lý thuyết là có thể. Liên kết tham khảo. Khả năng dữ liệu tổng hợp có chứa thông tin nhạy cảm cụ thể như công thức chế tạo LSD hay VX không cao, nhưng vẫn có khả năng một phần thông tin không mong muốn lọt vào.

  • Theo Table 9 (model card GPT-OSS), tỷ lệ đúng của GPT-OSS-20b/120b là 0.067/0.168, tỷ lệ hallucination là 0.914/0.782. o4-mini có tỷ lệ đúng 0.234, hallucination 0.750. Tóm lại, GPT-OSS gần như thiếu tri thức về thế giới thực và có tỷ lệ hallucination cao. Đây cũng là đặc điểm chung của cả chuỗi Phi-LLM. Dữ liệu Table 4 (OpenAI o3/o4-mini) cho thấy o3 có tỷ lệ đúng 0.49, o4-mini 0.20, và tỷ lệ hallucination lần lượt là 0.51 và 0.79. Nói ngắn gọn thì khoảng cách tri thức thực giữa o3 và o4-mini, cũng như giữa o4-mini và GPT-OSS là rất lớn. GPT-OSS thiếu tri thức thực phần nào là đặc trưng của chính chuỗi này hoặc là do "an toàn" doanh nghiệp lớn hoặc "kiểm duyệt" theo góc nhìn người dùng.
    Tham chiếu model card 1
    Tham chiếu model card 2

  • Mình thấy phản hồi rằng "mục đích chính của việc fine-tune LLM nhỏ là erotic RP, và thực tế một nửa cộng đồng nhỏ quan tâm đến mảng này" thật sự đáng ngạc nhiên.

    • Thực tế là trong vài chục năm đầu, phần lớn lưu lượng truy cập người dùng internet là nội dung người lớn. Mình nghĩ không cần phản ứng quá mức, tận dụng tốt nỗ lực của những người đó trong việc giải quyết vấn đề công nghệ miễn phí cũng là điều ổn.