Ra mắt ChatGPT Enterprise
(openai.com)- Khi nhu cầu của các doanh nghiệp muốn triển khai ChatGPT một cách an toàn trong tổ chức ngày càng tăng, OpenAI đã ra mắt ChatGPT Enterprise dành cho doanh nghiệp
- Dữ liệu và cuộc trò chuyện của doanh nghiệp sẽ không được dùng để huấn luyện mô hình, đồng thời cung cấp tuân thủ SOC 2, mã hóa khi lưu trữ và truyền tải, bảng điều khiển quản trị và SSO
- Loại bỏ giới hạn sử dụng GPT‑4, bao gồm hiệu năng nhanh hơn tới 2 lần, ngữ cảnh 32k và phân tích dữ liệu nâng cao không giới hạn
- Chỉ sau 9 tháng kể từ khi ChatGPT ra mắt, đã xác nhận có tài khoản đăng ký dựa trên tên miền email doanh nghiệp tại hơn 80% công ty trong Fortune 500
- Trong thời gian tới sẽ bổ sung tùy biến kết nối với dữ liệu công ty, self-serve ChatGPT Business cho nhóm nhỏ, tăng cường phân tích và duyệt web cho công việc, cùng các công cụ theo từng vai trò
ChatGPT Enterprise hướng tới triển khai trong doanh nghiệp
- OpenAI đã ra mắt ChatGPT Enterprise
- Sản phẩm này gói gọn bảo mật và quyền riêng tư cấp doanh nghiệp, trải nghiệm ChatGPT mạnh mẽ hơn, cửa sổ ngữ cảnh cho đầu vào dài, phân tích dữ liệu nâng cao và các tính năng tùy biến theo tổ chức trong một sản phẩm
- Mục tiêu là điều chỉnh trợ lý AI cho công việc phù hợp với từng tổ chức đồng thời bảo vệ dữ liệu công ty
Nhu cầu được xác nhận trong Fortune 500
- Trong 9 tháng sau khi ChatGPT ra mắt, đã xác nhận tài khoản đăng ký ChatGPT tại hơn 80% doanh nghiệp Fortune 500
- Con số này dựa trên các tài khoản được liên kết với tên miền email doanh nghiệp
- Các lãnh đạo doanh nghiệp đã yêu cầu một cách đơn giản và an toàn hơn để triển khai ChatGPT trong tổ chức
- Những doanh nghiệp dùng sớm bao gồm Block, Canva, Carlyle, The Estée Lauder Companies, PwC, Zapier
- Các trường hợp sử dụng chính gồm viết giao tiếp rõ ràng hơn, tăng tốc công việc lập trình, khám phá các câu hỏi kinh doanh phức tạp và hỗ trợ công việc sáng tạo
- Klarna muốn tăng cường năng lực nhân viên và trải nghiệm khách hàng thông qua tích hợp ChatGPT Enterprise để hỗ trợ 150 triệu người dùng hoạt động trên toàn cầu
Bảo mật, quyền riêng tư và tính năng quản trị
- Doanh nghiệp sở hữu và kiểm soát dữ liệu kinh doanh trong ChatGPT Enterprise
- OpenAI không sử dụng dữ liệu kinh doanh hay các cuộc trò chuyện của khách hàng để huấn luyện mô hình, và mô hình cũng không học từ lịch sử sử dụng
- Cấu hình bảo mật bao gồm
- Mã hóa dữ liệu lưu trữ: AES 256
- Mã hóa khi truyền tải: TLS 1.2+
- Tuân thủ SOC 2
- Bảng điều khiển quản trị mới hỗ trợ triển khai ở quy mô doanh nghiệp lớn
- Quản lý thành viên hàng loạt
- SSO
- Xác minh tên miền
- Bảng phân tích để có insight về mức sử dụng
- Có thể xem thêm thông tin về cách xử lý dữ liệu tại privacy page và Trust Portal
GPT‑4, phân tích dữ liệu và tính năng quy trình làm việc
- ChatGPT Enterprise loại bỏ giới hạn sử dụng GPT‑4
- Hiệu năng GPT‑4 được cung cấp nhanh hơn tới 2 lần
- Với ngữ cảnh 32k, có thể xử lý đầu vào dài hơn, tệp và các câu hỏi tiếp theo
- OpenAI mô tả điều này là có thể xử lý đầu vào hoặc tệp dài gấp 4 lần
- Có thể sử dụng không giới hạn tính năng phân tích dữ liệu nâng cao
- Tính năng này trước đây được biết đến với tên Code Interpreter
- Các trường hợp sử dụng gồm nhà nghiên cứu tài chính xử lý dữ liệu thị trường, marketer phân tích kết quả khảo sát và data scientist gỡ lỗi script ETL
- Có thể dùng mẫu trò chuyện có thể chia sẻ để tạo quy trình làm việc tùy biến theo tổ chức
- Nếu cần mở rộng OpenAI thành giải pháp tùy biến hoàn toàn cho tổ chức, mức giá sẽ bao gồm tín dụng miễn phí để sử dụng API
- Asana cho biết với ChatGPT Enterprise, thời gian nghiên cứu của các nhóm đã giảm trung bình 1 giờ mỗi ngày
- Canva đề cập nhiều trường hợp sử dụng như kỹ sư xử lý lỗi, nhà phân tích dữ liệu phân cụm dữ liệu dạng tự do và nhà phân tích tài chính viết công thức bảng tính
Các tính năng hiện có và mở rộng sắp tới
- ChatGPT Enterprise được cung cấp cho khách hàng doanh nghiệp ngay từ ngày ra mắt
- Các tính năng chính được cung cấp cho mọi khách hàng enterprise gồm
- Không dùng prompt của khách hàng và dữ liệu công ty để huấn luyện mô hình OpenAI
- Mã hóa dữ liệu khi lưu trữ và truyền tải
- Tuân thủ SOC 2
- Bảng điều khiển quản trị, quản lý thành viên hàng loạt, SSO, xác minh tên miền, bảng phân tích
- Truy cập GPT‑4 không giới hạn
- Hiệu năng GPT‑4 nhanh hơn tới 2 lần
- Phân tích dữ liệu nâng cao không giới hạn
- Cửa sổ ngữ cảnh 32k token
- Mẫu trò chuyện có thể chia sẻ để cộng tác trong công ty và xây dựng quy trình làm việc chung
- Tín dụng miễn phí cho OpenAI API để mở rộng thành giải pháp tùy biến hoàn toàn
- Các tính năng đang được chuẩn bị gồm
- Customization: kết nối các ứng dụng đang sử dụng để mở rộng kiến thức của ChatGPT bằng dữ liệu công ty một cách an toàn
- Availability for all team sizes: self-serve ChatGPT Business cho các nhóm nhỏ
- Power tools: Advanced Data Analysis và browsing mạnh hơn, tối ưu cho công việc
- Solutions for your function: công cụ cho các vai trò cụ thể như nhà phân tích dữ liệu, marketer, hỗ trợ khách hàng
- OpenAI dự kiến sẽ onboarding nhiều doanh nghiệp nhất có thể trong vài tuần tới
- Các doanh nghiệp muốn bắt đầu có thể xem chi tiết trên website ChatGPT Enterprise và kết nối với đội ngũ kinh doanh
1 bình luận
Ý kiến trên Hacker News
Nếu nêu rõ rằng họ sẽ không huấn luyện bằng dữ liệu doanh nghiệp và nhấn mạnh tuân thủ SOC 2, nhiều công ty sẽ dễ yên tâm đưa ChatGPT vào quy trình làm việc hơn
Khi nói chuyện với các doanh nghiệp để bán nền tảng ứng dụng LLM, tôi nhanh chóng nhận ra họ nhạy cảm với việc chia sẻ dữ liệu đến mức nào. Ở những tổ chức không chặn truy cập ChatGPT, nhân viên đã dán rất nhiều dữ liệu nhạy cảm vào đó; tôi cũng thấy vài công ty triển khai chatbot-ui bằng sản phẩm OpenAI trên Azure vì Azure khẳng định không sử dụng dữ liệu người dùng (https://learn.microsoft.com/en-us/legal/cognitive-services/o...)
Để giải quyết các lo ngại về quyền riêng tư của những doanh nghiệp này, chúng tôi cũng đã thêm hỗ trợ Azure OpenAI vào nền tảng của mình, và để hỗ trợ triển khai on-premises, chúng tôi cũng mở mã nguồn engine (LLMStack - https://github.com/trypromptly/LLMStack)
Mối lo lớn được ghi trong chính sách là khả năng vô tình sử dụng tài sản trí tuệ của người khác có trong dữ liệu huấn luyện. Chúng tôi lo dữ liệu của mình đi vào công cụ, nhưng việc công cụ đã có sẵn thứ gì đó trong dữ liệu rồi khiến chúng tôi sử dụng mà không có quyền cũng là vấn đề. Làm sao chứng minh điều đó tuyệt đối không xảy ra? Cách duy nhất tôi nghĩ ra là cung cấp một danh sách toàn diện mọi mục mà công cụ đã được huấn luyện trên đó
Doanh nghiệp vẫn sẽ rất cảnh giác với việc đưa dữ liệu vào các nền tảng đa tenant như vậy. Có cảm giác mã hóa thôi vẫn chưa đủ. Có vẻ cần một stack LLM riêng ảo hoàn toàn tách biệt cho doanh nghiệp
Khung SOC 2 phức tạp và chi phí tuân thủ cũng đắt đỏ, nên có thể khiến tổ chức tập trung vào việc đánh dấu checkbox hơn là triển khai các biện pháp kiểm soát bảo mật có ý nghĩa. SOC 2 không phải thước đo phổ quát tốt để hiểu văn hóa bảo mật của một tổ chức, và thật đáng sợ khi đây lại là thứ tốt nhất mà chúng ta đang có
Việc không huấn luyện mô hình bằng dữ liệu doanh nghiệp là điều kiện cơ bản đối với sản phẩm machine learning dành cho doanh nghiệp. Ví dụ Google cũng làm như vậy
Để được cân nhắc trong các ngành bị quản lý chặt hơn, mức độ tuân thủ cũng sẽ phải cao hơn. Có vẻ hiện vẫn chưa tới mức tuân thủ HIPAA; bước tiếp theo có lẽ là thiết lập ranh giới địa lý khi truyền dữ liệu, theo kiểu phần cứng mà tổ chức sử dụng phải nằm trong một khu vực pháp lý nhất định. Nghe nhàm chán, nhưng đó là cách dễ để mở rộng thị trường có thể tiếp cận
Tuy nhiên hiện tại nhiều khả năng đơn giản là đang thiếu nguồn cung. Chỉ xử lý làn sóng đầu tiên thôi cũng sẽ kín công suất. Tôi cũng tò mò liệu họ có tung ra dịch vụ xử lý batch chạy vào lúc nhân viên doanh nghiệp đang ngủ hay không
https://help.openai.com/en/articles/5722486-how-your-data-is...
Dù vậy, nếu một doanh nghiệp dùng sản phẩm cho người tiêu dùng trong nội bộ, việc trả phí để opt-out nhằm đảm bảo input không bị dùng để huấn luyện có vẻ hợp lý
Tôi cho rằng mô hình ChatGPT về cơ bản đã vi phạm mọi giấy phép mã nguồn mở. Ngay cả giấy phép MIT cũng yêu cầu ghi công tác giả, nên trước khi phản bác, tôi muốn thấy dù chỉ một thông báo giấy phép của một dự án mã nguồn mở
Trong bối cảnh còn có cả sự hậu thuẫn của Microsoft, tôi không biết chuyện gì sẽ xảy ra nếu họ phá lời hứa và chọn lọc dữ liệu của đối thủ hoặc các công ty nhỏ tiềm năng để huấn luyện
Thực tế thì điều gì có thể ngăn họ? Phần lớn công ty không có đủ hỏa lực để đấu với OpenAI được Microsoft hậu thuẫn. Làm sao bảo đảm họ không vi phạm điều này, và trên thực tế làm sao buộc họ chịu trách nhiệm? Với tôi thì nó chỉ ở mức “hãy tin chúng tôi”, có căn cứ nào để nhìn khác đi không
Nếu tôi sai thì xin hãy chỉnh lại. Theo hiểu biết gần nhất của tôi, vấn đề sử dụng dữ liệu có bản quyền về mặt pháp lý rất mơ hồ và đang nằm trong vùng xám. Hơn nữa, tôi nghĩ nhiều giấy phép mã nguồn mở cũng không cấm rõ ràng việc dùng mã của họ làm dữ liệu huấn luyện. Vấn đề không chỉ dừng ở chuyện các công ty khác không có nguồn lực để đấu với Microsoft/OpenAI, mà còn ở chỗ ngay cả nếu có nguồn lực, cũng không rõ tòa án có phán rằng Microsoft/OpenAI sai hay không
Tôi không có ý đứng về phía Microsoft/OpenAI trong cuộc tranh luận này, nhưng tôi nghĩ sự việc không rõ ràng như bạn nói
Ngoài ra, phần lớn nhân viên dùng Google Workspace hoặc cloud Office 365 để lưu trữ và chia sẻ tệp mật. OpenAI khác gì mà đáng lo hơn?
Tôi từng nghĩ các mục được cung cấp cho khách hàng doanh nghiệp — tức là không dùng prompt của khách hàng và dữ liệu công ty để huấn luyện mô hình OpenAI, truy cập không giới hạn vào Phân tích dữ liệu nâng cao (trước đây là Code Interpreter), cửa sổ ngữ cảnh 32k token cho đầu vào, tệp và câu hỏi tiếp nối dài gấp 4 lần — vốn đã có sẵn cho cả khách hàng không phải doanh nghiệp. Có thể tôi sai, hoặc có gì đó đã thay đổi
Độ phù hợp sản phẩm-thị trường có vẻ khá vững. Sản phẩm (ChatGPT) đã sẵn sàng, nhưng chưa dành cho doanh nghiệp; giờ thì đã là bản doanh nghiệp. Có lẽ sẽ tạo ra nhiều lead bán hàng
Thông báo lần này giúp doanh nghiệp cho phép nhân viên dùng ChatGPT đồng thời giảm bớt lo ngại về quyền riêng tư dữ liệu
Thú vị đấy, nhưng hơi thất vọng là lần ra mắt này không bao gồm fine-tuning trên kho tài liệu của doanh nghiệp. Trông chỉ giống ChatGPT tiện hơn một chút và thân thiện hơn với quyền riêng tư. Có phải tôi đã bỏ sót gì không
Việc tải tài liệu lên thông qua Code Interpreter đã được hỗ trợ, và họ đang bổ sung các connector để kết nối tới những ứng dụng chứa tài liệu. Tôi không rõ còn kỳ vọng gì hơn thế nữa
Nhìn lại theo thời gian thì thông điệp của video này rõ ràng đã không còn đúng: https://www.youtube.com/watch?v=smHw9kEwcgM
Tóm lại, chuyện này có thể đã giết chết rất nhiều startup
Nhưng phần lớn gần với “OpenAI API + prompt gắn phía trước + giao diện người dùng + marketing”. Vấn đề, như đã được nêu ra từ khi GPT-3 API ra mắt 3 năm trước, là khó có startup nào cung cấp giá trị lớn hơn nhiều so với giá trị mà bản thân API mang lại. Vì vậy, OpenAI tương đối dễ tự lấy mảng kinh doanh này hơn so với những trường hợp mô hình startup tương tự từng hình thành quanh các tập đoàn lớn khác
Nếu xây dựng startup AI và cần LLM, nên dùng Llama hoặc một mô hình khác mà bạn có thể tự kiểm soát và tự host. Những lựa chọn còn lại thực tế gần như là tự sát
Có ghi là “truy cập không giới hạn vào Phân tích dữ liệu nâng cao (trước đây là Code Interpreter)”, nhưng Code Interpreter là một cái tên khá tệ. Với người không học khoa học máy tính thì nó chẳng có nhiều ý nghĩa
Nhưng tên mới là gì? “Phân tích dữ liệu nâng cao” nghe giống mô tả tính năng trong gạch đầu dòng hơn là một cái tên
Có lẽ đó là bản xem trước thử nghiệm và giờ chỉ doanh nghiệp mới dùng được cũng nên. Dù sao thì tôi cũng chưa từng có quyền truy cập
Liệu việc này có liên quan đến chuyện kho lưu trữ này đột nhiên biến mất không?
https://github.com/microsoft/azurechatgpt
Thảo luận trước đó:
https://news.ycombinator.com/item?id=37112741
Trong lĩnh vực này có vài dự án mã nguồn mở rất tốt. Không hoàn toàn giống nhau, và nhiều dự án tập trung vào LLM cục bộ như Llama2 hay Code Llama vừa ra tuần trước
https://github.com/jmorganca/ollama (tải xuống và chạy LLM cục bộ, tôi là maintainer)
https://github.com/simonw/llm (truy cập LLM trên cloud và cục bộ từ dòng lệnh)
https://github.com/oobabooga/text-generation-webui (UI web hỗ trợ nhiều backend)
https://github.com/ggerganov/llama.cpp (trình chạy LLM cục bộ nhanh)
https://github.com/go-skynet/LocalAI (cung cấp API tương thích OpenAI)
Tiếc là tôi đã không lập chỉ mục mã nguồn. Có thể xem Insights tại https://devboard.gitsense.com/microsoft/azurechatgpt
Nói rõ cho minh bạch, đây là công cụ của tôi
https://github.com/matijagrcic/azurechatgpt
Tôi cứ tưởng Microsoft đang bận với thị trường doanh nghiệp, nhưng OpenAI lại công bố sản phẩm dành cho doanh nghiệp. Có cảm giác như hai bên không hòa thuận lắm
Chiến lược kinh doanh tối ưu. Nó làm cho thị trường trông có vẻ cạnh tranh hơn, và chuyển quyết định từ “có dùng ChatGPT không?” sang “nên dùng nhà cung cấp GPT nào?”
OpenAI là công ty nhỏ so với Microsoft. Họ không có đủ nguồn lực để xây dựng một mạng lưới đối tác khổng lồ. Tốt lắm thì họ có thể cung cấp bộ sản phẩm với mức hỗ trợ kiểu diễn đàn cho khách hàng nhỏ, và bộ sản phẩm doanh nghiệp được hỗ trợ đầy đủ cho khách hàng lớn. Nhưng thị trường ở giữa, như mọi khi, sẽ thuộc về Microsoft
Tôi không hiểu rõ phân khúc thị trường của OpenAI kết thúc ở đâu và phân khúc của Azure bắt đầu từ đâu