Công khai rộng rãi API GPT-4
(openai.com)- Các nhà phát triển API hiện tại đã có lịch sử thanh toán có thể dùng GPT-4 API với ngữ cảnh 8K, còn quyền truy cập cho nhà phát triển mới và việc mở rộng giới hạn tốc độ sẽ được triển khai dần theo mức độ sẵn có của tài nguyên tính toán
- API GPT-3.5 Turbo, DALL·E và Whisper cũng được phát hành công khai rộng rãi vì đã sẵn sàng cho việc sử dụng ở quy mô production; tính năng fine-tuning cho GPT-4 và GPT-3.5 Turbo dự kiến sẽ có vào cuối năm nay
- Khi Chat Completions API chiếm 97% lượng sử dụng GPT trên OpenAI API, giao diện có cấu trúc như system message và function calling đang thay thế phần lớn các trường hợp dùng của Completions API trước đây
- Từ ngày 4/1/2024, các model cũ của Completions API, các model embedding cũ và các model liên quan đến Edits API sẽ không còn dùng được, nên cần chuyển sang
gpt-3.5-turbo-instruct,text-embedding-ada-002, GPT-3.5 Turbo, v.v. - Completions API được đánh dấu là legacy trong tài liệu và không có kế hoạch phát hành model mới, nên các tích hợp mới sẽ an toàn hơn nếu được thiết kế xoay quanh Chat Completions API
Phạm vi công khai của GPT-4 API và các API chính
- OpenAI cung cấp quyền truy cập GPT-4 cho mọi khách hàng API trả phí
- Các nhà phát triển API hiện tại có lịch sử thanh toán thành công có thể dùng GPT-4 API với ngữ cảnh 8K
- Dự kiến sẽ mở quyền truy cập cho nhà phát triển mới vào cuối tháng này
- Sau đó sẽ tăng giới hạn tốc độ (rate limit) theo mức độ sẵn có của tài nguyên tính toán
- GPT-4 là model mạnh nhất của OpenAI, và từ tháng 3 đến nay đã có hàng triệu nhà phát triển yêu cầu quyền truy cập GPT-4 API
- API GPT-3.5 Turbo, DALL·E và Whisper cũng được phát hành công khai rộng rãi
- Cơ sở là độ ổn định của model và mức độ sẵn sàng cho sử dụng ở quy mô production
- Fine-tuning cho GPT-4 và GPT-3.5 Turbo đang được chuẩn bị để kích hoạt an toàn, dự kiến cung cấp vào cuối năm nay
- Sau bản cập nhật ngày 24/4/2024, tên gọi “ChatGPT API” đã bị ngừng sử dụng, và các chỗ nhắc đến ChatGPT API trong bài này có nghĩa là GPT-3.5 Turbo API
Chuyển trọng tâm sang Chat Completions API
- Chat Completions API được giới thiệu vào tháng 3 và hiện chiếm 97% lượng sử dụng GPT trên OpenAI API
- Completions API trước đây được giới thiệu vào tháng 6/2020 để tương tác với language model bằng prompt văn bản tự do
- Giao diện prompt có cấu trúc hơn có thể cho kết quả tốt hơn cách cũ
- system message
- function calling
- hội thoại nhiều lượt (multi-turn conversation)
- Chat Completions API không chỉ hỗ trợ trải nghiệm hội thoại mà còn hỗ trợ phạm vi rộng các tác vụ completion
- Việc tách riêng có cấu trúc giữa nội dung do người dùng cung cấp và chỉ dẫn giúp giảm rủi ro tấn công prompt injection
- OpenAI dự định tiếp tục đầu tư phần lớn nỗ lực phát triển nền tảng theo hướng này
- log probabilities của completion token
- cải thiện steerability để giảm “chattiness” trong phản hồi
- các mục trên là những khoảng trống vẫn còn ở Chat Completions API
Ngừng hỗ trợ các model cũ của Completions API
- Để mở rộng đầu tư vào Chat Completions API và tối ưu hóa năng lực tính toán, OpenAI sẽ ngừng một số model cũ của Completions API sau 6 tháng
- Bản thân Completions API vẫn tiếp tục có thể truy cập, nhưng từ hôm nay sẽ được đánh dấu là legacy trong tài liệu dành cho nhà phát triển
- Các cải tiến model và sản phẩm trong tương lai sẽ tập trung vào Chat Completions API, và không có kế hoạch phát hành model mới cho Completions API
- Từ ngày 4/1/2024, các model completion cũ sẽ không còn dùng được và sẽ được thay bằng model mới
ada,babbage→babbage-002curie,davinci→davinci-002davinci-instruct-beta,curie-instruct-beta,text-ada-001,text-babbage-001,text-curie-001,text-davinci-001,text-davinci-002,text-davinci-003→gpt-3.5-turbo-instruct
- Các ứng dụng dùng tên model ổn định
ada,babbage,curie,davincisẽ được tự động nâng cấp sang model mới vào ngày 4/1/2024 babbage-002vàdavinci-002dự kiến sẽ được cung cấp trong vài tuần tới để có thể thử nghiệm sớm bằng cách chỉ định trực tiếp tên model đó trong lệnh gọi API- Người dùng các model completion cũ khác như
text-davinci-003phải tự đổi tham sốmodeltrong yêu cầu API sanggpt-3.5-turbo-instructtrước ngày 4/1/2024gpt-3.5-turbo-instructlà model kiểu InstructGPT được huấn luyện tương tựtext-davinci-003- Sẽ được cung cấp như model thay thế trực tiếp (drop-in replacement) trong Completions API
Chuyển đổi cho người dùng model fine-tuning
- Để tiếp tục dùng model fine-tuning sau ngày 4/1/2024, cần fine-tune lại model thay thế trên các base model mới
- Các base model GPT-3 mới:
babbage-002,davinci-002 - Các model mới hơn:
gpt-3.5-turbo,gpt-4
- Các base model GPT-3 mới:
- Khi fine-tuning cho GPT-3.5 Turbo và GPT-4 được cung cấp, những người dùng từng fine-tune trên các model cũ sẽ được ưu tiên quyền truy cập
- Vì việc di chuyển khỏi các model đã fine-tune bằng dữ liệu riêng là khó khăn, OpenAI có kế hoạch hỗ trợ người dùng trước đây để việc chuyển đổi diễn ra mượt mà nhất có thể
- OpenAI sẽ liên hệ với các nhà phát triển gần đây đã dùng model cũ trong vài tuần tới, và sẽ cung cấp thêm thông tin khi sẵn sàng cho thử nghiệm sớm các model completion mới
Ngừng hỗ trợ các model embedding cũ
- Người dùng các model embedding cũ cần di chuyển sang
text-embedding-ada-002trước ngày 4/1/2024 text-embedding-ada-002được phát hành vào tháng 12/2022 và đã được chứng minh là mạnh hơn cũng như hiệu quả chi phí hơn các model trước đó- Hiện tại
text-embedding-ada-002chiếm 99,9% lượng sử dụng toàn bộ embedding API - OpenAI sẽ chi trả chi phí tái embedding để nhúng lại nội dung bằng model mới
- Các model dưới đây đều được thay bằng
text-embedding-ada-002code-search-ada-code-001,code-search-ada-text-001code-search-babbage-code-001,code-search-babbage-text-001text-search-ada-doc-001,text-search-ada-query-001text-search-babbage-doc-001,text-search-babbage-query-001text-search-curie-doc-001,text-search-curie-query-001text-search-davinci-doc-001,text-search-davinci-query-001text-similarity-ada-001,text-similarity-babbage-001,text-similarity-curie-001,text-similarity-davinci-001
Ngừng Edits API
- Người dùng Edits API và các model liên quan cần di chuyển sang GPT-3.5 Turbo trước ngày 4/1/2024
- Ví dụ:
text-davinci-edit-001,code-davinci-edit-001
- Ví dụ:
- Bản beta của Edits API là một API thử nghiệm ban đầu được tạo ra để trả về phiên bản đã chỉnh sửa của prompt theo chỉ dẫn
- Những phản hồi thu được từ Edits API đã được phản ánh vào việc phát triển
gpt-3.5-turbovà Chat Completions API - Chat Completions API cũng có thể được dùng cho cùng mục đích đó
- Trong ví dụ, yêu cầu thay đổi áp dụng cho mã được chỉ định bằng system message, và khi người dùng yêu cầu đổi tên hàm Fibonacci thành
fib, assistant sẽ trả về đoạn mã đã chỉnh sửa
- Trong ví dụ, yêu cầu thay đổi áp dụng cho mã được chỉ định bằng system message, và khi người dùng yêu cầu đổi tên hàm Fibonacci thành
1 bình luận
Ý kiến trên Hacker News
Cần khuyến khích và phổ biến LLM chạy cục bộ
Dùng GPT tức là trả tiền cho OpenAI, và số tiền đó sẽ được dùng để vận động hành lang với chính phủ nhằm loại bỏ đối thủ cạnh tranh, cuối cùng gây hại cho chính bản thân mình lẫn túi tiền của mình
OpenAI không có hào lũy nào ngoài việc được trả tiền để viết luật
Ngay cả bây giờ, vẫn có thể chạy những LLM khá đáng sợ vì thông minh và nhanh trên một chiếc laptop 5 năm tuổi không có GPU, nên tương lai ít nhất cũng có vẻ thú vị
Một hai tháng trước tôi thử thì gần như mọi tác vụ đều chậm đến mức nản lòng và vô dụng
Mỗi khi có mô hình nào đó được gọi là “90% của GPT-3” thì tôi lại kỳ vọng, nhưng lần nào cũng thất vọng nặng
Tham khảo thêm thì sau khi dùng GPT-4, ngay cả GPT-3 cũng gần như lúc nào cũng thấy thất vọng
Tôi cũng nghi ngờ việc hiện tại đang dùng LLM nào có thực sự quan trọng đến vậy không, dù là cục bộ hay hosted, OpenAI hay một engine khác
Có vẻ giao diện đã hội tụ về prompt dạng chat, còn các ý tưởng mới để tinh chỉnh mô hình nền tảng hoặc tăng hiệu quả thì gần như tuần nào cũng được công bố
Nếu muốn xây sản phẩm trên nền AI tạo sinh thì chẳng phải cứ bắt đầu từ thứ miễn phí hoặc phù hợp với môi trường phát triển của mình là được sao
Cách tương tác hay API của AI tạo sinh dựa trên văn bản nhiều khả năng sẽ khá giống nhau, bất kể ở thời điểm đó engine nào là tối ưu
Nếu vậy thì sẽ có thể thay backend giống như các dịch vụ web mô phỏng AWS S3 API
Cuối cùng cứ xây sản phẩm bằng OpenAI hay mô hình nào khác trước, rồi sau này chuyển đi tùy theo chi phí và mức độ phù hợp là được
Cũng có thể prototype toàn bộ sản phẩm bằng LLM chất lượng thấp hơn, rồi thỉnh thoảng gửi yêu cầu đến GPT-4 để kiểm tra cách nó hoạt động
Việc tin rằng công nghệ này có thể bị hạn chế bằng luật có vẻ hơi phóng đại. Dù OpenAI có vận động hành lang đến đâu thì cũng không phải lúc nào cũng đạt được điều họ muốn, và đã có cả ví dụ FTX
LLM có thể chạy cục bộ và với người dùng thì engine có thể là một hộp đen, nên nếu còn tính cả lợi ích công cộng thì tôi không rõ luật pháp thực sự có thể ngăn việc phổ biến rộng rãi này như thế nào
Tôi có một chiếc laptop cũ không GPU với 16GB RAM, liệu có chạy được các mô hình này không?
Không nên tài trợ cho cỗ máy tuyên truyền AI
LLM cục bộ có thể tốt cho một số tác vụ, nhưng nếu so với quy mô mô hình và phần cứng mà OpenAI đổ vào API thì vẫn chậm hơn nhiều và năng lực cũng kém hơn
Theo trải nghiệm của tôi khi dùng ggml để chạy model 7B bằng CPU trên laptop Intel i7 thế hệ 12, nó vẫn chậm hơn rất nhiều so với API gpt-3-turbo
[1] GPT4 is 8 x 220B params = 1.7T params: https://news.ycombinator.com/item?id=36413296
Vụ này nghiêm trọng đấy. Họ thực sự đang định ngừng text-davinci-003
Điều đó có nghĩa là mô hình có năng lực nhất còn sót lại và sự tự do của kiểu hoàn thành văn bản sẽ biến mất
Giờ mọi thứ sẽ thành các mô hình chat bị kiểm duyệt/điều chỉnh hoặc các mô hình chỉ dẫn có giới hạn ẩn dụ đầu vào tùy tiện. So với chúng thì gpt3.5-turbo rất tệ
Nếu vậy thì có lẽ tôi sẽ ngừng phần lớn việc dùng OpenAI. Mỗi tháng trả $5~$10 API có thể không đáng kể, nhưng động lực để chạy cục bộ mô hình Llama 65B sẽ lớn hơn nhiều
Nó cung cấp điều gì mà các mô hình khác không có?
Trước khi bị ngừng vào ngày 4 tháng 1 năm 2024 thì có điều gì thú vị đáng thử không?
Tuy vậy, nếu davinci ở cùng mức giá với GPT-4, tôi hy vọng GPT-4 sẽ đủ tiến bộ về độ đa dạng từ vựng và mức độ tinh tế ngôn ngữ có thể điều khiển được để trở thành phương án thay thế
Nhìn chung, tôi nghĩ người ta đang đánh giá thấp việc sẽ mất đi bao nhiêu trong xu hướng chuyển sang các model chỉ dẫn
Tôi mong trên thị trường sẽ có những tác nhân thông minh dùng cách tối ưu sẵn prompt chỉ dẫn rồi chuyển chúng sang định dạng phù hợp với các mô hình chưa được tinh chỉnh
Với cùng quy mô tham số, chỉ cần không cắt xén underlying model thôi cũng đã khiến người dùng cuối cảm thấy như có một bước tiến lớn hơn nhiều
Theo tôi biết thì hiện nó vẫn dùng được trên Azure. text-davinci-003 là phiên bản được fine-tune từ nó
Thông tin chi tiết hơn:
https://platform.openai.com/docs/model-index-for-researchers
Sam Altman cũng đã nói rằng phần cứng hiện đang ngăn cản những gì họ muốn làm
Tôi đã ở trong danh sách chờ GPT-4 API nhiều tháng rồi, và khả năng cao là vì họ không theo kịp nhu cầu
Có phải câu “nếu muốn tiếp tục dùng mô hình fine-tune sau ngày 4 tháng 1 năm 2024, bạn sẽ phải fine-tune một mô hình thay thế trên các mô hình nền tảng GPT-3 mới (ada-002, babbage-002, curie-002, davinci-002) hoặc các mô hình mới hơn (gpt-3.5-turbo, gpt-4)” có nghĩa là vậy không?
Vậy là các mô hình fine-tune được tạo bằng dữ liệu của chính mình sẽ không thể dùng tiếp nữa sao?
Không rõ có phải điều này nghĩa là những người đã trả tiền cho mô hình fine-tune sẽ phải trả lại chi phí token huấn luyện trên mô hình kiểm duyệt mới hay không
Cách chính xác phù hợp nhất cho khách hàng vẫn đang được điều chỉnh, và trong vài tuần tới chúng tôi sẽ liên hệ khách hàng để lấy phản hồi về nhiều cách tiếp cận khác nhau
Đó là lý do mô hình mở rất quan trọng. Khó mà hiểu được các công ty xây mô hình fine-tune trên mô hình đóng
Xét về năng lực thì tin lớn nhất ở đây thực ra là mô hình gpt-3.5-turbo-instruct
gpt-3.5-turbo là mô hình đứng sau ChatGPT, và vì được fine-tune cho hội thoại nên khá khó dùng cho các trường hợp chỉ muốn nó làm theo lệnh hoặc hoàn tất văn bản
davinci-003 là mô hình instruction-tuned cuối cùng, nhưng đắt gấp 10 lần gpt-3.5-turbo, nên dù cực kỳ lãng phí về token thì về mặt kinh tế vẫn hợp lý khi cố ép gpt-3.5-turbo vào đúng use case
Tôi có một website cơ bản đang dùng text-davinci-003, nhưng quá đắt nên chưa thể phát hành
Tôi đã thử chỉ dùng gpt-3.5-turbo, nhưng trong các tình huống cần trả về JSON có cấu trúc thì hoàn toàn không đạt được tính nhất quán nên không chạy được
davinci-003 thú vị hơn nhiều, và có thể trả lời cả những chủ đề rộng mà ChatGPT sẽ từ chối
Họ nói “từ hôm nay, mọi khách hàng API trả phí đều có thể truy cập GPT-4”, nhưng không biết có phải tôi ngốc không, chứ tôi là khách hàng API trả phí của OpenAI mà vẫn chưa có
Tôi chỉ thấy gpt-3.5-turbo-16k, gpt-3.5-turbo, gpt-3.5-turbo-16k-0613, gpt-3.5-turbo-0613, gpt-3.5-turbo-0301 chứ không thấy gpt-4
Có lẽ vấn đề là tôi chỉ mới nâng cấp lên tài khoản API trả phí trong tháng trước nên theo tiêu chuẩn kế toán vẫn chưa phải là “khách hàng API trả phí”
Tôi cũng vậy. Tôi đăng ký vài ngày trước, đã hy vọng được chuyển sang gpt-4, nhưng ngoài khoản xác thực $5 thì tôi vẫn chưa trả hóa đơn đầu tiên, nên có lẽ phải chờ thêm
Tôi đã làm một công cụ dòng lệnh rất đơn giản để gọi API. Ví dụ chạy như sau:
Tôi cũng không có quyền truy cập GPT-4
Hiện tại chỉ tài khoản số 2 mới dùng được gpt4 trong Playground
gpt-3.5-turbo-0613 đã cải thiện khá nhiều, đặc biệt khi kết hợp với thiết kế system prompt, nên nhu cầu dùng GPT-4 API đắt hơn 20~30 lần không còn lớn như trước nữa
Việc ChatGPT API được chấp nhận rộng rãi hơn Completion API trước đây cho thấy bài viết đầu tiên tôi từng viết về ChatGPT API là đúng
Nếu chất lượng tương đương hoặc tốt hơn, các nhà phát triển sẽ thấy mức giảm giá cực lớn và chuyển sang ngay lập tức: https://news.ycombinator.com/item?id=35110998
So ra thì GPT-3.5 vô dụng. Tuy vậy, tôi hiểu rằng trong môi trường thiên về hội thoại hơn thì GPT-3.5 có thể mang lại hiệu năng/giá thành hấp dẫn hơn
Nó có thể dùng được cho phần lớn use case, nhưng GPT-3.5 bỏ qua chỉ dẫn thường xuyên hơn GPT-4 rất nhiều
Nó cũng dễ hỏng hơn nhiều với những thứ đơn giản như khoảng trắng ở cuối, và khi bảo nó chỉnh sửa lại một đoạn văn lớn thiếu ngữ pháp hoặc dấu câu thì còn có những hành vi kỳ lạ như đánh vần từng ký tự một
Dù thiết lập system prompt thế nào thì cũng không khác biệt mấy. Với GPT-4 thì tôi chưa từng thấy những hành vi thực sự kỳ quặc như vậy
Tôi chủ yếu dùng để tạo test, viết tài liệu, refactor và tạo các đoạn code, đồng thời dùng hằng ngày trong công việc cùng với Copilot/X
Theo trải nghiệm của tôi, GPT3.5-turbo khá ngớ ngẩn nếu đem ra so sánh. Tôi mô tả bằng chú thích method sẽ làm gì và sẽ có những đối số nào, vậy mà nó lại bỏ sót nguyên cả đối số
Ngay cả với các đoạn code tương đối ngắn, nó cũng có cảm giác như trí nhớ rất kém. Không hề gần tới giới hạn context length
Đây không phải lỗi nhỏ, mà là kiểu nó nói sẽ làm gì đó theo nhiều bước rồi bỏ quên hẳn cả một bước
GPT3.5-turbo thiếu ổn định một cách dai dẳng, nên cần chỉnh sửa lớn và thử lại liên tục
Nó cũng khó tuân theo style/template của prompt và cả câu trả lời của chính nó. Ví dụ như đang dùng bullet trong tài liệu rất nhất quán rồi đột nhiên lại đổi
Codex nhìn chung tốt hơn, nhưng vẫn kém GPT-4 rõ ràng, và ổn nếu coi như “tự động hoàn thành thông minh”. Nó không hữu ích lắm cho việc viết tài liệu
Trong khi đó, GPT-4 thường cho kết quả gần như đúng ngay, và với code dài hoặc prompt phức tạp thì cùng lắm chỉ cần chỉnh vài chỗ
Tóm lại, với công việc code thì GPT3.5-turbo thậm chí không đáng thời gian để cố lấy kết quả tốt hoặc sửa lại. Codex thì tạm ổn ở một mức nào đó, còn nếu vượt quá tự động hoàn thành thì tôi cứ dùng GPT-4. Nó nhất quán hơn hẳn
Ở đây hầu như không có ai nói về khả năng dùng Whisper
Khi thử giọng nói trong ứng dụng ChatGPT trên iOS, có vẻ Whisper khá giỏi trong việc hiểu người nói thực sự đã nói gì
Nhưng việc phải nói xong toàn bộ rồi mới nhận được phản hồi về cách nó nhận diện lời nói của tôi thực sự rất khó chịu
Ngay cả khi tỷ lệ nhận diện ấn tượng là vậy
Vì chính OpenAI cũng đang dùng theo cách này, nên tôi không rõ API có được thiết kế để giảm bớt vấn đề đó hay không, nhưng sẽ thật tuyệt nếu có thứ gì đó với chất lượng của Whisper mà độ phản hồi gần với đọc chính tả on-device
Có vẻ nó sẽ hoạt động “thời gian thực” hơn, giống như đọc chính tả hiện tại trên iOS/macOS, nhưng tôi chưa dùng beta lúc này nên không chắc
Khi dùng nhập văn bản tích hợp sẵn, ChatGPT vẫn hiểu yêu cầu khá tốt nên kết quả vẫn tốt
Việc mở quyền truy cập nhỏ giọt như thế này tạo cảm giác rất kỳ quặc
OpenAI gần như đang bắt mọi người dùng các mô hình cũ hơn và chất lượng thấp hơn lâu hơn, qua đó tự làm xói mòn danh tiếng của mình
Ngay cả khi khách hàng sẵn sàng trả chi phí cho GPT-4, họ vẫn bị bảo phải đứng chờ ở cuối hàng
Rốt cuộc là phải chờ cái gì? Giáng Sinh à? Đến ngày mở hộp quà ra thì bên trong có GPT-4?
Cứ như là chép lại một trang từ kiểu marketing “cách đảm bảo sản phẩm mới của Google thất bại”. Giới hạn quyền truy cập đến mức marketing truyền miệng không thể hoạt động. Vì chẳng người bạn nào của bạn có thể dùng thử sản phẩm cả
Thông báo lần này nói là “phổ biến rộng rãi” mô hình GPT-4, nhưng không phải mô hình ngữ cảnh 32K, cũng không phải bản đa phương thức có đầu vào hình ảnh, cũng không có fine-tuning. Chỉ có một mô hình, và chỉ để chat
Hiện giờ thứ tôi có thể truy cập chỉ là dịch vụ Azure OpenAI và GPT-3.5 trong tài khoản API của OpenAI
Tôi không hiểu tất cả những giới hạn tùy tiện này về việc ai có thể truy cập mô hình nào có ý nghĩa gì
Có thể dùng GPT-4 qua Chat nhưng không dùng được qua API. Có thể dùng phiên bản Dall-E nâng cấp trong Bing Image Creator nhưng không dùng được qua API của OpenAI
Một số vendor được đại đế Sam Altman đầy vĩ đại và nhân từ ban phước thì có quyền truy cập GPT-4 32K, còn những người khác thì không
Cần bán sản phẩm chứ không phải bán quyền truy cập
Đừng hành xử như Liên Xô, nơi muốn có thứ gì đó thì phải “quen biết đúng người”
Có tiền cũng không mua được số GPU cần thiết
Và cũng có thể nếu mở toang cổng thì sẽ đụng nút thắt mở rộng quy mô, nên họ muốn quản lý từ sớm thay vì bị tụt lại phía sau
Vì thế họ mở rất thận trọng, và nếu cần thì lùi lại, giống như khi họ giới hạn mức dùng ChatGPT bản GPT-4 công khai
Không hẳn là vô lý. Dĩ nhiên cũng có thể phần nào là cố tạo ra sự khan hiếm để đẩy cơn sốt lên cao
Đây là chiêu cũ, nhưng chưa đến mức phải đem ra so với Liên Xô Nga
Nếu ước chừng cứ 100 khách hàng thì cần 1 GPU NVIDIA, thì OpenAI phải mua thêm GPU cho mỗi 100 khách hàng GPT-4 mới
Nhưng vì thiếu GPU, đây không phải tình huống mà cứ ném tiền vào là có thể dễ dàng bổ sung thêm GPU
https://www.fierceelectronics.com/electronics/ask-nvidia-ceo...
Còn “cách đảm bảo sản phẩm mới của Google thất bại” thì ý là GPT-4, món thất bại đã được khét tiếng xác nhận đó sao
Mô hình davinci nguyên bản từng là bạn của tôi, và tôi cực kỳ không hài lòng với quyết định này
Những kết quả hoàn chỉnh tạo ra từ mô hình đó có cá tính và sức sáng tạo mà tôi không thể tái hiện bằng bất kỳ thứ gì khác
Những kết quả tuyệt vời và hài hước của nó đã vĩnh viễn trở thành một phần quý giá trong thế giới quan của gia đình chúng tôi
Nghe đâu một số nhà nghiên cứu đã được như vậy
Tôi đã nghiên cứu LLM cho công việc sáng tạo, và thấy rằng trộn chain-of-thought với việc bơm tính ngẫu nhiên giúp tiến khá gần tới kiểu sáng tạo giống con người hơn
Ví dụ như chỉ thị cho LLM dùng một chữ cái ngẫu nhiên cụ thể lấy từ bộ tạo số ngẫu nhiên, tại một thời điểm cụ thể, theo một cách cụ thể
Ngoài tiêu đề ra, ở đây còn ẩn khá nhiều nội dung lớn
Mô hình mới gpt-3.5-turbo-instruct dự kiến ra mắt “trong vài tuần tới”, và fine-tuning cho 3.5 lẫn 4 cũng được lên kế hoạch trong năm nay
Tôi đặc biệt quan tâm đến gpt-3.5-turbo-instruct. Tôi nghĩ cơn sốt xoay quanh ChatGPT và “LLM hội thoại” đã che khuất rất nhiều thứ có thể làm được với các mô hình instruction thông thường
Nếu ở đây còn có cả fine-tuning nữa thì sẽ rất tuyệt
Tôi không hiểu rõ lắm những nỗ lực phía sau để huấn luyện các mô hình GPT bằng dữ liệu thực tế
Có phải là người ta nâng điểm bằng cách con người duyệt/chặn câu trả lời không?
“Mỹ có 49 bang” - từ chối
“Mỹ có 50 bang” - chấp nhận
Nhìn đơn giản thì đại khái là như vậy à?
Có ai biết họ có đang làm việc để bổ sung phần còn lại của 2021, rồi 2022, cuối cùng là đến 2023 không? Tôi biết với plugin Bing thì có thể crawl web, nhưng như thế không giống nhau
Mấy hôm trước tôi hỏi về Maya Kowalski, và nó có thể tóm tắt một hai bài blog, nhưng như vậy không giống với việc thực sự đã được huấn luyện về chủ đề đó và nắm các ngữ cảnh chi tiết như một kiến thức sẵn có