Cảm ơn mọi người đã dành nhiều sự quan tâm cho bài viết này. Có lẽ vì mục đích phát hành ra nước ngoài khá lớn nên bài được viết bằng tiếng Anh, và do đó dường như đã phát sinh nhiều vấn đề khác nhau.
Vì vậy, tôi xin chia sẻ bài viết đã được sắp xếp lại bằng tiếng Hàn.
Điểm cốt lõi là sau khi yêu cầu AI tái cấu trúc kiến trúc mã, lượng token tiêu thụ đã giảm xuống.
Ngược lại, cũng có thể giải thích rằng nếu tiếp tục đưa ra lệnh khi mã đang ở trạng thái có lỗi cấu trúc, mức sử dụng token sẽ tăng lên.
Tóm lại, nội dung muốn nói là cần có sự cải thiện về cấu trúc của mã nguồn, chứ không có nghĩa là prompt phải được viết ngắn gọn và logic chỉ với những ý cốt lõi.
Vậy là trong prompt chỉ nên gắn những ý cốt lõi một cách logic. Tức là càng thêm đủ thứ vào prompt thì càng nhiều nhiễu, nên đoạn mã tạo ra cũng sẽ phức tạp hơn và có nhiều nhiễu hơn, có phải là vậy không?
Tôi cũng thấy phần giới thiệu này và bài gốc quá dài dòng, cảm giác như do một người viết không giỏi chắp bút nên khá khó đọc trong quá trình theo dõi.
Tóm lại, ý chính có thể gói gọn là
"hãy thêm một dòng chỉ thị chứa ràng buộc có cấu trúc để giảm số token"
ở mức như vậy.
Bản thân Web Codecs API đã có hiệu năng rất tốt, nên hầu hết các thư viện media trên web đều cho hiệu suất vượt trội. Vì vậy nếu gọi đây là TypeScript thuần thì cũng hơi khó nói.
Wow, giờ ngay cả Delphi và C++Builder cũng có thêm các component phát triển AI rồi nhỉ.
Delphi kiểu như một chốn thân thuộc trong lòng nên mỗi khi có tin mới là tôi lại xem.
Dù các doanh nghiệp lớn nhỏ trong nước đang nỗ lực rất nhiều để nội tại hóa AI, nhưng lý do mọi thứ cứ đi sai hướng hoặc đổ vỡ giữa chừng có lẽ là vì áp lực phải đạt thành tích trong ngắn hạn luôn hiện ra như một vách đá lớn nhất.
Bản thân tôi gần đây khi tham gia các dự án triển khai RAG, LLM cho ngân hàng và công ty bảo hiểm cũng cảm nhận được rằng,
khách hàng tuy trong thâm tâm đều biết việc kinh doanh AI này là một cuộc marathon khổng lồ và rất dài, nhưng chính ham muốn kiểu “trái ngọt ấy nhất định phải thuộc về tôi” mới là thủ phạm khiến mọi thứ chìm nghỉm.
Mỗi khi phải làm việc với đội ngũ lãnh đạo đầy rẫy tư duy ăn xổi, giống như cơn sốt đầu cơ coin một thời, luôn mong “bắt đầu với số vốn hạt giống nhỏ rồi trong thời gian ngắn thu về lợi nhuận hay thành quả khổng lồ”, tôi chỉ biết thở dài.
Đầu tư vào AI không phải là chuyện đơn giản như đặt hàng một dự án, làm ra một sản phẩm hay dịch vụ có vẻ sẽ kiếm được tiền, rồi ép nhân viên sử dụng; vậy mà ai cũng mải mê chạy theo thành tích để trưng bày, đến khi chi phí vận hành khổng lồ quay trở lại thì lại buông những câu như
“AI là con hà mã ngốn tiền”, “AI là bong bóng”, rồi quay sang chê bai như cơm bữa.
À, thì ra bạn đã từng thấy chế độ của tôi ở cộng đồng khác rồi.
Những bài tôi đã viết còn nhiều chỗ thiếu sót, nhưng nếu có thể giúp ích thì tôi rất vui.
Tôi đã thấy bài viết anh đăng về chế độ đó ở cộng đồng khác, hóa ra đúng là bài do chính người tạo ra chế độ đó viết.
Tôi không ngờ anh còn viết cả bài hướng dẫn về chế độ Blueprint, cảm ơn anh.
Quả nhiên từ đầu anh đã là một người rất giỏi phát triển rồi!
Cảm ơn mọi người đã dành nhiều sự quan tâm cho bài viết này. Có lẽ vì mục đích phát hành ra nước ngoài khá lớn nên bài được viết bằng tiếng Anh, và do đó dường như đã phát sinh nhiều vấn đề khác nhau.
Vì vậy, tôi xin chia sẻ bài viết đã được sắp xếp lại bằng tiếng Hàn.
https://modgo.org/tokeun-sayongryang-37-91-reul-gamsosikin-dan-hanjuly…
Điểm cốt lõi là sau khi yêu cầu AI tái cấu trúc kiến trúc mã, lượng token tiêu thụ đã giảm xuống.
Ngược lại, cũng có thể giải thích rằng nếu tiếp tục đưa ra lệnh khi mã đang ở trạng thái có lỗi cấu trúc, mức sử dụng token sẽ tăng lên.
Tóm lại, nội dung muốn nói là cần có sự cải thiện về cấu trúc của mã nguồn, chứ không có nghĩa là prompt phải được viết ngắn gọn và logic chỉ với những ý cốt lõi.
Vậy là trong prompt chỉ nên gắn những ý cốt lõi một cách logic. Tức là càng thêm đủ thứ vào prompt thì càng nhiều nhiễu, nên đoạn mã tạo ra cũng sẽ phức tạp hơn và có nhiều nhiễu hơn, có phải là vậy không?
Chồng chéo không cần thiết
Tôi là tác giả. Cảm ơn bạn đã phản hồi. Tôi sẽ tham khảo điều đó khi viết bài tiếp theo.
Tôi cũng thấy phần giới thiệu này và bài gốc quá dài dòng, cảm giác như do một người viết không giỏi chắp bút nên khá khó đọc trong quá trình theo dõi.
Tóm lại, ý chính có thể gói gọn là
"hãy thêm một dòng chỉ thị chứa ràng buộc có cấu trúc để giảm số token"
ở mức như vậy.
Đột nhiên tất cả dấu chấm đều biến mất.
Kết luận
Dùng AI có thể giúp cắt giảm chi phí nhờ nâng cao năng suất,
nhưng bản thân nó không tự tạo ra tiền.
Mấy thứ như nodejs khi muốn bind vào ứng dụng khác thì khá là phiền phức, giá mà làm được dễ hơn một chút thì tốt.
Bản thân Web Codecs API đã có hiệu năng rất tốt, nên hầu hết các thư viện media trên web đều cho hiệu suất vượt trội. Vì vậy nếu gọi đây là TypeScript thuần thì cũng hơi khó nói.
Nhìn benchmark thì khá thú vị là hiệu năng không tệ.
Wow, giờ ngay cả Delphi và C++Builder cũng có thêm các component phát triển AI rồi nhỉ.
Delphi kiểu như một chốn thân thuộc trong lòng nên mỗi khi có tin mới là tôi lại xem.
Ư ư ư....
Tôi không muốn phải dùng Jira cả trong terminal nữa!!!
Không phải WASM mà là ts thuần, vẫn hướng đến hiệu năng...?
Nói là hướng tới hiệu năng cao bằng TypeScript... có phải cũng giống như nói đua xe bằng máy cày không?
Dù các doanh nghiệp lớn nhỏ trong nước đang nỗ lực rất nhiều để nội tại hóa AI, nhưng lý do mọi thứ cứ đi sai hướng hoặc đổ vỡ giữa chừng có lẽ là vì áp lực phải đạt thành tích trong ngắn hạn luôn hiện ra như một vách đá lớn nhất.
Bản thân tôi gần đây khi tham gia các dự án triển khai RAG, LLM cho ngân hàng và công ty bảo hiểm cũng cảm nhận được rằng,
khách hàng tuy trong thâm tâm đều biết việc kinh doanh AI này là một cuộc marathon khổng lồ và rất dài, nhưng chính ham muốn kiểu “trái ngọt ấy nhất định phải thuộc về tôi” mới là thủ phạm khiến mọi thứ chìm nghỉm.
Mỗi khi phải làm việc với đội ngũ lãnh đạo đầy rẫy tư duy ăn xổi, giống như cơn sốt đầu cơ coin một thời, luôn mong “bắt đầu với số vốn hạt giống nhỏ rồi trong thời gian ngắn thu về lợi nhuận hay thành quả khổng lồ”, tôi chỉ biết thở dài.
Đầu tư vào AI không phải là chuyện đơn giản như đặt hàng một dự án, làm ra một sản phẩm hay dịch vụ có vẻ sẽ kiếm được tiền, rồi ép nhân viên sử dụng; vậy mà ai cũng mải mê chạy theo thành tích để trưng bày, đến khi chi phí vận hành khổng lồ quay trở lại thì lại buông những câu như
“AI là con hà mã ngốn tiền”, “AI là bong bóng”, rồi quay sang chê bai như cơm bữa.
Liên kết vượt paywall https://archive.is/dLEl5
À, thì ra bạn đã từng thấy chế độ của tôi ở cộng đồng khác rồi.
Những bài tôi đã viết còn nhiều chỗ thiếu sót, nhưng nếu có thể giúp ích thì tôi rất vui.
Tôi đã thấy bài viết anh đăng về chế độ đó ở cộng đồng khác, hóa ra đúng là bài do chính người tạo ra chế độ đó viết.
Tôi không ngờ anh còn viết cả bài hướng dẫn về chế độ Blueprint, cảm ơn anh.
Quả nhiên từ đầu anh đã là một người rất giỏi phát triển rồi!
Nếu bạn cho tôi biết phần nào đã khiến bạn khó chịu, tôi sẽ trả lời một cách thân thiện.