Codex cho Honcho + gateway embedding cục bộ được tạo bằng Vibe coding

(Dự án này là một dự án sử dụng Vibe coding.)

Xin chào! Tôi là một học viên cao học ngành dược, thường xuyên đọc GeekNews.

Tại đây tôi biết đến Hermes Agent và đã dùng rất tốt cho nghiên cứu, rồi biết thêm rằng có thể sử dụng một memory adapter tên là Honcho.
Nhưng khi tìm hiểu, tôi thấy nó không dùng quota đăng ký Codex mà hoạt động bằng cách gửi các yêu cầu API tính theo token riêng, nên tôi lo sẽ phát sinh thêm chi phí. Tôi cứ có cảm giác nếu nhắm mắt dùng bừa thì có thể mất sạch khoản lương ít ỏi của một học viên cao học.

Vì vậy, lấy ý tưởng từ việc Hermes Agent sử dụng quota Codex đi kèm gói đăng ký ChatGPT như thể đó là các yêu cầu tính theo token,
tôi đã tạo một dạng adapter thay thế backend Honcho bằng gói đăng ký Codex.

Cách hoạt động như sau.

1. Khi xem cách Honcho chạy, ở cấu hình mặc định, việc đánh giá mức độ quan trọng của bộ nhớ được gửi yêu cầu đến OpenAI GPT 5.4 mini, còn embedding dùng cho tìm kiếm cũng sử dụng model embedding của OpenAI.
2. Vì vậy, tôi đã dùng mã Codex OAuth của Hermes Agent để biến phản hồi trông như phản hồi từ OpenAI endpoint, và đổi phần Embedding sang dùng BGE-M3 fp16.gguf thông qua llama.cpp chạy cục bộ.
3. Số chiều Embedding mặc định là 1536, nhưng vì có ít model công khai 1536 chiều nên tôi dùng BGE-M3, một model 1024 chiều.
4. Do Honcho hỗ trợ máy chủ cục bộ trong phần thiết lập, tôi cho cài đặt trước Docker stack honcho-codex-gateway, rồi để Docker stack gốc của honcho kết nối đến máy chủ chạy ở đó.
5. Ngoài ra, do cách token hóa trong honcho khác với bge nên phát sinh vấn đề về độ dài; vì vậy tôi cho việc tokenizing được thực hiện bằng bge-m3 rồi Chunking theo cách đó.

Tôi không tự tin lắm về việc viết code, nên đã dùng Hermes Agent với backend là GPT 5.5 dựa trên gói đăng ký Codex, mức nỗ lực suy luận Low.
Tôi đã xác nhận nó hoạt động tốt trên mẫu MSI EdgeXpert 1TB dòng GB10 (ARM Ubuntu) mà tôi mua để dùng cho sở thích.
Tôi chưa kiểm tra nó có hoạt động trên các OS khác như Windows/Mac hay không.

Mục tiêu ban đầu của tôi là nếu có khoảng 100 người git clone thì sẽ thử đăng lên GeekNews, và sau 13 ngày đã đạt tiêu chí đó, nên tôi đăng lên đây để nhận đánh giá ở nơi mình thường xuyên ghé thăm.

Cảm ơn mọi người đã đọc bài viết dài này!