Trong các cuộc họp tiếng Anh, hiển nhiên người nào thoải mái với tiếng Anh hơn sẽ có lợi thế hơn. Đặc biệt trong họp hành, thời điểm phát biểu thực sự rất quan trọng; dù trong đầu tôi có chuẩn bị hoàn hảo đến đâu, nếu tiếng Anh không phải tiếng mẹ đẻ thì vẫn sẽ bị "buffering" và rồi đành bỏ qua cơ hội lên tiếng.
Tôi nghĩ vấn đề này có thể được giải quyết bằng LLM, vốn đặc biệt mạnh về năng lực ngôn ngữ, nên đã bắt đầu xây dựng sản phẩm này.
Đây là một ứng dụng desktop độc lập có thể hiển thị một cửa sổ trong suốt chồng lên các công cụ họp từ xa như Zoom, Google Meet, Teams, v.v.
Sản phẩm cung cấp các tính năng cốt lõi như sau.
- Trong cuộc họp thực tế, ứng dụng nhận diện lời nói của người khác và đầu vào từ micro của tôi, ghi lại lời của đối phương theo thời gian thực và dịch nhanh.
- Nếu trong lúc họp có vẻ như đối phương đang đặt câu hỏi cho tôi, ứng dụng sẽ tự động phát hiện và tạo ra câu trả lời phù hợp để hiển thị.
- Nếu trong lúc họp tôi không nghĩ ra phải diễn đạt một câu hay từ nào đó bằng tiếng Anh như thế nào, tôi có thể gõ vào và nhận được cách diễn đạt tiếng Anh với tốc độ rất nhanh.
- Khi cuộc họp kết thúc, dựa trên nội dung cuộc họp, ứng dụng sẽ phân tích và phản hồi chi tiết các câu tôi đã nói, đồng thời diễn đạt lại toàn bộ theo những cách mà người bản ngữ thực sự có thể dùng, rồi cung cấp thành báo cáo.
Phần tôi tập trung và đầu tư nhiều nhất về mặt kỹ thuật là làm sao để nhận được phản hồi nhanh nhất có thể. Dù hiệu năng có tốt đến đâu, trong một cuộc họp diễn ra dồn dập, chỉ cần chậm khoảng 2 giây thôi thì thông tin đó cũng trở nên vô nghĩa.
Hiệu năng của các LLM hiện nay đã đủ tốt để hỗ trợ tiếng Anh, nhưng tốc độ sinh token lại khác nhau rất nhiều giữa các mô hình, và tôi đã dành rất nhiều thời gian để cân bằng điều đó. Tôi đã thử nghiệm hàng chục foundation model, và hiện tại đang tiếp tục tối ưu bằng cách tìm ra tổ hợp foundation model phù hợp cho từng mục tiêu.
Kết quả là, không chỉ với dịch thuật mà cả ở các phần như gợi ý cách diễn đạt, sản phẩm đều tận dụng LLM nhưng vẫn có thể mang lại kết quả chất lượng cao với tốc độ phản hồi gần như theo thời gian thực.
Trong 3 tháng qua, tôi đã làm việc với 150 alpha tester, mỗi ngày đều trò chuyện qua KakaoTalk và phỏng vấn video 1:1 để từng tuần cải thiện sản phẩm một chút, và cuối cùng hôm nay đã chính thức ra mắt.
Tôi đã âm thầm theo dõi GeekNews suốt nhiều năm và chỉ nhận thông báo qua Slack, nên giờ tự mình viết bài cũng có hơi run.. Nếu bạn thấy hứng thú với sản phẩm, rất mong bạn ghé thử qua đường link bên dưới và nếu để lại phản hồi ở phần bình luận thì sẽ vô cùng cảm kích, đồng thời đó cũng sẽ là sự giúp đỡ rất lớn.
Bạn có thể dùng thử miễn phí mà không cần đăng ký thẻ tín dụng.
https://trysmooth.ai
Chưa có bình luận nào.