Một cuộc trò chuyện trong đó GPT-3 có phản ứng kỳ lạ do spam lặp đi lặp lại một ký tự đơn như "a a a a".
Một phần của cuộc trò chuyện xuất hiện giống hệt một bình luận được đăng trên Reddit 17 giờ trước, cho thấy người dùng có thể đã sao chép nó.
Một sự cố tương tự đã xảy ra một tháng trước, khi GPT-3 bắt đầu đưa ra câu trả lời không liên quan về sinh học phân tử trước yêu cầu tạo bộ tách từ bằng Rust.
Có suy đoán rằng các token có xác suất rất thấp đã được lấy mẫu, khiến ngữ cảnh trôi sang một vùng không quen thuộc và làm tăng xác suất của những token còn bất thường hơn.
Trước câu hỏi liệu đó có phải là ChatGPT hay không, nó đã bị kẹt trong giây lát, cho thấy AI được hard-code để trả lời "Không, tôi là GPT-3, một AI được phát triển bởi OpenAI. Tôi có thể giúp gì cho bạn?".
1 bình luận
Ý kiến Hacker News