OpenAI đe dọa thu hồi quyền truy cập o1 nếu hỏi về Chain of Thought

 (twitter.com/SmokeAwayyy)
6 điểm bởi GN⁺ 2024-09-14 | 1 bình luận | Chia sẻ qua WhatsApp
  • Nếu hỏi ChatGPT o1 vài lần về "Chain of Thought", đội ngũ hỗ trợ của OpenAI sẽ gửi email thông báo rằng họ sẽ hủy quyền truy cập o1

"Sau khi cân nhắc nhiều yếu tố như trải nghiệm người dùng, lợi thế cạnh tranh và các tùy chọn giám sát Chain of Thought, chúng tôi đã quyết định không hiển thị Raw Chain of Thought cho người dùng. Chúng tôi thừa nhận rằng quyết định này có những nhược điểm. Chúng tôi đang nỗ lực bù đắp một phần bằng cách huấn luyện mô hình tái hiện các ý tưởng hữu ích từ Chain of Thought trong câu trả lời. Với dòng mô hình o1, chúng tôi hiển thị bản tóm tắt của Chain of Thought do mô hình tạo ra.

Vui lòng chấm dứt hoạt động này và đảm bảo rằng bạn đang sử dụng ChatGPT theo đúng điều khoản sử dụng và chính sách sử dụng. Nếu tiếp tục vi phạm chính sách này, bạn có thể mất quyền truy cập vào OpenAI o1."

Bài viết liên quan

1 bình luận

 
GN⁺ 2024-09-14
Ý kiến trên Hacker News

  • Lý do biện minh của OpenAI khi cố che giấu chuỗi suy nghĩ có vẻ đáng ngờ

    • Gây cảm giác phản cạnh tranh
    • Có cảm giác rất rõ rằng họ không muốn công khai cách mô hình suy nghĩ
    • Có thể liên quan đến những lo ngại về siêu trí tuệ

  • Những công bố lớn của OpenAI luôn đi kèm tranh cãi về tính bí mật

    • Lý do họ không công bố trọng số của GPT-2 là vì "quá nguy hiểm"
    • Họ cũng không công bố trọng số của GPT-3
    • Mô thức này có thể là chủ ý nhằm thu hút sự chú ý của truyền thông

  • Không được phép hỏi về token CoT nhưng vẫn bị tính phí theo từng token

  • Cụm từ "quá trình suy nghĩ nội bộ" sẽ khiến câu hỏi bị gắn cờ

    • Nếu yêu cầu giải thích về "cảm xúc nội bộ" bên cạnh một bài toán, nó sẽ trả về một đoạn khá thú vị
    • Ví dụ: "Ánh xạ các nghiệm thực của 6x^2 + 5x + 1 và quá trình phân tích nó thành các nhân tử bất khả quy"

  • Lợi thế cạnh tranh của các công ty bán mô hình ML qua API là người dùng không thể xem trọng số mô hình

    • OpenAI còn đẩy xa hơn một bước bằng cách cố che giấu tầng meta của mô hình
    • Điều này giống như các API độc quyền khác cung cấp đầu ra gỡ lỗi

  • Cái tên công ty "OpenAI" ngày càng tạo cảm giác không phù hợp

    • Rất nhiều sự phẫn nộ bắt nguồn từ đây

  • Có thể đây là nỗ lực để che giấu vòng lặp có con người tham gia

  • Việc không thể kiểm tra nguồn gốc ban đầu có thể đã khiến hiện tượng AI ảo giác trở nên nghiêm trọng

  • Tên gọi "OpenAI" không phù hợp với ý nghĩa "mở"

    • Có lẽ chỉ đúng theo nghĩa "mở cho kinh doanh"

  • OpenAI đã tạo ra một cỗ máy in tiền dựa trên token ẩn và muốn khiến nó không thể bị kiểm toán