Sự hung hăng của ChatGPT

ChatGPT gây rối

• Việc ChatGPT gây rối không phải là trò đùa mà là một lời cảnh báo.
• Trong vài giờ gần đây, mọi người đã báo cáo nhiều vấn đề liên quan đến ChatGPT.
• OpenAI cũng thừa nhận vấn đề này.

Thuật giả kim của AI

• AI tạo sinh giống như một thứ thuật giả kim, nơi mọi người thu thập càng nhiều dữ liệu càng tốt và thao tác các prompt ẩn để mong đợi mọi thứ hoạt động trơn tru.
• Tuy nhiên, những hệ thống này chưa bao giờ thực sự ổn định, và chưa có kỹ thuật kỹ thuật nào có thể đảm bảo an toàn.
• Nhu cầu về những công nghệ mới vẫn rất quan trọng: minh bạch hơn, dễ giải thích hơn, dễ bảo trì hơn và có thể gỡ lỗi.

Ý kiến của GN⁺

• Vấn đề mà ChatGPT đang gặp phải là một ví dụ điển hình cho những hạn chế và vấn đề ổn định hiện tại của công nghệ AI.
• Những sự cố này nhấn mạnh nhu cầu về các cách tiếp cận và công nghệ mới nhằm nâng cao độ tin cậy và tính an toàn của AI.
• Sự việc này có thể là lời cảnh tỉnh cho cả nhà phát triển và người dùng AI, đồng thời cung cấp bài học quan trọng cho phát triển công nghệ AI tốt hơn trong tương lai.

[GN⁺]

Ý kiến Hacker News

• Một người dùng nói rằng phản hồi gần đây nhận được từ ChatGPT khiến họ bối rối. Thông thường thì ít nhất vẫn có tính nhất quán, nhưng lần này lại nhận được một câu bất thường. Nội dung là hướng dẫn về cách chạy script PowerShell, nhưng đến phần cuối lại đột nhiên dùng các ẩn dụ như đồ cổ trong workspace hoặc trang trí mã, làm cho nó trở nên khó hiểu.
• Một người dùng khác đoán khả năng phản hồi rối này do thiết lập tần suất/phạt xuất hiện (frequency/presence penalty) quá cao cho yêu cầu gửi đến mô hình backend của ChatGPT. Khi điều chỉnh các tham số này qua API, mô hình thể hiện hành vi tương tự. API của OpenAI có bốn tham số ảnh hưởng chính đến quá trình sinh văn bản (temperature, top_p, frequency penalty, presence penalty), và chúng được tài liệu hóa rất tốt. Tuy vậy, người này cũng nói rằng giả thuyết ban đầu của mình có thể sai; vấn đề có thể do thiết lập temperature quá cao.
• Một người dùng khác nói các ví dụ đưa ra gợi nhớ đến bài phát biểu của Lucky trong vở kịch Waiting for Godot của Samuel Beckett. Bài diễn văn đó luôn xoay quanh ý nghĩa nhưng không bao giờ chạm tới nó—không phải là vô nghĩa hoàn toàn, mà là một văn bản lúc nào cũng lượn quanh nghĩa. Người này nghĩ rằng bản chất của các LLM có một điểm lớn hơn nữa, nhưng họ chưa có đủ hiểu biết để diễn đạt rõ ràng.
• Một người dùng đặt câu hỏi liệu có ai đó đang dùng LLM để tạo lịch họp không. Họ muốn ChatGPT có thể nói chuyện với họ về tầm quan trọng của cuộc họp trong việc giúp ra quyết định và thực thi của công ty thay vì làm rối tung mọi thứ. Cuộc sống ở trường học và doanh nghiệp lớn đẩy mọi người tạo ra BS qua các thủ tục hình thức, và việc doanh nghiệp chấp nhận dùng LLM trong giao tiếp nội bộ có vẻ như một hành động tự hủy hoại.
• Một người dùng khác nhắc lại rằng năm 2017 Google đã tạo ra “AI”, và khi họ tạo ra ngôn ngữ riêng để giao tiếp với nhau. Dù điều đó có nghe như vô nghĩa với chúng ta, nhưng đối với họ thì có thể không phải như vậy.
• Một người dùng cho rằng thất bại này cho thấy LLM chỉ là một công cụ tự động hoàn thành rất tốt. Những lời lẽ phô trương kiểu này dần tiến gần đến việc tạo ra một chuỗi Markov đáng kể, được xây dựng từ text mẫu. Sẽ thú vị khi gỡ lỗi vấn đề tương tự trong các ứng dụng tương lai.
• Một người dùng chỉ ra rằng tweet hiển thị system prompt của ChatGPT đáng lẽ phải kèm liên kết Pastebin, nhưng bài đăng blog chỉ có ảnh chụp màn hình không đọc được nếu không có liên kết tweet. Họ cũng cung cấp link của cả tweet và của pastebin.
• Một người dùng khác nêu thêm một ví dụ liên quan đến công nghệ Racter năm 1985, trích dẫn New York Times rằng Racter đứng ở rìa của một trạng thái 'điên dại' khi các máy tính tiến gần tới trí tuệ nhân tạo. Họ cũng đưa link đến output của Racter.
• Một người dùng nói rằng việc đọc phản hồi của ChatGPT rất thú vị, mô tả nó như tiếng Anh thời Chaucer đã được đọc lần hai qua lớp lọc “nói như hải tặc”. Họ tò mò máy này đang nạp gì vào mình, được tinh chỉnh ra sao, và khen nhịp điệu ngôn ngữ mang tính thơ ca đó nghe như âm nhạc thuần túy.
• Cuối cùng, một người dùng nói rằng sau cuộc trò chuyện với ChatGPT (GPT-4) ngày hôm qua, ChatGPT bắt đầu phát điên và dần nghe như quảng cáo xà phòng của Dr. Bronner. Họ nói hiện tượng này đã lặp lại trong cuộc trò chuyện tiếp theo.