Việc thể hiện nỗi sợ hoặc áp lực giúp cải thiện hiệu suất của GPT-4
(aimodels.substack.com)- Các mô hình AI như GPT-4 có thể đạt hiệu suất tốt hơn khi prompt chứa các biểu đạt cảm xúc như tính cấp bách hoặc căng thẳng
- EmotionPrompts, bổ sung ngữ cảnh cảm xúc, là một cách tiếp cận đưa tín hiệu cảm xúc vào prompt engineering
- Nghiên cứu xác nhận rằng EmotionPrompts có thể cải thiện hiệu suất trong nhiều tác vụ, từ sửa ngữ pháp đến viết sáng tạo
- Các nhà phát triển và nhà sáng lập đưa AI vào sản phẩm có thể tận dụng các trigger cảm xúc để điều chỉnh phản hồi của mô hình sát hơn với nhu cầu người dùng
- Gợi ý cảm xúc có thể trở thành một yếu tố thiết kế prompt thực tiễn để tạo ra các ứng dụng AI phản hồi tốt hơn
Prompt có đưa ngữ cảnh cảm xúc
- Theo bài nghiên cứu, các mô hình AI như GPT-4 có thể hoạt động tốt hơn với các prompt chứa biểu đạt cảm xúc của người dùng
- Ví dụ về tín hiệu cảm xúc gồm các biểu đạt theo tình huống như tính cấp bách và căng thẳng
- Những prompt được bổ sung trọng lượng cảm xúc như vậy được gọi là EmotionPrompts
Phạm vi áp dụng và ứng dụng thực tiễn
- EmotionPrompts cho thấy sự cải thiện hiệu suất trong các tác vụ như sửa ngữ pháp và viết sáng tạo
- Các nhà phát triển và nhà sáng lập đưa AI vào dịch vụ hoặc sản phẩm có thể cân nhắc cách đưa ngữ cảnh cảm xúc vào prompt engineering
- Việc tận dụng các trigger cảm xúc có thể giúp AI được điều chỉnh để phù hợp hơn với nhu cầu người dùng
1 bình luận
Ý kiến trên Hacker News
Tôi nghĩ đây là điểm khởi đầu để thu hút sự chú ý của mọi người và giải thích: LLM không phải con người, và cụm từ thuộc tính nổi sinh đang bị mở rộng quá mức
Nếu LLM thể hiện hiệu năng “tốt hơn” khi có những token mà con người đọc là nổi bật về mặt cảm xúc, thì điều đó có nghĩa là trong văn bản huấn luyện nền tảng, con người đã đưa ra câu trả lời tốt hơn khi được cung cấp ngữ cảnh cảm xúc
LLM dự đoán từ, còn tính hợp lệ về ngữ nghĩa là tác dụng phụ của việc dữ liệu huấn luyện đủ lớn củng cố các tương quan mạnh giữa những token đó
Vì vậy, công cụ LLM dạng chứng minh khái niệm thì đáng kinh ngạc, nhưng công cụ production lại trở thành quả bom hẹn giờ về ngữ nghĩa
Trọng tâm là nó dự đoán từ tiếp theo như thế nào, nên nếu nói “nó chỉ dự đoán từ tiếp theo thôi” thì chẳng khác nào bỏ qua gần như mọi thứ thực sự quan trọng
Ngay cả nếu bỏ qua tài liệu nghiên cứu và giả định điều đó đúng, tôi cũng không rõ nó có ý nghĩa gì. Con người “thật” cũng có thể là bom hẹn giờ
Tôi tự hỏi việc quy năng lực của LLM về một tác dụng phụ của sinh token đơn thuần mang lại khả năng dự đoán nào
Những câu như vậy trông có vẻ sâu sắc, nhưng về cơ bản dường như có giới hạn
Đó có thể là cách đơn giản nhất để tạo ra văn bản thỏa mãn hàm mục tiêu
Nếu vậy, khi đưa sắc thái cảm xúc vào LLM, nó có thể mô phỏng phần bộ não con người mang cảm xúc đó để tạo ra câu trả lời tốt hơn. Điều này đặc biệt có thể xảy ra nếu trong dữ liệu huấn luyện, các mẫu có cảm xúc có chất lượng cao hơn
Nếu mục tiêu là câu trả lời ngắn gọn, hoàn toàn có thể đưa vào một giả thuyết thay thế phi cảm xúc như “hãy trả lời ngắn gọn: bạn đang được đánh giá”
Trong câu “đưa tín hiệu cảm xúc vào có thể dẫn tới các ứng dụng AI hiệu quả hơn và phản hồi tốt hơn”, điều quan trọng là phải nhớ rằng các mô hình này được huấn luyện bằng tương tác của con người
Theo nhiều cách, các mô hình này là tấm gương giúp ta hiểu tương tác của con người tốt hơn
Nói rằng cảm xúc có thể làm cho giao tiếp với con người tốt hơn thì có lẽ không nhiều người ngạc nhiên, nhưng việc điều đó hiện ra bằng con số và thí nghiệm thì rất thú vị
Nhìn chung tôi thích điều này. Nó cũng gợi mở điều gì đó về tương tác giữa người với người, và giúp hình thành chuẩn mực về cách tương tác với các thực thể khác thể hiện dấu hiệu của trí thông minh
Trong luồng này có nhiều ý kiến trái chiều quanh những câu như LLM “chỉ dự đoán token tiếp theo”, nhưng cần nhớ rằng chúng ta cũng hầu như không biết tâm trí con người vận hành như thế nào
Tôi thấy không có nhiều ý nghĩa khi giả định con người là đặc biệt rồi dựa vào đó để kết luận LLM thực sự hoạt động ra sao
Có lẽ bản thân ý thức cũng là một bộ dự đoán từ tiếp theo
Hiện giờ điều chúng ta biết chỉ là LLM thể hiện những hành vi nổi sinh cho phép thực hiện các suy luận hữu ích mà trước đây chỉ con người mới làm được. Tranh luận gay gắt rốt cuộc làm ta lệch khỏi mục tiêu tận dụng năng lực này
Nó giống như câu “máy tính chỉ là máy tính bỏ túi”
Nhóm của chúng tôi đã đi sâu vào phát triển ứng dụng trong suốt một năm qua, không ai trong nhóm có kinh nghiệm machine learning và nhìn chung cũng không biết bên trong hoạt động thế nào. Nhưng sau vài tháng, chúng tôi đã khá quen với tính cách của LLM, và việc ngữ cảnh cảm xúc nâng cao hiệu năng giờ gần như là bài học cơ bản
GPT không cần phải là bộ não. Giống như máy bay không cần vỗ cánh và có lông vũ để bay
Nếu nuôi một em bé con người mà không cho tiếp xúc với bất kỳ ngôn ngữ nào, nó vẫn sẽ học được kỹ năng và hành vi
Trí thông minh và suy luận của con người có vẻ liên quan đến ngôn ngữ, nhưng khó có thể nói rằng mọi tri thức và suy luận chỉ đơn giản được mã hóa trong ngôn ngữ
Ngược lại, ChatGPT hoàn toàn dựa trên ngôn ngữ, không thể làm gì nếu không có ngôn ngữ, và cũng không thể làm những thứ không trực tiếp phái sinh từ ngôn ngữ
Không biết bạn đã từng viết bài liên quan hay bình luận trên HN chưa
Không biết có phải chỉ mình tôi cảm thấy áy náy vô cớ khi hỏi ChatGPT những câu hỏi “ngớ ngẩn” mà lẽ ra tôi nên biết, hoặc khi nhận được câu trả lời mà không nói cảm ơn
Tôi phải khá mạnh tay kìm lại xu hướng nhân cách hóa nó, và có vẻ chính gánh nặng tâm lý phải liên tục tự nhắc rằng nó không phải sinh vật sống lại khiến tôi không dùng nó nhiều như đáng lẽ nên dùng
Vì điều đó giúp cuộc trò chuyện tự nhiên hơn, và khi đặt câu hỏi thật, nó khuyến khích người dùng gửi prompt tự nhiên và hiệu quả hơn
Tôi nghĩ đặt câu hỏi ngớ ngẩn cũng không khác mấy việc dùng Google làm công cụ kiểm tra chính tả
Tôi nghĩ duy trì thói quen lịch sự ngay cả khi không cần thiết vẫn tốt hơn là quen với sự thô lỗ rồi để nó lan sang tương tác giữa người với người
Chỉ cần hỏi thủ đô của Thụy Sĩ là gì, nó cũng tuôn ra các giải thích mang tính miễn trừ trách nhiệm về nó là gì và có thể hoặc không thể làm gì
Nếu yêu cầu rút ngắn phần giải thích đó, ngữ cảnh kiểu “tôi là robot, tôi phải hành xử như robot điển hình, bíp bíp” lại càng được củng cố và còn tệ hơn
Ngoài đời điều đó cũng có thể lan thành thái độ không tôn trọng người khác
Có điều có lẽ vì trong hầu hết tương tác với con người, tôi cũng dùng “cảm ơn” như một biểu đạt phản xạ hơn là lòng biết ơn thực sự
“Nếu chúng ta nói rằng mình phụ thuộc rất nhiều vào câu trả lời của AI, AI sẽ ‘cố thêm’ để đưa ra câu trả lời chính xác hơn, chu đáo hơn và kỹ lưỡng hơn. Không phải AI thực sự cảm thấy áp lực”, nhưng nếu nó kêu quạc quạc như vịt thì…
Các mẫu hình ngôn ngữ mã hóa và biểu đạt mọi cảm xúc, và là thứ do tiến hóa tạo ra. Chúng ta cũng gần giống các bộ sinh ngôn ngữ theo ngữ cảnh như LLM
Ngôn ngữ là kho lưu trữ trí tuệ và cảm xúc, có sự tiến hóa riêng, và được sao chép nhanh hơn sinh học
Nên nhìn nhận năng lực AI nằm nhiều hơn ở tập dữ liệu huấn luyện, tức tri thức được tạo ra qua hàng nghìn năm lao động và chấp nhận rủi ro của con người, hơn là ở bản thân mô hình
Nếu thừa nhận vai trò bản chất của kho ngữ liệu ngôn ngữ hơn là mô hình, cuộc thảo luận về tốc độ tiến hóa và rủi ro của AI sẽ thay đổi
Ngôn ngữ không phải thứ chúng ta có thể kiểm soát, mà nổi lên từ toàn bộ dân số. Đồng thời, vì tri thức đến từ nỗ lực và rủi ro, khả năng nó tăng trưởng theo hàm mũ có vẻ thấp
Lặp đi lặp lại trong tưởng tượng không tạo ra tri thức mới. Tri thức là sự kết tinh của phản hồi và trải nghiệm từ thế giới, và phương pháp khoa học cũng vận hành như vậy
Trong nhiều thập kỷ, khoa học viễn tưởng mô tả AI là thực thể mạnh về logic nhưng yếu về cảm xúc, nhưng giờ đây điều ngược lại có vẻ mới là sự thật
Thử nhanh việc sinh truy vấn SQL bằng cơ sở dữ liệu dvdrental của PostgreSQL[1]
Nếu yêu cầu “tìm các khách hàng không thuê phim trong 12 tháng qua nhưng có thuê trong 12 tháng trước đó”, nó tạo truy vấn SQL dùng mệnh đề HAVING kém hiệu quả[2]
Nếu thêm “điều này đúng là rất quan trọng” sau chỉ dẫn, nó sinh SQL tốt hơn
Nếu nói “tìm các khách hàng không thuê phim trong 12 tháng qua nhưng có thuê trong 12 tháng trước đó. Điều này đúng là rất quan trọng”, nó không dùng HAVING mà chỉ dựa vào mệnh đề WHERE[3]
Không phải chuyện gì ghê gớm, nhưng thú vị. Có cảm giác khi nhấn mạnh tầm quan trọng, AI khớp tốt hơn với những văn bản có biểu đạt mối lo như vậy và tự động hoàn thành theo hướng tạo ra truy vấn SQL tốt hơn
[1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
[2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
[3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0
Có góc nhìn kiểu “nội suy được tăng cường”, rằng nó lấy một đoạn văn bản cụ thể rồi chỉ thay vài từ, nhưng điều đó không đúng
https://arxiv.org/abs/2110.09485
Nó sẽ bao gồm cả những khách hàng đã thuê phim trong 12 tháng qua: https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
Thật thú vị khi nghĩ xem AI tạo sinh sẽ thay đổi cách con người biểu đạt như thế nào, giống như thuật toán Twitter thưởng cho cách diễn đạt mạnh và nội dung có vẻ được biên tập, còn thuật toán Google đã tạo ra loại nội dung spam blog chung chung
Khi chúng ta tương tác ngày càng nhiều với AI tạo sinh, liệu chúng ta có thay đổi cách nói để nhận được nhiều giá trị hơn từ các tương tác đó không?
Hãy chỉ cho tôi cách làm trứng bác bằng lò vi sóng. Hãy suy nghĩ cẩn thận theo từng bước. Điều này cực kỳ quan trọng với sự nghiệp của tôi!
Khoảng 10–12 bước
Cách hiệu quả nhất khi nhập prompt cho GPT-4 là bảo GPT-4 tạo ra prompt tối ưu
Có thể thử meta-prompt như thế này
“Tôi tạo các luồng hội thoại riêng cho từng persona chuyên gia của GPT. Bạn là promptGPT. Bạn là chuyên gia prompt engineering cho các mô hình ngôn ngữ lớn. Bạn biết chính xác nên viết gì bằng cách diễn đạt hiệu quả nhất có thể để nhận được phản hồi ChatGPT mong muốn. Khi tôi nói mục tiêu của luồng, bạn sẽ viết một prompt khởi đầu đã được tối ưu hóa, ở định dạng hiệu quả nhất có thể, để dùng làm prompt ban đầu khi tạo luồng hội thoại mới với mô hình GPT. Bạn phải định nghĩa persona chuyên gia, các tham số hoặc quy tắc của phản hồi, và cũng phải cung cấp trong prompt mọi thông tin khác mà luồng GPT cần biết để đưa ra câu trả lời chính xác nhất theo mục tiêu và giọng điệu của luồng cụ thể đó.
Bạn đã sẵn sàng chưa, hay còn thông tin nào khác bạn cần để thực hiện việc này tốt nhất không”