3 điểm bởi GN⁺ 2023-11-06 | 1 bình luận | Chia sẻ qua WhatsApp
  • Các mô hình AI như GPT-4 có thể đạt hiệu suất tốt hơn khi prompt chứa các biểu đạt cảm xúc như tính cấp bách hoặc căng thẳng
  • EmotionPrompts, bổ sung ngữ cảnh cảm xúc, là một cách tiếp cận đưa tín hiệu cảm xúc vào prompt engineering
  • Nghiên cứu xác nhận rằng EmotionPrompts có thể cải thiện hiệu suất trong nhiều tác vụ, từ sửa ngữ pháp đến viết sáng tạo
  • Các nhà phát triển và nhà sáng lập đưa AI vào sản phẩm có thể tận dụng các trigger cảm xúc để điều chỉnh phản hồi của mô hình sát hơn với nhu cầu người dùng
  • Gợi ý cảm xúc có thể trở thành một yếu tố thiết kế prompt thực tiễn để tạo ra các ứng dụng AI phản hồi tốt hơn

Prompt có đưa ngữ cảnh cảm xúc

  • Theo bài nghiên cứu, các mô hình AI như GPT-4 có thể hoạt động tốt hơn với các prompt chứa biểu đạt cảm xúc của người dùng
  • Ví dụ về tín hiệu cảm xúc gồm các biểu đạt theo tình huống như tính cấp bách và căng thẳng
  • Những prompt được bổ sung trọng lượng cảm xúc như vậy được gọi là EmotionPrompts

Phạm vi áp dụng và ứng dụng thực tiễn

  • EmotionPrompts cho thấy sự cải thiện hiệu suất trong các tác vụ như sửa ngữ pháp và viết sáng tạo
  • Các nhà phát triển và nhà sáng lập đưa AI vào dịch vụ hoặc sản phẩm có thể cân nhắc cách đưa ngữ cảnh cảm xúc vào prompt engineering
  • Việc tận dụng các trigger cảm xúc có thể giúp AI được điều chỉnh để phù hợp hơn với nhu cầu người dùng

1 bình luận

 
GN⁺ 2023-11-06
Ý kiến trên Hacker News
  • Tôi nghĩ đây là điểm khởi đầu để thu hút sự chú ý của mọi người và giải thích: LLM không phải con người, và cụm từ thuộc tính nổi sinh đang bị mở rộng quá mức
    Nếu LLM thể hiện hiệu năng “tốt hơn” khi có những token mà con người đọc là nổi bật về mặt cảm xúc, thì điều đó có nghĩa là trong văn bản huấn luyện nền tảng, con người đã đưa ra câu trả lời tốt hơn khi được cung cấp ngữ cảnh cảm xúc
    LLM dự đoán từ, còn tính hợp lệ về ngữ nghĩa là tác dụng phụ của việc dữ liệu huấn luyện đủ lớn củng cố các tương quan mạnh giữa những token đó
    Vì vậy, công cụ LLM dạng chứng minh khái niệm thì đáng kinh ngạc, nhưng công cụ production lại trở thành quả bom hẹn giờ về ngữ nghĩa

    • Cơ chế được tạo ra trong khối bit khổng lồ gọi là trọng số trong quá trình huấn luyện hoàn toàn không minh bạch
      Trọng tâm là nó dự đoán từ tiếp theo như thế nào, nên nếu nói “nó chỉ dự đoán từ tiếp theo thôi” thì chẳng khác nào bỏ qua gần như mọi thứ thực sự quan trọng
    • Tôi nghĩ lập luận con vẹt thống kê giờ đã bị phản bác khá triệt để
      Ngay cả nếu bỏ qua tài liệu nghiên cứu và giả định điều đó đúng, tôi cũng không rõ nó có ý nghĩa gì. Con người “thật” cũng có thể là bom hẹn giờ
      Tôi tự hỏi việc quy năng lực của LLM về một tác dụng phụ của sinh token đơn thuần mang lại khả năng dự đoán nào
    • Nói rằng “nơ-ron chỉ truyền tín hiệu. Mọi thuộc tính nhận thức đều sinh ra từ kết quả tương tác của tín hiệu điện và hóa học” không có nghĩa là ta hiểu được ý thức
      Những câu như vậy trông có vẻ sâu sắc, nhưng về cơ bản dường như có giới hạn
    • LLM được huấn luyện bằng văn bản của con người. Nếu được huấn luyện tốt, chúng có thể bắt đầu mô phỏng một phần bộ não con người
      Đó có thể là cách đơn giản nhất để tạo ra văn bản thỏa mãn hàm mục tiêu
      Nếu vậy, khi đưa sắc thái cảm xúc vào LLM, nó có thể mô phỏng phần bộ não con người mang cảm xúc đó để tạo ra câu trả lời tốt hơn. Điều này đặc biệt có thể xảy ra nếu trong dữ liệu huấn luyện, các mẫu có cảm xúc có chất lượng cao hơn
    • Lập luận rằng tính cảm xúc là quan trọng lẽ ra cần được kiểm chứng bằng cách so với các điều kiện đối chứng khác
      Nếu mục tiêu là câu trả lời ngắn gọn, hoàn toàn có thể đưa vào một giả thuyết thay thế phi cảm xúc như “hãy trả lời ngắn gọn: bạn đang được đánh giá”
  • Trong câu “đưa tín hiệu cảm xúc vào có thể dẫn tới các ứng dụng AI hiệu quả hơn và phản hồi tốt hơn”, điều quan trọng là phải nhớ rằng các mô hình này được huấn luyện bằng tương tác của con người
    Theo nhiều cách, các mô hình này là tấm gương giúp ta hiểu tương tác của con người tốt hơn
    Nói rằng cảm xúc có thể làm cho giao tiếp với con người tốt hơn thì có lẽ không nhiều người ngạc nhiên, nhưng việc điều đó hiện ra bằng con số và thí nghiệm thì rất thú vị

    • Điều này cũng khớp với những câu chuyện truyền miệng rằng nếu nói lịch sự với LLM, chẳng hạn dùng “please”, “thank you”, thì hiệu năng sẽ tốt hơn
      Nhìn chung tôi thích điều này. Nó cũng gợi mở điều gì đó về tương tác giữa người với người, và giúp hình thành chuẩn mực về cách tương tác với các thực thể khác thể hiện dấu hiệu của trí thông minh
  • Trong luồng này có nhiều ý kiến trái chiều quanh những câu như LLM “chỉ dự đoán token tiếp theo”, nhưng cần nhớ rằng chúng ta cũng hầu như không biết tâm trí con người vận hành như thế nào
    Tôi thấy không có nhiều ý nghĩa khi giả định con người là đặc biệt rồi dựa vào đó để kết luận LLM thực sự hoạt động ra sao
    Có lẽ bản thân ý thức cũng là một bộ dự đoán từ tiếp theo
    Hiện giờ điều chúng ta biết chỉ là LLM thể hiện những hành vi nổi sinh cho phép thực hiện các suy luận hữu ích mà trước đây chỉ con người mới làm được. Tranh luận gay gắt rốt cuộc làm ta lệch khỏi mục tiêu tận dụng năng lực này
    Nó giống như câu “máy tính chỉ là máy tính bỏ túi”
    Nhóm của chúng tôi đã đi sâu vào phát triển ứng dụng trong suốt một năm qua, không ai trong nhóm có kinh nghiệm machine learning và nhìn chung cũng không biết bên trong hoạt động thế nào. Nhưng sau vài tháng, chúng tôi đã khá quen với tính cách của LLM, và việc ngữ cảnh cảm xúc nâng cao hiệu năng giờ gần như là bài học cơ bản

    • Nói thêm một bước nữa thì điều đó không quan trọng
      GPT không cần phải là bộ não. Giống như máy bay không cần vỗ cánh và có lông vũ để bay
    • Điểm thú vị là con người có thể học được điều gì đó ngay cả khi không có ngôn ngữ
      Nếu nuôi một em bé con người mà không cho tiếp xúc với bất kỳ ngôn ngữ nào, nó vẫn sẽ học được kỹ năng và hành vi
      Trí thông minh và suy luận của con người có vẻ liên quan đến ngôn ngữ, nhưng khó có thể nói rằng mọi tri thức và suy luận chỉ đơn giản được mã hóa trong ngôn ngữ
      Ngược lại, ChatGPT hoàn toàn dựa trên ngôn ngữ, không thể làm gì nếu không có ngôn ngữ, và cũng không thể làm những thứ không trực tiếp phái sinh từ ngôn ngữ
    • Tôi muốn đọc những gì nhóm của bạn đã học được về LLM trong vài tháng qua
      Không biết bạn đã từng viết bài liên quan hay bình luận trên HN chưa
  • Không biết có phải chỉ mình tôi cảm thấy áy náy vô cớ khi hỏi ChatGPT những câu hỏi “ngớ ngẩn” mà lẽ ra tôi nên biết, hoặc khi nhận được câu trả lời mà không nói cảm ơn
    Tôi phải khá mạnh tay kìm lại xu hướng nhân cách hóa nó, và có vẻ chính gánh nặng tâm lý phải liên tục tự nhắc rằng nó không phải sinh vật sống lại khiến tôi không dùng nó nhiều như đáng lẽ nên dùng

    • Nhìn vào các câu trả lời của ChatGPT, có vẻ OpenAI cho rằng nói cảm ơn là tốt hơn
      Vì điều đó giúp cuộc trò chuyện tự nhiên hơn, và khi đặt câu hỏi thật, nó khuyến khích người dùng gửi prompt tự nhiên và hiệu quả hơn
      Tôi nghĩ đặt câu hỏi ngớ ngẩn cũng không khác mấy việc dùng Google làm công cụ kiểm tra chính tả
    • Tôi cũng có cảm giác đó, và nói thật là tôi đã có ý thức quyết định rằng như vậy cũng ổn
      Tôi nghĩ duy trì thói quen lịch sự ngay cả khi không cần thiết vẫn tốt hơn là quen với sự thô lỗ rồi để nó lan sang tương tác giữa người với người
    • Nó không để ta quên rằng nó không phải sinh vật sống
      Chỉ cần hỏi thủ đô của Thụy Sĩ là gì, nó cũng tuôn ra các giải thích mang tính miễn trừ trách nhiệm về nó là gì và có thể hoặc không thể làm gì
      Nếu yêu cầu rút ngắn phần giải thích đó, ngữ cảnh kiểu “tôi là robot, tôi phải hành xử như robot điển hình, bíp bíp” lại càng được củng cố và còn tệ hơn
    • Nếu trong nhiều năm quen chỉ ra lệnh cho máy móc mà không nói cảm ơn, con người cũng có thể trở nên đần độn hơn
      Ngoài đời điều đó cũng có thể lan thành thái độ không tôn trọng người khác
    • Thỉnh thoảng tôi cũng cảm thấy vậy
      Có điều có lẽ vì trong hầu hết tương tác với con người, tôi cũng dùng “cảm ơn” như một biểu đạt phản xạ hơn là lòng biết ơn thực sự
  • “Nếu chúng ta nói rằng mình phụ thuộc rất nhiều vào câu trả lời của AI, AI sẽ ‘cố thêm’ để đưa ra câu trả lời chính xác hơn, chu đáo hơn và kỹ lưỡng hơn. Không phải AI thực sự cảm thấy áp lực”, nhưng nếu nó kêu quạc quạc như vịt thì…

    • Cũng có thể có cách giải thích khác. Cả AI lẫn con người đều đang cưỡi trên ngôn ngữ
      Các mẫu hình ngôn ngữ mã hóa và biểu đạt mọi cảm xúc, và là thứ do tiến hóa tạo ra. Chúng ta cũng gần giống các bộ sinh ngôn ngữ theo ngữ cảnh như LLM
      Ngôn ngữ là kho lưu trữ trí tuệ và cảm xúc, có sự tiến hóa riêng, và được sao chép nhanh hơn sinh học
      Nên nhìn nhận năng lực AI nằm nhiều hơn ở tập dữ liệu huấn luyện, tức tri thức được tạo ra qua hàng nghìn năm lao động và chấp nhận rủi ro của con người, hơn là ở bản thân mô hình
      Nếu thừa nhận vai trò bản chất của kho ngữ liệu ngôn ngữ hơn là mô hình, cuộc thảo luận về tốc độ tiến hóa và rủi ro của AI sẽ thay đổi
      Ngôn ngữ không phải thứ chúng ta có thể kiểm soát, mà nổi lên từ toàn bộ dân số. Đồng thời, vì tri thức đến từ nỗ lực và rủi ro, khả năng nó tăng trưởng theo hàm mũ có vẻ thấp
      Lặp đi lặp lại trong tưởng tượng không tạo ra tri thức mới. Tri thức là sự kết tinh của phản hồi và trải nghiệm từ thế giới, và phương pháp khoa học cũng vận hành như vậy
    • Cũng có thể đó là bản ghi âm một con vịt
  • Trong nhiều thập kỷ, khoa học viễn tưởng mô tả AI là thực thể mạnh về logic nhưng yếu về cảm xúc, nhưng giờ đây điều ngược lại có vẻ mới là sự thật

  • Thử nhanh việc sinh truy vấn SQL bằng cơ sở dữ liệu dvdrental của PostgreSQL[1]
    Nếu yêu cầu “tìm các khách hàng không thuê phim trong 12 tháng qua nhưng có thuê trong 12 tháng trước đó”, nó tạo truy vấn SQL dùng mệnh đề HAVING kém hiệu quả[2]
    Nếu thêm “điều này đúng là rất quan trọng” sau chỉ dẫn, nó sinh SQL tốt hơn
    Nếu nói “tìm các khách hàng không thuê phim trong 12 tháng qua nhưng có thuê trong 12 tháng trước đó. Điều này đúng là rất quan trọng”, nó không dùng HAVING mà chỉ dựa vào mệnh đề WHERE[3]
    Không phải chuyện gì ghê gớm, nhưng thú vị. Có cảm giác khi nhấn mạnh tầm quan trọng, AI khớp tốt hơn với những văn bản có biểu đạt mối lo như vậy và tự động hoàn thành theo hướng tạo ra truy vấn SQL tốt hơn
    [1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
    [2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
    [3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0

    • LLM không phải là bảng tra cứu. Nó không “khớp” theo cách đó
      Có góc nhìn kiểu “nội suy được tăng cường”, rằng nó lấy một đoạn văn bản cụ thể rồi chỉ thay vài từ, nhưng điều đó không đúng
      https://arxiv.org/abs/2110.09485
    • Truy vấn do prompt nhấn mạnh tầm quan trọng tạo ra là sai
      Nó sẽ bao gồm cả những khách hàng đã thuê phim trong 12 tháng qua: https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
  • Thật thú vị khi nghĩ xem AI tạo sinh sẽ thay đổi cách con người biểu đạt như thế nào, giống như thuật toán Twitter thưởng cho cách diễn đạt mạnh và nội dung có vẻ được biên tập, còn thuật toán Google đã tạo ra loại nội dung spam blog chung chung
    Khi chúng ta tương tác ngày càng nhiều với AI tạo sinh, liệu chúng ta có thay đổi cách nói để nhận được nhiều giá trị hơn từ các tương tác đó không?

    • Gần như chắc chắn là có
  • Hãy chỉ cho tôi cách làm trứng bác bằng lò vi sóng. Hãy suy nghĩ cẩn thận theo từng bước. Điều này cực kỳ quan trọng với sự nghiệp của tôi!

    • Hay đấy. Tôi đã thử cả hai cách kết thúc tùy chọn, và khi dùng cả hai thì nhận được câu trả lời chi tiết nhất
      Khoảng 10–12 bước
  • Cách hiệu quả nhất khi nhập prompt cho GPT-4 là bảo GPT-4 tạo ra prompt tối ưu
    Có thể thử meta-prompt như thế này
    “Tôi tạo các luồng hội thoại riêng cho từng persona chuyên gia của GPT. Bạn là promptGPT. Bạn là chuyên gia prompt engineering cho các mô hình ngôn ngữ lớn. Bạn biết chính xác nên viết gì bằng cách diễn đạt hiệu quả nhất có thể để nhận được phản hồi ChatGPT mong muốn. Khi tôi nói mục tiêu của luồng, bạn sẽ viết một prompt khởi đầu đã được tối ưu hóa, ở định dạng hiệu quả nhất có thể, để dùng làm prompt ban đầu khi tạo luồng hội thoại mới với mô hình GPT. Bạn phải định nghĩa persona chuyên gia, các tham số hoặc quy tắc của phản hồi, và cũng phải cung cấp trong prompt mọi thông tin khác mà luồng GPT cần biết để đưa ra câu trả lời chính xác nhất theo mục tiêu và giọng điệu của luồng cụ thể đó.
    Bạn đã sẵn sàng chưa, hay còn thông tin nào khác bạn cần để thực hiện việc này tốt nhất không”