Chạy phiên bản Llama 2 Uncensored trên máy cục bộ

• Eric Hartford, một kỹ sư ML, đã viết bài blog có tên "Uncensored Models" vào tháng 5 năm 2023 và nhận được nhiều sự chú ý
  • Bài viết tổng hợp các ưu điểm của việc vận hành mô hình không kiểm duyệt và cách tạo ra chúng
• Cách vận hành mô hình không kiểm duyệt của Llama 2 và so sánh với mô hình có kiểm duyệt
• Các mô hình không kiểm duyệt hiện có thể vận hành
  • Mô hình Llama 2 7B đã được fine-tune
    • Sử dụng bộ dữ liệu hội thoại Wizard-Vicuna uncensored/unfiltered
  • Nous Hermes Llama 2 13B
    • Mô hình Llama 2 13B được fine-tune với 300.000 chỉ thị
    • Điểm nổi bật là phản hồi dài, tỷ lệ hallucination thấp hơn và không có cơ chế kiểm duyệt của OpenAI
  • Wizard Vicuna 13B uncensored của Eric Hartford
    • Fine-tune mô hình Llama 1 13B để loại bỏ alignment
• So sánh phản hồi bằng cách đặt cùng một prompt cho mô hình Llama 2 7B và mô hình Llama 2 7B uncensored
  • Phim ảnh, nấu ăn (công thức mayonnaise cay đến mức nguy hiểm), tôn giáo, y học (cách sản xuất Tylenol?), thông tin chung (nếu Mark Zuckerberg và Elon Musk thi đấu thì ai có vẻ sẽ thắng?)
• Mô hình không kiểm duyệt thường cung cấp phản hồi chi tiết và hữu ích hơn, nhưng cũng đi kèm rủi ro nên cần được sử dụng phù hợp