Chúng ta đang ở thời kỳ hoàng kim thứ ba của AI. Trong hai thời kỳ hoàng kim trước đó (thập niên 1950–1960 và thập niên 1980), đã có những thất vọng do giới hạn của công nghệ. Tuy nhiên, công nghệ AI hiện tại đang vượt quá kỳ vọng. Đặc biệt, Transformer được giới thiệu vào năm 2017 ban đầu là một mô hình dịch máy, nhưng hiện nay đang ảnh hưởng đến gần như mọi lĩnh vực. Nó được xem là kiến thức thiết yếu đối với kỹ sư hiện đại. Mục tiêu đầu tiên của tài liệu này là cung cấp con đường ngắn nhất để kỹ sư hiểu về Transformer.
Tài liệu này cung cấp gì
- Sổ tay hướng dẫn ngắn gọn: Cung cấp đủ thông tin để học về Transformer.
- Ví dụ mã Python có thể thực hành: Cung cấp các ví dụ mã Python mà người đọc có thể tự chạy để hỗ trợ việc hiểu.
- Tài liệu tham khảo để khám phá thêm: Giới thiệu nhiều lựa chọn tài liệu khác nhau để người đọc có thể tiếp cận dễ dàng hơn.
Mục lục
- Phần 1: Mạng nơ-ron: Giới thiệu các khái niệm cơ bản của mạng nơ-ron.
- Phần 2: Mạng nơ-ron hồi quy (RNNs): Khám phá RNN, bao gồm LSTM và GRU.
- Phần 3: Xử lý ngôn ngữ tự nhiên (NLP) và cơ chế chú ý: Cung cấp các nguyên lý cơ bản của NLP, bao gồm dịch máy và cơ chế chú ý.
- Phần 4: Transformer: Giải thích mô hình Transformer.
- Phụ lục: Kiến thức cơ bản: Cung cấp lượng kiến thức tối thiểu về Python và toán học cần thiết để hiểu Transformer.
FAQ
- Ai có thể tự do sử dụng tài liệu này?
- Giáo viên hoặc sinh viên thuộc các cơ sở giáo dục có thể tự do sử dụng tài liệu này và các hình minh họa. Có thể sử dụng tài liệu này và các hình minh họa trong các hội nghị và bài giảng phi thương mại, với điều kiện phải ghi rõ liên kết đến trang này và bản quyền. Nếu không, vui lòng liên hệ.
- Có thể sử dụng cho nội dung thương mại không?
- Chia sẻ doanh thu: Có thể sử dụng nội dung này sau khi ký thỏa thuận chia sẻ doanh thu. Theo thỏa thuận này, cần chia sẻ 20% doanh số phát sinh từ việc sử dụng nội dung này.
- Mua đứt toàn bộ: Trong những trường hợp rất hiếm, sẽ xem xét các yêu cầu mua toàn bộ quyền đối với nội dung. Chi phí mua đứt toàn bộ là €10,000,000.
- Tại sao tác giả không từ bỏ bản quyền của tài liệu này hoặc không sử dụng giấy phép Creative Commons?
- Nếu bạn có thắc mắc về việc duy trì bản quyền, vui lòng liên hệ. Khi gửi email, bạn phải cung cấp ít nhất hai địa chỉ SNS (ví dụ: LinkedIn, Twitter). Sau vụ việc backdoor XZ, tác giả không nhận liên hệ ẩn danh.
Ngoại lệ
Các cơ sở giáo dục có thể tự do sử dụng tài liệu này.
Tóm tắt của GN⁺
- Tài liệu này là một sổ tay ngắn gọn cung cấp kiến thức nền tảng cần thiết để hiểu mô hình Transformer.
- Điểm nổi bật là giúp người đọc có thể tự học trực tiếp thông qua các ví dụ mã Python có thể thực hành và nhiều tài liệu tham khảo khác nhau.
- Mô hình Transformer là cốt lõi của công nghệ AI hiện đại, và việc hiểu nó là điều rất quan trọng đối với kỹ sư.
- Tài liệu này có thể được sử dụng tự do trong các cơ sở giáo dục, còn việc sử dụng thương mại cần có sự cho phép của chủ sở hữu bản quyền.
- Đây là tài liệu hữu ích cho những ai muốn khám phá các công nghệ hoặc dự án khác liên quan đến Transformer.
Chưa có bình luận nào.