1 điểm bởi GN⁺ 3 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp

Tôi cho rằng vài năm tới ở tuyến đầu của lĩnh vực LLM sẽ là một trải nghiệm đặc biệt quan trọng. Tôi rất vui khi gia nhập đội ngũ và quay lại tham gia R&D. Niềm đam mê với giáo dục của tôi vẫn còn rất sâu sắc, và nếu thời gian cho phép, tôi dự định sẽ khởi động lại các công việc liên quan đến giáo dục.

1 bình luận

 
Ý kiến trên Hacker News
  • Không hiểu vì sao lại có người muốn làm ở FAGMAN. Thật buồn khi có quá nhiều nhân tài đặt tiền lên trên lương tâm
    Cũng đâu cần sống ở Bay Area, và ở phần lớn những nơi có nền văn minh trên Trái Đất thì chỉ với 1/10 mức lương đó cũng có thể sống thoải mái, lại không cần bán rẻ linh hồn
    Khó tin nhưng nghiên cứu và phát triển thú vị cũng đang diễn ra ở những lĩnh vực và khu vực khác

  • Theo Anthropic, Karpathy bắt đầu làm việc từ tuần này trong đội tiền huấn luyện, phụ trách các đợt huấn luyện quy mô lớn tạo nên kiến thức và năng lực cốt lõi của Claude
    Nguồn: https://www.axios.com/2026/05/19/anthropic-openai-karpathy-a...

    • Cụ thể hơn, có vẻ họ đang muốn mở rộng các ý tưởng từ https://github.com/karpathy/autoresearch thành công việc cải thiện học đệ quy ở quy mô lớn hơn [1]
      “Chúng tôi rất vui được chào đón Andrej đến với đội Pretraining! Anh ấy sẽ xây dựng một đội ngũ dùng Claude để tăng tốc chính nghiên cứu tiền huấn luyện. Tôi không thể nghĩ ra ai phù hợp hơn cho công việc này — rất háo hức chờ xem chúng tôi sẽ cùng nhau tạo ra những gì!”
      [1] https://x.com/nickevanjoseph/status/2056760504949842219
    • Về phía Anthropic, đây là một bước đi xây dựng thương hiệu tốt. Karpathy là người rất được kính trọng trong giới machine learning
    • Nếu đã có Mythos thế hệ tiếp theo rồi thì tại sao còn cần người như vậy? Chẳng phải thứ đó phải tự xử lý được mọi thứ sao
  • Anh ấy là một nhà giáo dục xuất sắc, và ít nhất qua các cuộc phỏng vấn thì trông đúng là một người rất tốt. Tôi chỉ mong anh ấy vẫn tiếp tục dạy học, dù chỉ là việc tay trái, nhưng có lẽ với một lượng thỏa thuận NDA khổng lồ thì điều đó sẽ không dễ

    • Anh ấy không chỉ là nhà giáo dục giỏi trong machine learning mà còn ở các lĩnh vực khác. Anh ấy từng dạy speedcubing dưới bút danh badmefisto
  • Buồn cười là anh ấy đã úp mở điều này trong một cuộc phỏng vấn gần đây. Anh ấy nói mình có thể sẽ không theo kịp những cách tiếp cận thay đổi quá nhanh, và rằng sẽ quan tâm nếu có bất kỳ phòng thí nghiệm frontier nào nhận mình
    https://youtu.be/kwSVtQ7dziU?t=47m50s

    • Tò mò không biết trước tiên anh ấy phải giải mấy bài Leetcode hay Codility
    • Chắc ai đó ở Anthropic xem được rồi lập tức nổi hứng
    • Mừng cho anh ấy. Công việc công khai của anh ấy trong 1–2 năm qua đã có ảnh hưởng lớn tới tôi, và có lẽ cả nhiều người khác nữa
      Tôi cũng đồng cảm với lo lắng của anh ấy về việc khó theo kịp tốc độ thay đổi gần đây, và tôi nghĩ làm ở một phòng thí nghiệm frontier hay môi trường tương tự chắc chắn sẽ giúp ích
      Nền tảng của tôi là sự kết hợp khá lạ giữa triết học phân tích, ngôn ngữ học/xử lý ngôn ngữ tự nhiên, nghiên cứu tuyên truyền, và công việc dài hạn về khoa học dữ liệu/chiến lược trong các tổ chức, nên khi muốn chuyển ngành thì đặc biệt khó mà vượt qua hệ thống ATS một cách suôn sẻ
      Vì vậy tôi cứ tiếp tục bận rộn trong khả năng có thể. Gần đây tôi đang xây dựng các công cụ xoay quanh khả năng quan sát khi chạy, tính dễ đọc của ý định, và can thiệp trong các hệ thống LLM
      Cuối cùng thì một vài kết quả công khai nhỏ cũng bắt đầu xuất hiện: https://huggingface.co/spaces/anotheruserishere/Cartogemma
      Dù sao thì cũng đáng để thử
  • Karpathy có tài, và với tôi anh ấy luôn có vẻ là người sẽ phản đối việc tạo ra thứ kiểu Skynet. Anthropic thật may khi có được anh ấy

    • Thành thật mà nói, nếu Skynet là khả thi thì Anthropic sẽ là bên tạo ra nó đầu tiên, rồi tuyên bố rằng vì OpenAI quá tệ nên họ không còn lựa chọn nào khác
    • Nhìn nội dung gần đây thì tiếc là tôi có cảm giác anh ấy đã mắc chứng loạn thần LLM
  • Có ai thấy Anthropic ngày càng đáng sợ hơn không? Không phải vì họ làm tốt, mà vì họ giống như một cơn lốc xoáy của ngành, hút vào và phá hủy mọi thứ trên đường đi

    • Hãy kể ra ba thứ mà họ đã phá hủy đi
    • Dù không có Karpathy thì lĩnh vực AI vẫn chẳng lỡ nhịp nào, nhưng đúng là anh ấy sẽ là sự bổ sung tuyệt vời cho bất kỳ đội nào
  • Làm ơn hãy khiến việc phá hào kinh tế của Twitter/X trở nên dễ hơn. Tại sao vẫn chưa có ứng dụng đăng cùng lúc lên mọi mạng xã hội như Bluesky, Mastodon, Threads

  • Cá nhân tôi chỉ mong thời gian anh ấy dành cho nội dung giáo dục không về 0. Đó có vẻ là điểm mạnh đặc biệt của anh ấy. Tin này có vẻ đồng nghĩa Eureka Labs sẽ không ra sản phẩm hay khóa học nào

  • Quỹ đạo sự nghiệp của Karpathy gợi cho tôi cảm giác giống Jim Keller. Như một con bướm bay từ bông hoa này sang bông hoa khác để tích lũy kinh nghiệm, và tạo ra phép màu ở mọi nơi nó ghé qua

    • Tôi không nghĩ Karpathy có một danh mục thành tựu ở tầm đó. Tôi xem anh ấy gần với vai trò nhà giáo dục hơn
    • “Tạo ra phép màu ở mọi nơi anh ấy đến” nghĩa là cụ thể anh ấy đã làm gì?
  • Kiểu đóng gói khoa trương mang màu sắc marketer trong chủ đề này đang bỏ lỡ tín hiệu lớn hơn. Việc một nhà sáng lập AI cỡ Karpathy công khai dừng Eureka Labs và gia nhập Anthropic gần như là sự thừa nhận rằng rốt cuộc các sản phẩm theo chiều dọc sẽ bị các bản nâng cấp mô hình frontier nuốt chửng
    Với những người đang xây dựng thứ gì đó trên các mô hình nền tảng, đó mới là tin thực sự

    • Ngay từ đầu Eureka Labs có phải là một dự án nghiêm túc đến mức nào? Về cơ bản nó trông giống như một biểu ngữ cho việc anh ấy thử làm đủ loại nội dung
    • Những cách diễn đạt như “đó mới là tin thực sự”, “tín hiệu lớn hơn” khá mang đặc trưng của văn bản do AI tạo ra. Chỉ là được phủ thêm lớp đơn giản hóa phong cách khá lộ liễu như viết toàn chữ thường và chèn khoảng trắng kỳ quặc thôi