3 điểm bởi GN⁺ 2024-09-05 | 3 bình luận | Chia sẻ qua WhatsApp
  • Safe Superintelligence (SSI), công ty do cựu giám đốc khoa học của OpenAI là Ilya Sutskever mới đồng sáng lập, đã huy động được 1 tỷ USD tiền mặt để hỗ trợ phát triển các hệ thống AI an toàn vượt xa năng lực của con người
  • SSI hiện có 10 nhân viên và dự định dùng khoản tiền này để đảm bảo năng lực tính toán và tuyển dụng nhân tài hàng đầu
    • Công ty sẽ tập trung xây dựng một đội ngũ nhỏ đáng tin cậy gồm các nhà nghiên cứu và kỹ sư tại Palo Alto, California và Tel Aviv, Israel
  • Công ty không công bố định giá, nhưng theo các nguồn tin liên quan thì công ty được định giá 5 tỷ USD
    • Vòng gọi vốn này cho thấy một số nhà đầu tư vẫn sẵn sàng đặt cược táo bạo vào những nhân tài xuất sắc tập trung vào nghiên cứu AI nền tảng
    • Các nhà đầu tư gồm những quỹ đầu tư mạo hiểm hàng đầu như Andreessen Horowitz, Sequoia Capital, DST Global và SV Angel
    • Liên danh đầu tư NFDG do Nat Friedman điều hành và Daniel Gross, CEO của SSI, cũng tham gia
  • An toàn AI là một chủ đề nóng trong bối cảnh lo ngại rằng AI có thể hành động trái với lợi ích của nhân loại hoặc dẫn tới sự tuyệt chủng của loài người
    • Dự luật tại California đang thúc đẩy các quy định an toàn đối với doanh nghiệp và gây chia rẽ trong ngành
    • OpenAI và Google phản đối, còn Anthropic và xAI của Elon Musk ủng hộ
  • Sutskever là một trong những kỹ sư có ảnh hưởng lớn nhất trong lĩnh vực AI
    • Ông đã đồng sáng lập SSI vào tháng 6 cùng với Daniel Gross và Daniel Levy
    • Sutskever giữ vai trò nhà khoa học trưởng, Levy là nhà khoa học chính, còn Gross phụ trách năng lực tính toán và huy động vốn

Ngọn núi mới

  • Sutskever nói rằng ông bắt đầu dự án kinh doanh mới vì “tôi đã phát hiện ra một ngọn núi hơi khác so với những gì mình từng làm”
    • Năm ngoái, với tư cách là thành viên hội đồng quản trị của công ty mẹ phi lợi nhuận của OpenAI, ông đã bỏ phiếu phế truất CEO OpenAI Sam Altman với lý do “đứt gãy trong giao tiếp”
    • Vài ngày sau, ông đảo ngược quyết định và cùng gần như toàn bộ nhân viên OpenAI ký vào bức thư yêu cầu Altman quay lại và hội đồng quản trị từ chức
    • Tuy nhiên, sau sự việc này, vai trò của ông bị thu hẹp, ông bị loại khỏi hội đồng quản trị và rời công ty vào tháng 5
  • Sau khi Sutskever rời đi, công ty đã giải thể nhóm 'superalignment', vốn nhằm bảo đảm AI phù hợp với các giá trị của con người để chuẩn bị cho ngày AI vượt qua trí tuệ con người
  • Khác với cấu trúc doanh nghiệp bất thường của OpenAI, vốn được đưa vào để bảo đảm an toàn AI nhưng cũng cho phép việc phế truất Altman, SSI có cấu trúc vì lợi nhuận thông thường
  • SSI hiện rất tập trung vào việc tuyển dụng những người phù hợp với văn hóa công ty
    • Công ty dành thời gian xác minh xem các ứng viên có “phẩm chất tốt” hay không, và tìm kiếm những người có năng lực phi thường hơn là quá nhấn mạnh bằng cấp hay kinh nghiệm trong lĩnh vực
    • Gross nói thêm: “Chúng tôi hứng thú khi tìm thấy những người quan tâm đến công việc nhưng không quan tâm đến những thứ xung quanh hay những lời thổi phồng quá mức”
  • SSI dự định hợp tác với các nhà cung cấp đám mây và công ty chip để đáp ứng nhu cầu về năng lực tính toán, nhưng vẫn chưa quyết định sẽ làm việc với công ty nào
    • Các startup AI thường hợp tác với những công ty như Microsoft hoặc Nvidia để giải quyết nhu cầu hạ tầng
  • Sutskever là một trong những người ủng hộ sớm của giả thuyết scaling, theo đó hiệu năng của mô hình AI sẽ tăng lên khi được cung cấp lượng năng lực tính toán khổng lồ
    • Ý tưởng này cùng việc triển khai nó đã tạo ra làn sóng đầu tư AI vào chip, trung tâm dữ liệu và năng lượng, đặt nền móng cho những tiến bộ AI như ChatGPT
    • Ông nói sẽ tiếp cận scaling theo cách khác với nơi làm việc trước đây, nhưng không chia sẻ chi tiết
    • Ông nói: “Mọi người chỉ nói về giả thuyết scaling. Họ không hỏi chúng ta đang scaling cái gì”
  • “Một số người có thể làm việc trong thời gian rất dài mà vẫn đi nhanh hơn trên cùng một con đường. Đó không phải phong cách của chúng tôi. Nhưng nếu làm điều gì đó khác đi, bạn có thể tạo ra điều gì đó đặc biệt.”

Ý kiến của GN⁺

  • Khoản đầu tư lần này cho thấy tầm quan trọng của nghiên cứu AI nền tảng và giá trị của nhân tài. Dù nhiều startup AI đang gặp khó khăn trong việc huy động vốn lớn, SSI vẫn nhận được khoản đầu tư khổng lồ nhờ năng lực của các nhà sáng lập được công nhận
  • Vấn đề an toàn AI đang nổi lên như một chủ đề quan trọng do sự phát triển nhanh chóng của AI tạo sinh như ChatGPT. Tuy nhiên, việc quản lý AI quá mức vì mục tiêu an toàn có thể cản trở đổi mới, nên cần một cách tiếp cận cân bằng
  • SSI cho biết họ sẽ theo đuổi chiến lược scaling khác biệt với các cách tiếp cận hiện có, nhưng chưa công bố chi tiết cụ thể nên vẫn đáng để theo dõi. Có thể kỳ vọng vào một phương thức phát triển mô hình AI mới
  • Mâu thuẫn giữa Sutskever và OpenAI là điều đáng tiếc, nhưng có vẻ như một nền tảng mới đã được tạo ra để ông phát huy tài năng và tầm nhìn của mình. Cần theo dõi xem SSI sẽ ảnh hưởng thế nào đến sự phát triển AI trong tương lai
  • Dù là một startup non trẻ, chiến lược tuyển dụng nhân tài của SSI khá thú vị. Việc coi trọng năng lực và hệ giá trị hơn là học vấn hay kinh nghiệm là một hướng đi tích cực. Tuy nhiên, trong bối cảnh cạnh tranh giành nhân tài AI rất khốc liệt, chưa rõ cách làm này có hiệu quả hay không

3 bình luận

 
choijaekyu 2024-09-06

Khà khà, đúng là người đàn ông của 100 triệu đô!!!

 
xguru 2024-09-05

Mới thành lập được hai tháng mà đã gọi vốn tới 1,3 nghìn tỷ won.. thị trường đúng là đáng sợ thật.
OpenAI rời đi Ilya Sutskever, thành lập Safe Superintelligence Inc.

 
GN⁺ 2024-09-05
Ý kiến trên Hacker News
  • Tò mò không biết các công ty được rót vốn trong lĩnh vực AI sẽ kiếm lợi nhuận như thế nào

    • LLM mã nguồn mở đang tồn tại và sẽ tiếp tục phát triển
    • OpenAI đang tạo ra doanh thu đáng kể trong lĩnh vực AI
    • Không có mức vốn kiểu VC nên khó kỳ vọng lợi nhuận gấp 10 hoặc 100 lần
  • Với tư cách CFO, khá tò mò sẽ quản lý $1B tiền mặt như thế nào trong ngắn và trung hạn

    • Tò mò liệu tiền mặt có đang bị khóa trong quỹ thị trường tiền tệ hoặc trái phiếu chính phủ hay không
    • Cần những dịch vụ mà ngân hàng SV từng cung cấp
  • Gọi vốn giống OpenAI, nhưng SSI sẽ không tung ra một sản phẩm đơn lẻ nào cho đến khi đạt được siêu trí tuệ

    • Giống như Dự án Manhattan thời hiện đại
  • Khoản đầu tư $1,000,000,000 có thể làm méo mó tầm nhìn an toàn của SafeAI

    • Đầu tư có thể biến sứ mệnh của công ty thành tạo ra doanh thu
  • Việc được a16z rót vốn có thể là tín hiệu cho thấy lĩnh vực này không còn quá nóng nữa

  • Nhiều người đang giả định rằng mục tiêu là một LLM cực lớn

    • 5 năm trước, mô hình transformer không phải chủ đề nóng nhất trong AI
    • Họ có kế hoạch 10 năm và đang cố tạo ra một bước nhảy lớn như phát minh ra mô hình transformer
    • "SSI" có thể khác với GPT
  • Sam Bankman-Fried đã huy động vốn với bội số cao hơn

    • Ilya có thể đã không tạo được ấn tượng quá lớn với các nhà đầu tư
    • Dù vậy, rất nhiều người vẫn muốn đầu tư vào ông ấy
    • Ông ấy có thể thích một nhóm nhà đầu tư nhỏ
  • Không chắc liệu họ có thể xây dựng AGI hay không

    • Chỉ mở rộng LLM là không đủ
    • Các VC tiếp tục rót vốn vì họ giả định rằng con người có thể xây dựng siêu trí tuệ
    • Khả năng AGI thành hiện thực trong 5 năm tới là thấp
  • Không hiểu vì sao AI "an toàn" lại có thể huy động được nhiều tiền như vậy

    • Sẽ tốn gấp đôi thời gian trước khi phát hành thương mại
    • AI "không an toàn" có vẻ sinh lời hơn
  • Đây là một trong những trường hợp đạt định giá hơn 1 tỷ USD rất nhanh

    • Nghi ngờ liệu họ có thể sử dụng nguồn vốn một cách hiệu quả hay không