- Công ty đặt mục tiêu xây dựng "Safe Superintelligence (siêu trí tuệ an toàn)", một sản phẩm hệ thống AI an toàn và mạnh mẽ
- Giải quyết bài toán thông qua kỹ thuật đột phá và các bước tiến khoa học, đồng thời xem xét cả an toàn lẫn hiệu năng
- Lập kế hoạch để luôn ưu tiên an toàn trong khi vẫn cải thiện hiệu năng nhanh nhất có thể
- Chỉ tập trung duy nhất vào SSI để tránh khỏi gánh nặng quản trị, chu kỳ sản phẩm và áp lực thương mại
- Đồng sáng lập
- Ilya Sutskever: đồng sáng lập OpenAI và cựu giám đốc khoa học
- Daniel Gross: đồng sáng lập Cue, công cụ tìm kiếm đã được Apple mua lại. Sau thương vụ, ông phụ trách AI/tìm kiếm tại Apple.
- Chủ yếu đầu tư vào nhiều startup cùng Nat Friedman, cựu CEO của GitHub: Instacart, Coinbase, Airtable, Figma, Notion,..
- Daniel Levy: cựu trưởng nhóm Optimization của OpenAI
1 bình luận
Ý kiến trên Hacker News
Tôi vui vì Ilya có thể tiếp tục đóng góp cho sự phát triển của AI. Nhưng tôi tự hỏi họ sẽ cung cấp mức đãi ngộ cao như thế nào, khi so với các công ty hấp dẫn hơn về mặt thương mại. Có thể họ sẽ tìm được những người có động lực từ lý tưởng, hoặc đã độc lập về tài chính. Ngoài ra, cũng sẽ khó để bảo đảm đủ tài nguyên tính toán trong bối cảnh các công ty khác đang đổ hàng chục tỷ đô để xây các trung tâm dữ liệu GPU khổng lồ.
Tôi hiểu lo ngại rằng “siêu trí tuệ” có thể đe dọa con người. Nhưng điều đáng lo hơn là tình huống “siêu trí tuệ” không thoát ra ngoài mà lại bị một số con người cụ thể kiểm soát. Chỉ cần nhìn vào lịch sử, ta sẽ thấy những con người nắm quyền lực lớn đã hành xử ra sao. Cuộc chạy đua vũ khí hạt nhân thời Chiến tranh Lạnh là một ví dụ điển hình.
Tôi đồng ý với nhận định rằng các động lực kinh doanh đang tạo ra AI không an toàn. Các thuật toán gợi ý của mạng xã hội đã cực kỳ nguy hiểm đối với xã hội, đặc biệt là với giới trẻ. Khi tồn tại các tác động ngoại biên tiêu cực, chính phủ cần xây dựng quy định phù hợp.
Vấn đề của Ilya không phải là phát triển AI an toàn, mà là phát triển một mô hình kinh doanh an toàn. Ngày nay có thể tạo ra AI an toàn, nhưng không ai biết người quản lý tiếp theo sẽ xử lý nó như thế nào. Nếu giải quyết được bài toán doanh nghiệp an toàn, có thể loại bỏ rất nhiều tác hại xã hội.
Nếu siêu trí tuệ thực sự có thể đạt tới, thì tôi bi quan về độ an toàn. Có vẻ không thể nhốt trong sandbox một trí tuệ cao hơn chính mình. Siêu trí tuệ có thể nghĩ ra những vector tấn công mới. Giống như trong phim “Transcendence”, nó có thể làm những điều như phép màu nhờ các khám phá vật lý mới.
Tôi dự đoán mô hình kinh doanh sẽ là một giao thức bên ngoài tương tự SSL. Trong bối cảnh có nhiều cách tiếp cận khác nhau, nếu không có các giao thức và tiêu chuẩn được định nghĩa rõ ràng, thì khó có khả năng “an toàn” được thực thi ở tầng sản phẩm. Ilya có vẻ là người có đủ độ tin cậy và năng lực kỹ thuật để thực hiện điều đó.
Có vẻ như chỉ riêng tên tuổi của Ilya cũng đủ để huy động gần như không giới hạn vốn. Tôi không đồng ý với định hướng “không có sản phẩm cho đến khi thành công”. Phản hồi từ thế giới thực sẽ rất quan trọng để phát triển siêu trí tuệ. Nhưng tôi đồng ý rằng siêu trí tuệ là điều có thể đạt tới.
Cần có lời giải thích về việc “tập trung duy nhất” sẽ loại bỏ chu kỳ sản phẩm hay overhead quản lý như thế nào.
Tôi tự hỏi liệu siêu trí tuệ an toàn có thể cạnh tranh với siêu trí tuệ không bị ràng buộc hay không. Nếu công ty khác theo đuổi cùng mục tiêu mà không tốn thời gian cho an toàn, thì không rõ liệu có thể cạnh tranh được hay không.
Tôi từng xem một cuộc phỏng vấn trong đó Yann LeCun bác bỏ ý tưởng dùng LLM để xây dựng trí tuệ “thực sự”. Ông ấy khuyên các nghiên cứu sinh tiến sĩ nên nghiên cứu công nghệ tiếp theo, chứ không phải công nghệ này. Tôi tự hỏi điều đó có thể dung hòa thế nào với những gì Ilya đang làm hiện nay. Cũng tò mò không biết Ilya có dự định dùng một công nghệ khác hay không.