CrankGPT

 (crankgpt.com)
1 điểm bởi GN⁺ 11 giờ trước | 1 bình luận | Chia sẻ qua WhatsApp
  • Giải pháp AI hoàn toàn cục bộ và riêng tư tạo token bằng sức tay và chân, với các mẫu được phân chia theo quy mô sử dụng từ nhu cầu hằng ngày đến quy trình doanh nghiệp
  • Mẫu quay tay thủ công cơ bản là đủ cho nhu cầu gia đình hằng ngày, còn người dùng chuyên sâu và doanh nghiệp nhỏ có thể cân nhắc mẫu chạy bằng bàn đạp
  • Dữ liệu chỉ được xử lý bên trong thiết bị nên không cần giao các câu hỏi nhạy cảm, suy nghĩ nội tâm, ý tưởng ứng dụng cho các tập đoàn lớn
  • Đưa ra thông điệp hãy tự tạo ra điện năng cần cho AI bằng calo, đốt calo thay vì đốt dầu để sản xuất token
  • Nêu bật khái niệm AI off-grid có thể cung cấp trí tuệ cần thiết ngay cả khi không có Wi‑Fi, Claude gặp sự cố, mất điện luân phiên, hay trong tình huống nền văn minh sụp đổ

CrankGPT — AI cục bộ chạy bằng sức người

  • CrankGPT là giải pháp AI hoàn toàn cục bộ và riêng tư hoạt động bằng sức người
  • Nhắc đến biến đổi khí hậu, sự tập trung của cải và cánh tay nhão cùng lúc, kết nối việc dùng AI với tập luyện và tự phát điện
  • Dưới khẩu hiệu “dùng đúng công cụ cho đúng công việc”, các mẫu AI được chia theo quy mô sử dụng

Điều chỉnh quy mô AI

  • Mẫu quay tay thủ công cơ bản là đủ cho nhu cầu sử dụng gia đình hằng ngày
  • Người dùng chuyên sâu và doanh nghiệp nhỏ có thể cân nhắc mẫu chạy bằng bàn đạp mạnh hơn
  • Với các quy trình tác tử phức tạp và quy trình doanh nghiệp, công ty đang thúc đẩy hợp tác với phòng gym và studio thể hình

Dự báo hôm nay: không mây

  • CrankGPT chỉ chạy trên thiết bị nên dữ liệu của người dùng vẫn ở lại với người dùng
  • Đưa ra thông điệp về quyền riêng tư rằng không cần giao cho các tập đoàn lớn những câu hỏi nóng bỏng nhất, suy nghĩ nội tâm hay các ý tưởng ứng dụng kỳ quặc

Giành lại điện năng

  • Nhắc đến các công ty công nghệ xây nhà máy điện khí cho AI, bài viết đưa ra hướng đi để chính người dùng tự sản xuất token
  • CrankGPT tạo token bằng cách đốt calo thay vì đốt dầu

Có nên mua thêm một siêu xe cho CEO công nghệ?

  • Nói rằng không cần hỏi ChatGPT cũng biết câu trả lời là “không”, và rằng các CEO công nghệ đã có quá nhiều tiền và ảnh hưởng
  • Cho rằng người dùng đã nghiện token đến mức trả nhiều tiền hơn chi phí tạo ra chúng, và quảng bá CrankGPT như cách vừa chuyển sang off-grid vừa cắt giảm chi phí
  • Nhấn mạnh thông điệp kinh tế rằng tiền sẽ không chảy vào túi các CEO công nghệ

Looksmaxxing hay tokenmaxxing… sao không làm cả hai?

  • Nêu vấn đề rằng khi bận rộn làm việc, con người dễ bỏ bê việc chăm sóc bản thân
  • Nếu tự sản xuất token bằng CrankGPT thì càng làm việc chăm chỉ càng phải vận động nhiều hơn

Không cần cloud/Claude

  • Dù không có Wi‑Fi, Claude gặp sự cố, mất điện luân phiên hay thậm chí nền văn minh kết thúc, CrankGPT vẫn được nói là có thể cung cấp trí tuệ cần thiết
  • Tự nhận mình không phải prepper, nhưng cũng nói rằng có CrankGPT thì bạn sẽ ở trong trạng thái sẵn sàng
  • Có thể yêu cầu bản demo qua liên kết Request a demo

Bài viết liên quan

1 bình luận

 
GN⁺ 11 giờ trước
Ý kiến trên Hacker News

  • Trang web được liên kết là một ví dụ điển hình của những thứ mà người ta thật sự nên ngừng làm trong thiết kế web
    May là liên kết "technical documentation" ở dưới cùng (https://squeezlabs.github.io/handcrank/) tốt hơn nhiều, và cũng có nhiều thông tin thú vị hơn. Đặc biệt là có vẻ có những model chạy tạm ổn trên Pi 5
    Tôi chỉ ước họ để người ta đọc nội dung bằng thanh cuộn hoạt động bình thường. Đừng biến nó thành một kiểu slideshow kỳ quặc mà chẳng biết khi nào slide tiếp theo sẽ hiện ra, và mấy cái nút trông như liên kết cung cấp thêm thông tin thì cũng nên cho bấm trực tiếp mà không cần JavaScript

    • Tại sao dân kỹ thuật không hiểu rằng đa số im lặng chúng tôi yêu thích việc chặn cuộn trang đến thế nào chứ
      Tôi còn chẳng nhớ lần cuối mình dùng thanh cuộn để di chuyển trên một trang web là khi nào, nhưng dùng nó để nhảy qua lại giữa các keyframe JavaScript giật cục thì đúng là niềm vui tràn ngập
    • Chọn hình thức thay vì chức năng đã là dấu hiệu của thiết kế tệ từ thời Flash, và có AI cũng không khiến truyền thống đó sớm thay đổi được
    • Tôi đồng ý là kiểu thiết kế web này rất dở. Nó đã phổ biến hơn cả chục năm rồi, và tôi còn nhớ Apple từng bị chỉ trích vì dùng kiểu này trên trang sản phẩm Mac Pro hình thùng rác hồi 2013
      Nhưng ở đây thì có vẻ họ cố tình làm vậy để phục vụ trò đùa. Cũng như thiết bị này phải quay tay, muốn tới được nội dung thì bạn cũng phải “quay” bánh xe cuộn. Tôi thấy cũng vui đấy
    • Rất hợp làm đạo cụ trong một tập Black Mirror về việc dùng AI trong thế giới hậu tận thế. Đi đâu cũng chỉ nghe tiếng brrrrr..brrr..brrrr rồi người ta lẩm bẩm phía sau
    • Gọi đây là thiết kế web thì có phần quá ưu ái rồi. Theo đúng mục đích của nó, đây gần như chỉ là một tờ rơi marketing màu mè

  • Máy chèo thuyền mới mà người yêu tôi mua có đơn vị thể hiện cường độ tập là "watts", thế là tôi chợt tự hỏi liệu có máy chèo thuyền nào sạc pin chậm chậm được không, và phải chèo bao lâu thì mới khiến một chiếc M5 Max MacBook đời mới xịn sò trả lời prompt cho mình
    Tóm lại, CrankGPT, tôi chính là tệp khách hàng mục tiêu của các anh. Nếu không trả lời yêu cầu demo của tôi, tôi sẽ quay bàn phím để viết đánh giá xấu lên mạng. Hoặc tôi sẽ chèo một cái máy chèo thuyền cấp điện cho LLM để nó viết hộ. Khoan đã...

    • Nhân tiện, đây là video cho thấy công suất đạp xe 700W trông như thế nào: https://www.youtube.com/watch?v=S4O5voOCqAQ
    • Trong giới đạp xe, chuyện watt do power meter hiển thị giúp ước lượng nỗ lực và lượng calo tiêu hao chính xác hơn gần như là kiến thức phổ thông. Nhịp tim thì phản ánh nhiều yếu tố như stress hay lượng caffeine nạp vào, nên gần với mức gắng sức chủ quan hơn
      Cũng thú vị là ngành này dùng watt cho tốc độ tạo ra công hữu ích, còn calo cho tổng công bao gồm cả phần kém hiệu quả. Dù calo rốt cuộc cũng chỉ là một đơn vị năng lượng. Trong đạp xe, ngoài việc đổi đơn vị ra, người ta thường áp dụng kinh nghiệm nhân con số “calo” lên 4 để phản ánh phần năng lượng cơ thể đã dùng nhưng không chuyển thành chuyển động của bàn đạp. Máy chèo thuyền chắc cũng sẽ có hệ số chuyển đổi tương tự nếu muốn tính calo
    • Bạn có thể mua moay-ơ dynamo cho bánh trước xe đạp: https://bikepacking.com/plan/dynamo-hubs-lighting-charging-g...
      Nhưng ở tốc độ bình thường thì nó chỉ cho khoảng 3W, và để giữ cùng tốc độ bạn phải đạp thêm chừng 5~7W. Chỉ vừa đủ sạc nhỏ giọt cho một chiếc điện thoại đời mới
    • Máy chèo thuyền Concept2 có thể tự vận hành bằng lượng điện tạo ra từ chính việc chèo, nên một phần nào đó thì chuyện này đã khả thi rồi
    • Làm đơn vị cho cường độ tập luyện thì thực ra watt là đơn vị duy nhất có ý nghĩa

  • Chỉ với hai quả trứng bác và một cốc cà phê, người ta cũng có thể tư duy bậc cao trong khoảng 6 tiếng
    Điều cần thiết là một thứ gì đó giúp bạn không bị lạc khỏi ngữ cảnh. /bắt đầu tra xem trung tâm dữ liệu dùng bao nhiêu năng lượng nếu quy ra số trứng bác. Google xem trên thế giới có bao nhiêu con gà.../

    • AI khá hữu ích với chuyện lạc ngữ cảnh, hay kiểu thiếu chú ý đó. Giờ tôi chỉ việc ném liên tiếp các câu hỏi vào một prompt lớn, AI sẽ tự làm tìm kiếm liên quan và gom tài liệu rồi nhả ra rất nhanh, nên một lúc gãi đúng được nhiều cơn tò mò
      Vấn đề là sau đó lại nảy ra thêm câu hỏi, nhưng AI xử lý vẫn nhanh hơn tốc độ tôi nghĩ ra hay gõ câu hỏi. Nên nhìn chung vẫn là có lợi
    • Việc bạn có thể biến chuyện này thành một ngày làm việc là vì có ai đó đang cày ruộng để trồng thức ăn, và trong quá trình đó họ đang đốt năng lượng nhiên liệu đã được tích trữ
      Đáng tiếc là con người không hiệu quả đến thế. Con số 150kcal/6h=600kcal/day nói ở trên là không đủ, và để tạo ra rồi vận chuyển 600kcal đó về tới nhà cũng cần nhiều hơn 600kcal năng lượng
      Thêm nữa, con người vẫn cứ tồn tại liên tục, nên những phép tính kiểu “ChatGPT dùng X kW nên tốt hơn thuê thêm một người” là không đứng vững. Con người không phải kiểu tồn tại mà khi không dùng đến thì sẽ ngừng đốt nhiên liệu, còn việc dùng LLM là phần năng lượng bổ sung phải sản xuất thêm trong phạm vi ngân sách CO2

  • Câu kiểu “các công ty công nghệ đã âm thầm từ bỏ cam kết khí hậu để xây nhà máy điện khí cấp điện cho AI mà họ yêu thích” lại được chèn lên một ảnh nền có cả ống khói khí đốt lẫn tháp giải nhiệt nhà máy điện hạt nhân trên cùng một cánh đồng
    Nó như một cảnh cho thấy rất rõ dòng lập luận phản AI kiểu này. Tổng thể tạo cảm giác rối rắm và luống cuống
    Năng lượng xanh về mặt kỹ thuật đã được giải quyết rồi, thế giờ lại muốn quay về lao động thủ công như nguồn điện à? Buồn cười thật

    • Tháp giải nhiệt không chỉ có ở nhà máy điện hạt nhân. Ví dụ còn có nhà máy nhiệt điện than ở Ba Lan: [https://en.wikipedia.org/wiki/Coal-fired_power_station#/medi...](https://en.wikipedia.org/wiki/Coal-fired_power_station#/media/File:Be%C5%82chat%C3%B3w_Elektrownia.jpg)
      Nói kỹ hơn một chút, nếu đốt dầu hoặc khí trong tuabin thì không cần tháp giải nhiệt, vì nhiệt thải sẽ theo khí xả đi vào khí quyển. Còn nếu dùng nhiên liệu hóa thạch hoặc hạt nhân để tạo hơi nước chạy tuabin hơi, thì hoặc bạn cần một con sông có lưu lượng đủ lớn để xả nhiệt mà không làm cá bị nấu chín, hoặc cần tháp giải nhiệt để đưa nhiệt ra không khí

  • Giờ là thời đại mà không thể phân biệt đây là châm biếm hay là sản phẩm thật của tương lai

    • Nếu bấm “Is this real?” thì hiện ra một video demo khá thuyết phục. Dạo này đúng là rất khó phán đoán
    • Đã nhận đầu tư 100 triệu đô. /s

  • Chắc là không được phép chê website, nên thay vào đó để một liên kết mang lại trải nghiệm đọc tốt hơn nhiều: https://squeezlabs.github.io/handcrank/
    Nó xuất phát từ liên kết "technical documentation" ở cuối trang đó

    • Tôi đã bỏ cuộc giữa chừng ở trang đó rồi qua đây đọc bình luận. Giờ tôi không chịu nổi kiểu này nữa

  • Tôi khá thích ý tưởng thiết kế với ràng buộc là phải có thể vận hành bằng tay quay
    Không chỉ là một bài toán kỹ thuật thú vị, mà còn có thể dẫn đến góc nhìn bền vững hơn và hiệu quả hơn

    • Hoặc là... nghe này... cũng có cách xây thêm nhà máy điện. Lập luận giảm tăng trưởng nếu đẩy đến cùng thì sẽ dẫn tới kiểm soát dân số, khá là tà ác
    • Có một ví dụ tương tự là trang web chạy bằng năng lượng mặt trời: https://solar.lowtechmagazine.com/about/the-solar-website/
    • Thực tế thì nó không bền vững hơn. Năng lượng cần để trồng thực phẩm nhằm bù lại lượng calo tiêu hao khi quay tay cầm còn lớn hơn năng lượng cần để làm cùng việc đó bằng động cơ điện hay động cơ máy
    • Sẽ hay nếu có một router có thể cấp nguồn bằng tay quay. Có vẻ sẽ là cách tốt để giảm nghiện Internet

  • Máy chơi game cầm tay Playdate thật sự rất hợp với mấy thứ này. Có lần tôi chán quá nên đã làm một bộ điều khiển từ xa Claude Code cho Playdate
    Nhận dạng giọng nói được xử lý bằng parrot + handy.computer. Về cơ bản tôi gán các tổ hợp phím khác nhau cho các hành động khác nhau, ví dụ như giữ A rồi nói, quay crank chậm để điều hướng, quay crank thật nhanh để gửi prompt
    Cuối cùng nó thành điều khiển đa năng cho các máy tính trong nhà. Tôi dùng một file YAML chứa các binding từ UI Playdate sang sự kiện trợ năng, và điều khiển phim bằng crank khá vui
    Tôi cũng có thể chia sẻ mã nguồn. Nếu thực sự có ích thì cứ nói
    Với lại có vẻ tác giả và tôi có sở thích giống nhau. Vài năm trước tôi suýt giành được một giải có thể bán lại trên eBay với https://meat-gpt.sonnet.io. Nhưng thua một phòng trưng bày sandwich 3D

    • Tôi rất muốn thật sự thích Playdate, nhưng nó là một món đồ chơi đắt đến khó tin và cấu hình thấp. Dù vậy, cái crank ban đầu trông như trò đùa lại kỳ lạ là rất hay, và tôi muốn khu Retro Arcade cho trẻ em cũng có một cái
    • Tôi cũng có một cái, nhưng chưa từng nghĩ tới việc dùng nó ngoài chơi game. Muốn xem bạn đã làm như thế nào

  • Khó mà nói chuyện này mà không mỉa mai, nhưng chẳng phải đã có truyện, tập phim TV hay phim điện ảnh nào nói về ý tưởng dùng cơ thể con người để cấp điện cho trí tuệ máy móc rồi sao
    Nghe quá lộ liễu, nhưng có những ngày thật khó phân biệt đâu là trò đùa, đâu là đề xuất nghiêm túc

  • Có đoạn nói rằng “phần chậm nhất khi khởi động voice agent là [...] việc dlopen các shared library lớn, đặc biệt là ONNX Runtime, và việc Python lần theo import graph rồi thực hiện hàng trăm lượt đọc ngẫu nhiên nhỏ từ thẻ SD”
    Liệu có thể khắc phục bằng cách sắp xếp các tệp trên filesystem theo đúng thứ tự chúng được đọc không? Hoặc import module Python từ một file zip không nén, như vậy sẽ dễ lưu chúng theo thứ tự cần thiết hơn và có thể nhanh hơn
    Hình như trước đây Windows từng có tính năng như thế. Kiểu tự động sắp xếp lại dữ liệu trên đĩa theo thứ tự được đọc khi hệ thống khởi động