01 / 09 AI CHẠY LOCAL · KHÔNG CẦN CLOUD 7 REPO CHẠY AI NGAY TRÊN MÁY BẠN

01 / 09 AI CHẠY LOCAL · KHÔNG CẦN CLOUD 7 REPO CHẠY AI NGAY TRÊN MÁY BẠN Không tốn tiền API, không phụ thuộc internet. Model chạy offline, dữ liệu không rời khỏi máy — riêng tư tuyệt đối. Vuốt xem 7 công cụ * TỔNG TÀI AI · @tongtaiai 02 / 09 DỄ NHẤT ĐỂ BẮT ĐẦU ollama Cài xong, gõ đúng một dòng lệnh là chạy được Llama, Mistral, Gemma và hàng trăm model khác. Cách nhanh nhất để có một model thật chạy trên laptop của bạn. Hợp với: người mới, muốn thử local AI trong 5 phút. [ollama/ollama] * TỔNG TÀI AI · @tongtaiai 03 / 09 CÓ MÁY GỐC CỦA LOCAL AI llama.cpp Viết bằng C/C++ thuần, chạy được model lớn trên phần cứng bình thường — từ MacBook cho tới cả Raspberry Pi. Đây là engine mà phần lớn công cụ khác đứng trên. Hợp với: người muốn hiểu tận gốc, hoặc máy cấu hình yếu. [ggml-org/llama.cpp] * TỔNG TÀI AI · @tongtaiai 04 / 09 GIAO DIỆN KIỂU CHATGPT open-webui Giao diện chat đẹp cho model chạy local: hỏi đáp, đọc tài liệu, RAG, nhiều người dùng — tất cả chạy offline hoàn toàn trên máy bạn. Hợp với: muốn có 'ChatGPT riêng' cho cả nhóm hoặc công ty. [open-webui/open-webui] * TỔNG TÀI AI · @tongtaiai 05 / 09 KHI CẦN CHẠY NGHIỆM TÚC vLLM Engine phục vụ model tốc độ cao, vắt kiệt từng token trên GPU. Sinh ra cho tải lớn ở môi trường production — nhiều người dùng cùng lúc. Hợp với: team cần serve model cho nhiều người, cần throughput. [vllm-project/vllm] * TỔNG TÀI AI · @tongtaiai 06 / 09 APP DESKTOP GỌN NHẸ jan Bản thay thế ChatGPT chạy offline dưới dạng app desktop sạch sẽ. Tải model về, mở lên là chat — không cần tài khoản, không cloud. Hội thoại không bao giờ rời khỏi máy. Hợp với: người thích app cài sẵn, ngại dùng dòng lệnh. [janhq/jan] * TỔNG TÀI AI · @tongtaiai 07 / 09 GỘP THIẾT BỊ THÀNH 1 CỤM exo Biến những thiết bị bạn đang có thành một cụm AI duy nhất. Nó chia nhỏ model lớn ra nhiều máy để cùng chạy mà một máy đơn không kham nổi. Hợp với: có nhiều máy (đặc biệt Mac) rảnh, muốn chạy model khổng lồ. [exo-explore/exo] * TỔNG TÀI AI · @tongtaiai 08 / 09 THAY THẾ API OPENAI LocalAI Bản thay thế cắm-là-chạy cho OpenAI API, chạy trên phần cứng của bạn. Trò app cũ vào là dùng được — không sửa code, không hóa đơn API. Hợp với: đã có app gọi OpenAI API, muốn cắt chi phí hằng tháng. [mudler/LocalAI] * TỔNG TÀI AI · @tongtaiai 09 / 09 BẮT ĐẦU TỪ ĐÂU? Chọn 1 cái và cài ngay hôm nay Mới học → ollama hoặc jan. Muốn giao diện đẹp → open-webui. Chạy nghiệm túc cho cả team → vLLM hoặc LocalAI. → Lưu bài này lại Follow @tongtaiai Học làm chủ Claude từ con số 0 * TỔNG TÀI AI · @tongtaiai