AI server cho doanh nghiệp, công việc và gia đình: AI riêng không cần cloud

AI server riêng có nghĩa là mô hình ngôn ngữ chạy trên phần cứng của bạn và dữ liệu doanh nghiệp không đi đâu cả. Bạn không trả tiền theo token hay thuê bao cho từng người dùng, có thể thử các mô hình mở mới ngay khi chúng ra mắt, và dần dần mở rộng server bằng thêm card đồ họa. Nếu chỉ vài người dùng để viết e-mail thông thường, thuê bao cloud sẽ rẻ hơn. Server đáng đầu tư ở nơi dữ liệu không được phép ra ngoài, nơi AI xử lý khối lượng tài liệu lớn hoặc nơi bạn muốn tích hợp AI vào hệ thống của riêng mình.

Tóm tắt

• Mô hình cục bộ không gửi gì lên cloud – hợp đồng, dữ liệu khách hàng và mã nguồn đều ở lại trong doanh nghiệp.
• Với 20 người, cloud tốn khoảng 8.700–13.000 Kč mỗi tháng chỉ riêng cho giấy phép cơ bản. Server riêng là khoản đầu tư một lần cộng tiền điện.
• Mô hình nào chạy được chủ yếu phụ thuộc vào bộ nhớ đồ họa (VRAM): 32 GB đủ cho mô hình khoảng 30 tỷ tham số, 96–128 GB cho mô hình khoảng 120 tỷ.
• Bạn có thể bắt đầu với một card và mở rộng server sau. Chúng tôi lắp ráp cấu hình từ khoảng 110 nghìn Kč cho đến các server trị giá hàng triệu.

Vì sao doanh nghiệp muốn AI không cần cloud

Nhân viên dán vào chatbot hợp đồng, báo giá, bảng tính chứa dữ liệu khách hàng và cả mã nguồn. Theo phân tích của Check Point từ mùa thu 2025, cứ 54 truy vấn gửi tới các công cụ AI công cộng thì có một truy vấn mang nguy cơ cao rò rỉ dữ liệu nhạy cảm, và điều này liên quan đến 91 % tổ chức được theo dõi.

Theo GDPR, doanh nghiệp sử dụng công cụ AI chịu trách nhiệm về việc xử lý dữ liệu cá nhân trong công cụ đó. Doanh nghiệp phải biết dữ liệu đi đâu, và khi chuyển ra ngoài EU phải có cơ sở pháp lý. Khung pháp lý chuyển dữ liệu sang Mỹ (EU–US Data Privacy Framework) tuy đã đứng vững trước Tòa án Tổng quát EU, nhưng quyết định này đã bị kháng cáo và tình trạng thiếu chắc chắn về pháp lý vẫn tiếp diễn.

Các phiên bản doanh nghiệp của dịch vụ cloud có cơ chế bảo vệ: theo điều khoản của mình, ChatGPT Business, Claude Team và Microsoft 365 Copilot không huấn luyện trên dữ liệu doanh nghiệp. Tuy vậy, dữ liệu vẫn được một công ty bên ngoài xử lý trên server của họ. Mô hình cục bộ là lựa chọn duy nhất mà văn bản hoàn toàn không rời khỏi mạng của bạn.

Lưu ý một điều: năm 2025, chính phủ Séc đã cấm sản phẩm DeepSeek trong cơ quan nhà nước và Quân đội ČR đã cảnh báo về các chatbot cloud của Trung Quốc vì chúng lưu dữ liệu tại Trung Quốc. Điều này liên quan đến dịch vụ cloud. Mô hình mở dạng tải về chạy tại chỗ của bạn mà không kết nối tới server của họ – dù vậy, hãy chọn mô hình có giấy phép rõ ràng và nguồn gốc đã được xác minh.

AI trên cloud tốn bao nhiêu

Giá chưa gồm VAT theo bảng giá của nhà cung cấp tại ngày 25/10/2026, quy đổi theo tỷ giá ČNB 21,74 Kč/USD. Nếu bạn tích hợp AI vào ứng dụng riêng qua API, bạn trả tiền cho mỗi triệu token – với các mô hình mạnh là 2–10 USD cho đầu vào và 10–50 USD cho đầu ra. Khi tự động xử lý hàng nghìn tài liệu mỗi tháng, hóa đơn tăng lên rất nhanh.

AI server riêng làm được gì

• Chat doanh nghiệp theo kiểu ChatGPT cho cả nhóm – ví dụ Open WebUI với tài khoản người dùng, chỉ chạy trong mạng của bạn.
• Chat trên tài liệu doanh nghiệp (RAG) – mô hình trả lời dựa trên quy định, hợp đồng, hướng dẫn sử dụng hoặc e-mail của bạn và trích dẫn nguồn.
• Trợ lý cho lập trình viên – gợi ý mã trong VS Code hoặc JetBrains (Continue) mà không gửi mã ra ngoài.
• Chép lời cuộc họp và cuộc gọi – mô hình Whisper xử lý được cả tiếng Séc, cuộc họp không cần tải lên server bên ngoài.
• Hình ảnh, video và rendering – tạo hình ảnh (ComfyUI), Blender, DaVinci Resolve.
• Tự động hóa – ứng dụng riêng gọi mô hình qua API giống như với cloud, chỉ là không mất phí theo token.
• Thử nghiệm – mô hình mở mới (Qwen, Gemma, Mistral, gpt-oss, DeepSeek…) bạn có thể tải về và thử ngay trong ngày.

Bạn cần bao nhiêu VRAM: server nào cho mô hình nào

Toàn bộ mô hình (kể cả ngữ cảnh) phải nằm trong bộ nhớ đồ họa. Quy tắc ước lượng: mô hình nén xuống 4 bit cần khoảng 0,6 GB cho mỗi tỷ tham số, cộng thêm bộ nhớ cho ngữ cảnh.

Tốc độ theo các bài kiểm tra công khai năm 2026, thay đổi theo phiên bản mô hình và phần mềm. Để dễ hình dung: 30 token mỗi giây nhanh hơn tốc độ bạn đọc kịp.

AI server cho doanh nghiệp, cho công việc hay cho gia đình

Cho doanh nghiệp

Server đặt trong phòng máy chủ hoặc tại trung tâm dữ liệu của chúng tôi, chat cho cả nhóm, kết nối với tài liệu và hệ thống nội bộ. Với 10–50 người, thường 2–4 card và mô hình khoảng 30–120 tỷ tham số là đủ. Khi có nhiều người dùng đồng thời hơn, người ta triển khai vLLM để sắp xếp các truy vấn một cách hiệu quả.

Cho công việc – dành cho lập trình viên, nhà phân tích, người làm sáng tạo

Máy trạm với một hoặc hai card đặt dưới bàn. Trợ lý viết mã, chép lời, tạo hình ảnh và thử các mô hình mới. Ngày nay một chiếc RTX 5090 xử lý được những mô hình mà một năm trước chỉ dành cho server.

Cho gia đình

Dành cho người đam mê và doanh nghiệp nhỏ: chat cục bộ không gửi truy vấn của bạn đi đâu, tạo hình ảnh, chơi game và thêm hiệu năng cho các dự án khác. Hãy tính đến tiếng ồn và nhiệt – một card có công suất 575 W tỏa nhiệt như một máy sưởi nhỏ.

Khi nào server riêng đáng đầu tư và khi nào không

Thẳng thắn mà nói: nếu nhóm của bạn chỉ thỉnh thoảng dùng AI để viết văn bản, thuê bao 20 USD mỗi người sẽ rẻ hơn server. Server riêng có ý nghĩa khi ít nhất một trong các điều sau đúng:

• Dữ liệu không được ra ngoài – y tế, pháp lý, kế toán, phát triển phần mềm, bí mật kinh doanh, dữ liệu cá nhân của khách hàng.
• Bạn xử lý khối lượng lớn – hàng nghìn tài liệu, chép lời hàng giờ ghi âm, trả lời tự động. Một nghiên cứu học thuật năm 2025 cho thấy với triển khai nhỏ dùng một RTX 5090, thời gian hoàn vốn so với API trả phí chỉ tính bằng tháng.
• Bạn muốn thử nghiệm – thử các mô hình, tinh chỉnh chúng trên dữ liệu riêng (fine-tuning), xây dựng ứng dụng riêng.
• Bạn dùng server theo nhiều cách – AI vào ban ngày, rendering hoặc huấn luyện vào ban đêm.

Hãy tính cả chi phí phát sinh. Server 4 card tiêu thụ khoảng 2,7 kW khi tải tối đa – với 8 giờ mỗi ngày và 22 ngày làm việc, đó là khoảng 475 kWh và 2.600 Kč mỗi tháng chưa gồm VAT. Server cũng cần quản trị: theo các khảo sát nước ngoài, việc cập nhật mô hình và driver mất 10–20 giờ mỗi tháng nếu nhà cung cấp không đảm nhận.

Còn về chất lượng: các mô hình mở tốt nhất trung bình đi sau các mô hình cloud hàng đầu khoảng bốn tháng phát triển. Tuy nhiên những mô hình mạnh nhất có hàng trăm tỷ tham số và cần server lớn. Trên một card sẽ chạy mô hình nhỏ hơn – thường là đủ cho việc tóm tắt, trả lời từ tài liệu hoặc viết mã.

Cách bắt đầu với chi phí thấp và mở rộng dần

1. Bắt đầu với một card và mô hình khoảng 30 tỷ tham số. Bạn sẽ thử được AI phù hợp với doanh nghiệp đến đâu.
2. Chọn nền tảng có dư địa – bo mạch chủ và bộ xử lý có đủ khe PCIe, nguồn có dư công suất và vỏ máy hoặc khung cho các card bổ sung.
3. Thêm card khi cần – mỗi RTX 5090 bổ sung thêm 32 GB bộ nhớ. Chia mô hình trên nhiều card sẽ giảm tốc độ một chút, nhưng cho phép chạy mô hình lớn hơn.
4. Khi phát triển, hãy cân nhắc card chuyên nghiệp với 96 GB (RTX PRO 6000) hoặc card server – ít card hơn, nhiều bộ nhớ hơn trên mỗi card.
5. Card cũ không mất giá trị – do thiếu hụt bộ nhớ năm 2026, card đồ họa được bán với giá cao hơn cả giá mua mới. Nhờ vậy việc nâng cấp giúp thu hồi một phần khoản đầu tư.

Quy trình làm việc tại chỗ chúng tôi

Chúng tôi lắp ráp AI server theo đơn đặt hàng tại Praha – từ máy trạm khoảng 110 nghìn Kč đến server trị giá hàng chục triệu. Trước tiên chúng tôi cùng bạn thống nhất những gì sẽ chạy trên server (mô hình, phần mềm, số người dùng), và dựa vào đó đề xuất cấu hình và ngân sách.

• Chúng tôi cài sẵn hệ điều hành, driver và phần mềm – bật lên là chạy.
• Mỗi server được chúng tôi thử nghiệm 72 giờ dưới tải tối đa trước khi bàn giao.
• Chúng tôi bàn giao server tại văn phòng của bạn, hoặc đặt nó tại trung tâm dữ liệu của chúng tôi – bạn không phải lo tiếng ồn và làm mát.
• Chúng tôi có sẵn linh kiện thay thế tại Praha, đảm bảo can thiệp kỹ thuật trong vòng 24/48 giờ.
• Khi server không xử lý tác vụ của bạn, các card đồ họa có thể đào tiền mã hóa.

Tiếp theo

• Xem các cấu hình mẫu và gửi yêu cầu: AI server cài sẵn theo yêu cầu.
• Cấu hình cụ thể kèm giá: AI và GPU server.
• AI server trông như thế nào, được làm mát ra sao và điều gì quyết định giá của chúng: AI server: làm mát và giá.
• Card đồ họa kiếm được bao nhiêu khi server không chạy AI: lợi nhuận của card đồ họa.
• Nên chọn card đồ họa nào cho AI cục bộ: GPU cho AI cục bộ: RTX 5090 hay RTX PRO 6000 Blackwell?

Nguồn tham khảo

• Seznam Zprávy: cứ 54 truy vấn thì một truy vấn làm lộ bí mật (27/10/2025)
• epravo.cz: sử dụng công cụ trí tuệ nhân tạo và GDPR (18/12/2025)
• WilmerHale: kháng cáo đối với EU–US Data Privacy Framework (1/12/2025)
• BusinessInfo.cz: AI doanh nghiệp không cần cloud (14/5/2026)
• ČT24: chính phủ cấm DeepSeek trong cơ quan nhà nước (9/7/2025)
• OpenAI: bảng giá ChatGPT Business · Claude: bảng giá · Microsoft 365 Copilot
• Hardware Corner: RTX 5090 và mô hình ngôn ngữ
• DatabaseMart: thử nghiệm RTX PRO 6000 trong Ollama (10/2026)
• arXiv 2509.18101: chi phí vận hành LLM cục bộ so với API
• Epoch AI: khoảng cách giữa mô hình mở và mô hình đóng (5/2026)
• ČNB: tỷ giá thị trường ngoại hối