Nếu muốn chạy một AI Agent như Hermes, bạn có thể cài trên máy tính cá nhân, thuê VPS hoặc dùng một thiết bị chuyên dụng như Hermes AI Box. Vậy lựa chọn nào hợp lý hơn?
Thực ra, khi bắt đầu làm Hermes AI Box, mục tiêu của tôi không chỉ là tạo ra một thiết bị chạy AI Agent. Tôi còn muốn phổ biến SBC (Single Board Computer) tới nhiều người hơn, để những chiếc máy tính mini vốn thường chỉ dành cho dân kỹ thuật trở thành sản phẩm phổ thông mà ai cũng có thể sử dụng. Do đó tôi dựa trên một suy nghĩ khá đơn giản: nhiều người muốn có một AI Agent riêng để làm việc mỗi ngày, nhưng không muốn mất cả buổi, thậm chí vài ngày để cài đặt, cấu hình rồi xử lý lỗi.
Vì vậy, Hermes AI Box được đóng gói sẵn trên Orange Pi 5, với CPU 8 lõi, RAM 4GB và SSD 128GB. Nhận máy về, kết nối nguồn và Internet là có thể bắt đầu sử dụng, thay vì phải tự dựng toàn bộ môi trường từ đầu.
Còn nếu so sánh với những lựa chọn khác thì sao?
- So với thuê VPS
VPS có ưu điểm là dễ nâng cấp cấu hình, có thể truy cập từ Internet và không cần đặt máy tại nhà. Nếu bạn quen quản trị Linux, muốn triển khai nhiều dịch vụ hoặc cần tài nguyên lớn thì VPS rất hợp lý.
Nhưng VPS cũng có chi phí thuê định kỳ. Bạn cần lựa chọn cấu hình, tự cài đặt và quản lý môi trường nếu không sử dụng dịch vụ đã được cấu hình sẵn. Với những người chỉ muốn có một Hermes Agent chạy thường xuyên để hỗ trợ công việc, đôi khi phần triển khai và vận hành lại là rào cản lớn nhất.
Hermes AI Box đi theo hướng ngược lại: mua thiết bị một lần, đặt tại nhà hoặc văn phòng, có sẵn hệ thống để sử dụng, vẫn có thể truy cập qua Internet. Không phải thuê máy chủ riêng chỉ để duy trì môi trường chạy agent.
- So với máy tính cá nhân
Nếu đã có một chiếc PC mạnh và luôn bật, bạn hoàn toàn có thể chạy Hermes trên đó. Hiệu suất xử lý tác vụ cục bộ có thể cao hơn Hermes AI Box rất nhiều, đặc biệt với PC có CPU mạnh, RAM lớn hoặc GPU.
Nhưng máy tính cá nhân thường phục vụ nhiều công việc khác. Khi tắt máy, khởi động lại hoặc sử dụng tài nguyên cho tác vụ khác, các dịch vụ chạy nền cũng có thể bị ảnh hưởng. Hơn nữa, dùng một thiết bị riêng giúp tách môi trường AI Agent khỏi máy tính làm việc hằng ngày, nơi lưu giữ thông tin cá nhân, gọn gàng hơn và dễ duy trì hoạt động liên tục.
Hermes AI Box sử dụng Orange Pi 5, với mức tiêu thụ điện khoảng 10W trong điều kiện vận hành thông thường. Trong khi đó, một máy tính cá nhân có mức tiêu thụ 300–600W khi hoạt động ở mức tải tương ứng sẽ tốn điện hơn rất nhiều.
Thử tính với việc chạy liên tục 24/7 trong một năm:
- Hermes AI Box ở mức 10W tiêu thụ khoảng 87,6 kWh điện.
- Máy tính ở mức 300W tiêu thụ khoảng 2.628 kWh.
- Máy tính ở mức 600W tiêu thụ khoảng 5.256 kWh.
Tức là có thể tiết kiệm khoảng 2.540–5.168 kWh điện mỗi năm nếu so sánh ở các mức công suất trên.
- Về hiệu suất và chi phí AI
Đây là điểm cần nói rõ: Hermes AI Box không phải máy chạy các mô hình ngôn ngữ lớn trực tiếp trên thiết bị. Phần cứng Orange Pi 5 đảm nhiệm việc chạy Hermes, công cụ, workflow và các dịch vụ đi kèm; phần suy luận AI có thể sử dụng API của những nhà cung cấp như OpenAI, Claude hay Gemini.
Vì vậy, tốc độ trả lời còn phụ thuộc vào model, nhà cung cấp API, mạng Internet và độ phức tạp của tác vụ. Hermes AI Box không tự động làm model trả lời nhanh hơn VPS hay PC cấu hình cao.
Về chi phí, bạn trả tiền thiết bị ban đầu, sau đó có thể sử dụng API key hoặc cấu hình phù hợp với cách vận hành của mình. Chi phí model vẫn cần tính riêng theo dịch vụ hoặc gói bạn sử dụng. Điểm tiết kiệm nằm ở việc không phải trả tiền thuê một VPS liên tục chỉ để duy trì môi trường agent, chứ không phải miễn phí toàn bộ chi phí AI.
- Về trải nghiệm sử dụng
Đây mới là phần tôi muốn tập trung nhất.
Hermes AI Box được chuẩn bị sẵn môi trường để bạn không phải bắt đầu từ một máy Linux trống. Bạn có thể truy cập Hermes qua WebUI, CLI hoặc Telegram, quản lý file, sử dụng terminal và mở rộng công cụ theo nhu cầu. Thay vì dành thời gian dựng hệ thống, bạn có thể tập trung vào việc giao cho AI Agent những công việc thực tế.
Bạn vẫn có quyền quản lý và tùy biến thiết bị của mình, chứ không bị giới hạn trong một chatbot đóng gói sẵn. Khi muốn mở rộng, có thể tiếp tục cài thêm công cụ và xây dựng workflow theo nhu cầu. Với Orange Pi 5 bạn hoàn toàn có thể cài thêm trên đó các công cụ như Home Assistant, PiHole, AdGuard, Media Server, v.v. và đương nhiên bạn có thể yêu cầu Hermes Agent cài cho bạn.
Tôi tin rằng trong tương lai, AI Agent sẽ không chỉ là một website để thỉnh thoảng chúng ta mở lên hỏi vài câu. Nó sẽ là một trợ lý riêng, hoạt động thường xuyên, hiểu công việc của mình và giúp xử lý những việc lặp đi lặp lại mỗi ngày. Mỗi người một AI Agent. Và một chiếc SBC nhỏ gọn có thể là nơi bắt đầu cho điều đó.
Còn nếu bạn muốn có một thiết bị riêng, nhỏ gọn, chạy Hermes thường xuyên và giảm tối đa công sức cài đặt ban đầu, thì đó chính là lý do Hermes AI Box ra đời.
Thông tin chi tiết: https://hermesaibox.com/
Tôi muốn biến việc sử dụng AI Agent thành thứ mà mọi người có thể bắt đầu dễ dàng hơn, thay vì phải giỏi Linux hay DevOps mới có thể tự triển khai một hệ thống cho riêng mình. Nếu bạn cũng quan tâm đến AI Agent, SBC và cách đưa AI vào công việc thực tế, rất mong được trao đổi thêm!
liked this
