跳到主要內容
Frank Chiu

徐享/享哥

AI應用規劃師

具有 10 年經驗在數位行銷與電商廣告領域,專精生成式AI應用與個人資料保護,致力於以獨特商業洞察與實戰案例研討,助力品牌突破成長瓶頸。

一台舊電腦能養 300 個 AI 機器人?Rakazo 自架與 AI 軍團實戰指南

最近看到有人分享,一台舊 EPYC 伺服器號稱可以養 150~300 個 AI 機器人,極限甚至能到 2,000 個。每個機器人也用不著各買一份月費訂閱。這到底是真的,還是唬爛?

我順著這個問題研究了開源專案 Rakazo。它讓你替不同 AI Agent 分配工作,並提供瀏覽器、終端機與檔案等操作環境。你可以讓某個 Agent 研究資料,另一個整理文件,再請第三個檢查成果。

能建立多少個 Agent、能同時跑多少件任務、每小時能交付多少件工作,是三個不同的問題。 先從這個差別看起,就知道一台舊電腦能做到哪裡。

一、Rakazo 是什麼?讓 AI Agent 有地方工作

Rakazo 是可自行託管的開源 AI Agent 平台,採用 Apache 2.0 授權。你可以依工作選擇模型和執行環境,再讓 Agent 搜尋資料、操作網頁、下載與整理檔案、執行指令或撰寫程式。串接服務後,也能呼叫 API、安排例行任務或委派工作。 Rakazo GitHub · Rakazo 繁體中文官網

你可以把一般聊天介面想成一位坐在對面給建議的顧問。Rakazo 比較像一間有電腦和工具的辦公室,Agent 除了回答問題,還可以打開瀏覽器、整理文件,把任務做完交回來。

自架時,Docker 是官方映像的預設電腦提供者。Rakazo 可以讓團隊共用一台電腦,也可以替特定機器人指派私有電腦。部署前先決定哪些任務需要獨立環境,因為這會直接影響容量估算。 Rakazo Docker 電腦說明

二、為什麼舊電腦也能養多個 AI Agent?

Agent 的工作環境和模型推論可以分開

假設你設了 10 個 Agent,分別負責市場研究、寫文章、做簡報、分析資料、開發、測試、專案管理、郵件、網站監控及報告。它們可以共用同一個雲端 LLM API。本機負責 Rakazo 的背景服務、資料庫、瀏覽器及工具程序,模型推論由服務商執行。

因此,沒有高階 GPU 的舊電腦也可以當 Agent 主機。能開多少個工作沙盒,則要看瀏覽器、工具、任務並行程度,以及模型服務的速率限制。 Rakazo 模型設定

Docker 把工作環境分開管理

舉例來說,新聞研究員需要 Chromium,開發工程師需要 Python 測試環境。若替兩者配置獨立容器,就能個別管理套件、工作目錄和資源上限,減少彼此干擾。Docker 容器共用主機核心,隔離程度仍取決於權限、掛載與網路設定。 Rakazo Docker 電腦說明

角色可以很多,工作可以排隊

100 個 Agent 裡,今天可能只有 10 個真的需要操作瀏覽器。如果工作可以排程、排隊,或按需求啟動沙盒,便能用有限的硬體管理更多角色。評估規模時,我會分開看這四個數字。

指標 要看的數字
Agent 數量 系統建立了多少個 AI 角色
沙盒數量 有多少獨立執行環境,當下又有多少正在運作
任務並行數 同一時間有多少任務在執行
任務吞吐量 每小時實際完成多少件符合驗收條件的工作

如果 300 個角色一天只交付 10 件成果,我會先量測工作的等待時間和失敗原因,再決定需不需要擴充。

三、512 GB 的 EPYC 伺服器真的能跑 2,000 個機器人嗎?

我看到的分享提到一台 AMD EPYC 主機,規格為 196 執行緒及 512 GB DDR4 RDIMM,宣稱平常能執行 150~300 個機器人,極限可達 2,000 個。我目前沒有找到對應的測試方法、任務種類或並行紀錄。Rakazo 公開的效能文件測量的是桌面用戶端,使用模擬沙盒和預設腳本。 Rakazo 效能測試文件

我們可以先做一個記憶體估算。假設主機有 512 GiB RAM,先保留 32 GiB 給作業系統、資料庫和背景服務,並以 1 GiB 等於 1,024 MiB 計算。

每個沙盒假設占用 480 GiB 可容納的理論數量
2 GiB 240
1.5 GiB 320
1 GiB 480
512 MiB 960
256 MiB 1,920

這張表只做除法,適合拿來試算記憶體配額。256 MiB 對完整 Chromium 桌面通常很吃緊,尤其在大量分頁或重度 JavaScript 的情境。Rakazo 文件列出的預設 Docker 電腦上限是 2 GB 記憶體與 2 CPU 的運算配額,上限與實際使用量還要分開量。 Rakazo Docker 資源與容量說明

如果 2,000 個 Agent 同時操作重度網頁,CPU、記憶體、磁碟 I/O、網路及 LLM API 都可能先碰到瓶頸。讀到這類分享時,我會先問它數的是已建立的角色、閒置的執行環境,還是實際完成的並行任務。

四、一般電腦要從幾個工作沙盒開始?

可以從手邊的設備開始。下表是規劃第一輪測試的起點,假設模型推論在外部執行,主機也保留作業系統與資料庫的空間。每一組都要用自己的工作負載重新量測。

電腦規格 建議起步配置
4 核心、8 GB RAM 1~2 個工作沙盒
8 核心、16 GB RAM 2~5 個工作沙盒
8~16 核心、32 GB RAM 5~10 個工作沙盒
16 核心以上、64 GB RAM 10~20 個工作沙盒
512 GB RAM 伺服器 依代表性負載逐步測試

呼叫 API、處理短文字或跑輕量腳本,通常比同時開 Chromium、跑 Playwright 或建置大型程式省資源。若本機還兼跑 LLM,請把模型占用和推論速度一起納入評估。

五、如何用 Linux 主機自架 Rakazo?

步驟 1:檢查主機與 Docker

可用 Ubuntu Server 等 Linux 主機起步。官方穩定映像需要 Docker Engine 26 以上、Docker Compose 外掛、curl 和 OpenSSL,模型可在建立帳號後連接。第一次驗證可先從 8~12 GB RAM 的測試主機與一個工作沙盒開始。 Rakazo 自架文件 · Docker Engine 安裝文件

1
2
3
4
5
6
uname -m
free -h
nproc
df -h
docker --version
docker compose version

步驟 2:依部署目的選擇映像或原始碼

單純自架可用官方已發布的穩定映像,支援 amd64 和 arm64。先把安裝器下載到新建的資料夾,閱讀內容,並核對本次使用的版本、Compose 檔、映像來源、掛載及對外連接埠。 Rakazo 自架文件

1
2
3
4
mkdir rakazo
cd rakazo
curl -fsSLO https://raw.githubusercontent.com/elie222/rakazo/main/infra/compose/install-images.sh
less install-images.sh

確認安裝器後,可先用準備模式取得設定檔。安裝器會寫入本機設定並在正式啟動時拉取映像、啟動服務。請依官方文件核對版本標籤、模型設定及資料磁碟,然後再啟動。自行託管的基本服務包括 PostgreSQL、API、背景 worker、網頁及沙盒管理服務。 Rakazo 自架文件

1
2
3
bash install-images.sh --prepare-only
# 確認 Compose 與本機設定後再啟動
bash install-images.sh

想改 Rakazo 程式碼,再走 Git checkout 開發流程,並依 README 準備 Node.js、pnpm、資料庫與開發環境。 Rakazo 原始碼開發說明

步驟 3:登入、連接模型並建立第一個 Agent

在主機開啟 http://127.0.0.1:5173,建立帳號、連接模型,再開啟第一個機器人的電腦檢查桌面。需要讓團隊連線時,依正式部署文件配置 HTTPS 與存取範圍。 Rakazo 自架文件 · 正式部署說明

我會先建一個「AI 技術研究員」,給它一個公開的 GitHub 專案網址,要求它完成一份可驗收的報告。

1
2
3
4
5
6
7
你是一位 AI 技術研究員,專門研究 AI Agent、開源工具與自動化技術。

收到 GitHub 專案網址後,分析用途、核心功能、架構、安裝需求、
成本、優缺點及適合的使用情境。

請把官方文件記載、原始碼可核對的行為,以及你的推測清楚標示。
以繁體中文交付報告,附上來源與三個可以實際測試的應用案例。

步驟 4:從 1、3、5、10 個 Agent 逐步測試

先用 1 個 Agent 完成任務,再用 3 個檢查工作環境是否符合分工。接著用 5 個測排程和資源使用,最後用 10 個執行一組相同的代表性任務,比較吞吐量是否提升。

1
docker stats

每輪都記錄 CPU、記憶體與網路使用情形,以及排隊時間、完成時間、成功率、重試次數和 API 成本。當增加並行數只讓重試變多、交付變慢,就先調查瓶頸。

六、讓 AI 軍團長帶著其他 Agent 分工

假設我對 AI 軍團長說:「幫我研究這週最值得分享的 AI 新技術,挑三個題目,寫成粉專文章,再產出短影音腳本。」

我會把任務拆成這樣。

角色 交付內容
情報研究員 技術題目、官方資料與 GitHub 來源
內容策略師 適合讀者的三個題目和切入角度
社群編輯 三篇粉專貼文草稿
短影音導演 依題目選用 15、30 或 60 秒,交付腳本
品質審核員 核對事實、來源及腳本是否符合需求
AI 軍團長 收任務、派工、追蹤並彙整成果交付

Rakazo 有機器人彼此委派工作的機制。工作流本身仍要定義輸入、交付格式和審核條件,例如要求技術數字附上來源,社群草稿等使用者確認後再發布。 Rakazo 機器人委派文件

七、為什麼我不建議讓所有 Agent 每小時醒來?

20 個 Agent 每小時檢查一次,一天有 480 次觸發,一週就有 3,360 次。如果大部分檢查都沒有工作,而每次檢查又會啟動模型,空跑一樣會消耗 Token 和系統資源。

我會讓情報員每天早上執行一次。找到題目就建立研究任務,研究完成再交給編輯,編輯完成才通知審核員。最後由軍團長彙整,交給我確認。這樣每次觸發都對應一件需要交接的工作。

Rakazo 官網列出排程、Webhook 和 GitHub 事件等觸發方式。跨多個系統的流程可以依實際支援的介面接外部佇列或工作流工具。 Rakazo 觸發方式

八、自架 AI 軍團要花多少錢?

成本項目 怎麼估
Rakazo 軟體 依開源授權自行部署
電腦硬體 用既有設備可省下額外採購,仍須衡量容量
電力與維護 納入長期耗電、備份、更新和維護時間
LLM 推論 雲端 API 依服務計費,本地模型則占用主機或 GPU
遠端沙盒 若選雲端沙盒,另外計入提供者的運算費

假設 100 個 Agent 每個每天平均用 10 萬 Token,合計每天 1,000 萬 Token,30 天就是 3 億 Token。實際費用要看輸入和輸出比例、快取命中率、模型價格及免費額度。

我的起步策略是讓低成本模型跑簡單任務,複雜研究交給能力較強的模型,程式開發再依需求選擇 Coding Agent。追蹤「每件成功交付花多少錢」,會比只看單次模型呼叫更貼近帳單。

九、Rakazo、Grok Bot、Claude Code、Codex 和 n8n 怎麼分工?

工具 在工作流程中的定位
Rakazo 自行託管多個 Agent,管理模型連線與電腦工作環境
Grok Bot 提供電腦操作能力的 AI Agent 服務
Claude Code 程式開發及工程自動化
Codex 開發、測試及其他工程任務
n8n 串接應用程式、觸發事件與自動化工作流程

例如,由 Rakazo 提供電腦環境,外部工作流負責排程,再透過各工具支援的 API、CLI 或對接介面交付程式開發任務。實作時要先確認身分驗證、資料格式和成果回傳方式。 Rakazo GitHub · Claude Code 文件 · Codex 文件 · n8n 文件

十、我會先打造一支 8 人 AI 小隊

AI 角色 工作內容
AI 軍團長 派工、追蹤、彙整
AI 情報員 蒐集最新技術
技術研究員 分析 GitHub 專案與文件
內容總編輯 撰寫文章與貼文
影片導演 設計腳本與分鏡
開發工程師 開發與測試程式
商機開發員 研究潛在客戶
品質審核員 驗證成果與來源

我會先用三條真實的工作流程試跑。

  1. AI 技術情報。蒐集新聞、查技術來源、整理成可送審的內容。
  2. 短影音製作。從選題、腳本、分鏡到提示詞和素材清單,讓不同角色接力完成。
  3. 軟體開發。由軍團長接收需求,工程師實作,再交給測試與審核角色驗證功能。

每條流程先從一個清楚的交付物開始。連續跑幾次之後,再看哪一段最花時間、哪一段最常返工,決定要加角色、調整分工,還是把同類工作排隊。

十一、先當個能帶好 5 位 AI 員工的班長

從聊天視窗到能操作電腦的 Agent,最大的變化是我可以把一段工作交出去。進入多 Agent 協作之後,我的時間會放在設計流程、訂目標、派工和驗收。這些決定會影響團隊每天到底能交付什麼。

所以,看完 300 個、2,000 個的規模,我更想問的是「我的 AI 軍團,一天到底能幫我完成多少有價值的工作?」

有一台舊電腦的話,可以找一件每週都會做的研究或資料整理工作,先讓一個 Agent 做完,再慢慢加上編輯和審核。先當個能帶好 5 位 AI 員工的班長,也很不錯!😂

常見問答 (FAQ)

Q1:一台舊電腦真的可以同時跑 300 個 Rakazo Agent 嗎?

要看其中多少個 Agent 同時執行任務、開了多少工作沙盒、每個沙盒使用的 CPU 和記憶體,以及模型 API 的速率限制。先用同類任務測出穩定的成功率與每小時吞吐量,再評估能否擴到數百個角色。

Q2:自架 Rakazo 一定要有 GPU 嗎?

把模型推論交給雲端 API 時,可先用沒有專用 GPU 的一般 Linux 主機。此時主機主要承擔資料庫、背景服務與沙盒。如果要在同機執行本地模型,再依模型大小、量化、記憶體和期望的推論速度選硬體。

Q3:Rakazo 開源,自架之後還要付費嗎?

Rakazo 提供 Apache 2.0 授權的自架軟體。模型 API、付費遠端沙盒、主機電力與維護都有各自的成本。建議把模型用量、任務成功率和每件工作總成本一起記下來。

參考資源

相關文章

AI 影片白模、灰模、藍模有什麼差別?用 Blender、Seedance 與 Kling 控制人物動作
AI 影片白模、灰模、藍模有什麼差別?用 Blender、Seedance 與 Kling 控制人物動作
AI工具 影音行銷

2026/11/21

2027 年 AI 會消滅短影音操盤手?內容產業重新定價後,真正值錢的是什麼?
2027 年 AI 會消滅短影音操盤手?內容產業重新定價後,真正值錢的是什麼?
商業策略 AI自動化 影音行銷

2026/11/21

ChatGPT Accounting 外掛教學:用 Excel 對帳、整理發票與準備月結報表
ChatGPT Accounting 外掛教學:用 Excel 對帳、整理發票與準備月結報表
AI工具 ChatGPT AI自動化

2026/11/20

不用買三台 Mac,也能打造 24×7 AI Agent 工作站!Herdr × Claude Code × Tailscale 完整實戰教學
不用買三台 Mac,也能打造 24×7 AI Agent 工作站!Herdr × Claude Code × Tailscale 完整實戰教學
AI工具 AI自動化 Vibe Coding

2026/11/14

AI 影片運鏡提示詞教學:12 種鏡頭技巧,讓畫面更有電影感
AI 影片運鏡提示詞教學:12 種鏡頭技巧,讓畫面更有電影感
AI工具 內容行銷 影音行銷

2026/11/13

如果一支短影音一年只賺 100 元,你還願意做嗎?AI 時代真正值錢的是內容資產
如果一支短影音一年只賺 100 元,你還願意做嗎?AI 時代真正值錢的是內容資產
AI自動化 內容行銷 影音行銷

2026/11/12

AI 一天能做 5 台機甲?從白模、法線貼圖到骨架綁定,搞懂 AI 3D 建模的完整流程
AI 一天能做 5 台機甲?從白模、法線貼圖到骨架綁定,搞懂 AI 3D 建模的完整流程
AI工具 AI自動化 Vibe Coding

2026/11/12

不用再開一堆 AI 視窗!Grok Bot + Herdr 跨電腦 AI Agent 團隊教學
不用再開一堆 AI 視窗!Grok Bot + Herdr 跨電腦 AI Agent 團隊教學
AI自動化 AI Agent Vibe Coding

2026/11/12

Obsidian 執行長公開自己的第二大腦!免費下載 GitHub 範本,打造你的 AI 知識管理系統
Obsidian 執行長公開自己的第二大腦!免費下載 GitHub 範本,打造你的 AI 知識管理系統
AI工具 AI自動化 Codex

2026/11/11