GitHub專案評估報告

2026-03-26

# GitHub AI Agent 專案評估報告

> 對照 MEC-AI 系統 SA 文件架構，評估 21 個 GitHub 專案的可行性

---

## 一、SA 文件架構摘要

| 面向 | 技術選型 |

|------|----------|

| 後端框架 | FastAPI (Python 3.11) |

| Agent 框架 | LangGraph / LangChain |

| 本地推論 | llama.cpp server (GGUF, Qwen2.5-VL 7B) |

| 向量資料庫 | PostgreSQL 16 + pgvector (遠端伺服器) |

| 對話資料庫 | SQLite (本機) |

| 前端 | React / Vite / TypeScript |

| 協定 | MCP (SSE)、langchain-mcp-adapters |

| 部署 | 完全離線內網、Windows 11、USB 安裝媒體 |

| 使用者場景 | CAD 知識問答、文件 RAG、MCP 工具呼叫、多模態影像分析 |

**核心需求**：離線運作、中文支援、多模態 (Qwen2.5-VL)、MCP 工具整合、RAG 管線、Windows 原生執行

---

## 二、評估標準 (11 項)

| # | 標準 | 說明 |

|---|------|------|

| C1 | 不透過 Docker 部署 | Docker 為最後手段，優先原生執行 |

| C2 | Windows 原生支援 | 必須在 Windows 11 上直接執行 |

| C3 | llama.cpp 支援 | 支援 GGUF 模型本地推論 |

| C4 | RAG / MCP / Skills | 具備 Agent 三大核心能力 |

| C5 | 低資源消耗 | 適合一般辦公筆電 |

| C6 | 公司 / 社群存續性 | 長期維護可靠度 |

| C7 | 商業化風險低 | 授權開放、無隱性限制 |

| C8 | 基礎 Agent 能力 | 檔案讀寫、Shell 執行 |

| C9 | 向量資料庫插件化 | 可替換向量資料庫後端 |

| C10 | Skills 插件擴展 | 支援自訂技能 / 工具擴展 |

| C11 | 無內建前端 UI | 或前端可移除，自己建構前端 |

---

## 三、專案分類與總覽

### A 類：個人 AI 助理平台 (Personal AI Assistant Platform)

以多通道訊息整合 + Agent + MCP + Skills 為核心架構，設計為「個人 AI 助理」。

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [OpenClaw](https://github.com/openclaw/openclaw) | TypeScript 88.7% | 336k | MIT | 數分鐘前 |

| [Nanobot (HKUDS)](https://github.com/HKUDS/nanobot) | Python 98.1% | 36.3k | MIT | 數小時前 |

| [NanoClaw](https://github.com/qwibitai/nanoclaw) | TypeScript 93.6% | 25.5k | MIT | 數小時前 |

| [PicoClaw](https://github.com/sipeed/picoclaw) | Go 89.2% | 26.2k | MIT | 數小時前 |

| [ZeroClaw](https://github.com/zeroclaw-labs/zeroclaw) | Rust 93.7% | 28.8k | MIT/Apache-2.0 | 數分鐘前 |

| [IronClaw](https://github.com/nearai/ironclaw) | Rust 90.5% | 10.9k | MIT/Apache-2.0 | 數小時前 |

### B 類：RAG 文件問答系統

以文件 RAG 為核心功能，提供文件上傳、向量搜尋、問答介面。

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [Kotaemon](https://github.com/Cinnamon/kotaemon) | Python 91.5% | 25.2k | Apache-2.0 | 3 週前 |

| [Quivr](https://github.com/QuivrHQ/quivr) | Python 99.3% | 39.1k | Apache-2.0 | 9 個月前 ⚠️ |

### C 類：全功能 AI 聊天平台

完整的聊天介面 + 多模型支援 + Agent + RAG，功能全面但較重。

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [AnythingLLM](https://github.com/mintplex-labs/anything-llm) | JavaScript 98.4% | 56.7k | MIT | 昨天 |

| [LibreChat](https://github.com/danny-avila/LibreChat) | TypeScript/JS | 35k | MIT | 數小時前 |

| [Onyx](https://github.com/onyx-dot-app/onyx) | Python 63.3% / TS 31% | 18k | MIT (CE) | 數小時前 |

| [Jan](https://github.com/janhq/jan) | TypeScript/Rust | 41.2k | Apache-2.0 | 數小時前 |

### D 類：視覺化 AI 工作流建構器

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [Langflow](https://github.com/langflow-ai/langflow) | Python/TypeScript | 146k | MIT | 數小時前 |

### E 類：程式碼助理 (Coding Assistant)

以程式碼撰寫 / 編輯為主要場景，非知識問答。

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [OpenCode](https://github.com/anomalyco/opencode) | TypeScript 55.9% | 130k | MIT | 數小時前 |

| [OpenWork](https://github.com/different-ai/openwork) | TypeScript 78.8% / Rust 6.8% | 12.5k | MIT | 數小時前 |

| [DeepAgents](https://github.com/langchain-ai/deepagents) | Python 99.4% | 17.5k | MIT | 數小時前 |

| [Cline](https://github.com/cline/cline) | TypeScript | 59.4k | Apache-2.0 | 數小時前 |

| [Aider](https://github.com/paul-gauthier/aider) | Python | 42.4k | Apache-2.0 | 數小時前 |

### F 類：LLM 執行環境 / 管理工具

| 專案 | 語言 | Stars | 授權 | 最近活躍 |

|------|------|-------|------|----------|

| [GPT4All](https://github.com/nomic-ai/gpt4all) | C++/QML/Python | 77.2k | MIT | 10 個月前 ⚠️ |

| [LM Studio CLI](https://github.com/lmstudio-ai/lms) | TypeScript | 4.4k | MIT | — |

### G 類：低程式碼平台 (不相關)

| 專案 | 語言 | Stars | 授權 | 說明 |

|------|------|-------|------|------|

| [Budibase](https://github.com/Budibase/budibase) | TypeScript/Svelte | 27.8k | GPL v3 | CRUD/Workflow 平台，與 AI Agent 無關 |

---

## 四、各分類 11 標準評估

### A 類：個人 AI 助理平台 — 詳細評估

#### OpenClaw

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ⚠️ | 支援 npm 全域安裝，Windows 需 WSL2 |

| C2 Windows | ⚠️ | 官方強烈建議 WSL2，非原生 Windows |

| C3 llama.cpp | ❌ | 不內建本地推論，需外接 OpenAI-compatible API |

| C4 RAG/MCP/Skills | ✅ | MCP 完整支援、Skills 平台、但無內建 RAG |

| C5 低資源 | ❌ | Node.js 運行時 >1GB RAM |

| C6 存續性 | ✅ | OpenAI 贊助、336k stars、1319 contributors、極活躍 |

| C7 商業化風險 | ✅ | MIT 授權 |

| C8 基礎Agent | ✅ | 完整 shell/file/browser 工具 |

| C9 向量DB插件 | ❌ | 無向量資料庫功能 |

| C10 Skills擴展 | ✅ | ClawHub 技能註冊表 + workspace skills |

| C11 無前端 | ⚠️ | 內建 WebChat + Control UI，可不使用 |

**總評**：功能最全面的個人助理框架，但對本案核心需求（離線 llama.cpp + RAG + Windows 原生）缺乏支援。依賴雲端 LLM API，無 RAG 管線，Windows 需 WSL2。**不適合直接替代 SA 架構。**

---

#### Nanobot (HKUDS)

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | pip install 即可，支援原生執行 |

| C2 Windows | ⚠️ | Python 跨平台但官方未明確聲明 Windows 支援 |

| C3 llama.cpp | ⚠️ | 支援 Ollama / vLLM / OpenAI-compatible endpoint，非直接 llama.cpp |

| C4 RAG/MCP/Skills | ⚠️ | MCP 完整支援、Skills、但無內建 RAG |

| C5 低資源 | ⚠️ | Python 運行時 >100MB RAM |

| C6 存續性 | ⚠️ | 港大學術專案、36.3k stars、1個月歷史、活躍 |

| C7 商業化風險 | ✅ | MIT 授權 |

| C8 基礎Agent | ✅ | shell exec / file read-write / Git 操作 |

| C9 向量DB插件 | ❌ | 無向量資料庫功能 |

| C10 Skills擴展 | ✅ | workspace skills 系統 |

| C11 無前端 | ✅ | CLI / Channel 架構，無 Web UI |

**總評**：極輕量的 Python 助理，安裝簡單。MCP 支援完整，但缺少 RAG 和向量資料庫。作為 OpenClaw 的精簡版，程式碼可讀性高、適合二次開發。**可作為 Agent 骨架參考，但需自行補齊 RAG 層。**

---

#### NanoClaw

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ⚠️ | Node.js 執行，但預設依賴 Docker/Apple Container 做 Agent 沙盒 |

| C2 Windows | ⚠️ | 明確聲明需 WSL2 |

| C3 llama.cpp | ❌ | 綁定 Anthropic Claude API (Claude Agent SDK) |

| C4 RAG/MCP/Skills | ⚠️ | Claude Code Skills 系統，無 MCP，無 RAG |

| C5 低資源 | ⚠️ | Node.js + Container 運行 |

| C6 存續性 | ⚠️ | 1 個月歷史、25.5k stars（快速增長），但專案極新 |

| C7 商業化風險 | ✅ | MIT 授權 |

| C8 基礎Agent | ✅ | Container 隔離執行 shell/file |

| C9 向量DB插件 | ❌ | 無 |

| C10 Skills擴展 | ⚠️ | Claude Code Skills（fork-based），非通用 Plugin |

| C11 無前端 | ✅ | 無 Web UI，純 Channel 架構 |

**總評**：設計理念獨特（小程式碼、容器隔離），但強制綁定 Claude API、需要 WSL2、無 RAG。**不適合離線場景。**

---

#### PicoClaw

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | 單一 Go 二進制檔，不依賴 Docker |

| C2 Windows | ✅ | 提供 Windows x86_64 預編譯二進制檔 |

| C3 llama.cpp | ⚠️ | 支援 Ollama / vLLM (OpenAI-compatible)，非直接 llama.cpp |

| C4 RAG/MCP/Skills | ⚠️ | MCP 原生支援、Skills (ClawHub)，無內建 RAG |

| C5 低資源 | ✅ | <10MB RAM，Go 二進制 |

| C6 存續性 | ✅ | Sipeed 公司 (硬體廠商) 支持，26.2k stars，活躍 |

| C7 商業化風險 | ✅ | MIT 授權 |

| C8 基礎Agent | ✅ | exec tool / file 操作 / web search |

| C9 向量DB插件 | ❌ | 無向量資料庫功能 |

| C10 Skills擴展 | ✅ | ClawHub skill registry |

| C11 無前端 | ⚠️ | 有 WebUI Launcher + TUI，可不使用 |

**總評**：極輕量、Windows 原生、資源消耗極低。MCP 支援完整。Go 語言適合邊緣設備。但缺少 RAG 和向量資料庫。**可作為 Agent runtime 基座，需自行整合 RAG 層。Go codebase 不如 Python 便於機器學習生態整合。**

---

#### ZeroClaw

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | 單一 Rust 二進制檔 |

| C2 Windows | ✅ | 提供 Windows x86_64 預編譯 + setup.bat |

| C3 llama.cpp | ❌ | 僅支援雲端 LLM API，無本地推論 |

| C4 RAG/MCP/Skills | ⚠️ | MCP 支援、Skills、memory recall/store，無向量 RAG |

| C5 低資源 | ✅ | <5MB RAM，極低資源 |

| C6 存續性 | ⚠️ | 學生/社群專案，28.8k stars，存在仿冒爭議 |

| C7 商業化風險 | ✅ | MIT + Apache-2.0 雙授權 |

| C8 基礎Agent | ✅ | shell / file / git / browser / web 工具 |

| C9 向量DB插件 | ❌ | 使用 SQLite 記憶，無向量搜尋 |

| C10 Skills擴展 | ✅ | workspace skills + security audit |

| C11 無前端 | ⚠️ | 有 Web Dashboard (React 19)，可不使用 |

**總評**：Rust 寫的極輕量助理，Windows 原生支援。但無本地 LLM 推論、無向量 RAG。Rust 生態對 ML/NLP 整合較困難。**不適合需要離線 llama.cpp + RAG 的場景。**

---

#### IronClaw

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ⚠️ | 支援原生執行，但需 PostgreSQL + pgvector |

| C2 Windows | ⚠️ | 提供 Windows 安裝器 / PowerShell 腳本，但需 WSL 或原生 PostgreSQL |

| C3 llama.cpp | ⚠️ | 支援 Ollama / OpenAI-compatible，非直接 llama.cpp |

| C4 RAG/MCP/Skills | ✅ | MCP、Skills、Hybrid Search (full-text + vector)、workspace memory |

| C5 低資源 | ⚠️ | Rust binary 輕量，但需 PostgreSQL |

| C6 存續性 | ⚠️ | NEAR AI 支持，10.9k stars，活躍 |

| C7 商業化風險 | ✅ | MIT + Apache-2.0 雙授權 |

| C8 基礎Agent | ✅ | shell / file / browser / WASM sandbox |

| C9 向量DB插件 | ✅ | PostgreSQL + pgvector (完全吻合 SA 架構) |

| C10 Skills擴展 | ✅ | WASM tool 插件系統 |

| C11 無前端 | ⚠️ | 有 Web Gateway UI，可不使用 |

**總評**：**A 類中最接近 SA 架構的專案。** 使用 PostgreSQL + pgvector (與 SA 完全一致)，有 hybrid search (全文 + 向量)，MCP 完整支援，WASM 沙盒安全性設計優秀。但 Rust 語言讓二次開發門檻較高，且需要自行整合 llama.cpp。**值得深度評估。**

---

### B 類：RAG 文件問答系統 — 詳細評估

#### Kotaemon ⭐ 推薦

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | pip install 即可 |

| C2 Windows | ✅ | Python 跨平台，官方有 Windows 使用說明 |

| C3 llama.cpp | ✅ | 支援 llama-cpp-python + Ollama |

| C4 RAG/MCP/Skills | ✅ | Hybrid RAG (全文+向量) + GraphRAG + MCP (3週前新增) + ReAct/ReWOO Agent |

| C5 低資源 | ⚠️ | Python + Gradio，中等資源 |

| C6 存續性 | ✅ | Cinnamon AI 公司支持，25.2k stars，活躍 |

| C7 商業化風險 | ✅ | Apache-2.0 授權 |

| C8 基礎Agent | ⚠️ | ReAct agent + tool use，但非通用 shell/file |

| C9 向量DB插件 | ✅ | 支援多種向量資料庫 |

| C10 Skills擴展 | ⚠️ | 可自訂 RAG pipeline，但無通用 skill 系統 |

| C11 無前端 | ❌ | 內建 Gradio UI（可作為參考但需替換） |

**總評**：**RAG 功能最接近 SA 架構的專案。** 支援 llama.cpp、hybrid RAG、GraphRAG、多模態文件解析、MCP 工具。Python 生態可與 LangChain 整合。主要限制是 Gradio UI 綁定，且 Agent 能力偏 RAG 專用（非通用 shell/file）。**RAG 管線可直接參考或提取。**

---

#### Quivr

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | pip install quivr-core |

| C2 Windows | ✅ | Python 跨平台 |

| C3 llama.cpp | ⚠️ | 支援 Ollama，非直接 llama.cpp |

| C4 RAG/MCP/Skills | ⚠️ | RAG 為核心，無 MCP，無 Skills |

| C5 低資源 | ✅ | Library 模式，輕量 |

| C6 存續性 | ⚠️ | YC 支持，但最後有意義的提交在 9 個月前 ⚠️ |

| C7 商業化風險 | ✅ | Apache-2.0 |

| C8 基礎Agent | ❌ | 僅 RAG，無 Agent 能力 |

| C9 向量DB插件 | ✅ | PGVector + FAISS |

| C10 Skills擴展 | ❌ | 無 |

| C11 無前端 | ✅ | Library 模式，無 UI |

**總評**：輕量 RAG Library，純後端無 UI。支援 PGVector (與 SA 一致)，但缺少 MCP 和 Agent 能力。專案疑似不再活躍。**僅 RAG 層可參考，不適合替代完整架構。**

---

### C 類：全功能 AI 聊天平台 — 詳細評估

#### AnythingLLM ⭐ 推薦

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | Desktop 版本為獨立安裝包 (Windows/Mac/Linux)，也支援 bare metal |

| C2 Windows | ✅ | 官方 Windows Desktop 安裝包 (.exe) |

| C3 llama.cpp | ✅ | 明確支援任何 llama.cpp-compatible model |

| C4 RAG/MCP/Skills | ✅ | RAG (內建) + MCP + Custom Agent + Skills (Intelligent Skill Selection) |

| C5 低資源 | ⚠️ | Node.js server，但 Desktop 版優化過 |

| C6 存續性 | ✅ | Mintplex Labs 公司、56.7k stars、205 contributors、活躍 |

| C7 商業化風險 | ⚠️ | MIT 授權，但有 Hosted 商業版 + Telemetry |

| C8 基礎Agent | ✅ | Agent workspace 含 web browsing 等能力 |

| C9 向量DB插件 | ✅ | 支援 10+ 向量 DB：LanceDB/PGVector/Pinecone/Chroma/Weaviate/Qdrant/Milvus/Zilliz |

| C10 Skills擴展 | ✅ | No-code Agent builder + Custom Agent + MCP |

| C11 無前端 | ❌ | 內建完整前端 (React)，但有 Developer API 可用 |

**總評**：**功能最全面、最接近可直接使用的方案。** llama.cpp 相容、PGVector 支援、MCP、RAG、Agent 全具備。Windows Desktop 版不需 Docker。主要問題是自帶完整 UI（需評估能否僅用 API）、Node.js 基底（非 Python）、有 telemetry。**強烈建議評估其 API 模式是否能與自建前端整合。**

---

#### LibreChat

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ⚠️ | 預設 Docker 部署，非 Docker 安裝複雜 |

| C2 Windows | ⚠️ | Docker Compose 部署，原生 Windows 安裝不透明 |

| C3 llama.cpp | ⚠️ | 支援 Custom Endpoints (OpenAI-compatible) |

| C4 RAG/MCP/Skills | ✅ | RAG (rag_api) + MCP + Agent + Code Interpreter |

| C5 低資源 | ❌ | MongoDB + 多服務，資源需求高 |

| C6 存續性 | ✅ | 35k stars，非常活躍 |

| C7 商業化風險 | ✅ | MIT 授權 |

| C8 基礎Agent | ✅ | Agent + Code Interpreter |

| C9 向量DB插件 | ⚠️ | RAG 模組獨立，向量 DB 配置不透明 |

| C10 Skills擴展 | ⚠️ | MCP 擴展，無獨立 Skills 系統 |

| C11 無前端 | ❌ | ChatGPT 風格完整 UI |

**總評**：功能豐富的 ChatGPT 克隆，但 Docker 優先、MongoDB 依賴、資源需求高。**不適合離線 Windows 原生部署。**

---

#### Onyx

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ❌ | 部署方式為 Docker/K8s/Terraform |

| C2 Windows | ❌ | 需 Docker 環境 |

| C3 llama.cpp | ⚠️ | 支援 Ollama/vLLM |

| C4 RAG/MCP/Skills | ✅ | 企業級 RAG + MCP + Deep Research + 40+ Connectors |

| C5 低資源 | ❌ | 多容器微服務架構 |

| C6 存續性 | ✅ | 企業產品，18k stars |

| C7 商業化風險 | ⚠️ | MIT (CE) + Enterprise Edition 雙授權 |

| C8 基礎Agent | ✅ | Code Interpreter + Actions |

| C9 向量DB插件 | ✅ | 企業級向量搜尋 + Knowledge Graph |

| C10 Skills擴展 | ⚠️ | MCP + Connectors |

| C11 無前端 | ❌ | 完整 Next.js Chat UI |

**總評**：企業級 AI 平台，功能最強大但也最重。強制 Docker、微服務架構。**不適合離線單機部署。**

---

#### Jan

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | Desktop 安裝包 |

| C2 Windows | ✅ | 官方 Windows 安裝包 |

| C3 llama.cpp | ✅ | 內建 llama.cpp 推論引擎 |

| C4 RAG/MCP/Skills | ⚠️ | MCP 整合、Extension 系統，RAG 功能基本 |

| C5 低資源 | ⚠️ | Tauri (Rust) 桌面應用 |

| C6 存續性 | ✅ | HomebrewAI 公司支持，41.2k stars，極活躍 |

| C7 商業化風險 | ✅ | Apache-2.0 |

| C8 基礎Agent | ⚠️ | Custom Assistants，但 Agent 能力有限 |

| C9 向量DB插件 | ❌ | 無向量資料庫插件系統 |

| C10 Skills擴展 | ⚠️ | Extension 系統，但非通用 Agent skills |

| C11 無前端 | ❌ | Tauri 桌面 UI 為核心 |

**總評**：優秀的本地 LLM 桌面應用，llama.cpp 整合最好。但定位為 ChatGPT 替代品，Agent 和 RAG 能力不足。**可作為 llama.cpp 推論前端參考，不適合替代 SA 完整架構。**

---

### D 類：視覺化工作流建構器

#### Langflow

| 標準 | 評分 | 說明 |

|------|------|------|

| C1 不用Docker | ✅ | pip install langflow |

| C2 Windows | ✅ | Python 跨平台 + Desktop 版 |

| C3 llama.cpp | ⚠️ | 可整合任何 LLM，包括 Ollama |

| C4 RAG/MCP/Skills | ✅ | 視覺化 RAG Pipeline + MCP Server 部署 + Multi-Agent |

| C5 低資源 | ❌ | 重量級 Python + React 應用 |

| C6 存續性 | ✅ | DataStax (Cassandra 母公司) 支持，146k stars |

| C7 商業化風險 | ⚠️ | MIT 但背後是 DataStax 商業策略 |

| C8 基礎Agent | ✅ | 透過 Component 實現 |

| C9 向量DB插件 | ✅ | 支援所有主流向量 DB |

| C10 Skills擴展 | ✅ | Visual Component + Code 組件 |

| C11 無前端 | ❌ | 視覺化 UI 為核心 |

**總評**：最強大的視覺化 AI 工作流建構器，功能極為豐富。「過重」是主要問題，且 UI 是其核心特色無法移除。**可用於快速原型驗證，但不適合作為生產部署架構。**

---

### E 類：程式碼助理 — 簡要評估

| 專案 | 評估 | 結論 |

|------|------|------|

| **OpenCode** | 130k stars，開源 coding agent，TUI/桌面應用。支援多 LLM。TypeScript 基底。專注程式碼編寫。 | ❌ **完全不同的使用場景 (coding)，無 RAG/知識問答能力** |

| **OpenWork** | Claude Cowork 替代品，Tauri 桌面應用。Skills manager。需 OpenCode CLI。 | ❌ **Coding workflow 工具，非知識助理** |

| **DeepAgents** | LangChain 官方 agent harness。Python、LangGraph 原生。MCP 透過 langchain-mcp-adapters。Planning + filesystem + sub-agents。 | ⚠️ **架構與 SA 相似 (LangGraph 基底)，但專注 coding。SDK 部分可參考** |

| **Cline** | VS Code 擴展，自動程式碼編寫。MCP 支援。 | ❌ **VS Code 擴展，非獨立後端** |

| **Aider** | 終端 AI pair programming。Git 整合。 | ❌ **Coding 工具，無 RAG/MCP** |

---

### F 類 / G 類 — 簡要評估

| 專案 | 結論 |

|------|------|

| **GPT4All** | 曾是優秀的本地 LLM 桌面應用，但已 10 個月未更新。有基本 RAG (LocalDocs)。❌ **專案可能已停滯** |

| **LM Studio CLI** | LM Studio 桌面應用的 CLI 工具，非獨立框架。❌ **不是框架** |

| **Budibase** | CRUD 低程式碼平台，與 AI Agent 完全無關。❌ **類別不符** |

---

## 五、可行性替代方案排名

### 取代 SA 完整架構（後端 + Agent + RAG + MCP）的可行性

| 排名 | 專案 | 可行性 | 核心優勢 | 核心劣勢 |

|------|------|--------|----------|----------|

| 🥇 1 | **AnythingLLM** | ★★★★☆ | llama.cpp 原生支援、PGVector、MCP、RAG 全具備、Windows Desktop | JavaScript/Node.js 非 Python；自帶 UI 需評估 API 模式；有 telemetry |

| 🥈 2 | **Kotaemon** | ★★★★☆ | llama.cpp-python 支援、Hybrid RAG + GraphRAG、MCP (新增)、Python 生態 | 偏 RAG 工具非通用 Agent；Gradio UI 綁定；Agent 能力有限 |

| 🥉 3 | **IronClaw** | ★★★☆☆ | pgvector、Hybrid Search、MCP、WASM 沙盒安全、Rust 高效能 | Rust 二次開發門檻高；無內建 llama.cpp；需 PostgreSQL |

| 4 | **Nanobot** | ★★★☆☆ | Python、MCP 完整、Skills、輕量、可讀性高 | 無 RAG；無向量 DB；Ollama 間接 llama.cpp |

| 5 | **PicoClaw** | ★★★☆☆ | Go 單二進制、Windows 原生、極低資源、MCP | 無 RAG；Go 語言 ML 生態弱；需整合 RAG 層 |

| 6 | **DeepAgents** | ★★★☆☆ | LangGraph 原生 (與 SA 一致)、Python、MCP | 專注 coding；無顯式 RAG；需大量改造 |

| 7 | **Jan** | ★★☆☆☆ | llama.cpp 最佳整合、Windows Desktop、MCP | 桌面 UI 綁定；Agent/RAG 能力弱 |

| 8 | **Langflow** | ★★☆☆☆ | 視覺化工作流、全向量 DB 支援、MCP | 過重；UI 為核心；不適合嵌入式部署 |

---

## 六、建議策略

### 策略一：保留 SA 架構自建（推薦 ✅）

SA 文件的架構 (FastAPI + LangGraph + llama.cpp + pgvector) 已是最適合需求的技術組合。上述所有專案都無法**完整**覆蓋 SA 的所有需求（離線 + Windows 原生 + llama.cpp + RAG + MCP + pgvector + 自建前端）。

**建議**：維持 SA 架構，參考以下專案的特定模組：

| 參考來源 | 參考內容 |

|----------|----------|

| Kotaemon | RAG Pipeline 設計 (Hybrid Search, GraphRAG, 多模態解析) |

| AnythingLLM | llama.cpp 整合模式、向量 DB 插件化設計 |

| Nanobot | MCP 整合方式、Skills 系統設計 |

| DeepAgents | LangGraph agent loop、sub-agent 編排 |

### 策略二：以 AnythingLLM 為基底擴展

若團隊接受 JavaScript/Node.js 技術棧：

- 使用 AnythingLLM Desktop 作為基底

- 利用其 Developer API 與自建 React 前端整合

- 可免去大量 RAG + Agent + llama.cpp 的基礎建設工作

**風險**：JavaScript 非團隊核心技術棧 (SA 為 Python)、Mintplex Labs 商業化策略不透明、離線環境 npm 依賴管理複雜。

### 策略三：以 Kotaemon RAG + 自建 Agent 層

- 使用 Kotaemon 的 RAG Pipeline 引擎（提取其 Python 模組）

- 自建 FastAPI + LangGraph Agent 層

- 整合 llama.cpp + MCP

**優勢**：Python 生態一致、RAG 功能最強、可選擇性提取模組。

---

## 七、風險提醒

1. **Claw 生態系爆發現象**：OpenClaw/NanoClaw/PicoClaw/ZeroClaw/IronClaw 等多個 fork 在過去 1-2 個月內爆發式增長，多數專案歷史 < 2 個月。長期存續性存疑。

2. **依賴雲端 API**：A 類個人助理平台幾乎都依賴雲端 LLM API (OpenAI/Anthropic/OpenRouter)，與 SA 的完全離線需求衝突。

3. **Windows 支援虛實**：多數專案聲稱「跨平台」，但實際 Windows 支援多需 WSL2 或有已知問題。

4. **RAG 缺口**：A 類助理平台幾乎都**不含** RAG 向量搜尋功能，這是與 SA 架構最大的差距。

5. **授權風險**：Budibase (GPL v3) 和 Onyx (Enterprise Edition) 有使用限制，其餘均為 MIT/Apache-2.0。

---

*產出日期：2026-03-26*

*評估專案數：21 個*

*推薦保留 SA 架構自建，選擇性參考各專案最強模組*

核心結論：

沒有任何一個專案能完整替代 SA 架構 — SA 的組合 (離線 + Windows 原生 + llama.cpp + RAG + MCP + pgvector + 自建前端) 非常特化，現有開源專案都有明顯缺口。

最接近的兩個專案：

AnythingLLM (🥇) — llama.cpp、PGVector、MCP、RAG、Windows Desktop 全具備，但為 JavaScript/Node.js 非 Python

Kotaemon (🥈) — Python 生態、llama.cpp-python、Hybrid RAG + GraphRAG、MCP（近期新增），但偏 RAG 工具而非通用 Agent

建議策略：維持 SA 架構自建，選擇性參考各專案的強項模組：

Kotaemon → RAG Pipeline 設計

AnythingLLM → llama.cpp 整合 + 向量 DB 插件化

Nanobot → MCP 整合 + Skills 系統

DeepAgents → LangGraph agent loop

主要風險：Claw 系列專案（OpenClaw/NanoClaw/PicoClaw/ZeroClaw/IronClaw）雖然 stars 極高但多數不到 2 個月歷史，長期存續性存疑；A 類助理平台幾乎都缺少 RAG 向量搜尋。

Claude Opus 4.6 • 3x

你是一個ai agent的專家，熟悉企業本地端ai agent的所需架構與實作

AI_Agent系統_SA文件.md 為初步的架構

以下列出跟ai agent相關的專案連結，依照專案在架構上的不同進行分類，依照各個分類評估取代 AI_Agent系統_SA文件.md 中架構(後端或後端 + MCP 或其他架構組合) 的可行性，列出評估報告
考慮的點
1. docker部署需要為安裝者另外開通權限，為最後考慮的手段
2. 支援 windows
3. 支援 llama.cpp
4. 有RAG、MCP、SKILLS等AGENT功能
5. 所需資源少(低資源消耗、小模型)
6. 考慮候選方案的公司存續性
7. 考慮專案未來是否會商用化而增加維護成本
8. 專案已有基本的 agent 能力(例如: 讀檔案, 寫入檔案, 執行shell指令等能力)
9. 支援或方便用 plugin 等方式加入向量資料庫
10. 方便用 plugin 等方式加入 skills 等額外功能
11. 盡量不要有前端UI，因為我們要自己做

https://github.com/Budibase/budibase
https://github.com/lmstudio-ai/lms
https://github.com/nomic-ai/gpt4all
https://github.com/janhq/jan
https://github.com/langflow-ai/langflow
https://github.com/danny-avila/LibreChat
https://github.com/openclaw/openclaw
https://github.com/HKUDS/nanobot
https://github.com/qwibitai/nanoclaw
https://github.com/sipeed/picoclaw
https://github.com/nearai/ironclaw
https://github.com/zeroclaw-labs/zeroclaw
https://github.com/different-ai/openwork
https://github.com/cline/cline
https://github.com/Aider-AI/aider
https://github.com/Cinnamon/kotaemon
https://github.com/QuivrHQ/quivr
https://github.com/langchain-ai/deepagents
https://github.com/onyx-dot-app/onyx
https://github.com/anomalyco/opencode
https://github.com/mintplex-labs/anything-llm

Comments...

No Comments Yet...

Add Comment...

A graduated biotechnology engineer. Now is a software engineer

Latest Posts

AI_Agent系統_SA文件_v4

2026-03-27
20260327

2026-03-27
GitHub專案評估報告 1

2026-03-26

Categories

Footer with Icons