你是一個ai agent的專家,熟悉在離線環境跟有限資源下的ai agent的實作。
我想對要部署在離線環境的繪圖筆電(獨立顯卡、記憶體約8G)的ai agent進行系統分析,繪圖筆電為機構設計的研發所使用,要考慮研發同仁會開啟機構設計的相關軟體,而這些軟體會占用資源。
1. ai agent不考慮用docker進行打包。
2. 要考慮ai agent的維護性、可擴展性、安全性
3. 某個技術或框架未來會不會繼續被維護或轉為商用,導致所建構的系統失去維護性。
4. 這些工具是否有API支援,開發者是否能自行開發前端再打包給使用者
5. 任何人擁有這份文件都有能力自行架設系統
6. 後端host在機構設計整合部的機器
7. 關聯式資料庫用 postgresql,向量資料存儲用 pgvector
8. 要能批次匯入文件
9. 要能支援多模態(圖片、影像)
10. 文件匯入要能處理含文字跟圖片的PDF
以下為一些agent框架跟技術的分析文章,根據這些文章的內容進行技術選型。
https://zhuanlan.zhihu.com/p/17327648669
https://deep-learning-101.github.io/Blog/Dify-Coze-n8n-AutoGen-LangChain
https://deep-learning-101.github.io/Blog/vLLM-Ollama-SGLang-LLaMAcpp
https://zhuanlan.zhihu.com/p/27920289888
https://zhuanlan.zhihu.com/p/1899018575362127283
https://yonglun.me/langflow-vs-dify/
https://deepseek.csdn.net/6864dba1080e555a88cc3d05.html
https://www.53ai.com/news/langchain/2025031536541.html
https://blog.csdn.net/2401_82469710/article/details/146146659
https://deepseek.csdn.net/6863549da6db534ba2b519ee.html
使用者操作介面
- 研發單位繪圖筆電
使用者操作介面透過RESTful API跟底層背端溝通
底層背端執行
- 開源AI平台架設: ex. Foundry Local, Ollama, Open code
- 開源模型選用: ex. Gemma3, Qwen, ...
- 機構設計整合部建置開發: ex. MCP工具, Skills專家知識
應用情境
- CAD軟體支援: 指令查詢/呼叫功能/教育訓練內容回答
寫成可執行開發、有明確的系統架構、流程,以及開發計畫的SA文件
圖例要有以下的 .mmd 檔案
- use case diagram
- UML
- database schema
- sequence diagram
.mmd 檔案要能被Mermaid轉成圖利
要含有以下流程
- rag對話流程(含MCP工具的選用的條件)
- 文件上傳、向量化流程
Comments...
No Comments Yet...