AI Agent Hub(可译为“AI代理中心”或“人工智能代理平台”)
基于Docker的、支持MCP的、由RAG驱动的助手,配备流式API、实验追踪功能以及注重生产环境的React用户界面。
🚀 概述
AI Agent Hub是一个 可投入生产的AI助手平台 这展示了现代代理系统的管道技术、检索增强生成(RAG)、可观测性以及云原生部署。
关键亮点:
- MCP(模型上下文协议): 自定义工具服务器 + 可选客户端适配器。
- 生产级堆栈: Docker Compose,FastAPI(SSE流式传输),React + Vite UI,MLflow跟踪,CI/CD部署到Google Cloud Run。
这个项目的设计旨在展示 多服务编排——这正是现代人工智能工程领域招聘经理所看重的。
🛠️ 技术栈
- LLM Ollama(注:Ollama是一个开源的机器学习框架,用于训练和部署机器学习模型,此处直接保留原名,不进行意译) +
llama3.1:8b - 代理协议: MCP(Multi-Channel Polling,多通道轮询) (服务器 + 可选的客户端适配层)
- RAG框架: LangChain 或者自定义轻量级代码
- API FastAPI + 用于流式传输令牌的SSE(服务器发送事件)
- 前端: React + Vite(TypeScript)
- 可观测性: MLflow 用于实验追踪与评估
- 容器: Docker + Docker Compose
- 云部署: Google Cloud Run(免费版)+ 可选Qdrant Cloud + Cloudflare Workers AI
- CI/CD:持续集成/持续交付 GitHub Actions(持续集成 + 部署流水线)
