logo logo
  • 首页
  • 本站学术导航
  • 友人帐
    • 友人帐【官方】
    • 隐私条例
    • 友人帐网址导航
    • 网站历程
  • 网站教程
    • AI科学空间
    • 数据科学笔记
    • 前端学习架构
    • 颜色代码表
  • 工具箱
    • 用户留言板
    • 前端学习网站及图床系统
  • 游戏大厅
  • 首页
  • 本站学术导航
  • 友人帐
    • 友人帐【官方】
    • 隐私条例
    • 友人帐网址导航
    • 网站历程
  • 网站教程
    • AI科学空间
    • 数据科学笔记
    • 前端学习架构
    • 颜色代码表
  • 工具箱
    • 用户留言板
    • 前端学习网站及图床系统
  • 游戏大厅
  1. 首页
  2. 标签
  3. 大模型笔记
大模型部署教程:生产化与评测

人工智能 大模型部署教程:生产化与评测

延续(vLLM + TEI + Qdrant + FastAPI 编排),把系统从“能跑”进化到“可管、可评、可扩、可回滚”。以及生产三问:可观测、可伸缩、可验证。

47次阅读 0个评论
人工智能 2025-10-02
Docker 部署大模型教程

人工智能 Docker 部署大模型教程

教程一 · 最小可用版(两条路线) 路线 A:GPU 生产级(vLLM + OpenAI 兼容 API) 适合…

66次阅读 0个评论
人工智能 2025-10-01
最新文章

TypeScript 笔记(续)

Jinja2 模板引擎详细教程

主流JS库参考笔记

Parse JS · TypeScript 范型与类型安全示例

TensorRT-LLM思考:从入门到生产级GPU推理优化

热评文章

MySQL 入门教程 · 第四课

 MySQL 入门教程 · 第五课

开源视觉大模型2025入坑提纲(Open-Source Vision Foundation Models)

MySQL 入门教程 · 第六课

 MySQL 入门教程 · 第七课

随机文章

开源语音大模型详细2025笔记

MySQL 入门教程 · 第八课

MySQL 入门教程 · 第一课

MongoDB 入土基础笔记

图形编辑器架构入坑笔记

归档

关于我们

数据科学个人网站展示我的项目、技能和经验,分享数据分析、机器学习和可视化。

版权说明
                   

数据科学与编程

               
公安备案图标 皖公网安备 34152302000182号
|
皖ICP备19004474-1号
MySSL 安全签章
MySSL认证
DMCA.com 内容保护 DMCA保护
腾讯网址安全检测 认证安全 腾讯安全
 Theme by Puock