一键部署 Phi-4

一、教程简介

Phi-4 是微软于 2025 年 1 月开发的一个小型语言模型,拥有 140 亿参数,旨在通过高质量的合成数据和先进的训练技术,提供高效的文本生成和复杂的推理能力。 Phi-4 基于业界标准的 Transformer 架构,采用纯解码器型架构,只关注单词之前的文本,减少了需要处理的数据量,从而降低了推理成本。

本教程使用 Phi-4 作为演示,算力资源采用「单卡 A6000」。

二、运行步骤

1. 启动容器后点击 API 地址即可进入 Web 界面(若显示「Bad Gateway」,这表示模型正在初始化,由于模型较大,请等待约 5 分钟后重试。)

2. 进入网页后,即可与模型展开对话

模型对话流程

3. 效果示例

交流探讨

🖌️ 如果大家看到优质项目,欢迎后台留言推荐!另外,我们还建立了教程交流群,欢迎小伙伴们扫码备注【SD 教程】入群探讨各类技术问题、分享应用效果↓