Phi-3是微软开发的一系列开放AI模型。Phi-3模型是目前性能最优越、性价比最高的小型语言模型(SLM),在各种语言、推理、编程和数学基准测试中表现优于同等和更大规模的模型。这是一本关于如何使用微软Phi-3系列的手册。
Phi-3模型在关键基准测试中明显优于同等和更大规模的语言模型(参见下方基准测试数据,数值越高越好)。Phi-3-mini比规模两倍大的模型表现更好,Phi-3-small和Phi-3-medium在很多方面优于更大的模型,包括GPT-3.5T。
所有报告中的数据都是使用相同的流程生成的,以确保数据具有可比性。因此,这些数据可能会因评估方法的细微差异而与其他已发布数据不同。有关基准测试的更多详细信息,请参阅我们的技术论文。
Phi-3-mini 是一个拥有 38 亿参数的语言模型,可以通过以下途径获得 Microsoft Azure AI Studio, Hugging Face, 和 Ollama.
仅有70亿参数的Phi-3-small在各种语言、推理、编程和数学基准测试中击败了GPT-3.5T。
拥有140亿参数的Phi-3-medium延续了这一趋势,其表现优于Gemini 1.0 Pro。
拥有42亿参数的Phi-3-vision继续延续这一趋势,在通用视觉推理任务、光学字符识别、表格和图表理解任务等方面优于Claude-3 Haiku和Gemini 1.0 Pro V等更大的模型。
注意
在事实知识基准测试(如TriviaQA)中,Phi-3模型的表现不如较小模型,因为较小的模型规模导致其保留事实的能力有限。
我们推出了Phi Silica,它是基于Phi系列模型构建的、专为Copilot + PC中的NPU而设计。Windows是第一个为NPU定制并内置先进小型语言模型(SLM)的平台。Phi Silica API以及OCR、Studio Effects、Live Captions、Recall User Activity API将于6月在Windows Copilot库中提供。更多API,如Vector Embedding、RAG API、Text Summarization 等将在稍后推出。
您可以学习如何使用Microsoft Phi-3以及如何在不同硬件设备中构建端到端解决方案。要亲自体验Phi-3,您可以在 Azure AI Studio, Azure AI Model Catalog 中尝试和自定义Phi-3模型开始,以适应您的应用场景。
Playground 每个模型在 Azure AI Playground 上都有一个专门的 Playground 供您测试模型 Azure AI Playground。
You can also find the model on the Hugging Face
Playground Hugging Chat playground
本书包含:
-
- 设置您的环境(✅)
- 欢迎来到 Phi-3 家族(✅)
- 了解关键技术(✅)
- Phi-3 模型的 AI 安全性(✅)
- Phi-3 硬件支持(✅)
- Phi-3 模型及各平台可用性 (✅)
-
- 下载和创建样本数据集(✅)
- 微调场景(✅)
- 微调 vs RAG(✅)
- 让Phi-3成为行业专家(✅)
- 使用 VS Code 的 AI 工具包对 Phi-3 进行微调(✅)
- 使用 Azure Machine Learning 服务对 Phi-3 进行微调(✅)
- 使用 Lora 对 Phi-3 进行微调(✅)
- 使用 QLora 对 Phi-3 进行微调(✅)
- 使用 Azure AI Studio 对 Phi-3 进行微调(✅)
- 使用 Azure ML CLI/SDK 对 Phi-3 进行微调(✅)
- 使用 Microsoft Olive 进行微调(✅)
- 利用权重和偏差对 Phi-3-vision 进行微调(✅)
- 使用 Apple MLX 框架对 Phi-3 进行微调(✅)
- 对 Phi-3-vision 进行微调(官方支持)(✅)
-
- 负责任的人工智能简介(✅)
- Promptflow 简介(✅)
- Azure AI Studio 评估简介(✅)
-
- C# .NET 实验(✅)
- 使用 Microsoft Phi-3 系列构建您自己的 Visual Studio Code GitHub Copilot Chat(✅)
- Phi-3 ONNX 教程(✅)
- Phi-3-vision ONNX 教程(✅)
- 使用 ONNX Runtime generate() API 运行 Phi-3 模型(✅)
- Phi-3 ONNX 多模型 LLM 聊天 UI,这是一个聊天演示(✅)
- C# Hello Phi-3 ONNX 示例 Phi-3(✅)
- C# API Phi-3 ONNX 示例以支持 Phi-3-Vision(✅)
- 在 CodeSpace 中运行 C# Phi-3 示例(✅)
- 使用 Phi-3 与 Promptflow 和 Azure AI Search(✅)
欢迎大家为本项目贡献和建议。大多数贡献需要您同意贡献者许可协议(CLA),声明您有权并确实授权我们使用您的贡献。详情请访问 https://cla.opensource.microsoft.com.
当您提交pull request时,CLA机器人会自动判断您是否需要提供CLA,并相应地装饰拉取请求(例如,状态检查、评论)。只需按照机器人提供的说明操作。在我们所有使用CLA的代码库中,您只需要做一次这个操作。
本项目已采用 Microsoft 开源代码行为准则. 有关更多信息,请查看 Code of Conduct FAQ 或者 如有其他问题或意见,请联系 [email protected]。
本项目可能包含项目、产品或服务的商标或徽标。使用Microsoft商标或徽标须经授权,并遵循 Microsoft 商标与品牌指南。 在此项目的修改版本中使用Microsoft商标或徽标不得引起混淆或暗示Microsoft赞助。使用任何第三方商标或徽标须遵循第三方的政策。