README.md

欢迎来到 Microsoft Phi-3 Cookbook

Phi-3是微软开发的一系列开放AI模型。Phi-3模型是目前性能最优越、性价比最高的小型语言模型（SLM），在各种语言、推理、编程和数学基准测试中表现优于同等和更大规模的模型。这是一本关于如何使用微软Phi-3系列的手册。

Microsoft 的 Phi-3 家族

Phi-3模型在关键基准测试中明显优于同等和更大规模的语言模型（参见下方基准测试数据，数值越高越好）。Phi-3-mini比规模两倍大的模型表现更好，Phi-3-small和Phi-3-medium在很多方面优于更大的模型，包括GPT-3.5T。

所有报告中的数据都是使用相同的流程生成的，以确保数据具有可比性。因此，这些数据可能会因评估方法的细微差异而与其他已发布数据不同。有关基准测试的更多详细信息，请参阅我们的技术论文。

Phi-3-mini

Phi-3-mini 是一个拥有 38 亿参数的语言模型，可以通过以下途径获得 Microsoft Azure AI Studio, Hugging Face, 和 Ollama.

Phi-3-small

仅有70亿参数的Phi-3-small在各种语言、推理、编程和数学基准测试中击败了GPT-3.5T。

Phi-3-midium

拥有140亿参数的Phi-3-medium延续了这一趋势，其表现优于Gemini 1.0 Pro。

Phi-3-vision

拥有42亿参数的Phi-3-vision继续延续这一趋势，在通用视觉推理任务、光学字符识别、表格和图表理解任务等方面优于Claude-3 Haiku和Gemini 1.0 Pro V等更大的模型。

注意

在事实知识基准测试（如TriviaQA）中，Phi-3模型的表现不如较小模型，因为较小的模型规模导致其保留事实的能力有限。

Phi-Silica

我们推出了Phi Silica，它是基于Phi系列模型构建的、专为Copilot + PC中的NPU而设计。Windows是第一个为NPU定制并内置先进小型语言模型（SLM）的平台。Phi Silica API以及OCR、Studio Effects、Live Captions、Recall User Activity API将于6月在Windows Copilot库中提供。更多API，如Vector Embedding、RAG API、Text Summarization 等将在稍后推出。

Azure AI Studio 中的 Phi-3 模型

您可以学习如何使用Microsoft Phi-3以及如何在不同硬件设备中构建端到端解决方案。要亲自体验Phi-3，您可以在 Azure AI Studio, Azure AI Model Catalog 中尝试和自定义Phi-3模型开始，以适应您的应用场景。

Playground 每个模型在 Azure AI Playground 上都有一个专门的 Playground 供您测试模型 Azure AI Playground。

Hugging Face 中的 Phi-3 模型

You can also find the model on the Hugging Face

Playground Hugging Chat playground

内容

本书包含:

Microsoft Phi-3 Cookbook

• 介绍

  • 设置您的环境(✅)
  • 欢迎来到 Phi-3 家族(✅)
  • 了解关键技术(✅)
  • Phi-3 模型的 AI 安全性(✅)
  • Phi-3 硬件支持(✅)
  • Phi-3 模型及各平台可用性 (✅)

• 快速开始

  • 在 Hugging face 中使用 Phi-3(✅)
  • 在 Azure AI Studio 中使用 Phi-3(✅)
  • 在 Ollama 中使用 Phi-3(✅)
  • 在 LM Studio 中使用 Phi-3(✅)
  • 在 AI Toolkit VSCode 中使用 Phi-3(✅)

• Phi-3 推理

  • 在 iOS 中使用 Phi-3 进行推理(✅)
  • 在 Jetson 中使用 Phi-3 进行推理(✅)
  • 在 AI PC 中使用 Phi-3 进行推理(✅)
  • 使用 Apple MLX 框架进行 Phi-3 推理(✅)
  • 在本地服务器中使用 Phi-3 进行推理(✅)
  • 使用 AI Toolkit 在远程服务中进行 Phi-3 推理(✅)
  • 在本地使用 Phi-3-Vision 进行推理(✅)

• Phi-3 微调

  • 下载和创建样本数据集(✅)
  • 微调场景(✅)
  • 微调 vs RAG(✅)
  • 让Phi-3成为行业专家(✅)
  • 使用 VS Code 的 AI 工具包对 Phi-3 进行微调(✅)
  • 使用 Azure Machine Learning 服务对 Phi-3 进行微调(✅)
  • 使用 Lora 对 Phi-3 进行微调(✅)
  • 使用 QLora 对 Phi-3 进行微调(✅)
  • 使用 Azure AI Studio 对 Phi-3 进行微调(✅)
  • 使用 Azure ML CLI/SDK 对 Phi-3 进行微调(✅)
  • 使用 Microsoft Olive 进行微调(✅)
  • 利用权重和偏差对 Phi-3-vision 进行微调(✅)
  • 使用 Apple MLX 框架对 Phi-3 进行微调(✅)
  • 对 Phi-3-vision 进行微调(官方支持)(✅)

• Evaluation Phi-3

  • 负责任的人工智能简介(✅)
  • Promptflow 简介(✅)
  • Azure AI Studio 评估简介(✅)

• Phi-3-mini 的端到端示例

  • 端到端示例简介(✅)
  • 准备您的行业数据(✅)
  • 使用 Microsoft Olive 构建您的项目架构(✅)
  • 推理您的微调 ONNX Runtime 模型(✅)
  • 多模型 - 交互式 Phi-3-mini 和 OpenAI Whisper(✅)
  • MLFlow - 构建一个包装器并使用 Phi-3 和 MLFlow(✅)
  • 基于 Phi-3 mini-4k-instruct-onnx 的 WinUI3 应用(✅)
  • WinUI3 多模型 AI 支持的笔记应用示例(✅)
  • 微调和集成自定义 Phi-3 模型与 Prompt flow(✅)

• Phi-3-vision 的端到端示例

  • Phi-3-vision-图像文本转文本(✅)
  • Phi-3-vision-ONNX(✅)
  • Phi-3-vision CLIP 嵌入(✅)

• Phi-3 的实验和工作坊示例

  • C# .NET 实验(✅)
  • 使用 Microsoft Phi-3 系列构建您自己的 Visual Studio Code GitHub Copilot Chat(✅)
  • Phi-3 ONNX 教程(✅)
  • Phi-3-vision ONNX 教程(✅)
  • 使用 ONNX Runtime generate() API 运行 Phi-3 模型(✅)
  • Phi-3 ONNX 多模型 LLM 聊天 UI，这是一个聊天演示(✅)
  • C# Hello Phi-3 ONNX 示例 Phi-3(✅)
  • C# API Phi-3 ONNX 示例以支持 Phi-3-Vision(✅)
  • 在 CodeSpace 中运行 C# Phi-3 示例(✅)
  • 使用 Phi-3 与 Promptflow 和 Azure AI Search(✅)

贡献

欢迎大家为本项目贡献和建议。大多数贡献需要您同意贡献者许可协议（CLA），声明您有权并确实授权我们使用您的贡献。详情请访问 https://cla.opensource.microsoft.com.

当您提交pull request时，CLA机器人会自动判断您是否需要提供CLA，并相应地装饰拉取请求（例如，状态检查、评论）。只需按照机器人提供的说明操作。在我们所有使用CLA的代码库中，您只需要做一次这个操作。

本项目已采用 Microsoft 开源代码行为准则. 有关更多信息，请查看 Code of Conduct FAQ 或者 如有其他问题或意见，请联系 [email protected]。

商标

本项目可能包含项目、产品或服务的商标或徽标。使用Microsoft商标或徽标须经授权，并遵循 Microsoft 商标与品牌指南。 在此项目的修改版本中使用Microsoft商标或徽标不得引起混淆或暗示Microsoft赞助。使用任何第三方商标或徽标须遵循第三方的政策。