2.1-multiple-regression.ipynb

{
 "cells": [
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# Section 2 - 多元线性回归 Multiple Linear Regression\n",
    "\n",
    "上一章我们介绍了**简单线性回归（Simple Linear Regression）**，初步了解了线性回归的概念。本章，我们会介绍**多元线性回归（Multiple Linear Regression）**。两者概念相同，所以本章的难度不会很大。\n",
    "\n",
    "由于多元性线性回归（Multiple Linear Regression）可以利用更多的predictor，所以它的应用会比简单线性回归（Simple Linear Regression）广泛很多。前者在金融领域有很多的应用，而后者往往作为Data Science的入门课程第一章出现。\n",
    "\n",
    "所以本章，我们只需要稍加扩展，就可以把上一章的简单线性回归（Simple Linear Regression）变成有实用意义的多元线性回归（Multiple Linear Regression）。\n",
    "\n",
    "\n",
    "\n",
    "## 从“简单”到“多元”\n",
    "\n",
    "首先我们在第一节介绍的简单线性回归（Simple Linear Regression）的公式是：\n",
    "$$\n",
    "y = \\beta_0 + \\beta_1x_1\n",
    "$$\n",
    "多元线性回归（Multiple Linear Regression）的概念相同，只是包括了多个predictor。比如说，当有三个predictor的时候，公式可以写作：\n",
    "$$\n",
    "y = \\beta_0 + \\beta_1x_1 + \\beta_2x_2 + \\beta_3x_3\n",
    "$$\n",
    "了解这一点后，我们就讲完了多元线性回归（Multiple Linear Regression）的概念。\n",
    "\n",
    "寻找回归线（Regression Line）的方法和前一章相同，也是利用**最小化SSR**作为标准。\n",
    "\n",
    "\n",
    "\n",
    "## Predictor的数据类型\n",
    "\n",
    "在模型中，predictor有三种常见的数据类型，分别是：\n",
    "\n",
    "- **连续变量（Continuous Variable）**类型为数值，可以比较大小。比如说：身高、体重、收入、温度、年龄。这些都可以量化为数字，且有大小关系。\n",
    "- **分类变量（Categorical Variable）**反应的是类别。数值类型任意，可以是文本或者数值，但不能比较大小。比如说：车辆型号、性别、人种、职业。\n",
    "- **哑变量（Dummy Variable）**表达“是”或者“否”的概念。比如二手车的数据库中，有一个predictor为isDamaged（车辆是否有过事故）。值为0或者1，0表示“没有事故记录”，1表示“有事故记录”。\n",
    "\n",
    "需要注明的是，基于我们研究的问题以及使用的方法，有时候3种变量可以相互转换。我们会在之后的数据分析中看到。\n",
    "\n",
    "\n",
    "\n",
    "## Predictor的筛选\n",
    "\n",
    "在有多个Predictor的情况下，我们会开始思考：\n",
    "\n",
    "- 是否每一个predictor都对预测outcome有帮助？\n",
    "- 哪些predictor对预测outcome有帮助？\n",
    "\n",
    "所以，接下来我们就看一看如何评估predictor的重要性。\n",
    "\n",
    "\n",
    "\n",
    "在上一章中我们讲到了**P值**的含义，代表着对应的predictor对outcome的预测是否有意义。所以从这个角度来说：\n",
    "\n",
    "**P值小的predictor相对重要（P值 < 0.05），P值大的predictor相对次要。**\n",
    "\n",
    "基于这一点，我们可以\n",
    "\n",
    "**逐个拿掉P值小的predictor，看看R-squared是否明显的减小。**\n",
    "\n",
    "如果R-squared的减小不明显，而且从实际经验的角度这个predictor和outcome之间的关系也不明确，那么我们就可以将其排除出模型。\n",
    "\n",
    "\n",
    "\n",
    "进行完以上的步骤，模型中剩下的predictor就是我们认为重要的，对outcome有明确影响。\n",
    "\n",
    "\n",
    "\n",
    "## Summary\n",
    "\n",
    "我们从简单线性回归（Simple Linear Regression）出发，介绍了多元线性回归（Multiple Linear Regression）。围绕两者的差别，本章我们讲解了：\n",
    "\n",
    "- Predictor的数据类型\n",
    "- Predictor的选择方法\n",
    "\n",
    "这两个知识点都在多元线性回归（Multiple Linear Regression）建模的过程中大量出现。如果你现在对这些知识感觉陌生，这是很正常的。下一章我们就来实践一下，把这些抽象概念应用到实际项目中，相信会帮助你加深理解。\n",
    "\n",
    "**下一章：**[2.2 实战演练2：精确的二手车价格预测](https://github.com/RyC37/data-science-tutorial-for-beginners/blob/master/2.2-multiple-linear-regression-for-car-price-prediction.ipynb)"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.6.0"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 2
}