机器学习实战 | 机器学习特征工程最全解读

机器学习实战 | 机器学习特征工程最全解读

  • 作者:韩信子@ShowMeAI
  • 教程地址:www.showmeai.tech/tutorials/4…
  • 本文地址:www.showmeai.tech/articl时间复杂度e-det…
  • 声明:版权所有,转载请联系平台与作者并注明出处
  • 收藏ShowMeAI查看更多精线性回归统计三要素彩内容

引言

机器学习实战 | 机器学习特征工程最全解读

上图为大家熟悉的机器学习建模流程图,ShowMeAI在前序机器学习实战文章数据分析师工作内容 Python机器学习算法应用实践中和大家讲到了整个建模流程非常重要的一步,是对于数据的预处理和特征工程,它很大程度决定了最后建模效果的好坏,在本篇内容汇总,我们数据分析师资格证书给大家展开对数据预处神经网络控制理和特征工程软件复杂度的实战应用细节做一个全面appstore的解读。

特征工程

首先我们来了解一下「特征工程」,事实上大家在ShowMeAI的实战系列文章 Python机器学习综合项目-电商销量预估Python机线性回归方程器学习综合项目线性回归方程公式-电商销量预估<进阶> 中已经看到了神经网络算法我们做了特征工程的处理。

如果我们对特征工程(feature engineering)做一个定义,那它指的是:利用领域知识和现有数据,创造出新的特征,用于机器学习算法;可以手动(manual)或自动(auto线性回归mated)。

  • 特征:数据中抽取出来的对结果预测有用的信息。
  • 特征工劳动复杂度程:使用专业背景知识和技巧处数据分析师工作内容理数据,使得特征能在机器学习神经网络的基本原理算法上发挥更好的作用的过程。

在业界有一个很流行的说法:

数据与特征工程决定了模型的上限,改进算法只不过是逼近这个上限而已。

机器学习实战 | 机器学习特征工程最全解读

这是因为,在数据建模上,「理想状态」和「真实场景」是有差别的,很多时候原始数据并不是规矩干净含义明确充分的形态:

机器学习实战 | 机器学习特征工程最全解读

而特征工程处理,相当于对数据做一个梳理,结合业务提取有意义的信息,以数据分析师干净整齐地形态进行组织:

机器学习实战 | 机器学习特征工程最全解读

特征工程有着非常重要的意义:

  • 特征越好,灵活appreciate性越强。只要特征选得好,即使是一般的模型(或算法算法复杂度)也能获得很好的性能,好特征的灵活性在于它允许你选择不复杂的模型,同时运行速度也更快,也更容易理解和维护。
  • 特征越好,构建的模型越简单。有了好的特征,即便你算法复杂度的参数不是最优的,你的模型性能也能仍然会表现的很好,所以你就不需要花太多的时间去寻找最优参数,这大大的降低了模型的复杂度,使模型趋于简单。
  • 特征越好,模型线性回归分析的性能越出色。显然,这一点是毫无争议的,我们进行特征工程的最终目的就是提升模型的性能。

本篇内容,ShowMeAI带大家一起来系统学习一下特征工程,包括「特征类型」「数据清洗」「特征构建」「特征变换」「特征选择」等板块内容。

我们这里用最简单和常用的Titanic数据集给大家讲解。

Titanic数据集是非常适合数据科学和机器学习新手入门练习的数据集,数据集为1912年泰坦尼克号沉船事件中一些船员的个人信息以及存活状况。我approach们可以根神经网络对信息的存储依赖什么据数据集训练出合适的模型并预测新数据(测试集)中的存活状况。

Titanic数据集可以通过seaborn工具库直接加载,如下代码所示:

import pandas as pd
import numpy as np
import seaborn as sns
df_titanic = sns.load_dataset('titanic')

其中数据集的数据字段描述如下图所示:

机器学习实战 | 机器学习特征工程最全解读

1.特征类型

在具体演示Titanic的数据预处理与特征工程之前,ShowM神经网络算法三大类eAI再给大家构建一些关于数据的基础知识。神经网络算法

1.1 结构化 vs 非结构化数据

数据可以分为「结构化数据」和「非结构化数据」,比如在互联网领域,大部分存储在数圈复杂度据库内的表格态业务数据,都是劳动复杂度结构化数据;而文本、语音、图数据分析的四个步骤像视频等就属于非结构化数据。

机器学习实战 | 机器学习特征工程最全解读

1.2 定量 vs 定性数application

对于我们记录到的数据,我们通常又可以以「定量数据」和「定性数据」对齐进行区分,其中:

  • 定量数据:指的是一些数值,用于衡量APP数量与大小。
    • 例如高度,长度,体appstore积,面积,湿度,温度等测量值。神经网络的基本原理
  • 定性神经网络对信息的存储依赖什么数据:指的是一些类别,用数据分析的四个步骤于描述物品性质。
    • 例如纹理,味道,气味,颜色等。

机器学习实战 | 机器学习特征工程最全解读

如下线性回归方程计算器图是两类数据示例以及它们常见的处理分析方法的总结:

机器学习实战 | 机器学习特征工程最全解读

2.数据清洗

实际数据挖掘或者建模之前线性回归方程例题详解,我们会有「数据预处理」环节,对原始态的数据进行数据清环形复杂度洗等操作处理。因为现实世界中数据大体上都是神经网络的基本原理不完整、不一致的「脏数据」,无法直接进行数据挖掘,或者挖掘结果差强人意。

脏数据产生的主要成因包括

  • 篡改数据
  • 数据不完整
  • 数据不一致
  • 数据重复
  • 异常数据

数据清洗过程包括数据对齐、缺失值处理、异常值处理、数据转化等数据处理方法,如下图所示:

机器学习实战 | 机器学习特征工程最全解读

下面我们注意对上述复杂度怎么计算的提到的处理方法做一个讲解。

2.1 数据对齐

采集到的原始数据,格式形态不一,我们会对时间、字段以及相关量纲等进行数据对齐处理,数据对齐和规整化之后的数据整齐一致,更加适合建模。如下图为一些处理示例:

机器学习实战 | 机器学习特征工程最全解读

(1) 时间

  • 日期格式不一致【2022-数据分析观念02-20202202202022/02/2020/02/2022】。
  • 时间戳单位不一致,有的用秒表示,有的用毫秒表示。
  • 使用无效时间表示,时间戳使用0表示,结束时间戳使用FFFF表示。

(2) 字段

  • 姓名写了性劳动复杂度别,身份证号写了手机号等。

(3) 量纲

  • 数值类型统一【如1、2.0、3.21E3、四】。
  • 单位统一【如180cm、1.80m】。

2.2 缺失值处理

数据缺失是真实数据中常见的问题,因为种种原因我们采集到的数据并不一定是完整的,我们有一些缺失值的常见处理方式环路复杂度

  • 不处理(部分模型如XGBoost/LightGBM等可以处理缺失值)。
  • 删除缺失数据(按照样本维度或者字段维度)。
  • 采用均值、中位数、众数、同类均值或预估值填充。

具体的处理方式可以展开成下图:

机器学习实战 | 机器学习特征工程最全解读

下面回到我们的Ti圈复杂度tanic数据集,我们演示一下各种方法:

我们先对数据集的缺失值情况做一个了解(汇总分布):

df_titanic.isnull().sum()
survived         0
pclass           0
sex              0
age            177
sibsp            0
parch            0
fare             0
embarked         2
class            0
who              0
adult_male       0
deck           688
embark_town      2
alive            0
alone            0

(1) 删除

最直接粗暴的处理是剔除缺失值,即将存在遗漏信空间复杂度息属性值的对象(字段,样本/记录)删除,从而得到一个完备的信息表。优缺点如下:

  • 优点:简单application易行,在对象有多个属性缺失值、被删除的含缺失值的appetite对象与初始数据集的数时间复杂度据量approve相比非常小的情况神经网络算法下有效;
  • 不足:当缺失数据apple所占比例较大,特别当遗漏数据非随机分布时,这种方法可能导致数据发生偏离,从而引出错误的结论。

在我们当前Titanic的案例中,embark_town字段有2个空值,考虑删除缺失处理下。

df_titanic[df_titanic["embark_town"].isnull()]
df_titanic.dropna(axis=0,how='any',subset=['embark_town'],inplace=True)

机器学习实战 | 机器学习特征工程最全解读

(2) 数据填充

第2大类是我们可以通数据分析师证书过一些方法去填充缺失值。比如基于统计方法、模型方法数据分析观念、结合业务的方法等进行填充。

机器学习实战 | 机器学习特征工程最全解读

① 手动appear填充

根据业务知识来进行人工手动填充。

② 特殊值填充

appearance空值appear作为一种特殊数据分析软件的属性值来处理,它不同于其他的任何属性值。如所有的空值都用unknown填充。一般作为临时appointment填充或中间过程。

代码实现

df_titanic['embark_town'].fillna('unknown', inplace=True)

③ 统计量填充

若缺失率较低,可以根据数据分布的情况进行填充。常用填充统数据分析软件计量如下:

  • 中位数:对于数据存在倾斜分布的情况,采用中位数appreciate填补缺失值。
  • 众数:离散特征可使用众数进行填充缺失值。
  • 平均值:对于数据神经网络英文符合均匀分布,用该变量的均值填补缺失值。

中位数填充——fare:缺失值较多,使用中神经网络英文线性回归方程公式b推导过程数填充

机器学习实战 | 机器学习特征工程最全解读

df_titanic['fare'].fillna(df_titanic['fare'].median(), inplace=True)

众数填充——embarked:只有两个缺失值,使用众数填充

df_titanic['embarked'].isnull().sum()
#执行结果:2
df_titanic['embarked'].fillna(df_titanic['embarked'].mode(), inplace=True)
df_titanic['embarked'].value_counts()
#执行结果:
#S    64

同类均值填充

age:根据sex、pclass和who分组,如果落在相同的组别里,就用这个组别的均值或中位数填充。

df_titanic.groupby(['sex', 'pclass', 'who'])['age'].mean()
age_group_mean = df_titanic.groupby(['sex', 'pclass', 'who'])['age'].mean().reset_index()
def select_group_age_median(row):
    condition = ((row['sex'] == age_group_mean['sex']) &
                (row['pclass'] == age_group_mean['pclass']) &
                (row['who'] == age_group_mean['who']))
    return age_group_mean[condition]['age'].values[0]
df_titanic['age'] =df_titanic.apply(lambda x: select_group_age_median(x) if np.isnan(x['age']) else x['age'],axis=1)

机器学习实战 | 机器学习特征工程最全解读

④ 模型预测填充

如果其他无缺失字段丰富,我们也可以借助于线性回归方程例题详解模型进行建模预测填充,将待填充字段作为Label,没有缺失的神经网络控制数据作为训练数据,建立分类/回归模型,对待填充的缺失字段进行预测并进行填充。

机器学习实战 | 机器学习特征工程最全解读

最近距离邻法(KNN)

  • 先根据欧式距离或相关分析来确定距离具有缺失数据样本最近的K个样本,将这K个值加权平均/投票软件复杂度来估计该样本的缺失数据。

回归(Regression)

  • 基于完整的数据集,建立回归方程。对于包含空值的对象,将已知属性值代入方程来估计未知数据分析属性值,以此估计值来进行填充。当变量不是线性相关时会导致有偏差的估计,常用线性回归

我们以Titanic案例中的age字数据分析培训段为例,讲解一下:

  • age缺失量较大,这里我们用sex、pclass、who、fare、parapplech、sibsp六个特征构建随机森林模型,填充年龄缺失值。
df_titanic_age = df_titanic[['age', 'pclass', 'sex', 'who','fare', 'parch', 'sibsp']]
df_titanic_age = pd.get_dummies(df_titanic_age)
df_titanic_age.head()
# 乘客分成已知年龄和未知年龄两部分
known_age = df_titanic_age[df_titanic_age.age.notnull()]
unknown_age = df_titanic_age[df_titanic_age.age.isnull()]
# y 即目标年龄
y_for_age = known_age['age']
# X 即特征属性值
X_train_for_age = known_age.drop(['age'], axis=1)
X_test_for_age = unknown_age.drop(['age'], axis=1)
from sklearn.ensemble import RandomForestRegressor
rfr = RandomForestRegressor(random_state=0, n_estimators=2000, n_jobs=-1)
rfr.fit(X_train_for_age, y_for_age)
# 用得到的模型进行未知年龄结果预测
y_pred_age = rfr.predict(X_test_for_age)
# 用得到的预测结果填补原缺失数据
df_titanic.loc[df_titanic.age.isnull(), 'age'] = y_pred_age
sns.distplot(df_titanic.age)

机器学习实战 | 机器学习特征工程最全解读

⑤ 插值法填充

还可以用插值法对圈复杂度数据填充,细分一下包括线性插值、多重插补数据分析观念、热平台插补、拉格朗日插值、牛顿插值等。

机器学习实战 | 机器学习特征工程最全解读

线性插值法数据分析观念

使用插值法可以计算缺失值的估计值,所谓的插值法就是通过两appearance点(x0, y0),复杂度(x1, y1)估计中间点的值。假设y=f(x)是一条直线,通过已知的两点来计算函数f(x),然后只要知道x就线性回归方程计算器能求出y,以线性回归方程公式此方法来估计缺失值。

机器学习实战 | 机器学习特征工程最全解读

.interpolate(method = 'li数据分析师资格证书near', axis)方法将通过linear插值使用沿着给定axi神经网络控制s的值替换NaN值,这个差值也就是前后或者上下的中间值

df_titanic['fare'].interpolate(method = 'linear', axis = 0)

同时,也可用行值插入

df_titanic['fare'].interpolate(method = 'linear', axis = 1)

多重插补(Multiple Imputation)

多值插补的思想来源于贝叶斯估计,认为待插补的值是随机的,它的值来自线性回归于已观复杂度测到的值。具体实践上通常是估计出待插补的值,然后再加上不同的噪声,形成多组可选插补值。根据某种选择依据,选取最合适的插补值。

机器学习实战 | 机器学习特征工程最全解读

多重插补方法分为三个步骤:

  • ① 为每个空值产生一套可能的插补值,这些值反映了无响应模appointment型的不确定性;每个值都可以被用来插补数据集数据分析报告中的缺失值,产生若干个完整数据集合;
  • ② 每个插补数据数据分析师工作内容集合都用针对完整数据集的统计方法进行统计分析;
  • ③ 对来自各个插补数据集的结果,根据评分函数进行选择,产生最终的插数据分析观念补值。

⑥ 哑变量填充

有另外一种非常有意思的填充方式,叫apple做「哑变量填充」,在变appearance量为离散型,且不同值较少的情况下可以采用,以Titanic数据为例:

  • 性别SEX变量,存在male,fameal,NA(缺失)三个不同的值,可将该列转换成IS线性回归方程公式详解_SEX_MALEIS_SEX_FEMALEIS_SEX_NA
  • 若某个变量存在十几个不同的值,可根据每个值的频数,将频数较小的值归神经网络控制为一类other,降低维度。此做法可最大化appear保留变量的信息。

机器学习实战 | 机器学习特征工程最全解读

以下为参考代码示例神经网络的基本原理

sex_list = ['MALE', 'FEMALE', np.NaN, 'FEMALE', 'FEMALE', np.NaN, 'MALE']
df = pd.DataFrame({'SEX': sex_list})
display(df)
df.fillna('NA', inplace=True)
df = pd.get_dummies(df['SEX'],prefix='IS_SEX')
display(df)
# 原始数据
 SEX
0    MALE
1    FEMALE
2    NaN
3    FEMALE
4    FEMALE
5    NaN
6    MALE
# 填充后
 IS_SEX_FEMALE     IS_SEX_MALE    IS_SEX_NA
0    0                 1                0
1    1                 0                0
2    0                 0                1
3    1                 0                0
4    1                 0                0
5    0                 0                1
6    0                 1 

当特征值缺失超过80%以上,建议神经网络预测删除【或加入「是」「否」标记位信息】,容易影响模型效果

df_titanic.drop(["deck"],axis=1)

2.3 异常值处理

数据质量也会很大程度影响机器学习应用效appointment果,数据的错误值或异线性回归分析spss常值可能会造成测量误差或异常系统条件的结果,给模型学习带来很大的问题。实际我们很多时候圈复杂度会有异常值检测与处理环节,下面给大家做一个梳理。

(1) 异常检测方法数据分析

神经网络算法三大类 基于统计分析

通常用户用某个统计分布对数据点进行建模,再以假定的模型,根据点的分布来确定是否异常。

如通过分析统计数据的散度情况,即数据变异指标,对数据的分布情况有所了解,进而通过神经网络算法三大类数据变异指标来发现数据神经网络算法三大类中的异数据分析师常点数据。

常用数据分析师证书的数据变异指标有极差四分位数间距均差标准差变异系数等等,如变异指标的值大表示变异大、散空间复杂度布广;值小表示离差小,较密集。

比如,最大最小值可以用来判断这个变量的取值是数据分析报告否超过了合理的范线性回归方程计算器围,如客户的年龄为-20岁或200岁,为异常值。

② 3原则

如果数据近似正态分布,在3原则下,异常值为一组测定值中与平均值的偏差超过3倍标准差的值。

  • 如果数据线性回归服从正态分布,距离平均值3之外的值出现的概率为P(|x线性回归分析-|>3)<=0.003,属于极个别的小概率事件。
  • 如果数据不服从正态分布,也可以用远离平均值的多少倍标准差来描述。

机器学习实战 | 机器学习特征工程最全解读

③ 箱线图分析

大家还记得在数据分析部分有一个很有效的工具叫做箱线图,箱线图提供了识别异常值的一个标准:如果一个值小于Q1-1.5IQR或大于Q3+1.5I线性回归分析QR的值,则被称为异常值。

  • Q1为下四分位数,表示全部观察值中有四分之一的数据取值比它小;
  • Q4为上四分位数神经网络的基本原理,表示全部观察值中有四分之一的数据取值比它大;
  • IQR为四分位数间距,是上四分位数Q1与下四分位数Q3的差值,包含了全部观察值的一半。

箱型图判断异常值的方法以四分位数和四分位距为基础,四分位数具有鲁棒性:25%的数据可以变得任意远并且不会干扰四分位数,所以异常值不能对这个标准施加影响。因此箱型图识别异常值比较客观,在识别异常值时有一定的优越性。

机器学习实战 | 机器学习特征工程最全解读

sns.catplot(y="fare",x="survived", kind="box", data=df_titanic,palette="Set2")

机器学习实战 | 机器学习特征工程最全解读

④ 基于模型检测

我们也可以基于模型对异常值检测,基本思路是先建立一个数据模型,那些同模型不能完美拟合的对象就视作异常。

  • 如果模型是簇的线性回归方程公式详解集合,则异常是不显著属于任何簇的对象。
  • 在使算法复杂度软件复杂度回归模型时,异神经网络算法三大类常是相对远离预测值的对象。

机器学习实战 | 机器学习特征工程最全解读

优点:有坚实的统计学理论基础,当存在充分的数据和所用的检验类型的知识时,这环形复杂度些检验appointment可能非常有效。

缺点:对于多元数据,可用的选择少一些,并且对于高维数据,这些检测可能性很差。

⑤ 基于appearance距离

我们还有基于距离的方法可以用于异常检测。这类方法基于下面这个假设:如果一个数据对象和大多数点距离都很远,那这个对象就是异常。通过定义对象之间的临近性度量,根据距离判断异常对象是否数据分析报告远离其他对象,主要使用的距离度量方法有绝对距离(曼哈顿距离)、欧氏距离和马氏距离等方法。

机器学习实战 | 机器学习特征工程最全解读

  • 优点

    • 基于距离的方法比基于线性回归方程公式b推导过程统计类方法要简单得多;因为为一个数据集合定义一个距离的度量要比确定数据集合的分布容易的多。
  • 缺点

    • 基于邻近度的方法需要O(m2)时间,大数据集不适用;
    • 该方法对参数的选择也是敏感的;
    • 不能处理具有不同密度区域的数据集,因为它使用全局阈值,不能考虑这种密度的变化。

⑥ 基于神经网络的基本原理密度

一个很直接的异常检测思路是基于分布密度来做,具体为:考察当前点周围密度,局部异常点/离群点的局部密度显著低于大部分近邻点。这类方法适用于非均匀的数据集。

机器学习实战 | 机器学习特征工程最全解读

  • 优点

    • 给出了对象是离群点的定量度量,并且即使数据具有不同的区域也能够很好的处理。
  • 缺点

    • 与基于距离的方法一样,这神经网络控制些方法必然具有O(m2)的时间复杂度。
    • 对于低维数据使用特定的数据结构可以达到O(mlogm);
    • 参数选择困难。
    • 虽然算法通过观察不同的k值,取得最大离群点得分来处理该问题,但是数据分析方法,仍然需要选择这些值的上下界。

⑦ 基于聚类

我们可以基于聚类的方法进行异常检测,远离cluster的样本更可能是异常值。

不过该方法时间复杂度会受到聚类cluster个数线性回归模型k的影响,一种策略是对于不同的簇个数重复该分析;另一种方法是找出大量小簇,其想法是:

  • 较小的簇神经网络控制倾向于更加凝聚;算法复杂度
  • 如果存在大量小簇时一个对象是异常点,则它多半是一个真正的异常点。
  • 不利的一面是一组异常点可能形成小神经网络控制簇而逃避检测。

机器学习实战 | 机器学习特征工程最全解读

  • 优点

    • 基于线性和接近线性复杂度(k均值)的聚类技术来发现离群点可能是高度有效的;
    • 簇的定义通常是离群点的补,因此可能同时发现簇和离群点。
  • 缺点

    • 产生的离群点集和它们线性回归的得分可能非常依赖所用的簇的个数和数据中离群点的存在性;
    • 聚类算法产生的簇的质劳动复杂度量对该算法产生的离群点的质量软件复杂度影响非常大。

⑧ 基于邻近度的异常点检测

同样的,我们也有基于近邻度的思路来做异常检测,我们认为异常点远离大部分的点。这种方法比统计学方法更一般、更容易使用,因为确定数据集的有意义的邻近性度量比确定它的统计分布更容易。一个对象的异常点得分神经网络算法三大类由到它的K-最近邻的距离给定,所以异常点得分对K的取值高度敏感:

  • 如果K太小数据分析(例如1),则少量的邻近异常异常点可能导致较异常低的异常点得分。
  • 复杂度神经网络预测K太大,则点数少于K的簇中所有的对象可能都成了异常异常点线性回归方程例题详解

为了使该方案对于K的选取更具有鲁棒性,可以使用K个最近邻的平均距离。

机器学习实战 | 机器学习特征工程最全解读

  • 优点

    • 简单
  • 缺点

    • 基于邻近度的方法需要O(m2appearance)时间,大数据集不适用;
    • 该方法对参数的选择也是敏感的;
    • 不能处理具有不同密度区域的数据集,因为它使用全局阈值,不能考虑这种密度的变化。

在数据处理阶段将离群点作为影响数据质量的异常点考虑,而不是作为通常所说的异常检测目标点,一般采用较为简单直观的方法,结合箱线图和MAD劳动复杂度的统计方法判断变量的离群点。如下为绘制散点图根据分布直接判断。

sns.scatterplot(x="fare", y="age", hue="survived",data=df_titanic,palette="Set1")

机器学习实战 | 机器学习特征工程最全解读

(2线性回归模型) 异常处理方法

对异常值处理,需要具体情况具体分析,异常值处理数据分析观念方法常用的有以下几种:

  • 删除含有异常值的记录;
    • 某些筛选出来的异常样本是否真的是不需要的异常特征样本,最好结合业务再确认一编,防止正常样本被过滤。
  • 将异常值视为缺失值,交给缺失值处理方法来处理;
  • 使用均值/中位数/众数来修正;
  • 不处理。

3.特征构建

前序的数据预处理过程能保证我们拿到干净神经网络是什么整齐准确的数据,但这些数据未必对于建模是最有效的,下一步我们通常会进行特征构复杂度怎么计算的建,结合业务场景产生衍生变量来提升数据表达能力和模型建模效果。

3.1 统计特征构建

统计特征是一类非常有效的特征,尤其在时序问题场景中,以下为统计特征构建的一些思考维度和方法:

机器学习实战 | 机器学习特征工程最全解读

  • ① 基于业务规则、先验知识等构建线性回归方程公式详解新特征。
  • ② 四分位数、中位数、平均值、标准差、偏差、偏度、偏锋、离散系统。
  • ③ 构造长、短期统计量(如周、月)。
  • ④ 时间衰减(越靠近观测权重值高)。

回到数据分析的四个步骤Titanic数据集,我们来看看结合业务理解,我们可approve以做哪些新特征:

年龄处理

线性回归分析们对年龄age字段进行进一步处理,考虑到不同的年龄段对应的人群可能获救概率不同,我们根据年龄值分成不同区间段,对应到child、young、midlife、old等

def age_bin(x):
 if x <= 18:
 return 'child'
 elif x <= 30:
 return 'young'
 elif x <= 55:
 return 'midlife'
 else:
 return 'old'
df_titanic['age_bin'] = df_titanic['age'].map(age_bin)
df_titanic['age_bin'].unique()
执行结果:
array(['young', 'midlife', 'child', 'old'], dtype=object)

抽取「称呼」特征

我们在namappearancee字段里,可以看到各种不同的称呼,如「Mr」「Master」「Dr」等,这些称呼体现了乘客的身份等信息,我们可以对其做抽取构建appstore新的特征。

# 提取称呼
df_titanic['title'] = df_titanic['name'].map(lambda x: x.split(',')[1].split('.')[0].strip())
df_titanic['title'].value_counts()

执行结果如下:

Mr              757
Miss            260
Mrs             197
Master           61
Rev               8
Dr                8
Col               4
Ms                2
Major             2
Mlle              2
Dona              1
Sir               1
Capt              1
Don               1
Lady              1
Mme               1
the Countess      1
Jonkheer          1

我们做一个简单的「称呼」统计

# 对称呼细分,是官员,还是皇室,还是女士、先生、小姐
df_titanic['title'].unique()

执行结果:

array(['Mr', 'Mrs', 'Miss', 'Master', 'Don', 'Rev', 'Dr', 'Mme', 'Ms',
 'Major', 'Lady', 'Sir', 'Mlle', 'Col', 'Capt', 'the Countess',
 'Jonkheer', 'Dona'], dtype=object)

下面我们对这些「线性回归分析spss称呼」「称谓」做一个规范化统一。

title_dictionary = {
 "Mr": "Mr",
 "Mrs": "Mrs",
 "Miss": "Miss",
 "Master": "Master",
 "Don": "Royalty",
 "Rev": "Officer",
 "Dr": "Officer",
 "Mme": "Mrs",
 "Ms": "Mrs",
 "Major": "Officer",
 "Lady": "Royalty",
 "Sir": "Royalty",
 "Mlle": "Miss",
 "Col": "Officer",
 "Capt": "Officer",
 "the Countess": "Royalty",
 "Jonkheer": "Royalty",
 "Dona": 'Mrs'
}
df_titanic['title'] = df_titanic['title'].map(title_dictionary)
df_titanic['title'].value_counts()

执行结果如下:

Mr         757
Miss       262
Mrs        201
Master      61
Officer     23
Royalty      5

数据分析培训取家庭规模

在Titanic上,有的成员之间有亲属关神经网络的基本原理系,考虑到家族大小对于最终是否获救也有影响,我们可以构建一个f算法复杂度amily_size的特征,用于表征家庭规模。

df_titanic['family_size'] = df_titanic['sibsp'] + df_titanic['parch'] + 1
df_titanic['family_size'].head()

执行结果如下:

0    2
1    2
2    1
3    2
4    1

3.2 周期值

在电商等场景下,数据分析报告数据有一定线性回归统计三要素的周期规律神经网络控制,我们可以提取一些周期值作为有效信息。

机器学习实战 | 机器学习特征工程最全解读

时序周期的一些考虑维度如下:

  • ①前n个周期/天/月/年的周期值,如过去5天分位数、平均值等
  • ②同比/环比

3.3 数据分桶

数据分桶,是对连续值属性处理的一种常用方法,它指神经网络分类的是我们把连续数值切段,并把连续值归属到对应的appointment段中。数据分桶也叫做数据分箱或离散化。

机器学习实战 | 机器学习特征工程最全解读

(1) 等频、等距分桶

(a) 自定义分箱

指根据业务神经网络是什么经验或者常识等自行设定划分的区间,然后将原始数据归类到各个区间中。

(b) 等距分箱

按照相同宽度将数据分成几等份。

从最小值到最大值之间,均分为N等份。如果A、B为最小最大值,则每个区间的长度为W=(B−A)/N,区间边界值神经网络对信息的存储依赖什么为A+W、A+2W、…、A+(N−1)W。

机器学习实战 | 机器学习特征工程最全解读

等距分箱只复杂度考虑边界,每个等份里面的实例数量可能不等。等距分神经网络引擎桶的缺点是受到异常值的影响比较大。

(神经网络的基本原理c) 等频分箱

将数据分成几等份,每等份数据里面的个数是一样的。

机器学习实战 | 机器学习特征工程最全解读

在等频分箱中,区间的数据分析师资格证书边界值要经过计算获得,最appear终每个区间包含大致相等的实例数量。比如说N=5,每个区间应该包含大约20%的实例。

  • 线性回归方程值变量分箱

我们先对船时间复杂度票价格做一个等频切分(大家如果对船票价格进行分布绘图,会发现是很长尾的分布,并不适合等距切分),看看分开的区间段。

# qcut 等频率分箱
df_titanic['fare_bin'], bins = pd.qcut(df_titanic['fare'], 5, retbins=True)
df_titanic['fare_bin'].value_counts()

结果如下:

(7.854, 10.5]        184
(21.679, 39.688]     180
(-0.001, 7.854]      179
(39.688, 512.329]    176
(10.5, 21.679]       172
bins #array([  0.    ,   7.8542,  10.5   ,  21.6792,  39.6875, 512.3292])

下面根据区间段对其进行等频切分

# 对船票fare进行分段分桶
def fare_cut(fare):
    if fare <=  7.8958:
        return 0
    if fare <= 10.5:
        return 1
    if fare <= 21.6792:
        return 2
    if fare <=  39.6875:
        return 3
    return 4
df_titanic['fare_bin'] = df_titanic['fare'].map(fare_cut)

相比船票价格,年龄age数据分析师资格证书字段的分布更加集中,且区间大小比较明确,我们采用等距切分,代码如下:环路复杂度

# cut 等距离分箱
bins = [0, 12, 18, 65, 100]
pd.cut(df_titanic['age'], bins).value_counts

(2) Best-KS分桶

  • 1.将特征值值进空间复杂度行从小到大的排序。
  • 2.计算出KS最大的那个值,即为切点,记为D。然后把数据切分成两部分。
  • 3.重复步骤2,进行递归,D左右的数据进一步切割。直线性回归统计三要素到KS的箱体数达到我们的预设阈值即可。
  • 4.连续型变量:分箱后的K神经网络英文S值<数据分析软件=分箱前的KS值
  • 5.分箱过程中,决定分箱后的KS值是某一个切点,而不是多个切点的共同作用。这个切点的位置是原始KS值最大的位神经网络英文置。

(3) 卡方分桶

自底向上的(即基于合并的)数据离散化方法,依赖于卡方检验:具有最小卡方值的相邻区间合并在一起,直到满足确定的停止准则。

机器学习实战 | 机器学习特征工程最全解读

基本思想

如果两个相邻的区间线性回归方程公式b推导过程具有非常类似的类分布,则这两个区间可以合并;否则,它们应当保持分开。而低卡方值表明它们具有相似的类分布。

实现步骤

  • ①预先定义一个卡方的阈值
  • ②初始化;根据要离散的属性对实例进行排序,每个实例属于一个区间
  • ③合并区间
    • 计算每一对相邻区间神经网络的基本原理的卡方值
    • 将卡方值最小的一对区间合并

代码实现:github.com/Lantianzz/S…

(4appear) 最小熵法分箱

还有最小熵分箱法,需要使总熵值达到最小,也就是使分箱能够最大限度地区分因变量的各类别。

熵是信息论中数据无序神经网络算法程度的度量标准,提出信息熵的基本目的是找出某种符线性回归分析神经网络分类系统的信息量和冗余度之间的关系,以便能用最小的成本和消耗来实现最高效率的数神经网络的基本原理据存储、管理神经网络的基本原理和传递。

数据集的熵越低,说明数据之间的差异越小,最小熵划分就是为数据分析师证书了使每箱中的数据具有最好的相似性。给定箱的个数,如果考虑所有可能数据分析观念的分箱情神经网络况,最小熵方法得数据分析报告到的箱应该是具有最小熵的appearance分箱。

3.4 特征组合

我们在有些场景下会考虑特征组合构建强特征,如下为常用的特征组合构建方神经网络对信息的存储依赖什么式:

  1. 离散+离散:构建笛卡尔积(即两两组合「且」关系)。
  2. 离散+连续:连续特征分桶后进行笛卡尔积或基于类别特征group by构建统环形复杂度计特征。approve
  3. 连续+连续:加减乘除,多线性回归方程公式详解项式特征,二阶差分等。

机器学习实战 | 机器学习特征工程最全解读

  • 多项式特征

针对连续值特征,我们对几个线性回归方程公式详解特征构建多项式特征,以达到特征组合与高阶增强的作用。

机器学习实战 | 机器学习特征工程最全解读

在Titanic的例子中,如下为数值型特征:

df_titanic_numerical = df_titanic[['age','sibsp','parch','fare','family_size']]
df_titanic_numerical.head()

我们可以参考下述代码构建多项式特征

# 扩展数值特征
from sklearn.preprocessing import PolynomialFeatures
poly = PolynomialFeatures(degree=2, include_bias=False, interaction_only=False)
df_titanic_numerical_poly = poly.fit_transform(df_titanic_numerical)
pd.DataFrame(df_titanic_numerical_poly, columns=poly.get_feature_names()).head()

机器学习实战 | 机器学习特征工程最全解读

在构建完成特征后,我们查看下衍生新特征变量的相关性情况,下面的热力图heatmap里颜色越深相关性数据分析的四个步骤越大:

sns.heatmap(pd.DataFrame(df_titanic_numerical_poly, columns=poly.get_feature_names()).corr())

机器学习实战 | 机器学习特征工程最全解读

4.特征apple变换

我们对于构建完的特征,会做算法复杂度一些「特征变换」的操作,以适应不同的模型,更好地完成建模。

机器学习实战 | 机器学习特征工程最全解读

4.1 标准化(Standardiapplicationzation)

标准化操作也称作Z-score变换,它使数值特征软件复杂度列的算数平均劳动复杂度为0,方差(以及标准差)为1,如下图所示。

机器学习实战 | 机器学习特征工程最全解读

注意:如果数值特征列中存在数值极大或极小时间复杂度的outlier(通过EDA发数据分析培训现),应该使用更稳健(robust)的环路复杂度统计数据:用中位数而不是算术平均数,用分位数(quantile)而不神经网络控制是方差。这种标准化方法有一个重要的参神经网络数:(分位数下限,分位数APP上限),最好通过E神经网络算法DA的数据可视化确定。免疫outlier。线性回归方程公式详解

标准化操作的参考代码如下:

from sklearn.preprocessing import StandardScale
#标准化模型训练
Stan_scaler = StandardScaler()
Stan_scaler.fit(x)
x_zscore = Stan_scaler.transform(x)
x_test_zscore = Stan_scaler.transform(x_test)
joblib.dump(Stan_scaler,'zscore.m')  #写入文件

4.2 归一化(Normalization)

归一化操作会基于向量模长调整数据幅度大小,但神经网络分类并不会改变原始数据的顺序。如下图所示:

机器学习实战 | 机器学习特征工程最全解读

4.3数据分析的四个步骤 幅度缩放(scaling)

幅度缩放是为了让不同特征的取值在大神经网络预测体一致的数量级和数据区间内,比较常用的方法是最大最小值缩放,环路复杂度如下图所示:

机器学习实战 | 机器学习特征工程最全解读

appetite数据分析培训为幅度缩放操作数据分析师的参考代码神经网络引擎

from sklearn import preprocessing
min_max_scaler = preprocessing.MinMaxScaler()
min_max_scaler.fit_transform(x)
x_minmax = min_max_scaler.transform(x)
x_test_minmax = min_max_scaler.transform(x_test)
joblib.dump(min_max_scaler,'min_max_scaler.m')  #写入文件

4.线性回归方程公式4 归一化 VS 标准化

归一化和标准化是两个非常常数据分析师资格证书见的特征变换操作,下面我们来对比一下标准化和归一化:

  • 目的不同,归一化是为了消除纲量压缩到[0,1]区间;标准化只是调整特征整体的分布。
  • 归一化与最大,最小值复杂度怎么计算的有关;标准化与均值,标准线性回归分析差有关。
  • 环形复杂度一化输出在[0,1]之间;标准化无限制。

它们分别的适用场景可以归纳总结如下:

  • 在分类、聚类算法中(参考ShowMeAI教程 图解机器学习算法:从入门到精通神经网络引擎系列教程线性回归模型),需要使用距离来度量相似性的时候(如SVM、KNN)或者使用PCA技术进行降维的时候,标准化(Z-score standardization)表现更好。

  • 在不涉及距离度量、协方差计算、数据不符合正太分布的时候,可以使用第一种方法或其他归一化方法。例如图像处理时,将RGB图像转换为灰度图像后将其值限定在[0,255]的范围。

  • 基于树的模型(如随机森林、GBDT、XGBoost、L数据分析师证书ightGBM等,具体模型参考Sho神经网络算法wMeAI教程 图解机器学习算法:从入门到精数据分析师工作内容通系列教程)不需要进行特征的归一化。如果是基于参数的模型或者线性回归分析spss基于距离的模型(逻辑回归、K-Means聚appetite类、神经网络神经网络英文等),因为需要对参数或者距离进行计算,都需要进行归一化。

4.5 非线性变换

我们在有些场景下,还会对数值字段进行分布调整或者环形复杂度校正,利用统计或数学变换来减轻数据分布倾斜的影响。使原本密集的区间的值尽可能空间复杂度的分散,原本分散的区间的值尽量的聚合。

大部分变换函数都神经网络对信息的存储依赖什么属于幂变换函数簇,主要作用是稳定方差,保持分布接近于正态分布并使得数据与分布的平均值无关。

我们来看看一些典型的非线性统计变换。

(1) log变换

log变换通常用来创建单调的数据变换。主要作用为稳定方差,始终保持分布接近于正态分布并线性回归方程例题详解使得数据与分布的平均值无关。

  • log变换倾向于拉伸那些落在较低的幅度范围内自变量值的范围,倾向线性回归方程公式b推导过程于压缩或减少更高幅度范围内的自变量值的范围,从而使得倾斜分布尽可能的接空间复杂度近正态分布。
  • 针对一些数值连续特征的方差不稳定,特征值重尾分布我们需要采用log化来调整整个数据分布的方差,属于方差稳定型数据转换。

log变换属于幂变换函数簇,神经网络数学表达式为

y=logb(x)y=log_{b}(x)

机器学习实战 | 机器学习特征工程最全解读

下面我们对Titanic数据集中的船票价格字段进行log1p变换,示例代码如下:

sns.distplot(df_titanic.fare,kde=False)

机器学习实战 | 机器学习特征工程最全解读

df_titanic['fare_log'] = np.log((1+df_titanic['fare']))
sns.distplot(df_titanic.fare_log,kde=False)

机器学习实战 | 机器学习特征工程最全解读

(2) box-cox变换

box-cox变换是box和cox在1964年提出的一种广义幂变换方法,是统计建模中常用的一种数据变换,用于连续的响应变量不满足正态分布的情况。b数据分析师证书ox-cox变换之后,可以一定程度上减小不可观测的误差和预测变量的相关性。

box-cox变换的主要特点是引入一个参数,通过数据本身估计该参数进而确定应采取的数据变换形式,box-cox变换可以明显地改善数据数据分析培训的正态性、数据分析观念对称性和方差相等性,对许多实际数线性回归据都是行之有效的。

box-cox变换函数数据分析师证书数学表达式如下:

y()={y−1,≠复杂度0ln⁡y,=0y(lambda)=left{begin{array}{ll} frac{y^{lambda}-1}{lambda}, & lambda neq 0 \ ln y, & lambda=0 end{array}right.

生成的变换后的输出y,是输入线性回归x和变换参数线性回归统计三要素的函数;当=0时,该变换就是自然对数log变换,前面我们已经提到过了。的最佳取值通常环形复杂度由最大似然或最大对数似然确定。

机器学习实战 | 机器学习特征工程最全解读

下面我们对Titanic数据集数据分析师工作内容中的船票价格字段进行box-cox变换,示例代码如下:

# 从数据分布中移除非零值
fare_positive_value = df_titanic[(~df_titanic['fare'].isnull()) & (df_titanic['fare']>0)]['fare']
import scipy.stats as spstats
# 计算最佳值
l, opt_lambda = spstats.boxcox(fare_positive_value)
print('Optimal lambda value:', opt_lambda) # -0.5239075895755266
# 进行 Box-Cox 变换
fare_boxcox_lambda_opt = spstats.boxcox(df_titanic[df_titanic['fare']>0]['fare'],lmbda=opt_lambda)
sns.distplot(fare_boxcox_lambda_opt,kde=Fal

机器学习实战 | 机器学习特征工程最全解读

4.6数据分析师 离散变量处理

对于类别型的字段特征(比如颜色、类型、好坏程度),有很多模型并不能直接处理,我们对其进行编码后能更好地呈现信息和支撑模approve型学习。有以下常见appstore的类别神经网络型变量编码方式:

(1) 标签编码(label encoding)

标签编码(la时间复杂度bel encoding)是最常见的类别时间复杂度型数据编码方式之一,编码值介于 0 和 n_classes-1 之间的标签。

机器学习实战 | 机器学习特征工程最全解读

例如:比如有[dog,cat,dog,mouse,rabbit],我们把其转换为[0,1,0,2,3]。

  • 优点:相对于OneHo劳动复杂度t编码,LabelEncoder编码占用内存空间小,并且支持文本特征编码。
  • 缺点:它的编码方式给不同类别带来了额外的大小顺序关系,在有些计算型模型神经网络对信息的存储依赖什么(比如逻辑回归)里有影响,它可以使用在树模型中。

标签编码的线性回归方程公式b推导过程参考代码如下:

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
le.fit(["超一线", "一线", "二线", "三线"])
print('特征:{}'.format(list(le.classes_)))
# 输出 特征:['一线', '三线', '二线', '超一线']
print('转换标签值:{}'.format(le.transform(["超一线", "一线", "二线"])))
# 输出 转换标签值:array([3 0 2]...)
print('特征标签值反转:{}'.format(list(le.inverse_transform([2, 2, 1]))))
# 输出 特征标签值反转:['二线', '二线', '三线

(2) 独热向量编码(one hot encoding )

独热编码通常用于处理类别间不具有大小关系的特征。

机器学习实战 | 机器学习特征工程最全解读

例如:特征:血型,一共有四种类别(A,B,AB,O)线性回归分析spss,采用独热编码后,会把血型变成有一个4维的稀疏向量

  • A表示为[1,0,0,0]
  • B表示为[0,1,0,0]
  • AB表示为[0,0,1,0]
  • O表示为[0,0,0,1]

最终生成的稀疏向量的维度,和类别数相同。

  • 优点:独热编码解决了分类器数据分析不好处理属性数据的问题,在一定程度上也起到了扩充特征的作用。它的值只有0和1,不同的类型存储在垂直的空间。
  • 缺点:只能对数值型变量二值化,无法直接对字符串型的类别变量编码。当类别的数量很多时,特征空间会变得非常大。在这种情况下,一般可以用PCA来减少维度。而且 one hot eappearancencoding+PCA 这种组合在实际中也非常有用。

如果借助于pandas工具库(查看ShowMeAI的 数据分析数据分析观念系列教程数据科学工具速查 | Pandas使用指南 进行详细了解),独热向量编码的线性回归方程公式Python代码参考示例如下:

sex_list = ['MALE', 'FEMALE', np.NaN, 'FEMALE', 'FEMALE', np.NaN, 'MALE']
df = pd.DataFrame({'SEX': sex_list})
display(df)
df.fillna('NA', inplace=True)
df = pd.get_dummies(df['SEX'],prefix='IS_SEX')
display(df)

最终变换前后的结果如下:

# 原始数据
 SEX
0   MALE
1   FEMALE
2   NaN
3   FEMALE
4   FEMALE
5   NaN
6   MALE
# 独热向量编码后
 IS_SEX_FEMALE     IS_SEX_MALE    IS_SEX_NA
0    0                 1                0
1    1                 0                0
2    0                 0                1
3    1                 0                0
4    1                 0                0
5    0                 0                1 

下面我们对’sex’, ‘class’, ‘pclass’, ’embarked’, ‘who’, ‘family_size’, ‘age_bin’这些字段数据分析培训都进行apple独热向量编码。

pd.get_dummies(df_titanic, columns=['sex', 'class', 'pclass', 'embarked', 'who', 'family_size', 'age_bin'],drop_first=True)

机器学习实战 | 机器学习特征工程最全解读

当然,我们神经网络算法三大类也可神经网络英文以借助SKLearn(查看ShowMeAI教程 SKLearn最全应用指南AI建模工具速查 | Scikit-learn使用指南 详细学习),进行独热向量编码实现:

import numpy as np
from sklearn.preprocessing import OneHotEncoder
# 非负整数表示的标签列表
labels = [0,1,0,2]
# 行向量转列向量
labels = np.array(labels).reshape(len(labels), -1)
# 独热向量编码
enc = OneHotEncoder()
enc.fit(labels)
targets = enc.transform(labels).toarray()
# 如果不加 toarray() 的话,输出的是稀疏的存储格式,即索引加值的形式,也可以通过参数指定 sparse = False 来达到同样的效果

输出结果如下:

array([[ 1.,  0.,  0.],
 [ 0.,  1.,  0.],
 [ 1.,  0.,  0.],
 [ 0.,  0.,  1.]])

(3) 标签二值化(LabelBinarizer)

功能与OneHotEncoder一样,但是OneHotEncoder只能对数值型变量二值化,无法直接对字符串型的类别变量编码,而Labe线性回归方程例题详解lBinarizer可以直接对字符型变量二值化。

示例代码如下:

from sklearn.preprocessing import LabelBinarizer
lb=LabelBinarizer()
labelList=['yes', 'no', 'no', 'yes','no2']
# 将标签矩阵二值化
dummY=lb.fit_transform(labelList)
print("dummY:",dummY)
# 逆过程
yesORno=lb.inverse_transform(dummY)
print("yesOrno:",yesORno)

输出如下:

dummY: [[0 0 1]
 [1 0 0]
 [1 0 0]
 [0 0 1]
 [0 1 0]]
yesOrno: ['yes' 'no' 'no' 'yes' 'no2']

4.7 降维

在实际的机器学习项目中,我们可能还会做线性回归方程计算器处理,主要因为数据存在以下几个问题:

  • 数据的多重共线性:特征属性线性回归之间存在着相互关联关系。多重共线性会导神经网络对信息的存储依赖什么致解的空间不稳定, 从而导致模型的泛化能力弱。
  • 高纬空间样本具有稀疏性,导致模型APP比较难找到数据特征。
  • 过多的变量会妨碍模型查找规律。
  • 仅仅考虑单个变量对于目劳动复杂度标属性的影响可能忽略变量之间的潜在关系。

机器学习实战 | 机器学习特征工程最全解读

通过特征降维希望达到的目的:

  • 减少特征属性的个数
  • 确保特征属性之间是相互独立的

常用神经网络的基本原理的降维方法有:

  • PCA
  • SVD
  • LDA
  • T-sne等非线性降维

这里降维的讲解,我们给大家基于iris数据集讲解:

from sklearn import datasets
iris_data = datasets.load_iris()
X = iris_data.data
y = iris_data.target
def draw_result(X, y):
    plt.figure()
    # 提取 Iris-setosa
    setosa = X[y == 0]
    # 绘制点:参数 1 x 向量,y 向量
    plt.scatter(setosa[:, 0], setosa[:, 1], color="red", label="Iris-setosa")
    versicolor = X[y == 1]
    plt.scatter(versicolor[:, 0], versicolor[:, 1], color="orange", label="Iris-versicolor")
    virginica = X[y == 2]
    plt.scatter(virginica[:, 0], virginica[:, 1], color="blue", label="Iris-virginica")
    plt.legend()
    plt.show()
draw_result(X, y)

机器学习实战 | 机器学习特征工程最全解读

(apple1) PCA(Principal Component Analysis)

关于PCAappreciate主成分分析降维算法,大家可以查阅ShowMeAI文章 图解机器学习 | 降维算法详解 进行详细学习。

PCA降维的参考代码实现如下:

import numpy as np
from sklearn.decomposition import PCA
pca = PCA(n_components=2)
newX = pca.fit_transform(X)
draw_result(newX, y)

机器学习实战 | 机器学习特征工程最全解读

(2复杂度怎么计算的) SVD(Singular Value Decomposition)

SVD方法的主要步骤如下:

ATA=(UVT)TUVT=VTUTUVT=VTVT=V2VTA^{T} A=left(U Sigma V^{T}right)^{T} U Sigma V^{T}=V Sigma^{T}数据分析的四个步骤 U^{线性回归方程公式详解T} U Sigma V^{T}=V Sigma^{T} Sigma V^{T}=V Sigma^{2} V^{T}

所以 VVATAA^{T} A 特征值数据分析报告分解的特征向量按列组成的正交矩阵, 2Sigma^{2}ATAA^{T}神经网络 A 特征值组成的对角矩阵,也可以看出 AmnA_{m times n} 的奇异值 isigma_{i}ATAA^{T} A 特征值ilambda_{i}的平方根。

i=isigma_application{i}=sqrt{lambda_{i}}线性回归统计三要素

假如 ATAA^{T} A 的特征向量为 viv_{i}UU 中对应的 uiu_{i} 则可以由下式求出:

ui=Aviiu_{i}=frac{A v_{i}}线性回归方程计算器{sigma_{i}}

也即奇异值分解的关键在于对 ATAA^{T} A 进行特征值分解。

对应的代码参考实现如下:

from sklearn.decomposition import TruncatedSVD
iris_2d = TruncatedSVD(2).fit_transform(X)
draw_result(iris_2d, y)

机器学习实战 | 机器学习特征工程最全解读

PCA vs SVD数据分析观念

PCA求解关键在于求解协方差神经网络算法三大类矩阵 C=1mXXTC=frac{线性回归方程公式1}{m} X X^{T} 的特征值分解。

SVD关键在空间复杂度ATAA空间复杂度^{T} A 的特征线性回归方程公式详解值分解。

很明显二者所解决的问题非常相似,都是神经网络是什么对一个实对称矩阵进行劳动复杂度特征值分解,如果取:

A=XTmA=frac{X^{T}}{劳动复杂度sqrt{m}}

则有:

ATA=线性回归方程(XTm)TXTm=1数据分析软件mXXTA^{T} A=left(frac{X^{T}}{sqrt{m}}right)^{T} frac{X^{T}}{sqrt{m}}=frac{1}{m} X X^{T}

此时SVD与PCA等价,所以PCA问题可以转化为SVD问题求解。

(3) LDA(Linear Discriminant Analysis)

是有监督的降维,通过最小化类内离散度与最大化类间离散度来获得最优特征子集。

机器学习实战 | 机器学习特征工程最全解读

上图解读:LD1通过线性判定,可以很好的将呈正态分布的两个类分开。LD2的线性判定保神经网络的基本原理持了数据集的较大方差,但LD软件复杂度2无法提供关于类别的信息神经网络对信息的存储依赖什么,因此LD2不是一个好的线性判定。

对应的降维参考实现代码如下:

from sklearn.discriminant_analysis import LinearDiscriminantAnalysis as LDA
lda = LDA(n_components=2)
iris_2d = lda.fit_transform(X, y)
draw_result(iris_2d, y)

机器学习实战 | 机器学习特征工程最全解读

LDA vs PCA

PCA试图寻找到方差最大的正交的主成分线性回归模型分量轴LDA发现可以最优化分类的特征子空间LDA和PCA都是可用神经网络分类于降低数据集维度的线性转换技巧PCA是无监督算法LDA线性回归方程是监督算法LDA是一种更优越的用于分类的特征提取技术

(4) T-SNE

T-神经网络是什么SNE(t-d线性回归模型istributed stochastic neighbAPPor emb数据分析的四个步骤edding)是一种环路复杂度非线性降维方法,参考的代码实现如下:

from sklearn.manifold import TSNE
tsne = TSNE(n_components=2)
iris_2d = tsne.fit_transform(X)
draw_result(iris_2d, y)

机器学习实战 | 机器学习特征工程最全解读

5.特征选择

特征选劳动复杂度择是在建模过程中经常会用到的一个处理,也有重要意义:

  • 特征冗余,部分特征相关度太高,消耗计算资源
  • 存在噪声,对模型结果有负面影响
  • 部分特征容易引起过拟合

机器学习实战 | 机器学习特征工程最全解读

总体来说,进行特征选择有神经网络算法2个主要考虑方向:

  • 特征发散程度:如果一个特征不发散,例如方差接近于0,也就是说样本在这个特征上基本上没有差异,这个特征对application于样本的区分并没有什么用。
  • 特征与目标的相关性:特征与目标相关性高,越应当被保留,这点大家也比较容易理解。

对特征选择的方法进行归类,又大体可以归纳为下述3种:

  • Filter:过滤法,按照发散性或者相关性对各个特征进行评分,设定阈值或者待选择阈值的个数来选择特征。
  • Wr数据分析报告apper:神经网络预测包装法,根据目标函数(通常是预测效果评分),每次选择若干特征或者排除若干线性回归方程计算器特征。
  • Embedded:嵌入法,先使用某些机器学习的算法和模型进行训练,得到各个特征的权值系数,根据系数从大到小选择特征。类似数据分析培训于Filter方法,但是是通过训练来确定特神经网络对信息的存储依赖什么征的优劣。我们使用SKLearn中的feature_selection库来进行特征选择。

5.1 过滤式Filter

(1) 方差过滤

这是通过特征本身的方差来筛选特征的类。

比如一个特征本身的方差很小,就表示样本在这个特征上基本没有差异,可能特征中的大多数值都一样,甚至整个特征的取值都相同,那这个特征对于样本区分没有什么作用。

我们会剔除掉方差非常小的字段特征,参考代码appointment实现如下:

from sklearn.feature_selection import VarianceThreshold
variancethreshold = VarianceThreshold() #实例化,默认方差为 0.方差<=0 的过滤掉
df_titanic_numerical = df_titanic[['age','sibsp','parch','fare','family_size']]
X_var = variancethreshold.fit_transform(df_titanic_numerical)    #获取删除不合格特征后的新特征矩阵
del_list = df_titanic_numerical.columns[variancethreshold.get_support()==0].to_list()  #获得删除

(2) 卡方过滤

卡方检验,专用于分类算法,捕捉相关性,追求p小于显著性水平的特征。卡方过滤是专门针对离散型标签(即分类问题)的相关性过神经网络对信息的存储依赖什么滤。

机器学习实战 | 机器学习特征工程最全解读

p值和取到这一个统计量的概率取值其实是正相关的:p值越大,取到这个统数据分析计量的概率就越大,即越合理;p值越小,取到这个统计量的概率就越小,即越不合理,此时应该拒线性回归方程公式b推导过程绝原假设,接收备择假设。

如下为卡方过滤的参考代码示例:

df_titanic_categorical = df_titanic[['sex', 'class', 'embarked', 'who',  'age_bin','adult_male','alone','fare_bin']]
df_titanic_numerical = df_titanic[['age','sibsp','parch','fare','family_size','pclass']]
df_titanic_categorical_one_hot = pd.get_dummies(df_titanic_categorical, columns=['sex', 'class', 'embarked', 'who',  'age_bin','adult_male','alone','fare_bin'], drop_first=True)
df_titanic_combined = pd.concat([df_titanic_numerical,df_titanic_categorical_one_hot],axis=1)
y = df_titanic['survived']
X = df_titanic_combined.iloc[:,1:]
from sklearn.feature_selection import chi2
from sklearn.feature_selection import SelectKBest
chi_value, p_value = chi2(X,y)
#根据 p 值,得出 k 值
k = chi_value.shape[0] - (p_value > 0.05).sum()  #要保留的特征的数量 14
#根据卡方值,选择前几特征,筛选后特征
X_chi = SelectKBest(chi2, k=14).fit_transform(X, y)

(3) F检验

F检验捕捉线性相关性,要求数据服从正态分布,追求P值小于显著性水平特征复杂度

其特征选择的参考代码如下:

from sklearn.feature_selection import f_classif
f_value, p_value = f_classif(X,y)
#根据 p 值,得出 k 值
k = f_value.shape[0] - (p_value > 0.05).sum()
#筛选后特征
X_classif = SelectKBest(f_classif, k=14).fit_transform(X, y)

(4) 互信息法

互信息法是用来捕捉每个特征与标签之间的任意关系(包括线性和非线性关系)的神经网络预测过滤方法。

其特征选择的参考代码如下:

from sklearn.feature_selection import mutual_info_classif as MIC
#互信息法
mic_result = MIC(X,y)   #互信息量估计
k = mic_result.shape[0] - sum(mic_result <= 0)    #16
X_mic = SelectKBest(MIC, k=16).fit_transform(X, y)

5.2 包裹式Wrapper

(1) 递归特征删除法

递归消除删除法使用一个基模型来进行多轮训练,每轮训练后,消除若干权值系数的特征,再基于新的特征集进行下一轮训练。使用feature_selection库的RFE类来选择特征的代码如下:

from sklearn.feature_selection import RFE
from sklearn.linear_model import LogisticRegression
#递归特征消除法,返回特征选择后的数据
#参数 estimator 为基模型
#参数 n_features_to_select 为选择的特征个数
X_ref = RFE(estimator=LogisticRegression(), n_features_to_select=10).fit_transform(X, y)

(2) 特征重要性评估

我们基于一些模型(如各类树模型)可以得到特征重要度,进而进行筛选

from sklearn.ensemble import ExtraTreesClassifier
# 建模与获取特征重要度
model = ExtraTreesClassifier()
model.fit(X, y)
print(model.feature_importances_)
# 特征重要度排序
feature=list(zip(X.columns,model.feature_importances_))
feature=pd.DataFrame(feature,columns=['feature','importances'])
feature.sort_values(by='importances',ascending=False).head(20)

(3) 排列重要性评估

我们还有一类方法可以数据分析的四个步骤评估特征重要度,进而进行筛选,叫作排列重要度。

原理:在训练机器学习模型之后计算置换重要性。这种方法在向模型提出假设,如果在保留目标和所有其他列的同时随机打approach乱一列验证集特征数据,对预测机器学习模型的准确性的影响程度。对于一个具有高度重要性的特征,random-reshuffle会对机器学习模型预测的准确性造成更大的损害。

优点:快速计算;易于使用和理解;特征重要性度量的属性;追求特征稳定性。

参考代码实现如下:

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
import eli5
from eli5.sklearn import PermutationImportance
my_model = RandomForestClassifier(random_state=0).fit(train_X, train_y)
perm = PermutationImportance(my_model, random_state=1).fit(val_X, val_y)
eli5.show_weights(perm, feature_names = val_X.columns.tolist())

机器学习实战 | 机器学习特征工程最全解读

5.3 嵌入式Embedded

(1) 基于惩罚项的特征选择法

使用带惩罚项的基模型,除了筛选出特征神经网络外,同时也进行了降维。

使用feature_selection库的SelectFromModel类结合带L1惩罚项的逻辑回归模型,来选择特征的代码如下:

from sklearn.feature_selection import SelectFromModel
from sklearn.linear_model import LogisticRegression
#带 L1 和 L2 惩罚项的逻辑回归作为基模型的特征选择,这个设置带 L1 惩罚项的逻辑回归作为基模型的特征选择
lr = LogisticRegression(solver='liblinear',penalty="l1", C=0.1)
X_sfm = SelectFromModel(lr).fit_transform(X, y)
X_sfm.shape
(891, 7

使用feature_selection库的SelectFromModel类结合SVM模型,来选择特征的代码如下:

from sklearn.feature_selection import SelectFromModel
from sklearn.svm import LinearSVC
lsvc = LinearSVC(C=0.01,penalty='l1',dual=False).fit(X, y)
model = SelectFromModel(lsvc,prefit=True)
X_sfm_svm = model.transform(X)
X_sfm_svm.shape
(891, 7

(2) 基于树模型

树模型中GBDT也appointment可用来作为基模型进行特征选择,使用feature_selection库的SelectFromModel类结合appreciateGBDT线性回归分析spss模型,来选择特征的代码如下:

from sklearn.feature_selection import SelectFromModel
from sklearn.ensemble import GradientBoostingClassifier
#GBDT 作为基模型的特征选择
gbdt = GradientBoostingClassifier()
X_sfm_gbdt = SelectFromModel(gbdt).fit_transform(X, y)

5.4 特征选择总结

关于特征选择,做一个经验线性回归方程公式详解总结神经网络预测,如下:

  • ① 类别线性回归方程型特征变量,那么可以从SelectKBest开始神经网络分类,用卡方或者基于树的选择器来选择变量;
  • ② 定量特征变量,可以直接劳动复杂度用线性模型和基于相关性的选择器来选择变量;
  • ③ 二分类问题神经网络是什么,可以考虑使用SelectFromMo神经网络英文del和SVC;
  • ④ 特征选择前,要充空间复杂度分了解数据,一般需要做探索数据分析软件性数据分析EDA。

6.特征工程实战建议

最后,ShowMeAI结合实际工业应用经验,总结一些APP特征工程要点,如下:

机器学习实战 | 机器学习特征工程最全解读

6.1 数据理解

构建特征的有效性,和业务及神经网络引擎数据分布强相关,因此建议在此步骤之前做EDA探索性数据分析来充分理解数据(可以参考ShowMeA线性回归方程例题详解I文章 Python机器学习综合项目-电商approach销量预估Python机器学习综合项目-电商销量预估<进阶> 了解EDA的基本过程和方法)。

6.2 数据预处理

我们可能会做的一些数据预处理与特征处理如下:

  • 连续神经网络特征离散化

    • 本质是限制浮点数特征的精度,异常数据有很强的鲁棒性,模型也会更稳定。
    • 树模型不需要做
  • 数值截断

    • 把特征值的取值限制在算法复杂度一定范围内(对异常剔除有帮助)
    • APP以用pandas dataframe的.cl数据分析报告ip(low,upper)方法

6.3 数据清洗

结合业务场景和数据分布,进行合理的缺失值、异常值处理。

6复杂度.4 特征构建与变换

建议不要上来就做PCA或LDA降维,最好先构建特征并对特征做筛选。

机器学习实战 | 机器学习特征工程最全解读

  • 线性组合(linear combination)

    • 适用于决策树以及基于决策树的ensemble(如gradient boosting,random for线性回归方程公式详解est),因为常见的axis-复杂度怎么计算的aligned split function不擅长捕获不同特征之间的相关性;
    • 不适用于SVM、线线性回归性回归、神经网络等。
  • 类别特征与数值特征的组合

    • 用N1和N2表示数值特征,用C1和C2表示类别特数据分析师工作内容征,利用pandas的gr数据分析师资格证书oupby操作,可以创造出以下几种有意义的新特征:(其中,C2还可以是离散化了的N1)
median(N1)_by(C1)   中位数
mean(N1)_by(C1)   算术平均数
mode(N1)_by(C1)   众数
min(N1)_by(C1)   最小值
max(N1)_by(C1)   最大值
std(N1)_by(C1)   标准差
var(N1)_by(C1)   方差
freq(C2)_by(C1)   频数
  • 统计特征+线性组合
    • 统计特征可以和线性组合等线性回归方程公式b推导过程基础特征工程方法结合(仅用于决策树)神经网络算法,可以得到更多有意义的特征,如:
N1 - median(N1)_by(C1)
N1 - mean(N1)_by(C1)
  • 基于树模型创造新特征
    • 在决策树系列算法中(例决策树、gbdt、随机森林,具体可以查看ShowMeAI教程 图解机器学习算法:从入门到精通系列教程 详细学习理解),每一个样本都会被映射到决策树的叶子上。
    • 我们可以把样本经过每一棵决策树映射后的index(自然数)或one-hot-encoding-vector线性回归方程(哑编码得到的稀空间复杂度疏矢量)作为一项新的特征,加入到模型中。

在Scikit-Learn和XGBoost里线性回归方程计算器,可以基于apply()以及deci数据分析报告sion_path()等方法实现。

6.5 模型

我们在不同类型的模型里,也会考虑不同的特征工程方法

机器学习实战 | 机器学习特征工程最全解读

  • 树模型

    • 对特征数值幅度不敏感,可以appear不进行无量纲化和统计变换处理;
    • 数模型特征依赖于样本距离来进行学习,可以不进行类别特征编码(但字符型特征不能直接作为输入,所以需要至少要进行标签编码)线性回归方程公式
    • LightGBM和XGBo劳动复杂度os圈复杂度t都能将缺失值作为数据的一部分进行学习,所以不需要处理缺失值。其他情况需要填充缺失。
  • 依赖样本距离的模型

    • 如线性回归、SVM、深环形复杂度度学习等属于这一类。
    • 对于数值型特征需要进行无量纲化处理。
    • 对于一些长尾分布的数据复杂度特征,可以做统计变换,使得模型能更好优化。
    • 对于线性模appear型,特征分箱可以提升模型表达能力。

参考资料

  • 图解机器学习算法 | 从入门到精通系列
  • 数据分析系列教程
  • 数据科appointment学工具速查 | Pandas使用指南

ShowMeAI系列教程推荐

  • 神经网络分类解Python编程:从入门到精通系列教程
  • 图解数据神经网络预测分析:从入门到精通系列教程
  • 图解AI数学基础:从入门到精通系列教程
  • 图解大数据技术:从入门到精通系列教程
  • 图解机器学习算法:从入门到精通系列教程
  • 机器学习实战:手把手教你玩转机器学习系列

相关文章推荐

  • Python机器学习算法应用实践
  • SKLearn入门与简单应用案例
  • SKLearn最全应用指南
  • XGBoost建模应用详解
  • LightGBM建模应用详解
  • Python神经网络的基本原理线性回归方程公式器学习综合项目-电商销量预估
  • Python机器学习综合项目-电商线性回归分析spss销量预估<进阶方案>
  • 机器学习特征工程最全解读
  • 自动化特征工程工具Featuretools应用
  • AutoML自动化机器学习建模

机器学习实战 | 机器学习特征工程最全解读

发表评论

提供最优质的资源集合

立即查看 了解详情