A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

OneHotEncoder 可用于将分类特征的每个元素转化为一个可直接计算的数值,也即特征值数字化,常用于特征工程中的数据预处理。

其本质是One-Hot编码在scikit-learn中的实现。

One-Hot
One-Hot编码,又称为一位有效编码,主要是采用N位状态寄存器来对N个状态进行编码,每个状态都有它独立的寄存器位,并且在任意时候只有一位有效。

One-Hot编码是分类变量作为二进制向量的表示。这首先要求将分类值映射到整数值,然后,每个整数值被表示为二进制向量,将整数索引标记为1,其余都标为0。

sklearn 中的 OneHotEncoder
直达官网: sklearn.preprocessing.OneHotEncoder

基本参数:
# Encode categorical integer features as a one-hot numeric array.
OneHotEncoder(n_values=None,  
                        categorical_features=None,
                        categories=None,
                        drop=None,
                        sparse=True,
                    dtype=np.float64,
                        handle_unknown='error')
示例:

#-*- coding: utf-8 -*-
from sklearn.preprocessing import  OneHotEncoder

enc = OneHotEncoder()
enc.fit([[0, 0, 3],
         [1, 1, 0],
         [0, 2, 1],
         [1, 0, 2]])

ans = enc.transform([[0, 1, 3]]).toarray()
'''
如果不加 toarray() 的话,输出的是稀疏的存储格式,即索引加值的形式,也可以通过参数指定 sparse = False 来达到同样的效果
'''
print(ans)
#输出 [[ 1.  0.  0.  1.  0.  0.  0.  0.  1.]]

解释:

对于输入数组,依旧是把每一行当作一个样本,每一列当作一个特征,

先来看第一个特征,即第一列 [0,1,0,1],也就是说它有两个取值 0 或者 1,那么 one-hot 就会使用两位来表示这个特征,[1,0] 表示 0, [0,1] 表示 1,在上例输出结果中的前两位 [1,0…] 也就是表示该特征为 0;

第二个特征,第二列 [0,1,2,0],它有三种值,那么 one-hot 就会使用三位来表示这个特征,[1,0,0] 表示 0, [0,1,0] 表示 1,[0,0,1] 表示 2,在上例输出结果中的第三位到第六位 […0,1,0,0…] 也就是表示该特征为 1;

第二个特征,第三列 [3,0,1,2],它有四种值,那么 one-hot 就会使用四位来表示这个特征,[1,0,0,0] 表示 0, [0,1,0,0] 表示 1,[0,0,1,0] 表示 2,[0,0,0,1] 表示 3,在上例输出结果中的最后四位 […0,0,0,1] 也就是表示该特征为 3;

注意:

在scikit-learn 0.20版本中有一个比较重要的改动,就是sklearn.preprocessing.OneHotEncoder 除了支持整数外,还支持字符串。
否则如果特征是字符串,就需要先使用 sklearn.preprocessing.LabelEncoder 将离散特征值转换为数字。
常用参数解释
  • n_values=’auto’
    -(scikit-learn 0.20 中以categories替代,也即: categories=’auto’ )

表示每个特征使用几维的数值由数据集自动推断,即几种类别就使用几位来表示。当然也可以自己指定,示例:

from sklearn.preprocessing import  OneHotEncoder


enc = OneHotEncoder(categories= [2, 3, 4])

enc.fit([[0, 0, 3],

         [1, 1, 0]])


ans = enc.transform([[0, 2, 3]]).toarray()

print(ans)

#输出 [[ 1.  0.  0.  0.  1.  0.  0.  0.  1.]]




drop=None
-用于从每个特征中舍去特定的分类,默认为None,且不能与categories、n_values同用。

dtype=np.float64
表示编码数值格式,默认是浮点型。

sparse=True
表示编码的格式,默认为 True,即为稀疏的格式,指定 False 则就不用 toarray() 了

handle_unknown=’error’
,其值可以指定为 “error” 或者 “ignore”,即如果碰到未知的类别,是返回一个错误还是忽略它。

categorical_features = 'all’
这个参数指定了对哪些特征进行编码,默认对所有类别都进行编码。也可以自己指定选择哪些特征,通过索引或者 bool 值来指定,看下例:

from sklearn.preprocessing import  OneHotEncoder

enc = OneHotEncoder(categorical_features = [0,2])         # 等价于 [True, False, True]
enc.fit([[0, 0, 3],
         [1, 1, 0],
         [0, 2, 1],
         [1, 0, 2]])

ans = enc.transform([[0, 2, 3]]).toarray()
print(ans)
#输出 [[ 1.  0.  0.  0.  0.  1.  2.]]
以下为jupyter notebook 输出示例,可以看到运行结果之外,还有一串Warnings




出现 警告的原因 是:

scikit-learn 0.20 中将此参数进行了剥离,后续的OneHotEncoder将不再支持categorical_features 参数,但新增了sklearn.compose.ColumnTransformer 类,
通过这个类我们可以对输入的特征分别做不同的预处理,并且最终的结果还在一个特征空间里面。

ColumnTransformer 的具体使用方法在此不再展开,
下面示例演示 利用OneHotEncoder结合ColumnTransformer ,实现categorical_features 参数 对指定的特征类编码
from sklearn.preprocessing import  OneHotEncoder
from sklearn.compose import ColumnTransformer

categorical_features = [0,2]
enc = OneHotEncoder(handle_unknown='ignore')
clt = ColumnTransformer([('name',enc,categorical_features)],remainder='passthrough')

clt.fit([[0, 0, 3],
         [1, 1, 0],
         [0, 2, 1],
         [1, 0, 2]])


ans = clt.transform([[0, 2, 3]])         # 此处不能再使用toarray()
print(ans)
#输出 [[1.0, 0.0, 0.0, 0.0, 0.0, 1.0, 2]]

[color=rgba(0, 0, 0, 0.75)]fit_transform()
[color=rgba(0, 0, 0, 0.75)]方法 transform( X ) 就是对 X 进行编码了。在实际应用中,我们更常用方法fit_transform( ) ,它相当于fit( X ).transform( X ) ,也就是一步到位,看下例:

[color=rgba(0, 0, 0, 0.749019607843137)]from sklearn.preprocessing import  OneHotEncoder
[color=rgba(0, 0, 0, 0.749019607843137)]

[color=rgba(0, 0, 0, 0.749019607843137)]enc = OneHotEncoder(sparse = False)
[color=rgba(0, 0, 0, 0.749019607843137)]ans = enc.fit_transform([[0, 0, 3],
[color=rgba(0, 0, 0, 0.749019607843137)]                         [1, 1, 0],
[color=rgba(0, 0, 0, 0.749019607843137)]                         [0, 2, 1],
[color=rgba(0, 0, 0, 0.749019607843137)]                         [1, 0, 2]])
[color=rgba(0, 0, 0, 0.749019607843137)]

[color=rgba(0, 0, 0, 0.749019607843137)]print(ans)
[color=rgba(0, 0, 0, 0.749019607843137)] ''' 输出
[color=rgba(0, 0, 0, 0.749019607843137)]  [[ 1.  0.  1. ...,  0.  0.  1.]
[color=rgba(0, 0, 0, 0.749019607843137)]   [ 0.  1.  0. ...,  0.  0.  0.]
[color=rgba(0, 0, 0, 0.749019607843137)]   [ 1.  0.  0. ...,  1.  0.  0.]
[color=rgba(0, 0, 0, 0.749019607843137)]   [ 0.  1.  1. ...,  0.  1.  0.]]
[color=rgba(0, 0, 0, 0.749019607843137)]   '''

结束:

以上只是OneHotEncoder的基本用法演示,更多高级的应用,有待进一步研究学习。








0 个回复

您需要登录后才可以回帖 登录 | 加入黑马