A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

常用的基本功能当我们构建好了 Series 和 DataFrame 之后,我们会经常使用哪些功能呢?来跟我看看吧。引用上一章节中的场景,我们有一些用户的的信息,并将它们存储到了 DataFrame 中。
因为大多数情况下 DataFrame 比 Series 更为常用,所以这里以 DataFrame 举例说明,但实际上很多常用功能对于 Series 也适用。
index = pd.Index(data=["Tom", "Bob", "Mary", "James"], name="name")data = {    "age": [18, 30, 25, 40],    "city": ["BeiJing", "ShangHai", "GuangZhou", "ShenZhen"],    "sex": ["male", "male", "female", "male"]}user_info = pd.DataFrame(data=data, index=index)user_info复制代码                age      city      sex   
          name                     
              Tom      18      BeiJing      male   
          Bob      30      ShangHai      male   
          Mary      25      GuangZhou      female   
          James      40      ShenZhen      male    一般拿到数据,我们第一步需要做的是了解下数据的整体情况,可以使用 info 方法来查看。
user_info.info()复制代码Index: 4 entries, Tom to JamesData columns (total 3 columns):age     4 non-null int64city    4 non-null objectsex     4 non-null objectdtypes: int64(1), object(2)memory usage: 128.0+ bytes复制代码如果我们的数据量非常大,我想看看数据长啥样,我当然不希望查看所有的数据了,这时候我们可以采用只看头部的 n 条或者尾部的 n 条。查看头部的 n 条数据可以使用 head 方法,查看尾部的 n 条数据可以使用 tail 方法。
user_info.head(2)复制代码                age      city      sex   
          name                     
              Tom      18      BeiJing      male   
          Bob      30      ShangHai      male    此外,Pandas 中的数据结构都有 ndarray 中的常用方法和属性,如通过 .shape 获取数据的形状,通过 .T 获取数据的转置。
user_info.shape复制代码(4, 3)复制代码user_info.T复制代码          name      Tom      Bob      Mary      James   
              age      18      30      25      40   
          city      BeiJing      ShangHai      GuangZhou      ShenZhen   
          sex      male      male      female      male    如果我们想要通过 DataFrame 来获取它包含的原有数据,可以通过 .values 来获取,获取后的数据类型其实是一个 ndarray。
user_info.values复制代码array([[18, 'BeiJing', 'male'],       [30, 'ShangHai', 'male'],       [25, 'GuangZhou', 'female'],       [40, 'ShenZhen', 'male']], dtype=object)复制代码描述与统计有时候我们获取到数据之后,想要查看下数据的简单统计指标(最大值、最小值、平均值、中位数等),比如想要查看年龄的最大值,如何实现呢?
直接对 age 这一列调用 max方法即可。
user_info.age.max()复制代码40复制代码类似的,通过调用 min、mean、quantile、sum 方法可以实现最小值、平均值、中位数以及求和。可以看到,对一个 Series 调用 这几个方法之后,返回的都只是一个聚合结果。
来介绍个有意思的方法:cumsum,看名字就发现它和 sum 方法有关系,事实上确实如此,cumsum 也是用来求和的,不过它是用来累加求和的,也就是说它得到的结果与原始的 Series 或 DataFrame 大小相同。
user_info.age.cumsum()复制代码nameTom       18Bob       48Mary      73James    113Name: age, dtype: int64复制代码可以看到,cummax 最后的结果就是将上一次求和的结果与原始当前值求和作为当前值。这话听起来有点绕。举个例子,上面的 73 = 48 + 25。cumsum 也可以用来操作字符串类型的对象。
user_info.sex.cumsum()复制代码nameTom                    maleBob                malemaleMary         malemalefemaleJames    malemalefemalemaleName: sex, dtype: object复制代码如果想要获取更多的统计方法,可以参见官方链接:Descriptive statistics
虽然说常见的各种统计值都有对应的方法,如果我想要得到多个指标的话,就需要调用多次方法,是不是显得有点麻烦呢?
Pandas 设计者自然也考虑到了这个问题,想要一次性获取多个统计指标,只需调用 describe 方法即可
user_info.describe()复制代码                age   
              count      4.000000   
          mean      28.250000   
          std      9.251126   
          min      18.000000   
          25%      23.250000   
          50%      27.500000   
          75%      32.500000   
          max      40.000000    可以看到,直接调用 describe 方法后,会显示出数字类型的列的一些统计指标,如 总数、平均数、标准差、最小值、最大值、25%/50%/75% 分位数。如果想要查看非数字类型的列的统计指标,可以设置 include=["object"] 来获得。
user_info.describe(include=["object"])复制代码                city      sex   
              count      4      4   
          unique      4      2   
          top      BeiJing      male   
          freq      1      3    上面的结果展示了非数字类型的列的一些统计指标:总数,去重后的个数、最常见的值、最常见的值的频数。
此外,如果我想要统计下某列中每个值出现的次数,如何快速实现呢?调用 value_counts 方法快速获取 Series 中每个值出现的次数。
user_info.sex.value_counts()复制代码male      3female    1Name: sex, dtype: int64复制代码如果想要获取某列最大值或最小值对应的索引,可以使用 idxmax 或 idxmin 方法完成。
user_info.age.idxmax()复制代码'James'复制代码离散化有时候,我们会碰到这样的需求,想要将年龄进行离散化(分桶),直白来说就是将年龄分成几个区间,这里我们想要将年龄分成 3 个区间段。就可以使用 Pandas 的 cut 方法来完成。
pd.cut(user_info.age, 3)复制代码nameTom      (17.978, 25.333]Bob      (25.333, 32.667]Mary     (17.978, 25.333]James      (32.667, 40.0]Name: age, dtype: categoryCategories (3, interval[float64]): [(17.978, 25.333] < (25.333, 32.667] < (32.667, 40.0]]复制代码可以看到, cut 自动生成了等距的离散区间,如果自己想定义也是没问题的。
pd.cut(user_info.age, [1, 18, 30, 50])复制代码nameTom       (1, 18]Bob      (18, 30]Mary     (18, 30]James    (30, 50]Name: age, dtype: categoryCategories (3, interval[int64]): [(1, 18] < (18, 30] < (30, 50]]复制代码有时候离散化之后,想要给每个区间起个名字,可以指定 labels 参数。
pd.cut(user_info.age, [1, 18, 30, 50], labels=["childhood", "youth", "middle"])复制代码nameTom      childhoodBob          youthMary         youthJames       middleName: age, dtype: categoryCategories (3, object): [childhood < youth < middle]复制代码除了可以使用 cut 进行离散化之外,qcut 也可以实现离散化。cut 是根据每个值的大小来进行离散化的,qcut 是根据每个值出现的次数来进行离散化的。
pd.qcut(user_info.age, 3)复制代码nameTom      (17.999, 25.0]Bob        (25.0, 30.0]Mary     (17.999, 25.0]James      (30.0, 40.0]Name: age, dtype: categoryCategories (3, interval[float64]): [(17.999, 25.0] < (25.0, 30.0] < (30.0, 40.0]]复制代码排序功能在进行数据分析时,少不了进行数据排序。Pandas 支持两种排序方式:按轴(索引或列)排序和按实际值排序。
先来看下按索引排序:sort_index 方法默认是按照索引进行正序排的。
user_info.sort_index()复制代码                age      city      sex   
          name                     
              Bob      30      ShangHai      male   
          James      40      ShenZhen      male   
          Mary      25      GuangZhou      female   
          Tom      18      BeiJing      male    如果想要按照列进行倒序排,可以设置参数 axis=1 和 ascending=False。
user_info.sort_index(axis=1, ascending=False)复制代码                sex      city      age   
          name                     
              Tom      male      BeiJing      18   
          Bob      male      ShangHai      30   
          Mary      female      GuangZhou      25   
          James      male      ShenZhen      40    如果想要实现按照实际值来排序,例如想要按照年龄排序,如何实现呢?
使用 sort_values 方法,设置参数 by="age" 即可。
user_info.sort_values(by="age")复制代码                age      city      sex   
          name                     
              Tom      18      BeiJing      male   
          Mary      25      GuangZhou      female   
          Bob      30      ShangHai      male   
          James      40      ShenZhen      male    有时候我们可能需要按照多个值来排序,例如:按照年龄和城市来一起排序,可以设置参数 by 为一个 list 即可。
注意:list 中每个元素的顺序会影响排序优先级的
user_info.sort_values(by=["age", "city"])复制代码                age      city      sex   
          name                     
              Tom      18      BeiJing      male   
          Mary      25      GuangZhou      female   
          Bob      30      ShangHai      male   
          James      40      ShenZhen      male    一般在排序后,我们可能需要获取最大的n个值或最小值的n个值,我们可以使用 nlargest 和 nsmallest 方法来完成,这比先进行排序,再使用 head(n) 方法快得多。
user_info.age.nlargest(2)复制代码nameJames    40Bob      30Name: age, dtype: int64复制代码函数应用虽说 Pandas 为我们提供了非常丰富的函数,有时候我们可能需要自己定制一些函数,并将它应用到 DataFrame 或 Series。常用到的函数有:map、apply、applymap。
map 是 Series 中特有的方法,通过它可以对 Series 中的每个元素实现转换。
如果我想通过年龄判断用户是否属于中年人(30岁以上为中年),通过 map 可以轻松搞定它。
# 接收一个 lambda 函数user_info.age.map(lambda x: "yes" if x >= 30 else "no")复制代码nameTom       noBob      yesMary      noJames    yesName: age, dtype: object复制代码又比如,我想要通过城市来判断是南方还是北方,我可以这样操作。
city_map = {    "BeiJing": "north",    "ShangHai": "south",    "GuangZhou": "south",    "ShenZhen": "south"}# 传入一个 mapuser_info.city.map(city_map)复制代码nameTom      northBob      southMary     southJames    southName: city, dtype: object复制代码apply 方法既支持 Series,也支持 DataFrame,在对 Series 操作时会作用到每个值上,在对 DataFrame 操作时会作用到所有行或所有列(通过 axis 参数控制)。
# 对 Series 来说,apply 方法 与 map 方法区别不大。user_info.age.apply(lambda x: "yes" if x >= 30 else "no")复制代码nameTom       noBob      yesMary      noJames    yesName: age, dtype: object复制代码# 对 DataFrame 来说,apply 方法的作用对象是一行或一列数据(一个Series)user_info.apply(lambda x: x.max(), axis=0)复制代码age           40city    ShenZhensex         maledtype: object复制代码applymap 方法针对于 DataFrame,它作用于 DataFrame 中的每个元素,它对 DataFrame 的效果类似于 apply 对 Series 的效果。
user_info.applymap(lambda x: str(x).lower())复制代码                age      city      sex   
          name                     
              Tom      18      beijing      male   
          Bob      30      shanghai      male   
          Mary      25      guangzhou      female   
          James      40      shenzhen      male    修改列/索引名称在使用 DataFrame 的过程中,经常会遇到修改列名,索引名等情况。使用 rename 轻松可以实现。
修改列名只需要设置参数 columns 即可。
user_info.rename(columns={"age": "Age", "city": "City", "sex": "Sex"})复制代码                Age      City      Sex   
          name                     
              Tom      18      BeiJing      male   
          Bob      30      ShangHai      male   
          Mary      25      GuangZhou      female   
          James      40      ShenZhen      male    类似的,修改索引名只需要设置参数 index 即可。
user_info.rename(index={"Tom": "tom", "Bob": "bob"})复制代码                age      city      sex   
          name                     
              tom      18      BeiJing      male   
          bob      30      ShangHai      male   
          Mary      25      GuangZhou      female   
          James      40      ShenZhen      male    类型操作如果想要获取每种类型的列数的话,可以使用 get_dtype_counts 方法。
user_info.get_dtype_counts()复制代码int64     1object    2dtype: int64复制代码如果想要转换数据类型的话,可以通过 astype 来完成。
user_info["age"].astype(float)复制代码nameTom      18.0Bob      30.0Mary     25.0James    40.0Name: age, dtype: float64复制代码有时候会涉及到将 object 类型转为其他类型,常见的有转为数字、日期、时间差,Pandas 中分别对应 to_numeric、to_datetime、to_timedelta 方法。
这里给这些用户都添加一些关于身高的信息。
user_info["height"] = ["178", "168", "178", "180cm"]user_info复制代码                age      city      sex      height   
          name                           
              Tom      18      BeiJing      male      178   
          Bob      30      ShangHai      male      168   
          Mary      25      GuangZhou      female      178   
          James      40      ShenZhen      male      180cm    现在将身高这一列转为数字,很明显,180cm 并非数字,为了强制转换,我们可以传入 errors 参数,这个参数的作用是当强转失败时的处理方式。
默认情况下,errors='raise',这意味着强转失败后直接抛出异常,设置 errors='coerce' 可以在强转失败时将有问题的元素赋值为 pd.NaT(对于datetime和timedelta)或 np.nan(数字)。设置 errors='ignore' 可以在强转失败时返回原有的数据。
pd.to_numeric(user_info.height, errors="coerce")复制代码nameTom      178.0Bob      168.0Mary     178.0James      NaNName: height, dtype: float64复制代码pd.to_numeric(user_info.height, errors="ignore")复制代码nameTom        178Bob        168Mary       178James    180cmName: height, dtype: object复制代码


链接:https://juejin.im/post/5b5336ee6fb9a04fa13f368b




6 个回复

倒序浏览
回复 使用道具 举报
回复 使用道具 举报
奈斯,优秀
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马