黑马程序员技术交流社区

标题: python语言不好理解的元类 [打印本页]

---

作者: szgyx    时间: 2018-5-24 14:52
标题: python语言不好理解的元类
千万不要被所谓“元类是99%的python程序员不会用到的特性”这类的说辞吓住。因为每个中国人，都是天生的元类使用者
　　学懂元类，你只需要知道两句话：
　　道生一，一生二，二生三，三生万物
　　我是谁？我从哪来里？我要到哪里去？
　　在python世界，拥有一个永恒的道，那就是“type”，请记在脑海中，type就是道。如此广袤无垠的python生态圈，都是由type产生出来的。
　　道生一，一生二，二生三，三生万物。
　　道 即是 type
　　一 即是 metaclass(元类，或者叫类生成器)
　　二 即是 class(类，或者叫实例生成器)
　　三 即是 instance(实例)
　　万物 即是 实例的各种属性与方法，我们平常使用python时，调用的就是它们。
　　道和一，是我们今天讨论的命题，而二、三、和万物，则是我们常常使用的类、实例、属性和方法，用hello world来举例：
　　# 创建一个Hello类，拥有属性say_hello ----二的起源
　　class　　Hello():
　　def　　say_hello(self,　　name='world'):
　　print('Hello, %s.'　　%　　name)
　　# 从Hello类创建一个实例hello ----二生三
　　hello　　=　　Hello()
　　# 使用hello调用方法say_hello ----三生万物
　　hello.say_hello()
　　输出效果：
　　Hello, world.
　　这就是一个标准的“二生三，三生万物”过程。从类到我们可以调用的方法，用了这两步。
　　那我们不由自主要问，类从何而来呢？回到代码的第一行。
　　class Hello其实是一个函数的“语义化简称”，只为了让代码更浅显易懂，它的另一个写法是：
　　def　　fn(self,　　name='world'):　　# 假如我们有一个函数叫fn
　　print('Hello, %s.'　　%　　name)
　　Hello　　=　　type('Hello',　　(object,),　　dict(say_hello=fn))　　# 通过type创建Hello class ---- 神秘的“道”，可以点化一切，这次我们直接从“道”生出了“二”
　　这样的写法，就和之前的Class Hello写法作用完全相同，你可以试试创建实例并调用
　　# 从Hello类创建一个实例hello ----二生三，完全一样
　　hello　　=　　Hello()
　　# 使用hello调用方法say_hello ----三生万物，完全一样
　　hello.say_hello()
　　输出效果：
　　Hello, world. ----调用结果完全一样。
　　我们回头看一眼最精彩的地方，道直接生出了二：
　　Hello = type(‘Hello’, (object,), dict(say_hello=fn))
　　这就是“道”，python世界的起源，你可以为此而惊叹。
　　注意它的三个参数！暗合人类的三大永恒命题：我是谁，我从哪里来，我要到哪里去。
　　第一个参数：我是谁。
　　在这里，我需要一个区分于其它一切的命名，以上的实例将我命名为“Hello”
　　第二个参数：我从哪里来。在这里，我需要知道从哪里来，也就是我的“父类”，以上实例中我的父类是“object”——python中一种非常初级的类。
　　第三个参数：我要到哪里去。在这里，我们将需要调用的方法和属性包含到一个字典里，再作为参数传入。以上实例中，我们有一个say_hello方法包装进了字典中。
　　值得注意的是，三大永恒命题，是一切类，一切实例，甚至一切实例属性与方法都具有的。理所应当，它们的“创造者”，道和一，即type和元类，也具有这三个参数。但平常，类的三大永恒命题并不作为参数传入，而是以如下方式传入
　　class　　Hello(object){
　　# class 后声明“我是谁”
　　# 小括号内声明“我来自哪里”
　　# 中括号内声明“我要到哪里去”
　　def　　say_hello(){
　　}
　　}
　　造物主，可以直接创造单个的人，但这是一件苦役。造物主会先创造“人”这一物种，再批量创造具体的个人。并将三大永恒命题，一直传递下去。
　　“道”可以直接生出“二”，但它会先生出“一”，再批量地制造“二”。
　　type可以直接生成类（class），但也可以先生成元类（metaclass），再使用元类批量定制类（class）。
　　元类——道生一，一生二
　　一般来说，元类均被命名后缀为Metalass。想象一下，我们需要一个可以自动打招呼的元类，它里面的类方法呢，有时需要say_Hello，有时需要say_Hi，有时又需要say_Sayolala，有时需要say_Nihao。
　　如果每个内置的say_xxx都需要在类里面声明一次，那将是多么可怕的苦役！ 不如使用元类来解决问题。
　　以下是创建一个专门“打招呼”用的元类代码：
　　class　　SayMetaClass(type):
　　def　　__new__(cls,　　name,　　bases,　　attrs):
　　attrs['say_'+name]　　=　　lambda　　self,value,saying=name:　　print(saying+','+value+'!')
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　记住两点：
　　元类是由“type”衍生而出，所以父类需要传入type。
　　元类的操作都在 __new__中完成，它的第一个参数是将创建的类，之后的参数即是三大永恒命题：我是谁，我从哪里来，我将到哪里去。
　　它返回的对象也是三大永恒命题，接下来，这三个参数将一直陪伴我们。
　　在__new__中，我只进行了一个操作，就是
　　attrs['say_'+name]
　　= lambda self,value,saying=name: print(saying+','+value+'!')
　　它跟据类的名字，创建了一个类方法。比如我们由元类创建的类叫“Hello”，那创建时就自动有了一个叫“say_Hello”的类方法，然后又将类的名字“Hello”作为默认参数saying，传到了方法里面。然后把hello方法调用时的传参作为value传进去，最终打印出来。
　　那么，一个元类是怎么从创建到调用的呢？
　　来！一起根据道生一、一生二、二生三、三生万物的准则，走进元类的生命周期吧！
　　# 道生一：传入type
　　class　　SayMetaClass(type):
　　# 传入三大永恒命题：类名称、父类、属性
　　def　　__new__(cls,　　name,　　bases,　　attrs):
　　# 创造“天赋”
　　attrs['say_'+name]　　=　　lambda　　self,value,saying=name:　　print(saying+','+value+'!')
　　# 传承三大永恒命题：类名称、父类、属性
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　# 一生二：创建类
　　class　　Hello(object,　　metaclass=SayMetaClass):
　　pass
　　# 二生三：创建实列
　　hello　　=　　Hello()
　　# 三生万物：调用实例方法
　　hello.say_Hello('world!')
　　输出为
　　Hello, world!
　　注意：通过元类创建的类，第一个参数是父类，第二个参数是metaclass
　　普通人出生都不会说话，但有的人出生就会打招呼说“Hello”，“你好”,“sayolala”，这就是天赋的力量。它会给我们面向对象的编程省下无数的麻烦。
　　现在，保持元类不变，我们还可以继续创建Sayolala， Nihao类，如下：
　　# 一生二：创建类
　　class　　Sayolala(object,　　metaclass=SayMetaClass):
　　pass
　　# 二生三：创建实列
　　s　　=　　Sayolala()
　　# 三生万物：调用实例方法
　　s.say_Sayolala('japan!')
　　输出
　　Sayolala, japan!
　　也可以说中文
　　# 一生二：创建类
　　class　　Nihao(object,　　metaclass=SayMetaClass):
　　pass
　　# 二生三：创建实列
　　n　　=　　Nihao()
　　# 三生万物：调用实例方法
　　n.say_Nihao('中华!')
　　输出
　　Nihao, 中华!
　　再来一个小例子：
　　# 道生一
　　class　　ListMetaclass(type):
　　def　　__new__(cls,　　name,　　bases,　　attrs):
　　# 天赋：通过add方法将值绑定
　　attrs['add']　　=　　lambda　　self,　　value:　　self.append(value)
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　# 一生二
　　class　　MyList(list,　　metaclass=ListMetaclass):
　　pass
　　# 二生三
　　L　　=　　MyList()
　　# 三生万物
　　L.add(1)
　　现在我们打印一下L
　　print(L)
　　>>>　　[1]
　　而普通的list没有add()方法
　　L2　　=　　list()
　　L2.add(1)
　　>>>AttributeError:　　'list'　　object　　has no　　attribute　　'add'
　　太棒了！学到这里，你是不是已经体验到了造物主的乐趣？
　　python世界的一切，尽在掌握。
　　年轻的造物主，请随我一起开创新世界。
　　我们选择两个领域，一个是Django的核心思想，“Object Relational Mapping”，即对象-关系映射，简称ORM。
　　这是Django的一大难点，但学完了元类，一切变得清晰。你对Django的理解将更上一层楼！
　　另一个领域是爬虫领域（黑客领域），一个自动搜索网络上的可用代理，然后换着IP去突破别的人反爬虫限制。
　　这两项技能非常有用，也非常好玩！
　　挑战一：通过元类创建ORM
　　准备工作，创建一个Field类
　　class　　Field(object):
　　def　　__init__(self,　　name,　　column_type):
　　self.name　　=　　name
　　self.column_type　　=　　column_type
　　def　　__str__(self):
　　return　　'<%s:%s>'　　%　　(self.__class__.__name__,　　self.name)
　　它的作用是
　　在Field类实例化时将得到两个参数，name和column_type，它们将被绑定为Field的私有属性，如果要将Field转化为字符串时，将返回“Field:XXX” ， XXX是传入的name名称。
　　准备工作：创建StringField和IntergerField
　　class　　StringField(Field):
　　def　　__init__(self,　　name):
　　super(StringField,　　self).__init__(name,　　'varchar(100)')
　　class　　IntegerField(Field):
　　def　　__init__(self,　　name):
　　super(IntegerField,　　self).__init__(name,　　'bigint')
　　它的作用是
　　在StringField,IntegerField实例初始化时，时自动调用父类的初始化方式。
　　道生一
　　class　　ModelMetaclass(type):
　　def　　__new__(cls,　　name,　　bases,　　attrs):
　　if　　name=='Model':
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　print('Found model: %s'　　%　　name)
　　mappings　　=　　dict()
　　for　　k,　　v　　in　　attrs.items():
　　if　　isinstance(v,　　Field):
　　print('Found mapping: %s ==> %s'　　%　　(k,　　v))
　　mappings[k]　　=　　v
　　for　　k　　in　　mappings.keys():
　　attrs.pop(k)
　　attrs['__mappings__']　　=　　mappings　　# 保存属性和列的映射关系
　　attrs['__table__']　　=　　name　　# 假设表名和类名一致
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　它做了以下几件事
　　创建一个新的字典mapping
　　将每一个类的属性，通过.items()遍历其键值对。如果值是Field类，则打印键值，并将这一对键值绑定到mapping字典上。
　　将刚刚传入值为Field类的属性删除。
　　创建一个专门的__mappings__属性，保存字典mapping。
　　创建一个专门的__table__属性，保存传入的类的名称。
　　一生二
　　class　　Model(dict,　　metaclass=ModelMetaclass):
　　def　　__init__(self,　　**kwarg):
　　super(Model,　　self).__init__(**kwarg)
　　def　　__getattr__(self,　　key):
　　try:
　　return　　self[key]
　　except　　KeyError:
　　raise　　AttributeError("'Model' object has no attribute '%s'"　　%　　key)
　　def　　__setattr__(self,　　key,　　value):
　　self[key]　　=　　value
　　# 模拟建表操作
　　def　　save(self):
　　fields　　=　　[]
　　args　　=　　[]
　　for　　k,　　v　　in　　self.__mappings__.items():
　　fields.append(v.name)
　　args.append(getattr(self,　　k,　　None))
　　sql　　=　　'insert into %s (%s) values (%s)'　　%　　(self.__table__,　　','.join(fields),　　','.join([str(i)　　for　　i　　in　　args]))
　　print('SQL: %s'　　%　　sql)
　　print('ARGS: %s'　　%　　str(args))
　　如果从Model创建一个子类User：
　　class　　User(Model):
　　# 定义类的属性到列的映射：
　　id　　=　　IntegerField('id')
　　name　　=　　StringField('username')
　　email　　=　　StringField('email')
　　password　　=　　StringField('password')
　　这时
　　id= IntegerField(‘id’)就会自动解析为：
　　Model.__setattr__(self, ‘id’, IntegerField(‘id’))
　　因为IntergerField(‘id’)是Field的子类的实例，自动触发元类的__new__，所以将IntergerField(‘id’)存入__mappings__并删除这个键值对。
　　二生三、三生万物
　　当你初始化一个实例的时候并调用save()方法时候
　　u　　=　　User(id=12345,　　name='Batman',　　email='batman@nasa.org',　　password='iamback')
　　u.save()
　　这时先完成了二生三的过程：
　　先调用Model.__setattr__，将键值载入私有对象
　　然后调用元类的“天赋”，ModelMetaclass.__new__，将Model中的私有对象，只要是Field的实例，都自动存入u.__mappings__。
　　接下来完成了三生万物的过程：
　　通过u.save()模拟数据库存入操作。这里我们仅仅做了一下遍历__mappings__操作，虚拟了sql并打印，在现实情况下是通过输入sql语句与数据库来运行。
　　输出结果为
　　Found　　model:　　User
　　Found　　mapping:　　name　　==> <StringField:username>
　　Found　　mapping:　　password　　==> <StringField:password>
　　Found　　mapping:　　id　　==> <IntegerField:id>
　　Found　　mapping:　　email　　==> <StringField:email>
　　SQL:　　insert into User　　(username,password,id,email)　　values　　(Batman,iamback,12345,batman@nasa.org)
　　ARGS:　　['Batman',　　'iamback',　　12345,　　'batman@nasa.org']
　　年轻的造物主，你已经和我一起体验了由“道”演化“万物”的伟大历程，这也是Django中的Model版块核心原理。
　　接下来，请和我一起进行更好玩的爬虫实战（嗯，你现在已经是初级黑客了）：网络代理的爬取吧！
　　挑战二：网络代理的爬取
　　准备工作，先爬个页面玩玩
　　请确保已安装requests和pyquery这两个包。
　　# 文件：get_page.py
　　import　　requests
　　base_headers　　=　　{
　　'User-Agent':　　'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/54.0.2840.71 Safari/537.36',
　　'Accept-Encoding':　　'gzip, deflate, sdch',
　　'Accept-Language':　　'zh-CN,zh;q=0.8'
　　}
　　def　　get_page(url):
　　headers　　=　　dict(base_headers)
　　print('Getting',　　url)
　　try:
　　r　　=　　requests.get(url,　　headers=headers)
　　print('Getting result',　　url,　　r.status_code)
　　if　　r.status_code　　==　　200:
　　return　　r.text
　　except　　ConnectionError:
　　print('Crawling Failed',　　url)
　　return　　None
　　这里，我们利用request包，把百度的源码爬了出来。
　　试一试抓百度
　　把这一段粘在get_page.py后面，试完删除
　　if(__name__　　==　　'__main__'):
　　rs　　=　　get_page('https://www.baidu.com')
　　print('result:',　　rs)
　　试一试抓代理
　　把这一段粘在get_page.py后面，试完删除
　　if(__name__　　==　　'__main__'):
　　from　　pyquery　　import　　PyQuery　　as　　pq
　　start_url　　=　　'http://www.proxy360.cn/Region/China'
　　print('Crawling',　　start_url)
　　html　　=　　get_page(start_url)
　　if　　html:
　　doc　　=　　pq(html)
　　lines　　=　　doc('div[name="list_proxy_ip"]').items()
　　for　　line　　in　　lines:
　　ip　　=　　line.find('.tbBottomLine:nth-child(1)').text()
　　port　　=　　line.find('.tbBottomLine:nth-child(2)').text()
　　print(ip+':'+port)
　　接下来进入正题：使用元类批量抓取代理
　　批量处理抓取代理
　　from　　getpage　　import　　get_page
　　from　　pyquery　　import　　PyQuery　　as　　pq
　　# 道生一：创建抽取代理的metaclass
　　class　　ProxyMetaclass(type):
　　"""
　　元类，在FreeProxyGetter类中加入
　　__CrawlFunc__和__CrawlFuncCount__
　　两个参数，分别表示爬虫函数，和爬虫函数的数量。
　　"""
　　def　　__new__(cls,　　name,　　bases,　　attrs):
　　count　　=　　0
　　attrs['__CrawlFunc__']　　=　　[]
　　attrs['__CrawlName__']　　=　　[]
　　for　　k,　　v　　in　　attrs.items():
　　if　　'crawl_'　　in　　k:
　　attrs['__CrawlName__'].append(k)
　　attrs['__CrawlFunc__'].append(v)
　　count　　+=　　1
　　for　　k　　in　　attrs['__CrawlName__']:
　　attrs.pop(k)
　　attrs['__CrawlFuncCount__']　　=　　count
　　return　　type.__new__(cls,　　name,　　bases,　　attrs)
　　# 一生二：创建代理获取类
　　class　　ProxyGetter(object,　　metaclass=ProxyMetaclass):
　　def　　get_raw_proxies(self,　　site):
　　proxies　　=　　[]
　　print('Site',　　site)
　　for　　func　　in　　self.__CrawlFunc__:
　　if　　func.__name__==site:
　　this_page_proxies　　=　　func(self)
　　for　　proxy　　in　　this_page_proxies:
　　print('Getting',　　proxy,　　'from',　　site)
　　proxies.append(proxy)
　　return　　proxies
　　def　　crawl_daili66(self,　　page_count=4):
　　start_url　　=　　'http://www.66ip.cn/{}.html'
　　urls　　=　　[start_url.format(page)　　for　　page　　in　　range(1,　　page_count　　+　　1)]
　　for　　url　　in　　urls:
　　print('Crawling',　　url)
　　html　　=　　get_page(url)
　　if　　html:
　　doc　　=　　pq(html)
　　trs　　=　　doc('.containerbox table tr:gt(0)').items()
　　for　　tr　　in　　trs:
　　ip　　=　　tr.find('td:nth-child(1)').text()
　　port　　=　　tr.find('td:nth-child(2)').text()
　　yield　　':'.join([ip,　　port])
　　def　　crawl_proxy360(self):
　　start_url　　=　　'http://www.proxy360.cn/Region/China'
　　print('Crawling',　　start_url)
　　html　　=　　get_page(start_url)
　　if　　html:
　　doc　　=　　pq(html)
　　lines　　=　　doc('div[name="list_proxy_ip"]').items()
　　for　　line　　in　　lines:
　　ip　　=　　line.find('.tbBottomLine:nth-child(1)').text()
　　port　　=　　line.find('.tbBottomLine:nth-child(2)').text()
　　yield　　':'.join([ip,　　port])
　　def　　crawl_goubanjia(self):
　　start_url　　=　　'http://www.goubanjia.com/free/gngn/index.shtml'
　　html　　=　　get_page(start_url)
　　if　　html:
　　doc　　=　　pq(html)
　　tds　　=　　doc('td.ip').items()
　　for　　td　　in　　tds:
　　td.find('p').remove()
　　yield　　td.text().replace(' ',　　'')
　　if　　__name__　　==　　'__main__':
　　# 二生三：实例化ProxyGetter
　　crawler　　=　　ProxyGetter()
　　print(crawler.__CrawlName__)
　　# 三生万物
　　for　　site_label　　in　　range(crawler.__CrawlFuncCount__):
　　site　　=　　crawler.__CrawlName__[site_label]
　　myProxies　　=　　crawler.get_raw_proxies(site)
　　道生一：元类的__new__中，做了四件事：
　　将“crawl_”开头的类方法的名称推入ProxyGetter.__CrawlName__
　　将“crawl_”开头的类方法的本身推入ProxyGetter.__CrawlFunc__
　　计算符合“crawl_”开头的类方法个数
　　删除所有符合“crawl_”开头的类方法
　　怎么样？是不是和之前创建ORM的__mappings__过程极为相似？
　　一生二：类里面定义了使用pyquery抓取页面元素的方法
　　分别从三个免费代理网站抓取了页面上显示的全部代理。
　　如果对yield用法不熟悉，可以查看：廖雪峰的python教程：生成器
　　二生三：创建实例对象crawler
　　略
　　三生万物：遍历每一个__CrawlFunc__
　　在ProxyGetter.__CrawlName__上面，获取可以抓取的的网址名。
　　触发类方法ProxyGetter.get_raw_proxies(site)
　　遍历ProxyGetter.__CrawlFunc__,如果方法名和网址名称相同的，则执行这一个方法
　　把每个网址获取到的代理整合成数组输出。
　　那么。。。怎么利用批量代理，冲击别人的网站，套取别人的密码，狂发广告水贴，定时骚扰客户？
　　呃！想啥呢！这些自己悟！如果悟不到，请听下回分解！
　　年轻的造物主，创造世界的工具已经在你手上，请你将它的威力发挥到极致！
　　请记住挥动工具的口诀：
　　道生一，一生二，二生三，三生万物

---

欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2