A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© 专注的一批 中级黑马   /  2019-12-30 14:48  /  1315 人查看  /  0 人回复  /   0 人收藏 转载请遵从CC协议 禁止商业使用本文

刚开始学习python来做爬虫爬取相关数据,本次使用了python的第三方库requests和内嵌的正则表达式库进行爬取相关资料,并保存到本地。
导入模块
import requests  #导入requests库
import re  #导入正则表达式库
伪装身份
user = {
    'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'   
    #打开浏览器输入:“about:version”,查看“用户代理”,即本机的user-agent
}
分析和拼接网址
打开GWY官网后寻找到zhongyang有关文件网址,网址具有一定的规律性,即最后的每一个数字变化代表了翻页内容。通过range()函数和for语句来变换网址
访问网址和获得网页内容
    response = requests.get(url,headers = user)       #用requests库的get函数访问网页,用headers进行伪装
    #print(response.text)    #打印网页
    html = response.text                             #用文本显示访问网页得到的内容
    print(html)  #打印网页内容,以便于使用正则表达式
访问网址和获得网页内容
用正则表达式来获得每个文件的网址
    urls = re.findall('<a href=".*?" target="_blank">',html)  #用正则表达式获得文件网址
    #print(urls)   #为了测试是否成功进行打印查看
    urls = "".join(urls)    #将列表转化为字符串
    url_wj = re.findall('[a-zA-z]+://[^\s"]*',urls)  #提取网页中的每个文件具体网址
    #print(url_wj)   #为了测试是否成功进行打印查看
获取每个文件页面的信息
用for语句来获得每个页面的信息
    for url in url_wj:  #用for语句来实现依次访问每个文件的网址
        response_gwy = requests.get(url,headers = user)  #用变量response_gwy保存访问网址后获得的信息
        resopnse_gwy_wz = response_gwy.content.decode('utf-8')  #用'utf-8'的编码模式来记录网址内容,防止出现中文乱码
        #print(resopnse_gwy_wz)    #为了测试是否成功进行打印查看
        tznr = re.findall('<p style="text-indent: 2em; font-family: 宋体; font-size: 12pt;">(.*?)</p>',resopnse_gwy_wz)  #用正则表达式来获得文件的文字内容,清除多余的代码
        tznr = "".join(tznr)  #将获得的文字内容由列表转换为字符串
        #print(tznr)  #为了测试是否成功进行打印查看
获取每个文件的标题
        wjym = response_gwy.content.decode('utf-8')  #用变量wjym保存获得的页面信息
    #print(wjym)
        title = re.findall('<title>(.*?)</title>',wjym)  #用正则表达式来获得每个网址的标题,即文件标题
    #print(title)
        title = "".join(title)  #将title列表转换为字符串
        title = re.findall('(.*?)_中央有关文件_中国政府网',title)  #用正则表达式删除“_中央有关文件_中国政府网”重复信息
        title = "".join(title)  #将title列表转换为字符串
将网站文字内容用标题依次保存
        file_name = title  # 用title字符串来为文件取名字
        #print(file_name)   #为了测试是否成功进行打印查看
        with open( file_name + '.txt','w', encoding='utf-8') as f:  #用w格式新建文件,并且用file_name命名,再加上“.txt”后缀,文字编码格式'utf-8'
            f.write(str(tznr))  #将网页内容便利tznr用字符串的格式写入文本
            f.close()    #将文件关闭保存
全部完整代码如下:
"""导入所需模块"""
import requests  #导入requests库
import re  #导入正则表达式库
"""伪装正常访问"""
user = {
    'user-agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36'
    #打开浏览器输入:“about:version”,查看“用户代理”,即本机的user-agent
}
"""用range()函数和for语句来拼接网址"""
for a in range(0,14):  #用for语句和range()函数来一次获得数字0-14
    url = "http://sousuo.gov.cn/column/30471/" + str(a) +'.htm'  #将获得的数字和网址进行拼接得到15个网址,注意要将变量a用str()转换为字符串才能拼接
    #print(url)    #为了测试是否成功进行打印查看
    response = requests.get(url,headers = user)       #用requests库的get函数访问网页,用headers进行伪装
    #print(response.text)    #打印网页
    html = response.text                             #用文本显示访问网页得到的内容
    #print(html)  #打印网页内容,以便于使用正则表达式.
    """用正则表达式来获得每个文件的网址"""
    urls = re.findall('<a href=".*?" target="_blank">',html)  #用正则表达式获得文件网址
    function(){ //外汇返佣 http://www.fx61.com/
    #print(urls)   #为了测试是否成功进行打印查看
    urls = "".join(urls)    #将列表转化为字符串
    url_wj = re.findall('[a-zA-z]+://[^\s"]*',urls)  #提取网页中的每个文件具体网址
    #print(url_wj)   #为了测试是否成功进行打印查看
    """用for语句来一次访问每个文件的网址"""
    for url in url_wj:  #用for语句来实现依次访问每个文件的网址
        response_gwy = requests.get(url,headers = user)  #用变量response_gwy保存访问网址后获得的信息
        resopnse_gwy_wz = response_gwy.content.decode('utf-8')  #用'utf-8'的编码模式来记录网址内容,防止出现中文乱码
        #print(resopnse_gwy_wz)    #为了测试是否成功进行打印查看
        tznr = re.findall('<p style="text-indent: 2em; font-family: 宋体; font-size: 12pt;">(.*?)</p>',resopnse_gwy_wz)  #用正则表达式来获得文件的文字内容,清除多余的代码
        tznr = "".join(tznr)  #将获得的文字内容由列表转换为字符串
        #print(tznr)  #为了测试是否成功进行打印查看
        wjym = response_gwy.content.decode('utf-8')  #用变量wjym保存获得的页面信息
        #print(wjym)
        """用正则表达式获得文件的标题"""
        title = re.findall('<title>(.*?)</title>',wjym)  #用正则表达式来获得每个网址的标题,即文件标题
        #print(title)
        title = "".join(title)  #将title列表转换为字符串
        title = re.findall('(.*?)_中央有关文件_中国政府网',title)  #用正则表达式删除“_中央有关文件_中国政府网”重复信息
        title = "".join(title)  #将title列表转换为字符串
        file_name = title  # 用title字符串来为文件取名字
        #print(file_name)   #为了测试是否成功进行打印查看
        """保存每个文件"""
        print("正在爬取保存,请勿关闭……")
        with open( file_name + '.txt','w', encoding='utf-8') as f:  #用w格式新建文件,并且用file_name命名,再加上“.txt”后缀,文字编码格式'utf-8'
            f.write(str(tznr))  #将网页内容便利tznr用字符串的格式写入文本
            f.close()    #将文件关闭保存


0 个回复

您需要登录后才可以回帖 登录 | 加入黑马