A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

             学习心得
  目前刚学习完爬虫阶段,大数据确实是有一个让人捉急的进度,太快了!!!
  写心得写太多了,来点干货吧!
  @RequestMapping  作用:用于建立请求URL和处理请求方法之间的对应关系。它有一个属性method可以决定请求的方式。params属性 请求参数 必须写一个username的属性,用于指定  限制请求参数的条件,它支持简单的表达式,要求请求参数的keyvalue必须和配置的一模一样,如何发现爬虫,单一IP非常规的访问频次,单一IP非常规的数据流量,大量重复简单点的网站浏览行为,只下载网页,没有后续的JS/CSS请求,或者设置陷阱,用隐藏信息。判断请求头,判断cookie,如何避免被发现呢 ,多主机策略,分布式爬去,调整爬取速度,通过变换IP地址或者使用代理服务器来演示,频繁修改自己的USER-Agent,
  Header中的Cache-Control修改为no-cache,当返回状态码是403,服务器资源禁止访问,改变HeaderIP,不断改变。
感觉自己的爬虫学习的一般,但是毕竟大数据的课程还是太少了,希望以后出面授了能让我们的练习时间更加充足些

12 个回复

倒序浏览
加油加油!!
回复 使用道具 举报
爬虫也是很关键的!
回复 使用道具 举报
大数据棒棒的
回复 使用道具 举报
大数据66!!!
回复 使用道具 举报
希望多一些这样的干货
回复 使用道具 举报
加油加油~
回复 使用道具 举报
大数据真的好难啊,厉害了小哥哥们
回复 使用道具 举报
三宝 初级黑马 2018-11-21 16:48:54
9#
厉害厉害,加油加油!
回复 使用道具 举报
大神收下我的膝盖
回复 使用道具 举报

来到这一定有自己各自的目标的,加油拿到期望薪资。
回复 使用道具 举报

6666!! 就是牛逼!
回复 使用道具 举报
加油加油,共勉~
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马