爬虫是指网络爬虫(又被称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者)，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。Python是爬虫技术应用最主流的编程语言,所以学习Python技术就能够掌握爬虫技术。

　　面对各种各样的培训机构，我们需要去实地进行考察，看看讲师怎么样，课程安排如何，学习氛围好不好之类的，一定要多问问这家Python培训机构之前的学员，看看就业薪资水平高不高。

　　用过Python的都知道，Python写爬虫是件很简单的事情。但是有些人还是不了解爬虫是什么，会纳闷为什么写爬虫时要设置什么请求头、请求体之类的，要怎么样去发送请求等等。

　　大家可以理解为在网络上爬行的一直蜘蛛，互联网就比作一张大网，而爬虫便是在这张网上爬来爬去的蜘蛛咯，如果它遇到资源，那么它就会抓取下来。想抓取什么?这个由你来控制它咯。

　　比如它在抓取一个网页，在这个网中他发现了一条道路，其实就是指向网页的超链接，那么它就可以爬到另一张网上来获取数据。这样，整个连在一起的大网对这之蜘蛛来说触手可及，分分钟爬下来不是事儿。

　　爬虫的基本流程

　　用户获取网络数据的方式：

　　方式1：浏览器提交请求--->下载网页代码--->解析成页面

　　方式2：模拟浏览器发送请求(获取网页代码)->提取有用的数据->存放于数据库或文件中

　　爬虫要做的就是方式2：

　　1.发起请求

　　使用http库向目标站点发起请求，即发送一个Request

　　Request包含：请求头、请求体等

　　Request模块缺陷：不能执行JS 和CSS 代码

　　2.获取响应内容

　　如果服务器能正常响应，则会得到一个Response

　　Response包含：html，json，图片，视频等

　　3.解析内容

　　解析html数据：正则表达式(RE模块)，第三方解析库如Beautifulsoup，pyquery等

　　解析json数据：json模块

　　解析二进制数据:以wb的方式写入文件

　　4.保存数据

　　数据库(MySQL，Mongdb、Redis)

　　八维教育人工智能培训课程有企业级项目实战训练，让学员参与真实的企业级项目研发，然后让学员毕业后就能独立设计开发自己的上线项目;还有严格、科学、负责的教学就业管理制度，班主任、职业规划师全程跟班，把握每位学员的学习状态，并有专业的职业素养课和就业指导课，确保教学及就业质量!