人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

在学习Python编程语言时,对于那些刚刚入门的学子来说,是必须要掌握python编程语言爬虫抓取,这样才能够打好基础,为进一步学习Python编程语言而做准备,今天北京八维教育就和各位学子们分享人工智能专业技术知识python编程语言爬虫抓取入门基础笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。
首先,新人,你们语法上一定要整清楚,特别是缩进。python跟#不一样的是没有大括号区分代码块,而是用缩进行。来区分。所以这块没明白,就先别急着动手弄。等语法上琢磨的差不多了,大概的if会写,函数会写。简单的爬虫基本就能实现了。我爬的是一个贴吧搞笑图片的帖子。各种表情包,也会方便以后斗图。
这是需要导入的包,我这是python3 的,python2 的导包会有区别。前面两个没啥可说的,后面的两个是我为了写随机数引得,这个随机数有啥用,等下再说。然后就是需要获取网页源代码。
def getHtml(url):page = urllib.request.urlopen(url)html = page.read()return html
然后加上咱们需要爬取的网址,因为我们是多页爬取,不同网页参数不同,我们需要爬取的帖子,只有pn参数在变化,所以用for循环,很快就能拿到每页的url。
for i in range(15):#多少页你写多少就行了 i=i+1# ------ getHtml()内输入任意帖子的URL ------ url='(i) html = getHtml(url) # ------ 修改html对象内的字符编码为UTF-8 ------ html = html.decode('UTF-8')
取到图片,这里需要用到正则表达式,说实在,网上有很多这种表达式,仿照着写就行了。这是根据网页源代码其中图片参数来的。想套代码的这块一定要注意哦。
def getImg(html): # ------ 利用正则表达式匹配网页内容找到图片地址 ------ reg =r'class="BDE_Image" src="(.+?\.jpg)"' imgre = re.compile(reg); imglist = re.findall(imgre, html) return imglist
最后就是获取所有图片了,这里就提到了前面的随机数。我当时写完多页爬取后,出现了很烦的问题。就是我存完第一页,再存取第二页,第二页图片会覆盖第一页的。想半天才发现是循环下载的图片名相同,所以导致被覆盖。然后我就用了最无脑的办法。给图片名加随机字符串。总算实现了400多张搞笑图片的下载(大神都是每页建不同文件夹的-。-!)
imgList = getImg(html) for imgName in imgList print imgName imgName = 0 for imgPath in imgList: #------ 这里最好使用异常处理及多线程编程方式 ------ salt = ''.join(random.sample(string.ascii_letters + string.digits, 2))#防止因为图片重名被覆盖,定义一个随机字符串,加到图片名上 print(imgPath) f = open("pic/"+salt+str(imgName)+".jpg", 'wb') f.write((urllib.request.urlopen(imgPath)).read()) f.close()imgName =imgName+1 print("已经下载全部图片!")
开班信息
热点问答
面试题库
IT专业技术问题|零基础学习人工智能如何入门?
IT专业技术问题|参加人工智能培训有哪些优势?
IT专业技术问题|人工智能需要学习什么技术?
北京八维教育带你了解值得期待的人工智能应用有哪些
北京八维教育带你了解人工智能时代里不易被取代的十大职业
跟随北京八维学校人工智能专业了解人工智能时代的发展历程
八维学院带你了解人工智能时代下AI人才的就业行业前景怎么样
IT行业解惑|参加人工智能专业技术培训有哪些优势?
IT行业解惑|学习Python人工智能开发有没有前途
IT行业解惑|学习哪种编程语言更高效精通人工智能专业技术
IT行业解惑|从事人工智能工程师需要满足什么条件
IT行业解惑|学习人工智能专业技术需要掌握哪些基础知识?
IT行业解惑|学会Python编程语言可以从事什么工作
IT行业解惑|成为Python人工智能开发者的前途怎么样
IT行业解惑|女生适合做人工智能开发吗
IT行业解惑|快速学习Python人工智能专业技术的方法分享
IT行业解惑|如何选择优质的Python人工智能培训班
IT培训技术知识分享|学习Python技术掌握爬虫技术提升工作效率
推荐问答

IT技术面试技巧|人工智能专业技术Python编程语言面试常见的问题
在面试时,会让学员们遇到各种各样的面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言面试常见的问题及答案总结
在面试时,会让学员们遇到各种各样的Python编程语言面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言基础面试试题
Python编程语言作为如今人工智能时代的首选语言,在面试时,会让学员们遇到各种各样的面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言岗位就业面试题分享
近几年来,Python编程语言受到了很多学员的青睐,在面试时,学员会碰到各种各样的Python编程语言面试试题,今天北京八维教育培训学校带领大家一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言面试题集锦
在人工智能爆发的时代,Python编程语言是集万千宠爱于一身,在面试Python编程语言岗位时,很多学子会碰到多种Python编程语言试题,今天北京八维教育培训学校就和各位学子们一起来看看...

IT行业解惑|新手小白能学会人工智能专业技术Python编程语言吗?
新手小白能学会人工智能专业技术Python编程语言吗?今天北京八维教育就带大家一起来了解一下,希望能够帮助到每一位即将想要学习人工智能专业技术Python编程语言的学子们。...

人工智能专业技术知识python编程语言爬虫抓取入门基础笔记
北京八维教育就和各位学子们分享人工智能专业技术知识python编程语言爬虫抓取入门基础笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。...

人工智能专业技术Python编程语言面向对象编程学习笔记
北京八维教育就和各位学子们分享人工智能专业技术Python编程语言面向对象编程笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。...

人工智能专业技术Python编程语言入门语法知识点总结
在学习Python编程语言时,对于那些刚刚入门的学子来说,是必须要掌握Python编程语言入门语法知识点的,这样才能够打好基础,为进一步学习Python编程语言而做准备。...

新手必学的Python编程语言基础知识点笔记分享
Python编程语言作为人工智能专业的首选编程语言,是所需掌握人工智能技术最基础的编程语言,那么新手必学的Python编程语言基础知识点都有哪些呢?北京八维教育就带领大家一起来学习一下...

python编程语言可视化编程界面技术分享
Python 是一种编程语言,python可视化编程界面有web界面和桌面应用开发两个,通过python编程实现了可视化,那么python编程怎么实现web界面和桌面应用开发两个界面的可视化的呢?...

IT培训技术知识分享|人工智能专业技术和HTML5开发有什么关系
人工智能可以说是目前非常热门的话题了,那么人工智能专业技术和HTML5开发有什么关系呢?今天北京八维教育就带大家了解下人工智能专业技术和HTML5开发有什么关系。...

IT培训技术知识分享|人工智能Python编程语言基础之函数使用注意点
Python被誉为全世界高效的编程语言,同时也被称作是“胶水语言”,那它为何能如此受欢迎。下面北京八维教育就带大家了解下人工智能Python编程语言基础之函数使用注意点有哪些。...

IT行业解惑|做人工智能为什么必学Python编程语言?
Python语言还是目前研发级程序员的常见开发工具之一,而且从目前的发展趋势来看,越来越多的研发人员愿意采用Python,那么做人工智能为什么必学Python?北京八维教育为您总结以下四点,...

IT行业解惑|Python编程语言入门为什么要掌握牢固基础知识
我们参加Python开发培训班学习是为了更好地掌握扎实技术的,那么Python编程语言入门为什么要掌握牢固基础知识,今天北京八维教育就带领各位学子一起来了解一下,希望能够帮助到每一位学子...

人工智能技术python编程语言常见问题都有哪些?
每个开发人员都会犯错。但是,了解常见错误将在以后节省您的时间和精力。以下是北京八维教育为您梳理的Python常见问题都有哪些?希望能够对正在从事Python工作的小伙伴们有所帮助。...

IT培训技术知识分享|python编程需要掌握哪些基础知识点?
Python编程为何能如此受欢迎。下面北京八维教育就带大家了解下python编程需要掌握哪些基础知识点?也就是它为何能够如此受欢迎的原因,希望能够对喜欢专研人工智能技术的小伙伴们有所帮助...

IT培训技术知识分享|学习Python技术掌握爬虫技术提升工作效率
Python是爬虫技术应用最主流的编程语言,所以学习Python技术就能够掌握爬虫技术。...

IT行业解惑|如何选择优质的Python人工智能培训班
Python 作为 AI 时代头牌语言的位置已经确立,未来的悬念仅仅是谁能坐稳第二把交椅。所以Python人工智能培训也越来越受到大家欢迎,那怎么才能选择一个好的Python人工智能培训班?...

IT行业解惑|快速学习Python人工智能专业技术的方法分享
Python人工智能开发难学吗,有没有可以快速学习Python人工智能专业技术的方法呢?今天北京八维教育带领各位学子一起来了解一下,希望能够帮助到各位学子。...

八维教育启动“晨曦破晓”计划
以科技助力高薪破局
以科技提升系统效率
以科技提高服务质量
八维教育助力学子优质就业!
请您保持通讯畅通,专属学习老师24小时内将与您1V1沟通