当前位置:首页 > 推荐专业 > 人工智能专业 > 课堂笔记 >  > 人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

来源:北京八维教育集团
阅读数
时间:2024-06-29 09:09:06
  在当今科技驱动的社会中,人工智能技术得以快速发展,Python作为智能工程领域一门多用途的核心开发编程语言,其应用性很强,应用领域广,涵盖领域多,所以,学习Python编程语言,就业出口还是很广阔的。
人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

  在学习Python编程语言时,对于那些刚刚入门的学子来说,是必须要掌握python编程语言爬虫抓取,这样才能够打好基础,为进一步学习Python编程语言而做准备,今天北京八维教育就和各位学子们分享人工智能专业技术知识python编程语言爬虫抓取入门基础笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。
人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

  首先,新人,你们语法上一定要整清楚,特别是缩进。python跟#不一样的是没有大括号区分代码块,而是用缩进行。来区分。所以这块没明白,就先别急着动手弄。等语法上琢磨的差不多了,大概的if会写,函数会写。简单的爬虫基本就能实现了。我爬的是一个贴吧搞笑图片的帖子。各种表情包,也会方便以后斗图。

  这是需要导入的包,我这是python3 的,python2 的导包会有区别。前面两个没啥可说的,后面的两个是我为了写随机数引得,这个随机数有啥用,等下再说。然后就是需要获取网页源代码。

  def getHtml(url):page = urllib.request.urlopen(url)html = page.read()return html

  然后加上咱们需要爬取的网址,因为我们是多页爬取,不同网页参数不同,我们需要爬取的帖子,只有pn参数在变化,所以用for循环,很快就能拿到每页的url。

  for i in range(15):#多少页你写多少就行了 i=i+1# ------ getHtml()内输入任意帖子的URL ------ url='(i) html = getHtml(url) # ------ 修改html对象内的字符编码为UTF-8 ------ html = html.decode('UTF-8')

  取到图片,这里需要用到正则表达式,说实在,网上有很多这种表达式,仿照着写就行了。这是根据网页源代码其中图片参数来的。想套代码的这块一定要注意哦。
人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

  def getImg(html): # ------ 利用正则表达式匹配网页内容找到图片地址 ------ reg =r'class="BDE_Image" src="(.+?\.jpg)"' imgre = re.compile(reg); imglist = re.findall(imgre, html) return imglist

  最后就是获取所有图片了,这里就提到了前面的随机数。我当时写完多页爬取后,出现了很烦的问题。就是我存完第一页,再存取第二页,第二页图片会覆盖第一页的。想半天才发现是循环下载的图片名相同,所以导致被覆盖。然后我就用了最无脑的办法。给图片名加随机字符串。总算实现了400多张搞笑图片的下载(大神都是每页建不同文件夹的-。-!)

  imgList = getImg(html) for imgName in imgList print imgName imgName = 0 for imgPath in imgList: #------ 这里最好使用异常处理及多线程编程方式 ------ salt = ''.join(random.sample(string.ascii_letters + string.digits, 2))#防止因为图片重名被覆盖,定义一个随机字符串,加到图片名上 print(imgPath) f = open("pic/"+salt+str(imgName)+".jpg", 'wb') f.write((urllib.request.urlopen(imgPath)).read()) f.close()imgName =imgName+1 print("已经下载全部图片!")
人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

推荐问答

IT技术面试技巧|人工智能专业技术Python编程语言面试常见的问题

在面试时,会让学员们遇到各种各样的面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言面试常见的问题及答案总结

在面试时,会让学员们遇到各种各样的Python编程语言面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言基础面试试题

Python编程语言作为如今人工智能时代的首选语言,在面试时,会让学员们遇到各种各样的面试试题,今天北京八维教育培训学校就与各位学子一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言岗位就业面试题分享

近几年来,Python编程语言受到了很多学员的青睐,在面试时,学员会碰到各种各样的Python编程语言面试试题,今天北京八维教育培训学校带领大家一起来了解一下,希望能够帮助到每一名学子。...

IT技术面试技巧|Python编程语言面试题集锦

在人工智能爆发的时代,Python编程语言是集万千宠爱于一身,在面试Python编程语言岗位时,很多学子会碰到多种Python编程语言试题,今天北京八维教育培训学校就和各位学子们一起来看看...

IT行业解惑|新手小白能学会人工智能专业技术Python编程语言吗?

新手小白能学会人工智能专业技术Python编程语言吗?今天北京八维教育就带大家一起来了解一下,希望能够帮助到每一位即将想要学习人工智能专业技术Python编程语言的学子们。...

人工智能专业技术知识python编程语言爬虫抓取入门基础笔记

北京八维教育就和各位学子们分享人工智能专业技术知识python编程语言爬虫抓取入门基础笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。...

人工智能专业技术Python编程语言面向对象编程学习笔记

北京八维教育就和各位学子们分享人工智能专业技术Python编程语言面向对象编程笔记,希望能够帮助到每一位正在学习Python编程语言的学子们。...

人工智能专业技术Python编程语言入门语法知识点总结

在学习Python编程语言时,对于那些刚刚入门的学子来说,是必须要掌握Python编程语言入门语法知识点的,这样才能够打好基础,为进一步学习Python编程语言而做准备。...

新手必学的Python编程语言基础知识点笔记分享

Python编程语言作为人工智能专业的首选编程语言,是所需掌握人工智能技术最基础的编程语言,那么新手必学的Python编程语言基础知识点都有哪些呢?北京八维教育就带领大家一起来学习一下...

python编程语言可视化编程界面技术分享

Python 是一种编程语言,python可视化编程界面有web界面和桌面应用开发两个,通过python编程实现了可视化,那么python编程怎么实现web界面和桌面应用开发两个界面的可视化的呢?...

IT培训技术知识分享|人工智能专业技术和HTML5开发有什么关系

人工智能可以说是目前非常热门的话题了,那么人工智能专业技术和HTML5开发有什么关系呢?今天北京八维教育就带大家了解下人工智能专业技术和HTML5开发有什么关系。...

IT培训技术知识分享|人工智能Python编程语言基础之函数使用注意点

Python被誉为全世界高效的编程语言,同时也被称作是“胶水语言”,那它为何能如此受欢迎。下面北京八维教育就带大家了解下人工智能Python编程语言基础之函数使用注意点有哪些。...

IT行业解惑|做人工智能为什么必学Python编程语言?

Python语言还是目前研发级程序员的常见开发工具之一,而且从目前的发展趋势来看,越来越多的研发人员愿意采用Python,那么做人工智能为什么必学Python?北京八维教育为您总结以下四点,...

IT行业解惑|Python编程语言入门为什么要掌握牢固基础知识

我们参加Python开发培训班学习是为了更好地掌握扎实技术的,那么Python编程语言入门为什么要掌握牢固基础知识,今天北京八维教育就带领各位学子一起来了解一下,希望能够帮助到每一位学子...

人工智能技术python编程语言常见问题都有哪些?

每个开发人员都会犯错。但是,了解常见错误将在以后节省您的时间和精力。以下是北京八维教育为您梳理的Python常见问题都有哪些?希望能够对正在从事Python工作的小伙伴们有所帮助。...

IT培训技术知识分享|python编程需要掌握哪些基础知识点?

Python编程为何能如此受欢迎。下面北京八维教育就带大家了解下python编程需要掌握哪些基础知识点?也就是它为何能够如此受欢迎的原因,希望能够对喜欢专研人工智能技术的小伙伴们有所帮助...

IT培训技术知识分享|学习Python技术掌握爬虫技术提升工作效率

Python是爬虫技术应用最主流的编程语言,所以学习Python技术就能够掌握爬虫技术。...

IT行业解惑|如何选择优质的Python人工智能培训班

Python 作为 AI 时代头牌语言的位置已经确立,未来的悬念仅仅是谁能坐稳第二把交椅。所以Python人工智能培训也越来越受到大家欢迎,那怎么才能选择一个好的Python人工智能培训班?...

IT行业解惑|快速学习Python人工智能专业技术的方法分享

Python人工智能开发难学吗,有没有可以快速学习Python人工智能专业技术的方法呢?今天北京八维教育带领各位学子一起来了解一下,希望能够帮助到各位学子。...

八维教育启动“晨曦破晓”计划

以科技助力高薪破局

以科技提升系统效率

以科技提高服务质量

八维教育助力学子优质就业!

请您保持通讯畅通,专属学习老师24小时内将与您1V1沟通