飞道的博客

手把手教你用Python网络爬虫获取壁纸图片

337人阅读  评论(0)

点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

桃之夭夭,灼灼其华。

/1 前言/

    想要电脑换个壁纸时都特别苦恼,因为百度搜到那些壁纸也就是分辨率达到了壁纸的水准。可是里面图片的质量嘛,实在是不忍直视…。而有些4K高清的壁纸大多是有版权的 ,这就使我们想要获取高清的图片,变得非常的困难。

    wallhaven 网站是无版权的4K壁纸 ,而且主题丰富(创意、摄影、人物、动漫、绘画、视觉),今天教大家如何去批量的去下载wallhaven4K原图。

/2 项目目标/

    获取对应的4K壁纸,并批量下载保存在文件夹。

/3 涉及的库和网站/

    软件:PyCharm

    需要用到的库:requests、lxml、fake_useragent、time

    先列出网址,如下所示:

https://wallhaven.cc/search?q=id%3A65348&page={}

    网址city=%E5%B9%BF%E5%B7%9E指的是广州这个城市、pn指的是页数。

/4 项目分析/

    滑动鼠标观察下一页的网址的变化:


   
  1. https: //wallhaven.cc/search?q=id%3A65348&page=1
  2. https: //wallhaven.cc/search?q=id%3A65348&page=2
  3. https: //wallhaven.cc/search?q=id%3A65348&page=3

    滑动下一页时,每增加一页page自增加1,用{}代替变换的变量,再用for循环遍历这网址,实现多个网址请求。

/5 具体实现/

1、定义一个class类继承object,定义init方法继承self,主函数main继承self。导入需要的库和网址。


   
  1. import requests
  2. from lxml import etree
  3. from fake_useragent import UserAgent
  4. import time
  5. class wallhaven(object):
  6. def __init__(self):
  7. self.url = "https://wallhaven.cc/search?q=id%3A65348&page={}"
  8. def main(self):
  9. pass
  10. if __name__ == '__main__':
  11. imageSpider = wallhaven()
  12. imageSpider.main()

2、fake_useragent模块实现随机产生UserAgent。


   
  1. ua = UserAgent(verify_ssl=False)
  2. for i in range(1, 50):
  3. self.headers = {
  4. 'User-Agent': ua.random,
  5. }

3、for循环实现多网址访问。


   
  1. startPage = int(input( "起始页:"))
  2. endPage = int(input( "终止页:"))
  3. for page in range(startPage, endPage + 1):
  4. url = self.url.format(page)

4、发送请求  获取响应。


   
  1. '''发送请求 获取响应'''
  2. def get_page(self, url):
  3. res = requests.get(url=url, headers=self.headers)
  4. html = res.content.decode( "utf-8")
  5. return html

5、解析一级页面,得到二级页面的 href 地址。


   
  1. def parse_page(self, html):
  2.     parse_html = etree.HTML(html)
  3. image_src_list = parse_html.xpath( '//figure//a/@href')

6、遍历二级页面网址,发生请求、解析数据。找到相对于的图片地址。


   
  1. html1 = self.get_page(i) # 二级页面发生请求
  2. parse_html1 = etree.HTML(html1)
  3. # print(parse_html1)
  4. filename = parse_html1.xpath( '//div[@class="scrollbox"]//img/@src')
  5. # print(filename)

7、获取到的图片地址,发生请求,保存。


   
  1. # 图片地址发生请求
  2. for img in filename:
  3. dirname = "./图/" + img[ 32:] '''可修改图片保存的地址'''
  4. print(dirname)
  5. html2 = requests.get(url=img, headers=self.headers).content
  6. with open(dirname, 'wb') as f:
  7. f.write(html2)
  8. print( "%s下载成功" % filename)

8、调用方法,实现功能。


   
  1. html = self.get_page(url)
  2. self.parse_page(html)

优化:设置延时。(防止ip被封)。

time.sleep(1.4) """时间延时"""

/6 效果展示/

1、点击绿色按钮运行,将结果显示在控制台,如下图所示。输起始页和终止页,回车。

2、图片下载成功控制台输出。

3、批量保存。

4、验证4K。(点击图片打开属性)

/7 小结/

1、不建议抓取太多数据,容易对服务器造成负载,浅尝辄止即可。

2、本文基于Python网络爬虫,利用爬虫库,获取wallhaven4K壁纸。

3、4K的壁纸下载时可能会有点缓慢,请大家耐心的等待。如果图片的地址不一样,需要自己修改一下图片的保存的地址。

4、大家也可以在wallhaven网址上,寻找自己喜欢图片,按照操作步骤,自己尝试去做。自己实现的时候,总会有各种各样的问题,切勿眼高手低,勤动手,才可以理解的更加深刻。

5、如果本文源码的小伙伴,请在后台回复“4K壁纸”四个字进行获取,觉得不错,记得给个Star噢~

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~


转载:https://blog.csdn.net/pdcfighting/article/details/109006542
查看评论
* 以上用户言论只代表其个人观点,不代表本网站的观点或立场