Python爬虫入门教程02之笔趣阁小说爬取
前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
前文
01、python爬虫入门教程01:豆瓣Top电影爬取
基本开发环境
- Python 3.6
- Pycharm
相关模块的使用
- request
- sparsel
安装Python并添加到环境变量,pip安装需要的相关模块即可。
单章爬取
一、明确需求
爬取小说内容保存到本地
- 小说名字
- 小说章节名字
- 小说内容
# 第一章小说url地址 url = 'http://www.biquges.com/52_52642/25585323.html'
url = 'http://www.biquges.com/52_52642/25585323.html' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=url, headers=headers) print(response.text)
请求网页返回的数据中出现了乱码,这就需要我们转码了。
加一行代码自动转码。
response.encoding = response.apparent_encoding
三、解析数据
根据css选择器可以直接提取小说标题以及小说内容。
def get_one_novel(html_url): # 调用请求网页数据函数 response = get_response(html_url) # 转行成selector解析对象 selector = parsel.Selector(response.text) # 获取小说标题 title = selector.css('.bookname h1::text').get() # 获取小说内容 返回的是list content_list = selector.css('#content::text').getall() # ''.join(列表) 把列表转换成字符串 content_str = ''.join(content_list) print(title, content_str) if __name__ == '__main__': url = 'http://www.biquges.com/52_52642/25585323.html' get_one_novel(url)
四、保存数据(数据持久化)
使用常用的保存方式: with open
def save(title, content): """ 保存小说 :param title: 小说章节标题 :param content: 小说内容 :return: """ # 路径 filename = f'{title}\\' # os 内置模块,自动创建文件夹 if os.makedirs(filename): os.mkdir() # 一定要记得加后缀 .txt mode 保存方式 a 是追加保存 encoding 保存编码 with open(filename + title + '.txt', mode='a', encoding='utf-8') as f: # 写入标题 f.write(title) # 换行 f.write('\n') # 写入小说内容 f.write(content)
保存一章小说,就这样写完了,如果想要保存整本小说呢?
整本小说爬虫
既然爬取单章小说知道怎么爬取了,那么只需要获取小说所有单章小说的url地址,就可以爬取全部小说内容了。
所有的单章的url地址都在 dd 标签当中,但是这个url地址是不完整的,所以爬取下来的时候,要拼接url地址。
def get_all_url(html_url): # 调用请求网页数据函数 response = get_response(html_url) # 转行成selector解析对象 selector = parsel.Selector(response.text) # 所有的url地址都在 a 标签里面的 href 属性中 dds = selector.css('#list dd a::attr(href)').getall() for dd in dds: novel_url = 'http://www.biquges.com' + dd print(novel_url) if __name__ == '__main__': url = 'http://www.biquges.com/52_52642/index.html' get_all_url(url)
这样就获取了所有的小说章节url地址了。
爬取全本完整代码
import requests import parsel from tqdm import tqdm def get_response(html_url): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36' } response = requests.get(url=html_url, headers=headers) response.encoding = response.apparent_encoding return response def save(novel_name, title, content): """ 保存小说 :param title: 小说章节标题 :param content: 小说内容 :return: """ filename = f'{novel_name}' + '.txt' # 一定要记得加后缀 .txt mode 保存方式 a 是追加保存 encoding 保存编码 with open(filename, mode='a', encoding='utf-8') as f: # 写入标题 f.write(title) # 换行 f.write('\n') # 写入小说内容 f.write(content) def get_one_novel(name, novel_url): # 调用请求网页数据函数 response = get_response(novel_url) # 转行成selector解析对象 selector = parsel.Selector(response.text) # 获取小说标题 title = selector.css('.bookname h1::text').get() # 获取小说内容 返回的是list content_list = selector.css('#content::text').getall() # ''.join(列表) 把列表转换成字符串 content_str = ''.join(content_list) save(name, title, content_str) def get_all_url(html_url): # 调用请求网页数据函数 response = get_response(html_url) # 转行成selector解析对象 selector = parsel.Selector(response.text) # 所有的url地址都在 a 标签里面的 href 属性中 dds = selector.css('#list dd a::attr(href)').getall() # 小说名字 novel_name = selector.css('#info h1::text').get() for dd in tqdm(dds): novel_url = 'http://www.biquges.com' + dd get_one_novel(novel_name, novel_url) if __name__ == '__main__': novel_id = input('输入书名ID:') url = f'http://www.biquges.com/{novel_id}/index.html' get_all_url(url)
到此这篇关于Python爬虫入门教程02之笔趣阁小说爬取的文章就介绍到这了,更多相关Python爬虫笔趣阁小说爬取内容请搜索猪先飞以前的文章或继续浏览下面的相关文章希望大家以后多多支持猪先飞!
相关文章
- 这篇文章主要介绍了python-opencv-画外接矩形框的实例代码,代码简单易懂,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2021-09-04
Python astype(np.float)函数使用方法解析
这篇文章主要介绍了Python astype(np.float)函数使用方法解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下...2020-06-08- 2022虎年新年即将来临,小编为大家带来了一个利用Python编写的虎年烟花特效,堪称全网最绚烂,文中的示例代码简洁易懂,感兴趣的同学可以动手试一试...2022-02-14
- 在本篇文章里小编给大家分享的是一篇关于python中numpy.empty()函数实例讲解内容,对此有兴趣的朋友们可以学习下。...2021-02-06
python-for x in range的用法(注意要点、细节)
这篇文章主要介绍了python-for x in range的用法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-05-10- 这篇文章主要介绍了Python 图片转数组,二进制互转操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-03-09
- 这篇文章主要介绍了Python中的imread()函数用法说明,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-03-16
- 这篇文章主要介绍了python如何实现b站直播自动发送弹幕,帮助大家更好的理解和学习使用python,感兴趣的朋友可以了解下...2021-02-20
python Matplotlib基础--如何添加文本和标注
这篇文章主要介绍了python Matplotlib基础--如何添加文本和标注,帮助大家更好的利用Matplotlib绘制图表,感兴趣的朋友可以了解下...2021-01-26- 这篇文章主要介绍了解决python 使用openpyxl读写大文件的坑,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-03-13
- 今天小编就为大家分享一篇python 计算方位角实例(根据两点的坐标计算),具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2020-04-27
- 这篇文章主要为大家详细介绍了python实现双色球随机选号,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下...2020-05-02
- 在本篇文章里小编给大家整理的是一篇关于python中使用np.delete()的实例方法,对此有兴趣的朋友们可以学习参考下。...2021-02-01
- 这篇文章主要介绍了使用Python的pencolor函数实现渐变色功能,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2021-03-09
- 这篇文章主要介绍了python自动化办公操作PPT的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2021-02-05
Python getsizeof()和getsize()区分详解
这篇文章主要介绍了Python getsizeof()和getsize()区分详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧...2020-11-20- 这篇文章主要介绍了解决python 两个时间戳相减出现结果错误的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧...2021-03-12
- 这篇文章主要为大家详细介绍了python实现学生通讯录管理系统,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下...2021-02-25
- 这篇文章主要介绍了PyTorch一小时掌握之迁移学习篇,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2021-09-08
- 这篇文章主要介绍了Python绘制的爱心树与表白代码,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下...2021-04-06