现在的网络小说火了一阵,比如穿越小说,无非是历史系或者985高材生,唐诗宋词、造玻璃、酿白酒、造枪造炮等等,很多时候只是把人名改一改,然而就是这样的小说,却不断在各个地方做广告,然后搞个APP之类,让你读了一个开头就要缴费。小说本来就是偶尔消遣用的,而且这种粗制滥造的作品拿出来收钱,谁都不想做冤大头。其实手机现在读txt文件很方便,百度一下一般也可找到这些小说,有没有办法下载下来变成txt,想什么时候看就什么时候看?
其实有很多Python的教程,就有类似的功能。本文也以此来鼓励一下大家学Python。
Python不得不说是一个简单易学功能又强大的编程语言,特别是在获取数据方面有特别强大的功能。为了说明就以此为例来说说Python的学习。(为了避嫌,拿《大乾憨婿》为例,小说的内容惨不忍睹,就不细说了,这种小说应该没人会来追究版权之类的吧,当然如果作者相关人员有异议,本人可以马上删除)。
首先,我们需要知道数据源(就是这里的小说网址),比如
http://www.xxxxx.com/aaaa/(这里xxxxx和aaaa就不说明了),然后把网页的小说每一章的链接提取出来(一般是
http://www.xxxxx.com/aaaa/nnnn.html),再分析其中的内容,把其中的内容提取出来即可。
(注:本文主要是说明python语言的用处,为了避免纠纷,具体的链接和名称等都隐藏了,如果有兴趣可私信交流,也可交流下载到的小说。)
好了,现在我们现在开始使用Python了,做这些事情其实就是用到几个功能:
1、使用 requests 获取网页内容(包括章节目录和各章节内容)
from requests import get
url = “http://www.xxxxx.com/aaaa/”
response = get(url) # 获取网页内容
chapterurl= “http://www.xxxxx.com/aaaa/nnnn.html”
response = get(chapterurl) # 获取网页内容
2、使用正则规则分析和提取内容
例如一般章节链接的特征很明显,就是地址加上章节的页面,类似如下:
# 章节特征 <dd><a href ="/aaaaa/nnnnn.html">第六百二十章 xxxxx </a></dd>
而章节内容的特征 一般就是在正文前后找即可,
# 内容特征 "<div id=\"content\" class=\"showtxt\"> {文章内容} http://www.xxxxx.com/aaaa"
编程也很简单,用正则库 re 去分析即可
import re
# 获取章节链接和章节名称
pattern = '<dd><a href =\"/aaaaa/([0-9]+).html\">(.*?)</a></dd>'
result = re.findall(pattern,response.text) # 获取所有章节的链接和章节名称
结果以数组形式存在result中。
for pp in result:
print(pp[0],pp[1])
29336917 第一章 xxxx
29336918 第二章 xxxx
.......
# 获取章节内容
chapterurl= “http://www.xxxxx.com/aaaa/nnnn.html”
response = get(chapterurl)
pattern = "<div id=\"content\" class=\"showtxt\"> (.*?) http://www.xxxxx.com/aaaa"
strCont = response.text
result = re.findall(pattern,strCont) # 获得每章数据 ;
比如下面的小说页面对应的文字内容如下,获取到的内容也包括了各种换行、空格等网页字符
3、把上述获取的内容按照章节和内容保存成文件即可
with open("大乾憨婿.txt","w+",encoding="utf8") as f:
f.write({内容})
以上就是获取小说的代码,当然还需要循环、错误处理等语句,就不一一细说,但全部代码不超过 50行。
最后展现一下 大乾憨婿.txt 的内容,把文件拷贝到手机,想怎么读都行。
如果需要交流,请关注并留下私信,本人有空时会尽量回复。