python抓取多种类型的页面方法实例
Python  /  管理员 发布于 6年前   131
与抓取预定义好的页面集合不同,抓取一个网站的所有内链会带来一个 挑战,即你不知道会获得什么。好在有几种基本的方法可以识别页面类型。
通过URL
一个网站中所有的博客文章可能都会包含一个 URL(例如 http://example.com/blog/title-of-post)。
通过网站中存在或者缺失的特定字段
如果一个页面包含日期,但是不包含作者名字,那你可以将其归类 为新闻稿。如果它有标题、主图片、价格,但是没有主要内容,那么它 可能是一个产品页面。
通过页面中出现的特定标签识别页面
即使不抓取某个标签内的数据,你仍然可以利用这个标签。你的爬 虫可以寻找类似于 <div id="related-products"> 这样的元素来识 别产品页面,即便是爬虫对相关产品的内容并不感兴趣。
为了跟踪多个页面类型,你需要在 Python 中有多个类型的页面对象。 这通过两种方式来实现。
如果页面都是相似的(它们基本上都是相同类型的内容),你可能需要 在现有的网页对象中加入一个 pageType 属性:
class Website:"""所有文章/网页的共同基类"""def __init__(self, type, name, url, searchUrl, resultListing,resultUrl, absoluteUrl, titleTag, bodyTag):self.name = nameself.url = urlself.titleTag = titleTagself.bodyTag = bodyTagself.pageType = pageType
如果你在一个类 SQL 的数据库中对这些页面进行排序,这种模式类型 意味着这些页面应该被存放在同一张表中,并且加入一个额外的 pageType 列。
如果你抓取的页面或内容各不相同(它们包含不同类型的字段),就需 要为每个页面类型创建一个新的对象。当然,有些东西是所有网页共有 的――它们都有一个 URL,也可能都有一个名称或者页面标题。这种 情况非常适合用子类:
class Website:"""所有文章/网页的共同基类"""def __init__(self, name, url, titleTag):self.name = nameself.url = urlself.titleTag = titleTag
这不是一个由你的爬虫直接使用的对象,而是将被你的页面类型引用的 对象:
class Product(Website):"""产品页面要抓取的信息"""def __init__(self, name, url, titleTag, productNumber, price): Website.__init__(self, name, url, TitleTag)self.productNumberTag = productNumberTagself.priceTag = priceTagclass Article(Website):"""文章页面要抓取的信息"""def __init__(self, name, url, titleTag, bodyTag, dateTag):Website.__init__(self, name, url, titleTag)self.bodyTag = bodyTagself.dateTag = dateTag
这个产品页面扩展了Website基类,并且加入了仅适用于产品的productNumber和price属性,而Article类加入了body和date属性,这两个属性是不适用于产品的。
你可以用这两个类去抓取一个商店网站,该网站除了产品,可能还包含博客文章或新闻稿。
希望以上知识点能够帮助到大家,感谢大家的支持。
123 在
Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..原梓番博客 在
在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..博主 在
佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..1111 在
佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..路人 在
php中使用hyperf框架调用讯飞星火大模型实现国内版chatgpt功能示例中评论 教程很详细,如果加个前端chatgpt对话页面就完美了..Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号