玩蛇网提供最新Python编程技术信息以及Python资源下载!
您现在的位置: 玩蛇网首页 > Python问题解答 > 正文内容

想知道Python爬虫程序原理

python爬虫程序的原理是什么?PHP不能写爬虫吗?

可以看看这个,感觉写的很好:https://segmentfault.com/a/1190000005105528

看这里哪种语言合适写爬虫程序
另外推荐一本书webbots spiders 和 screen scrapers,主要讲php的爬虫

关注这个博客很久了,写的爬虫教程很多,关键是教程好细致,特色适合初学者
推荐给你看看

youmumzcs的专栏
http://blog.csdn.net/youmumzc...

爬虫的原理是从一个起始种子链接开始,发http请求这个链接,得到该链接中的内容,然后大多使用正则匹配出页面里面的有效链接,然后将这些链接保存到待访问队列中,等待爬取线程取这个待访队列,一旦链接访问过了,为了有效的减少不必要的网络请求,我们应该把访问过的链接放到一个已访问map中,已防止重复抓取及死循环。我以上提到的过程可能是一个比较简单的爬虫实现,复杂的可能不会这么简单,但这里面有几个概念,一个是发http请求,一个是正则匹配你感兴趣的链接,一个是多线程,另外还有两个队列,理论上,任何能实现这么些概念的编程语言去写爬虫都是可以的,期间取舍还是看自己对熟练成都。

爬虫的原理都是HTTP请求和应答,底层基于TCP/IP协议。
PHP也可以写爬虫,不过Python写起来更方便,内置很多模块可以直接使用。

不管php还是python都可以写爬虫。
原理:
获取整个网页,然后用正则匹配出自己需要的内容
大概原理就是这样

python比php多了多线程 多进程
现有的python scrapy框架专门为爬虫设计的 据说很厉害。。
http://jinri.info 我自己的网站 python爬的信息

先看看这个如何入门 Python 爬虫?


PHP也是可以写爬虫的:https://github.com/search?l=PHP&o=desc&q=spider&ref=searchresults&s=stars&type=Repositories&utf8=%E2%9C%93

玩蛇网文章,转载请注明出处和文章网址:http://www.iplaypy.com/wenda/wd18418.html [复制]



我要小额赞助,鼓励作者写出更好的教程↓↓↓

玩蛇网Python QQ群,欢迎加入: ① 279974227 玩蛇网Python新手群
修订日期:2017年06月22日 - 11时58分43秒 发布自玩蛇网

我要分享到:
评论列表(网友评论仅供网友表达个人看法,并不表明本站同意其观点或证实其描述)

必知PYTHON教程 Must Know PYTHON Tutorials

必知PYTHON模块 Must Know PYTHON Modules