PHP爬取网页的主要方法是什么
这篇文章将为大家详细讲解有关PHP爬取网页的主要方法是什么,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。
创新互联公司专注于二道网站建设服务及定制,我们拥有丰富的企业做网站经验。 热诚为您提供二道营销型网站建设,二道网站制作、二道网页设计、二道网站官网定制、微信小程序开发服务,打造二道网络公司原创品牌,更为您提供二道网站排名全网营销落地服务。
主要流程就是获取整个网页,然后正则匹配(关键的)。
PHP抓取页面的主要方法,有几种方法是网上前辈的经验,现在还没有用到的,先存下来以后试试。
1.file()函数
2.file_get_contents()函数
3.fopen()->fread()->fclose()模式
4.curl方式 (本人主要用这个)
5.fsockopen()函数 socket模式
6.插件(如:http://sourceforge.net/projects/snoopy/)
7.file()函数
2.使用
file_get_contents
方法实现,比较简单。使用
file_get_contents
和fopen必须空间开启allow_url_fopen
。方法:编辑php.ini,设置allow_url_fopen = On
,allow_url_fopen关闭时fopen和file_get_contents
都不能打开远程文件。$url="[http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml](http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml)"; $html=file_get_contents($url); //如果出现中文乱码使用下面代码` //$getcontent = iconv("gb2312", "utf-8",$html); echo"";3.
fopen()->fread()->fclose()
模式 ,目前还没用过,看到了就先记下了4.使用curl实现(本人一般使用这个)。
使用curl必须空间开启curl。方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需 要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安装curl扩展。
(.*?)<\/script>/',$res,$arr_all);//这个网页中数据通过js包过来,所以直接抓js就可以 preg_match_all('/"id"\:"(.*?)",/',$arr_all[1][1],$arr1);//从js块中匹配要的数据 $list = array_unique($arr1[1]);//(可省)保证不重复 //以下则是同理,循环则可 for($i=0;$i<=6;$i=$i+2){ $detail_url = 'ht*****em/'.$list[$i]; $detail_res = curl_get_contents($detail_url); preg_match_all('/