如何进行APP爬虫开发环境准备

今天给大家介绍一下如何进行APP爬虫开发环境准备。文章的内容小编觉得不错,现在给大家分享一下,觉得有需要的朋友可以了解一下,希望对大家有所帮助,下面跟着小编的思路一起来阅读吧。

站在用户的角度思考问题,与客户深入沟通,找到交口网站设计与交口网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:成都网站建设、网站制作、企业官网、英文网站、手机端网站、网站推广、域名与空间、网页空间、企业邮箱。业务覆盖交口地区。

在进行APP爬虫开发的时候,我们一般是通过手机连接PC端代理上网,进行抓包分析,那么以这种方式抓包的时候就需要在手机端进行对应的操作,但是我们不可能一直通过手动去操作手机进行抓包,所以要使用adb这种Android开发命令的方式进行操作。但是现在很多手机权限控制比较严密,直接连接真机有很多操作是不支持的,所以就必须用到模拟器。很庆幸安卓模拟器有很多种,下面我们就介绍一下APP爬虫开发环境的简单搭建和基础使用。
 

安装模拟器

安卓模拟器有很多种,夜神模拟器、腾讯手游助手、mumu模拟器等都是比较常用的模拟器,其中夜神模拟器是比较好的,但是它不支持Mac系统,mumu模拟器是由网易开发的,支持Windows和Mac平台,而且更新比较频繁,所以我使用的是mumu模拟器,官方文档和论坛也比较丰富。安装好以后就可以直接打开使用,如果碰到问题,可以在官方的常见问题中进行查看。

 

Mac安装adb

安装完模拟器之后,我们就要安装adb了,在Mac上首推brew cask进行安装

  • 安装brew
    请看这篇文章HomeBrew 官方安装太慢而失败?

  • 安装adb
    brew cask install android-platform-tools
    安装完adb后打开控制台,输入adb version

    如何进行APP爬虫开发环境准备

然后可以先使用真机进行测试,打开手机的“开发者选项”,并启用“USB调试”模式,在控制台输入adb devices

如何进行APP爬虫开发环境准备  

这样就表示我们的adb已经安装好了,下面就是连接我们的模拟器了。

 

连接模拟器

在模拟器中打开“USB调试模式”,然后在控制台中关闭adb server,再重启即可

adb kill-server
adb server
 

这个时候再查看连接设备

如何进行APP爬虫开发环境准备  

 438ec4b1为真机,  emulator-5554为模拟器,要连接机器使用以下命令  
 adb -s 438ec4b1 shell  
 
如何进行APP爬虫开发环境准备  
连接真机
如何进行APP爬虫开发环境准备  
连接模拟器

在红框中你会发现区别,在连接真机的ls前面是$符号,在连接模拟器的ls前面是#,#符号就表示拥有root权限,非#符号就表示没有root权限,我试过几个真机,都是无root权限的,可能需要我们自行root后才能正常使用。所以这就是我们一定要使用模拟器的原因了。

因为我们不在真机上进行调试,所以就把连接断掉,只保留模拟器一个连接设备。在这种情况下,我们的adb命令也可以简短一些,比如使用adb连接设备,原来是adb -s xxx shell,现在就可以直接写adb shell,其他的adb命令也是类似。

 

安装抓包软件

电脑端常用的抓包软件Fiddler、Charles、mitmproxy,Fiddler是专属于Windows系统的抓包软件,并且功能强大,Charles是跨平台的软件,但是功能不如Fiddler,在Mac和Linux使用Charles,mitmproxy也是跨平台的抓包工具,虽然也有可视化界面,但是不够友好,使用成本比较高,因此我们常用mitmproxy配合Python实现抓取工作。mitmproxy需要专门写了一个帖子,这里就不在详述了。

 

安装APP自动化操作软件

  • Appium

  1. 安装Android Studio
    Android Studio中文社区下载工具,安装后打开会报一个错,不用管

如何进行APP爬虫开发环境准备  

打开SDK Manager,安装对应的SDK版本

如何进行APP爬虫开发环境准备  
  1. 设置环境变量
    在vim ~/.bash_profile文件最后增加以下内容,如果没有就新建一个

export ANDROID_HOME=/Users/xxxx/Library/Android/sdk
export PATH=${PATH}:${ANDROID_HOME}/tools
export PATH=${PATH}:${ANDROID_HOME}/platform-tools
export PATH=${PATH}:${ANDROID_HOME}/build-tools/29.0.2
 

ANDROID_HOME路径就是上面图中SDK下载路径

如何进行APP爬虫开发环境准备  

PS: 上面环境变量中的build-tools/xx.xx.xx要在build-tools目录下去看具体情况,我们主要是需要使用aapt工具,所以aapt在哪个目录下就填写哪个目录。

配置完以后执行source ~/.bash_profile命令,重新加载环境变量,然后输入aapt -v查看命令是否正常运行

3.安装JDK
从官网下载JDK 8,官网下载需要注册账号,比较麻烦。可以在找第三方网站上的下载,我是在一个百度云分享链接下载的,可惜现在忘了地址了,不好意思。

  1. 安装Python操作库
    pip install Appium-Python-Client

然后就可以正常使用了。

  • Airtest
    Airtest是网易开发的自动化测试工具,虽然不如appium专业,但是胜在安装简单,使用简单。直接在官网下载即可,而且文档也比较齐全。最重要的是安装完后,所有测试环境就OK了。然后再安装pip install poco就可以使用了。最最最重要的是,在其他机器上想要使用以及编写好的脚本,只需要安装pip install poco就可以了,不需要再安装Airtest工具。

以上就是如何进行APP爬虫开发环境准备的全部内容了,更多与如何进行APP爬虫开发环境准备相关的内容可以搜索创新互联之前的文章或者浏览下面的文章进行学习哈!相信小编会给大家增添更多知识,希望大家能够支持一下创新互联!


网页题目:如何进行APP爬虫开发环境准备
标题来源:http://ybzwz.com/article/pepjhd.html