经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 移动开发 » Android » 查看文章
抖音数据采集教程,Android群控黑盒调用,Sekiro使用手册
来源:cnblogs  作者:数据工具箱  时间:2021/1/4 9:01:36  对本文有异议

抖音数据采集教程,Android群控黑盒调用,Sekiro使用手册

0x0 前言

之前尝试用过virjar大佬的hermesagent, 后来大佬又迭代出新的基于长链接的Sekiro, 一直想看都被耽搁了, 今天正好抽空尝试一下, 顺便写篇笔记, 有错误的地方大佬们请指正哈

0x1 Sekiro介绍

SEKIRO 是一个android下的API服务暴露框架,可以用在app逆向、app数据抓取、android群控等场景
 
和其他群控框架相比的特点如下:

  • 对网络环境要求低,sekiro使用长链接管理服务,使得Android手机可以分布于全国各地,甚至全球各地。手机掺合在普通用户群体,方便实现反抓突破,更加适合获取下沉数据。
    不依赖hook框架,就曾经的Hermes系统来说,和xposed框架深度集成,在当今hook框架遍地开花的环境下,框架无法方便迁移。所以在Sekiro的设计中,只提供了RPC功能了。
  • 纯异步调用,在Hermes和其他曾经出现过的框架中,基本都是同步调用。虽然说签名计算可以达到上百QPS,但是如果用来做业务方法调用的话,由于调用过程穿透到目标app的服务器,会有大量请求占用线程。系统吞吐存在上线(hermes系统达到2000QPS的时候,基本无法横向扩容和性能优化了)。但是Sekiro全程使用NIO,理论上其吞吐可以把资源占满。
  • client实时状态,在Hermes系统我使用http进行调用转发,通过手机上报心跳感知手机存活状态。心跳时间至少20s,这导致服务器调度层面对手机在线状态感知不及时,请求过大的时候大量转发调用由于client掉线timeout。在Sekiro长链接管理下,手机掉线可以实时感知。不再出现由于框架层面机制导致timeout

Sekiro架构

  1. server:
  2. 暴露一个TCP端口和两个HTTP端口
  3. 管理通过TCP连接的clientuser发来的http 请求
  4. client:
  5. 通过TCPserver连接,响应server发来的请求
  6. 工作流程是这样的:
  7. 1. client通过TCPserver建立长连接
  8. 2. user发送http请求给server
  9. 3. server根据用户发来的http请求的参数,通过TCP将请求转发给client
  10. 4. client收到请求并响应server
  11. 5. server将从client收到的请求返回给user

详细的可以去看项目的readme, 说的非常详细: 项目传送门

0x2 服务端部署

  • 克隆项目: git clone [https://github.com/virjar/sekiro.git](https://github.com/virjar/sekiro.git)
  • 修改settings.gradle的内容为: include ':sekiro-server', ':sekiro-lib' ,删掉appdemo防止编译它
  • 启动服务器前注意事项
  1. server端在`sekiro-server/src/main/resources/appliation.properties`中可以配置三个服务端端口, 主要服务端安全策略的出入口需要开放这个三个端口
  2. #tomcat 占用端口
  3. server.port=5602
  4. #长链接服务占用端口
  5. natServerPort=5600
  6. # 异步http占用端口
  7. natHttpServerPort=5601
  8. # websocket占用端口
  9. webSocketServerPort=5603
  10. 如果自定义端口,client需要调用SekiroClient.start(String serverHost, int serverPort, final String clientID, String group)中去连接server

执行命令:./gradlew sekiro-server:bootJar 即可在 sekiro-server/build/libs/sekiro-server-0.0.1-SNAPSHOT.jar找到all-in-one的jar包

  • 通过nohup java -jar sekiro-server/build/libs/sekiro-server-0.0.1-SNAPSHOT.jar >/dev/null 2>&1 &启动server

0x3 客户端

  • 先准备一个测试的Demo, 很简单就是个加法, 注意Demo必须有加android.permission.INTERNET权限
  1. public class MainActivity extends AppCompatActivity {
  2. public static int Add(int n1, int n2)
  3. {
  4. return n1 + n2;
  5. }
  6. @Override
  7. protected void onCreate(Bundle savedInstanceState) {
  8. super.onCreate(savedInstanceState);
  9. setContentView(R.layout.activity_main);
  10. Toast.makeText(MainActivity.this, "3 + 2 = " + Add(3, 2), Toast.LENGTH_LONG).show();
  11. }
  12. }
  • 再准备的一个Xposed的项目, 不会的可以先看我之前写的一篇笔记: AndroidStudio使用Xposed
  • 在app的build.gradle添加依赖 implementation 'com.virjar:sekiro-api:1.0.1'

  • 在Xposed的handleLoadPackage中启动client链接server,并添加处理事件的handler, 用于调用Add函数
  1. Log.i(TAG, "connect server....");
  2. //服务端host
  3. String testHost = "your_host";
  4. //客户端标识
  5. String clientId = UUID.randomUUID().toString();
  6. //接口组名称
  7. String groupName = "addDemoTest2";
  8. //暴露的接口名称
  9. String actionName = "myAdd";
  10. //拿classloader
  11. clzLoader = lpparam.classLoader;
  12. //连接服务端并且注册处理的handler
  13. SekiroClient.start(testHost, clientId, groupName)
  14. .registerHandler(actionName, new SekiroRequestHandler(){
  15. @Override
  16. public void handleRequest(SekiroRequest sekiroRequest, SekiroResponse sekiroResponse){
  17. //当服务端分配任务时, 这里处理逻辑, 并把结果返回给服务端, 服务端再返回给调用者
  18. Class<?> clz = XposedHelpers.findClass("com.example.administrator.adddemo.MainActivity", clzLoader);
  19. int arg1 = sekiroRequest.getInt("arg1");
  20. int arg2 = sekiroRequest.getInt("arg2");
  21. Log.i(TAG, String.format("arg1 : %d, arg2 : %d", arg1, arg2));
  22. Object result = XposedHelpers.callStaticMethod(clz, "Add", arg1, arg2);
  23. Log.i(TAG, "result : " + result);
  24. sekiroResponse.success(result);
  25. }
  26. });
  • 编译错误More than one file was found with OS independent path解决
  1. //build.gradleandroid{}添加错误的path
  2. packagingOptions {
  3. exclude 'META-INF/DEPENDENCIES'
  4. exclude 'META-INF/INDEX.LIST'
  5. exclude ('META-INF/io.netty.versions.properties')
  6. }

0x4 尝试调用

  • 打开app后, 使用浏览器查看group列表是否注册成功:
    [your_server_ip]:[server.port]/groupList

  • 调用接口查看结果:
  1. 格式: your_server_ip:[natHttpServerPort]/[invoke_type]?group=[group_id]&action=[action_name]&param1=[arg]
  2. 例子: https://x.x.x.x:5602/asyncInvoke?group=addDemoTest2&action=myAdd&arg1=300&arg2=300

  • client的调用日志

感谢&参考资料

sekiro实践

更多短视频数据实时采集接口,请查看文档: TiToData


免责声明:本文档仅供学习与参考,请勿用于非法用途!否则一切后果自负。

原文链接:http://www.cnblogs.com/titodata/p/14226700.html

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号