当前位置:   article > 正文

【攻防技术】信息收集之公众号自动收集__sug_type_

_sug_type_

0x00

有个大佬说过,渗透的本质就是信息收集,在边界突破的阶段,信息收集是前置条件,经过多年实战攻防的积累,现在信息收集已经形成了标准化的流程,因此我们在尝试建设自动化信息收集工具。

防守方大部分的防守力量都会放到边界的web系统上,对于移动端的暴露面通常容易疏忽,所以对于移动资产的收集就十分重要,下面介绍一下公众号搜索方法。

0x01 企业信息查询

常见的企业信息查询网站有天眼查、企查查、爱企查、启信宝、小蓝本等,可以直接登录平台去查询,以天眼查为例:

可以使用脚本直接从通过前端获取数据,不仅仅是公众号,其他信息也可以获取,但是自从攻防演练开始后,这些企业信息查询网站都增强了反爬虫机制,频率过高就会弹出验证码,从前端获取数据反爬虫对抗有一定技术门槛。

除了直接查询,平台基本都会提供api接口调用,可以免去反爬绕过的问题,缺点就是要氪金,如果是大批量查询的话,还不便宜,但优点是使用方便。

代码实现也比较简练,官方的api文档中也有代码demo。

  1. # https://open.tianyancha.com/open/834
  2. def GetWechatOfficialAccount(self, keyword, pageNum=1, pageSize=20):
  3. url = "http://open.api.tianyancha.com/services/open/ipr/publicWeChat/2.0?keyword=%s&pageNum=%s&pageSize=%s" % (keyword, pageNum, pageSize)
  4. headers={'Authorization': {天眼查Token}}
  5. try:
  6. response = requests.get(url, headers=headers)
  7. except Exception as err:
  8. logger.error(str(err))
  9. return None
  10. data = response.json()

0x02 通过搜索引擎搜索

平时根本不用搜狗搜索,读《张朝阳:重新出发》这本书的时候,才知道搜狗搜索和微信有合作,可以直接搜索公众号,可以考虑通过搜索引擎的接口来批量获取公众号信息。

通过搜狗搜索获取的结果要比天眼查获取的结果多,直接get请求就可以获取:https://weixin.sogou.com/weixin?type=1&s_from=input&query={关键字}&ie=utf8&_sug_=n&_sug_type_=&page={页数}

但是跑着跑着,就遇到了搜狗的antispider。

遇到反爬一般有3种对抗方法:

  • 硬钢验证码

  • 更换IP

  • 修改请求cookie绕过

这里我没有采用绕验证码,尝试了更换IP,发现还是提示有验证码,因此断定搜狗反爬虫机制是通过http请求头中特殊的cookie字段实现的频率检测。

访问搜狗微信搜索会返回如下cookie:

Cookie: IPLOC=CN1100; SUID=EA69C1767450A00A000000006470DB3F; cuid=AAEAYHYPRQAAAAqgIy28JwAAvgU=; SUV=1685117759828180; ABTEST=6|1685117772|v1; SNUID=64E44CFB8D88711683B617DE8E7C80C3

经过测试,发现修改SNUID就可以绕过反爬,那么就可以通过不停访问搜狗的网站获取新的SNUID实现绕过反爬。

由于搜狗首页有很多功能,我们访问一个不会限制频率的页面搜狗视频,发现也可以正常获取SNUID。

至此问题可以解决了,通过公众号搜索接口搜索目标的公众号,当触发反爬机制后,访问搜狗视频获取新的SNUID,即可继续使用公众号搜索接口。

我使用了fake_useragent库来生成随机UA,代码如下:

  1. import urllib.parse
  2. import requests
  3. from lxml import etree
  4. from fake_useragent import UserAgent
  5. import time,sys,os,math,json,random
  6. #生成随机UA
  7. ua = UserAgent(browsers=["chrome", "edge", "internet explorer", "firefox", "safari"])
  8. global_headers = {
  9. "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7",
  10. "Accept-Encoding": "gzip, deflate, br",
  11. "Accept-Language": "en-US,en;q=0.9",
  12. "Cache-Control": "max-age=0",
  13. "Connection": "keep-alive",
  14. "Cookie": "SUID=10800C75492CA20A000000006145E582; SUV=1641002706609755; ssuid=8628497906; IPLOC=CN1200; cuid=AAERmghDQwAAAAqgHl6xlgAASQU=; ABTEST=0|1684314665|v1; JSESSIONID=aaaXmp_IROcwx7NZRDDEy; PHPSESSID=snjidnapfi0p1lsac6jgb8huu1; SNUID=8A0A5AACD7DD2C295C858FD2D8397552; ariaDefaultTheme=undefined",
  15. "Referer": "https://weixin.sogou.com",
  16. "Sec-Fetch-Dest": "document",
  17. "Sec-Fetch-Mode": "navigate",
  18. "Sec-Fetch-Site": "none",
  19. "Sec-Fetch-User": "?1",
  20. "Upgrade-Insecure-Requests": "1",
  21. "User-Agent": ua.random,
  22. "sec-ch-ua": '"Google Chrome";v="113", "Chromium";v="113", "Not-A.Brand";v="24"',
  23. "sec-ch-ua-mobile": "?0",
  24. "sec-ch-ua-platform": '"Windows"',
  25. "X-Forwarded-For": "110.242.68.66"
  26. }
  27. #https://weixin.sogou.com/weixin?query=%E6%B8%A4%E6%B5%B7%E9%93%B6%E8%A1%8C&_sug_type_=&s_from=input&_sug_=n&type=1&ie=utf8&page=2
  28. #将中文转为url编码
  29. def Chinese2Url(chinese_context):
  30. return urllib.parse.quote(chinese_context)
  31. #获取页面的公众号名称
  32. #页面编号为1,返回获取的数量和第1页公众号列表
  33. #页面编号大于1,返回当页的公众号列表
  34. def GetWechatofficialAccount(keyword_url, headers=global_headers, page=1):
  35. url = "https://weixin.sogou.com/weixin?query="+keyword_url+"&_sug_type_=&s_from=input&_sug_=n&type=1&ie=utf8&page=" + str(page)
  36. xpath_get_official_account = "//li/div/div[2]/p[1]/a/text()"
  37. rep = requests.get(url, headers=headers)
  38. if "请输入验证码" in rep.text:
  39. headers = GetNewCookieHeaders()
  40. rep = requests.get(url, headers=headers)
  41. #更新全局变量,headers和代理
  42. global global_headers
  43. global_headers = headers
  44. req = requests.get(url, headers=headers)
  45. response = rep.text.replace("<em><!--red_beg-->","").replace("<!--red_end--></em>","")
  46. etree_obj = etree.HTML(response)
  47. wechat_official_account = etree_obj.xpath(xpath_get_official_account)
  48. if('<img src="/new/pc/images/bg_404_2.png"' in response):
  49. print("No result")
  50. sys.exit()
  51. if(page == 1):
  52. xpath_get_page_num = "//div[@class='mun']/text()"
  53. item_num = etree_obj.xpath(xpath_get_page_num)[0].replace("找到","").replace("约","").replace("条结果","")
  54. print("item number is %s" % item_num)
  55. return int(item_num),wechat_official_account
  56. else:
  57. return wechat_official_account
  58. def GetNewCookieHeaders():
  59. headers = global_headers
  60. cookie_split = headers["Cookie"].split("; ")
  61. for item in cookie_split:
  62. if "SNUID" in item:
  63. cookie_split.remove(item)
  64. cookie_split.append("SNUID=%s" % GetSougoCookie()["SNUID"])
  65. break
  66. headers["Cookie"] = "; ".join(cookie_split)
  67. return headers
  68. def GetSougoCookie():
  69. # 搜狗视频url,获取新的SNUID
  70. url = "https://v.sogou.com/?forceredirect=2&ie=utf8"
  71. rst = requests.get(url=url,
  72. headers=global_headers,
  73. allow_redirects=False)
  74. cookies = rst.cookies.get_dict()
  75. print("Get new cookie SNUID %s" % cookies["SNUID"])
  76. return {"SNUID":cookies["SNUID"]}
  77. if __name__ == '__main__':
  78. keyword_url = Chinese2Url("中国移动")
  79. item_num,wechat_official_account = GetWechatofficialAccount(keyword_url,headers=global_headers,page=1)
  80. page_num = 10
  81. if item_num < 100:
  82. page_num = math.ceil(item_num/10)
  83. if page_num > 1:
  84. page = 2
  85. while (page <= page_num):
  86. wechat_official_account = sum([wechat_official_account,GetWechatofficialAccount(keyword_url,headers=global_headers,page=page)],[])
  87. print("page = %s" % page)
  88. page += 1
  89. wechat_official_account = list(set(wechat_official_account))
  90. print(wechat_official_account)

效果如下

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家自动化/article/detail/216556
推荐阅读
相关标签
  

闽ICP备14008679号