最近参与CIS大会,看到一款自动化渗透工具 Ary,特点是汇聚了各种可以调用的工具。

介绍

工具地址 https://github.com/TeraSecTeam/ary

POC收集 https://github.com/TeraSecTeam/poc-collection

Ary是一个集各种渗透工具于一体的工具,不过看起来还是一个开发中的版本,试用了一遍,感觉还不错。注意需要使用centos,好像ubuntu会报一些错误。

文件结构介绍

├── ary #二进制文件

├── configs #配置文件夹

├── input

├── log #日志记录

├── output #输出目录

├── pocs #poc文件夹,可以用自己的POC或者网上的poc

├── README.md 使用说明

└── streams #执行流所在文件夹,自己定义组合

核心功能介绍

信息收集

  1. 空间搜索引擎收集

  2. 爬虫类工具收集

  3. 爬虫类+存储类收集

工具联动

  1. 爬虫类+扫描类工具(Poc验证)

  2. 存储类+扫描类(Poc验证)

  3. 工具联动自定义+自动化

安装

1.安装所有的工具引擎,执行命令后,将会自动下载第三方的渗透工具,如xray。也可以预先不下载,在执行命令的时候如果缺少某个第三方工具会自动下载。

./ary --vulnscan --engine all --update -v

./ary --assertscan --engine all --update -v

2.chrome 的安装(爬虫需要)

配置yum谷歌的源:

vi /etc/yum.repos.d/google.repo

将下面这段粘贴进文件

[google]
name=Google-x86_64
baseurl=http://dl.google.com/linux/rpm/stable/x86_64
enabled=1
gpgcheck=0
gpgkey=https://dl-ssl.google.com/linux/linux_signing_key.pub

配置完之后,执行以下bash命令,安装google-chrome

yum update

yum install google-chrome-stable

google-chrome --version

配置文件

默认加载配置为带有settings.ini的文件configs/example.settings.ini文件为配置示例,可以修改其内容,如加入网络搜索引擎的token

1.目录设置

可以设置各输入和输出目录

1610450534_5ffd86667ca344255b153.png!small?1610450534844

2.第三方工具来源

xray下载地址及下载输出位置

1610450590_5ffd869eb7bd2c3061681.png!small?1610450591088

3.信息收集来源

包含rad,crawlergo,gospider等信息收集工具

1610450659_5ffd86e369c237df2fb94.png!small?1610450660221

4.空间搜索引擎配置

主要是配置fofa,shodan,censys的token或API key

1610450771_5ffd8753ed32a95c85b5c.png!small?1610450772392

使用体验

1.网络空间搜索

支持shodan、fofa、censys等空间搜索引擎,使用相关搜索需要在配置文件configs/example.settings.ini中配置相应的token。

相关命令

./ary --netsearch --engine shodan --keyword dedecms -v --limit 10

./ary --netsearch --engine shodan --keyword "tomcat country:"US"" -v --limit 10

./ary --netsearch --engine fofa --keyword redis -v --limit 10

./ary --netsearch --engine fofa --keyword "protocol=socks4 && banner="0x5a"" -v --limit 10

./ary --netsearch --engine censys --keyword redis -v --limit 1000

如使用shodan进行搜索

配置token(需要自己注册shodan的账号,获取token)

cd configs[root@centos configs]# vim example.settings.ini

1610452239_5ffd8d0fd55b6045d01f8.png!small?1610452240124

搜索dedecms框架, 限制10条

[root@centos kk]# ./ary --netsearch --engine shodan --keyword dedecms -v --limit 10

结果如下

1610452312_5ffd8d586f6cdbd1120b5.png!small?1610452313105

搜索结果默认保存在sqlite中,在配置文件中配置,公开版默认配置sqlite

1610452350_5ffd8d7e463abd27a2713.png!small?1610452350569

1610452373_5ffd8d954cdb8c0b8f4d2.png!small?1610452373646

使用sqlite3工具 SQLiteStudio查看,可看到结果已保存到本地data.db中

1610452457_5ffd8de9cfe1272108558.png!small?1610452458438

采用shodan语法搜索, 搜索国家为美国的tomcat

[root@centos kk]# ./ary --netsearch --engine shodan --keyword "tomcat country:"US"" -v --limit 10

1610452559_5ffd8e4f0d96fd0ab69b7.png!small?1610452560116

使用fofa基本语法搜索

[root@centos kk]# ./ary --netsearch --engine fofa --keyword redis -v --limit 10

1610452780_5ffd8f2c92b6eb4e4abaa.png!small?1610452781400

根据特征搜索sock4代理,关键词为

protocol=socks4 && banner="0x5a"

./ary --netsearch --engine fofa --keyword "protocol=socks4 && banner="0x5a"" -v --limit 10

结果

1610452916_5ffd8fb495c9d1c7755bd.png!small?1610452917332

评论

censys的结果不精确,没有相应的端口

推荐shodan和fofa

2.资产扫描

基于在线靶场测试http://testhtml5.vulnweb.com

基于ARL资产扫描

ARL是freebuf能力中心开源的一套资产扫描系统(https://github.com/TophantTechnology/ARL),提供docker版,有前端界面,基于ARL可以方便进行资产扫描和可视化

这里采用ARL 资产侦查灯塔系统(https://hub.docker.com/r/tophant/arl/tags?page=1&ordering=last_updated)

直接使用docker版本的ARL,登录进去后改密码

在配置文件里配置ARL

ARL token在登录后可以从cookie获取

打开F12查看cookie

1610453056_5ffd904067b2e2c567bfd.png!small?1610453059699

PS: 在启动docker的时候可以配置固定token,如果需要一直使用建议进行配置

之后在配置文件的[assertscan]中进行相应配置

1610453083_5ffd905b56412a4aafe4d.png!small?1610453083633

通过ary调用ARL进行资产扫描

ARL:

./ary --assertscan --engine arl --input指定文件

./ary --assertscan --engine arl --url指定url,可指定多个url,url之间用逗号隔开

资产扫描相关命令

# 启动一个任务

# 查找子域名

./ary --assertscan --engine arl --url www.aaa.com -v --condition subdomain

./ary --assertscan --engine arl --url www.aaa.com,www.bbb.com -v --condition subdomain

# 查找子域名 指定文件

./ary --assertscan --engine arl --input targets.txt -v --condition subdomain

# 查找子域名 指定输出文件名

./ary --assertscan --engine arl --url www.aaa.com -v --condition subdomain --output arl.csv

# 查找端口

./ary --assertscan --engine arl --input targets.txt -v --condition portscan

# 获取任务结果

./ary --assertscan --engine arl -v --fetch-result --keyword 5fd321f0a4a557000fb2a574

# 获取任务结果 - 加载文件

./ary --assertscan --engine arl -v --fetch-result --input arl.csv

扫描测试

./ary --assertscan --engine arl --url http://testhtml5.vulnweb.com -v --condition subdomain

1610453238_5ffd90f601a58b11c299b.png!small?1610453238773

登录ARL后台,x.x.x.x:5003, 输入账号密码,可以看到在ARL中已经启动了任务

1610453272_5ffd9118af4358295a418.png!small?1610453273429

获取扫描完毕的结果

[root@centos kk]# ./ary --assertscan --engine arl -v --fetch-result --keyword 5ff67b77ac258f000ccf4de2

或者直接把文件作为输入

[root@centos kk]# ./ary --assertscan --engine arl -v --fetch-result --input output/arl_1_2021-01-07T03\:09\:43Z.txt.csv

1610453352_5ffd9168239552362a59d.png!small?1610453353060

端口扫描

./ary --assertscan --engine arl --input vulnweb.com -v --condition portscan

端口扫描仅限于top100,不太好用,不能指定端口

3.爬虫类

./ary --assertscan --engine rad --url http://testphp.vulnweb.com/ -v

./ary --assertscan --engine gospider --url http://testphp.vulnweb.com/ -v

./ary --assertscan --engine crawlergo --url http://testphp.vulnweb.com/ -v

使用rad进行爬取

[root@centos kk]# ./ary --assertscan --engine rad --url http://testphp.vulnweb.com/ -v

如果没有rad,会自动下载并开始爬取

rad配置文件rad_config.yml在当前目录生成爬取过程

1610453458_5ffd91d2babf156f5d821.png!small?1610453459284

保存结果在

output/rad_1_2021-01-07T06:47:23Z.txt

使用gospider进行爬取

./ary --assertscan --engine gospider --url http://testphp.vulnweb.com/ -v

如果没有gospider,会自动下载并开始爬取

1610453558_5ffd92368d1135890b01c.png!small?1610453559466

结果保存在output/gospider文件夹下

2021-01-07 06:50:00,846 - [assertscan#143] - HIGHLIGHT - saved to output/gospider

gospider比rad在参数上更加详细

使用crawlgo进行爬取

如果没有crawlgo,会自动下载并开始爬取

[root@centos kk]# ./ary --assertscan --engine crawlergo --url http://testphp.vulnweb.com/ -vCrawlgo的也比较详细,但是速度较gospider和rad慢

1610453634_5ffd9282bafeb8df27f69.png!small?1610453637724

结果保存在output文件夹下

2021-01-07 06:57:40,600 - [assertscan#165] - HIGHLIGHT - saved to output/crawlergo_1_2021-01-07T06:56:05Z.txt

4.漏洞扫描

# 对目标进行扫描

./ary --vulnscan --url http://testphp.vulnweb.com/ --engine xray -v

# 对目标进行被动扫描(rad+xray)

./ary --vulnscan --engine xray --url http://testphp.vulnweb.com/ -v --passive

# 对文件中的目标进行被动扫描

./ary --vulnscan --engine xray --input target.txt -v --passive

# 读取数据库中的数据进扫描

./ary --vulnscan --engine xray --keyword tomcat -v

./ary --vulnscan --engine xray --keyword tomcat -v --crawl

直接调用xray进行扫描

./ary --vulnscan --url http://testphp.vulnweb.com/ --engine xray -v

如果没有xray,会自动下载并开始爬取

xray的配置文件config.yaml默认在当前文件夹生成

1610453882_5ffd937a967ca0a487e66.png!small?1610453883102

下载完后保存在在thirdpartys文件夹下

1610453927_5ffd93a7d7fc08be82a05.png!small?1610453929473

xray结果以json格式保存在output目录下

调用xray进行被动扫描

./ary --vulnscan --engine xray --url http://testphp.vulnweb.com/ -v --passive

效果不好,可能是使用姿势不对,待进一步探索

xray+gospider分开跑

效果不错

在两个终端中运行程序:

运行xray, xray在7778端口监听,被动扫描模式

./ary --vulnscan --engine xray --port 7778 --background -v

运行gospider,将流量转发到7778端口给xray进行扫描,使用xray对go spider的内容进行扫描

./ary --assertscan --engine gospider --url http://testphp.vulnweb.com/ -v --passive --port 7778

效果如下

1610454075_5ffd943be139c8d57ef92.png!small?1610454077173

xray+rad分开跑

运行rad,将流量转发到7778给xray扫描,效果不错

1610454108_5ffd945c30d56672882f3.png!small?1610454109050

xray+crawelgo分开跑

运行crawelgo,扫描的数量多一点,但是相对来说慢一点

1610454162_5ffd94920c2b6d150d442.png!small?1610454164612

5.POC使用

PoC 漏洞验证

POC可自行在POC收集 https://github.com/TeraSecTeam/poc-collection项目中寻找

./ary --pocscan --input redis.txt --poc redis -v

./ary --pocscan --url xx.xx.xx.xx --poc ./pocs/redis -v

./ary --pocscan --poc tomcat --keyword tomcat -v

./ary --pocscan --keyword redis --poc redis -v

./ary --pocscan --keyword redis --poc redis -v --limit 1 --dumppcap redis

./ary --pocscan --keyword thinkphp --poc thinkphp_rce2 -v --limit 20 --dumppcap thinkphp

# 写到数据库

./ary --pocscan --url xx.xx.xx.xx --poc redis -v --limit 2 --upload

redis POC 效果

1610458564_5ffda5c4959a83f0e7c72.png!small?1610458565989

针对单个网站打poc

[root@centos kk]# ./ary --pocscan --url 122.xx.xx.xx --poc redis -v

1610458629_5ffda605d3b94ca99ffd6.png!small?1610458631004

针对数据库中的关键词打POC

[root@centos kk]# ./ary --pocscan --keyword redis --poc redis -v

1610458700_5ffda64c981602c1af43a.png!small?1610458703076

对数据包详细分析

执行流尝试使用录包功能,录包之后为pcap格式,可以用wireshark打开

1610458760_5ffda6889bca04553f556.png!small?1610458762156

6.Stream模块使用

使用这个模块可以自定义过程。

使用steam进行POC验证

自定义过程的配置在./streams/streams.yaml1610458906_5ffda71aeefc743801b9b.png!small?1610458908045

./ary -v --stream --input streams.yaml --keyword "redis 未授权访问漏洞"

可以看到名称为redis 未授权访问漏洞,故在命令行中输入该关键词`--keyword "redis 未授权访问漏洞"`

将会使用shodan进行redis搜集,并且使用pocs目录下的redis.py POC进行利用尝试

效果如下

1610459228_5ffda85cbbad957b6e13b.png!small?1610459233185

使用stream进行漏洞挖掘

也可以进行漏洞扫描,指定xray引擎,非passive方式扫描,关键词为test testphp.vulnweb.com

./ary -v --stream --input streams.yaml --keyword "test testphp.vulnweb.com"

即可进行xray扫描

效果 如下

1610459315_5ffda8b3b476bb78852c6.png!small?1610459317063

Trouble shooting

1、API报错

2021-01-07 02:28:23,382 - [netsearch#217] - DEBUG - fofa mail : hxxxxxl@163.com, secret : 238ebxxxxxxxxxxxxxxxxxx2440

2021-01-07 02:28:23,387 - [database#28] - DEBUG - using database : sqlite

2021-01-07 02:28:23,396 - [netsearch#249] - DEBUG - https://fofa.so/api/v1/search/all?email=hxxxxxl@163.com&key=238ebxxxxxxxxxxxxxxxxxx2440&qbase64=aXA9IjguOC144Ljgi&size=1

2021-01-07 02:28:24,597 - [netsearch#253] - ERROR - 401 Unauthorized, make sure 1.email and apikey is correct 2.FOFA coin is enough.

解决方法: 注册账号,获取token,并在配置文件中填入相应的token

2、端口被占用

1610459460_5ffda944e9ad5b4a9370d.png!small?1610459461874

解决方法

[root@centos kk]# ./ary --kill --engine xray --port 7777 -v

总结

- 快速的资产收集和工具联动操作

- 在获取某个POC和框架信息的情况下,可以快速聚合所需要的网站并且调用需要的工具进行扫描

- 适用于平时进行漏洞挖掘

- 数据库的使用可以发挥更多的想象力,其他版本在数据方面应该会更友好

- 体验下来,公开版适用于渗透测试前中期的自动化工作,辅助在测试中更快地寻找到突破点

本文作者:挣扎的小小, 转自FreeBuf