spider-flow/README.md

spider-flow

介绍

新一代爬虫平台，以图形化方式定义爬虫流程，不写代码即可完成爬虫。

项目部署启动

• SpiderApplication.java 右键main
• 访问路径：http://localhost:8088/

特性

• 支持css选择器、正则提取
• 支持JSON/XML格式
• 支持Xpath/JsonPath提取
• 支持多数据源、SQL select/insert/update/delete
• 支持爬取JS动态渲染的页面
• 支持代理
• 支持二进制格式
• 支持保存/读取文件(csv、xls、jpg等)
• 支持插件扩展

项目部分截图