crw
活跃·★ 1.1k·AGPL-3.0·更新于 2026-10-06
★ 时下流行★ 必备神器
fastCRW是一个高性能引擎,旨在将URLs转换为简洁的Markdown或结构化JSON。它为网络搜索、抓取、映射、爬取和数据提取提供了一站式解决方案,可作为本地Rust二进制文件运行,也可通过托管API使用。
#网页抓取#数据提取#内容转换#网页爬虫#API接口#命令行工具#AI代理工具#Rust语言
01
功能特性
01将单个URL抓取为Markdown、HTML、链接、截图或Schema JSON
02爬取限定范围的网站并收集其页面
03在不抓取每个页面的情况下发现并映射URLs
04搜索网页并可选择性地抓取选定的结果
05从一个或多个URL中提取结构化字段
02
兼容性
Rust
运行时
已通过文档验证
MacOS
操作系统
已通过文档验证
Linux
操作系统
已通过文档验证
Python
SDK
已通过文档验证
Node.js
SDK
已通过文档验证
AI Agents (MCP)
集成
已通过文档验证
03
快速开始
1
$ curl -fsSL https://fastcrw.com/install | sh
04
使用场景
↳将网页内容转换为结构化数据(Markdown/JSON),以便进行进一步处理或存储。
↳构建需要实时和结构化网络信息的AI代理。
↳收集市场调研、竞品分析或内容聚合所需的数据。
↳监控网站变化或跟踪多个页面上的特定数据点。
↳通过SDK或REST API将网页数据提取功能集成到自定义应用程序中。
05
同类工具
评论
登录后发表评论
暂无评论,来发表第一条吧