pullmd:PullMD是一个自托管服务,能将网页、文档、图片、音频和YouTube视频等多种内容转换为整洁易读的Markdown格式。它支持与AI代理集成,提供高效的token输出和多种API接口。;Scrapling:Scrapling 是一个为现代网络提供轻松数据提取的自适应 Python 网络抓取框架,能够处理从单个请求到全面并发爬取的所有任务。它具有先进的反机器人绕过功能、智能元素重定位以及内置代理轮换和 AI 集成的全面会话管理。
为AI代理提供来自网页、文档和媒体的干净、精炼内容,以提高上下文理解和token效率。
执行单个网页请求或启动全面的并发网络爬取。