Scrapling:Scrapling 是一个为现代网络提供轻松数据提取的自适应 Python 网络抓取框架,能够处理从单个请求到全面并发爬取的所有任务。它具有先进的反机器人绕过功能、智能元素重定位以及内置代理轮换和 AI 集成的全面会话管理。;asya:Asya 是一个基于队列的 Actor 框架,旨在 Kubernetes 上编排 AI/ML 工作负载,实现独立扩缩容和动态管道。它允许数据科学家编写纯 Python 函数,同时处理队列、路由、扩缩容和监控,无需任何基础设施代码。
执行单个网页请求或启动全面的并发网络爬取。
多步 AI/ML 管道(例如,文档处理、图像管道、LLM 工作流)。