批量采集:一次跑一批网址
批量采集是指:使用同一个自动化工作流,对一份网址清单中的所有网页逐一进行采集。
例如:采集 200 个商品详情页的标题与价格,你无需手动逐一打开,系统会自动依次拉起并提取。
将批量采集集成在「定时任务」模块中——你可以让它按时间定时批量跑,也可以在需要时点击「立即执行」实现随时随地批量抓取。
一、配置网址清单
- 打开侧栏进入「定时任务」,点击「新建任务」。
- 在「工作流」下拉框中选中已经针对该类页面调试好的工作流。
- 在「目标网址」输入区域添加待采集的链接:
- 手动粘贴:一行一个网址,支持直接从 Excel 表格复制整列粘贴。
- 文件导入:点击「导入 TXT / CSV」直接载入本地整理好的网址文件。
- 确认输入的总数(单任务最高支持 5,000 条)。
- 调度设置如果不需要每天定时,保持默认即可(我们使用手动按钮触发)。点击底部的「保存任务」。
⚠️ 跑批前的重要提醒
批量处理大量网页需要一定时间。在此期间请保持电脑连接电源,切勿将浏览器窗口最小化。被休眠的标签页数据会采空且不一定报错。详见长时间采集防休眠。
二、手动启动批量采集
保存完成后,在对应的任务卡片上点击「立即执行」按钮即可即刻开始处理整份清单。
需要注意的三点规则:
- 会员权限校验:批量采集底层调用了任务调度引擎,需持有 VIP1 或更高会员(点击时会即时校验)。
- 独立于定时开关:即使卡片右上角的定时开关是关闭的,点击「立即执行」同样会强制跑完全部网址(开关仅管到点自动触发)。
- 按钮防重保护:任务开始后,「立即执行」按钮会暂时隐去,防止短时间内二次误触导致重复抓取。
三、运行时的浏览器内部表现
批量运行开启后,浏览器会自动按流水线进行以下操作,均属于正常行为,请勿惊慌:
- 开启承载首屏:系统会自动新开一个前台标签页加载清单里的第一个网址并执行采集(不会占用你正在看的工作标签页)。
- 流水线轮询推进:第一条抓取完成后,系统会自动打开下一个目标网页,采集完毕后等待约 3 秒(确保网络回包并稳定落库),随后自动关闭当前标签页,继续打开下一个。
- 无痕还原桌面:整批清单全部处理完毕后,初始打开的承载标签页也会自动安全关闭,浏览器彻底恢复原状。
运行期间请勿干预标签页
- 请勿手动关闭系统自动打开的采集标签页,否则会导致当前网址采集强行中断。
- 如果需要紧急叫停整批任务,在侧边栏的运行卡上点击红色「结束」即可。详见启动、中断与结束。
四、容错机制:单条网址出错会怎样?
批量处理中,难免遇到个别失效链接或打不开的页面。系统遵循以下容错原则:
- 局部失败自动跳过(默认策略):
如果某一条网址加载超时、404 或内容改版,引擎会将该条判定为作废,并自动跳向下一条继续执行,绝对不会让单个错误导致整批 200 条任务全盘崩溃。 - 全局拦截会主动挂起:
如果遇到的问题是需要人工干预的全局状况(例如:整站需要扫码登录、触发了全屏滑块验证码),任务会自动挂起(暂停)并发出系统通知。你只需手动完成验证,回侧边栏点「恢复」即可接着跑完后续链接。
五、启动异常阻断对照
若点击「立即执行」后任务完全没跑起来,常见提示如下:
| 界面提示信息 | 根本原因 | 对应解决办法 |
|---|---|---|
| 执行体缺失(包装工作流不存在) | 任务绑定的底层工作流被误删了 | 点击编辑该任务,重新选定一个有效工作流后保存 |
| 任务未配置目标网址 | 网址输入框完全为空 | 编辑任务补充网址列表 |
| 无法打开任务页面 | 列表里第一个网址格式有误或网络不通 | 核对首个网址拼写是否完整(带 https://) |
| 该页面已有采集在执行 | 浏览器当前已有正在执行中的采集任务 | 等待前序任务结束,或在侧边栏手动点击结束 |
六、批量数据沉淀与查看
- 数据统一归集:整批采集的所有数据会全部自动汇总到同一个数据集中,绝不会按网址分散切碎成几十个小表格。
- 出处追溯列:在「数据存储」打开数据预览时,表格最后一列会系统内置
数据来源页,方便你明确分辨每一行数据采自哪个具体的 URL。 - 跑完后切到「数据存储」,点击「下载此数据集」即可整体导出为完整的 Excel 或 CSV。