技术指南2026年10月28日6 分钟阅读亿牛云技术团队Crawlee 长任务断点续抓:中断后恢复任务并避免重复写入长任务中最危险的中断窗口,是数据已经写入、请求却还没被队列确认。重启后请求可能再次执行;如果输出只能追加,就会出现重复记录。反过来,先确认请求再写数据,又可能在中断时永久漏掉记录。 本文以两页图书目录为例,把持久请求队列与 SQLite 主键更新组合起来。正文包含一次明确的中断演示开关,用来说明重放为什么应该安全。示例#Crawlee#断点续抓#SQLite#幂等写入阅读全文