Skip to content

Commit

Permalink
Update README.md
Browse files Browse the repository at this point in the history
Triwoods2333 authored Apr 16, 2024
1 parent c75ea4f commit 19f384b
Showing 1 changed file with 1 addition and 1 deletion.
2 changes: 1 addition & 1 deletion README.md
Original file line number Diff line number Diff line change
@@ -1,4 +1,4 @@
首先运行get_all-final.py,爬取现存所有npm软件包元数据,然后运行get-infos.py,获取每个软件包详情,获取后判断创建时间,如果是新创建的就下载 \
get-infos.py获取的软件包详情没有采用表格记录,而是一条一条的.txt文件,因为数据量太大了,只要运行就无响应然后闪退
### 目前存在的问题[已解决]:由于是网络请求的api,寝室校园网不稳定,换成热点也不是很稳定,接口不支持断点续传,链接中断直接要从头开始,而跑一次又要很久,容错率很低,到目前为止也没完整的跑下来一次 〒▽〒
### *新增了断点续传:在网络中断的时候,会输出中断位置,只要输入中断位置即可接着上次的位置爬取元数据(全部完整爬取大概要一两天)
### *新增了断点续传:在网络中断的时候,会输出中断位置,程序自动回传中断位置即可接着上次的位置爬取元数据(全部完整爬取大概要一两天)

0 comments on commit 19f384b

Please sign in to comment.