热线电话:13121318867

登录
2019-02-02 阅读量: 785
Web Scraper如何添加全局变量

添加全局变量

在import语句之后,添加全局变量和配置选项:

url存储要抓取的网页的URL,并total_added用于跟踪添加到数据库的结果总数。该urllib3.disable_warnings()函数忽略任何SSL证书警告。

必需的模块

BeautifulSoup从类bs4将处理网页的解析。该datetime模块提供日期操作。Tinydb为NoSQL数据库提供API,该urllib3模块用于发出http请求。最后,xlsxwriterAPI用于创建Excel电子表格。

craigslist.py在文本编辑器中打开并添加必要的import语句:

16.9849
0
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子