当前位置: 首页 > Python编程 > Python编程实战技能 > Python编程基础入门 > Python可以做大数据吗

Python可以做大数据吗

发布时间:2020年09月27日 10:18:21 来源: 点击量:469

【摘要】Python是数据科学家十分喜爱的编程语言,其内置了很多由C语言编写的库,操作起来更加方便,Python在网络爬虫的传统应用领域,在大数据的抓

Python是数据科学家十分喜爱的编程语言,其内置了很多由C语言编写的库,操作起来更加方便,Python在网络爬虫的传统应用领域,在大数据的抓取方面具有先天优势,目前,最流行的爬虫框架Scrapy,HTTP工具包urlib2,HTML解析工具beautifulsoup,XML解析器lxml,等等,都是能够独当一面的Python类库。

相关推荐:《Python基础教程》

Python十分适合数据抓取工作,对于大数据的处理,具有一定的局限性:

Python在大数据处理方面的优势:

1. 异常快捷的开发速度,代码量少;

2. 丰富的数据处理包,使用十分方便;

3. 内部类型使用成本低;

4. 百万级别数据可以采用Python处理。

Python在大数据处理方面的劣势:

1. python线程有gil,多线程的时候只能在一个核上跑,浪费了多核服务器;

2. python执行效率不高,在处理大数据的时候,效率不高;

3. 10亿级别以上的数据Python效率低。

Python适合大数据的抓取、载入和分发,相比于其他语言更加简单、高效;求一些常用的统计量和求一些基本算法的结果,Python也有现成的高效的库,但是针对大数据处理,Python具有一定的局限于,因此,涉及大数据处理时,可以用Python做整个流程的框架,核心CPU密集操作可以采用C语言等编程语言!

分享到: 编辑:wangmin

就业培训申请领取
您的姓名
您的电话
意向课程
点击领取

环球青藤

官方QQ

扫描上方二维码或点击一键加群,免费领取大礼包,加群暗号:青藤。 一键加群

绑定手机号

应《中华人民共和国网络安全法》加强实名认证机制要求,同时为更加全面的体验产品服务,烦请您绑定手机号.

预约成功

本直播为付费学员的直播课节

请您购买课程后再预约

环球青藤移动课堂APP 直播、听课。职达未来!

安卓版

下载

iPhone版

下载
环球青藤官方微信服务平台

刷题看课 APP下载

免费直播 一键购课

代报名等人工服务

课程咨询 学员服务 公众号

扫描关注微信公众号

APP

扫描下载APP

返回顶部