当前位置: 首页 > 数据分析师 > 数据分析师实战技能 > 数据分析师数据分析 > 机器学习处理问题如何选择一个合适的算法?

机器学习处理问题如何选择一个合适的算法?

发布时间:2020年09月28日 05:16:02 来源: 点击量:509

【摘要】 我们在进行数据分析或者数据挖掘工作的时候,总会遇到很多的问题,而解决这些问题的方式有很多。如果需要我们用机器学习来处理,那么就需

我们在进行数据分析或者数据挖掘工作的时候,总会遇到很多的问题,而解决这些问题的方式有很多。如果需要我们用机器学习来处理,那么就需要我们根据算法去选择一个合适的算法。但问题是,用机器学习处理问题,该如何选择一个合适的算法呢?下面我们就给大家介绍一下选择算法的流程,希望这篇文章能够更好地帮助大家理解机器学习。

选择算法是一个比较麻烦的事情,但是并不是不能选择,选择就需要我们十分细心,这样我们才能够选择出一个合适的算法,以便于我们更好的处理问题。选择算法首先需要分析业务需求或者场景,这一步完成以后,就需要我们初探数据,看看自己是否需要预测目标值,如果需要的话,那么就使用监督学习,当然,使用监督学习的时候,如果发现了目标变量,如果是离散型,那么就使用分类算法,如果是连续型,那么就使用回归算法。当然,如果我们发现不需要预测目标值,那么就使用无监督学习,具体使用的算法就是K-均值算法、分层聚类算法等其他算法。

当我们充分了解数据及其特性,有助于我们更有效地选择机器学习算法。采用以上步骤在一定程度上可以缩小算法的选择范围,使我们少走些弯路,但在具体选择哪种算法方面,一般并不存在最好的算法或者可以给出最好结果的算法,在实际做项目的过程中,这个过程往往需要多次尝试,有时还要尝试不同算法。但是对于初学者,还是根据上面选择算法的方式选择算法为好。

说完了选择算法的步骤,下面我们就说一下spark在机器学习方面的优势,在大数据上进行机器学习,需要处理全量数据并进行大量的迭代计算,这要求机器学习平台具备强大的处理能力。Spark与Hadoop兼容,它立足于内存计算,天然的适应于迭代式计算,Spark是一个大数据计算平台,在这个平台上,有我SQL式操作组件Spark SQL;功能强大、性能优良的机器学习库Spark MLlib;还有图像处理的Spark Graphx及用于流式处理的Spark Streaming等,其优势十分明显。

优势一:在完整的大数据生态系统中,有我们熟悉的SQL式操作组件Spark SQL,还有功能强大、性能优良的机器学习库、图像计算及用于流式处理等算法。

优势二:在高性能的大数据计算平台中,由于数据被加载到集群主机的分布式内存中。数据可以被快速的转换迭代,并缓存后续的频繁访问需求。基于内存运算,Spark可以比Hadoop快100倍,在磁盘中运算也比hadoop快10倍左右。

优势三:这个算法能够与Hadoop、Hive、HBase等无缝连接:Spark可以直接访问Hadoop、Hive、Hbase等的数据,同时也可使用Hadoop的资源管理器。

在这篇文章中我们给大家介绍了机器学习处理问题如何选择一个合适的算法以及spark算法的优势的内容,通过这篇文章相信大家已经找到了使用机器学习解决数据分析以及数据挖掘问题的方法了吧?希望这篇文章能够帮助到大家。

分享到: 编辑:wangmin

就业培训申请领取
您的姓名
您的电话
意向课程
点击领取

环球青藤

官方QQ

扫描上方二维码或点击一键加群,免费领取大礼包,加群暗号:青藤。 一键加群

绑定手机号

应《中华人民共和国网络安全法》加强实名认证机制要求,同时为更加全面的体验产品服务,烦请您绑定手机号.

预约成功

本直播为付费学员的直播课节

请您购买课程后再预约

环球青藤移动课堂APP 直播、听课。职达未来!

安卓版

下载

iPhone版

下载
环球青藤官方微信服务平台

刷题看课 APP下载

免费直播 一键购课

代报名等人工服务

课程咨询 学员服务 公众号

扫描关注微信公众号

APP

扫描下载APP

返回顶部