1、R语言

在这些语言名单中，如果R语言排第二，那就没其他能排第一。自1997年以来，作为昂贵的统计软件，如Matlab和SAS的免费替代品，它渐渐风靡全球。

在过去的几年时间中，R语言已经成为了数据科学的宠儿——数据科学现在不仅仅在书呆子一样的统计学家中人尽皆知，而且也为华尔街交易员，生物学家，和硅谷开发者所家喻户晓。各种行业的公司，例如Google，Facebook，美国银行，以及纽约时报都使用R语言，R语****在商业用途上持续蔓延和扩散。它被比喻为是Excel的一个极度活跃版本。

R语言的日渐成熟，使得它成为了数据建模的首选语言，虽然当企业需要生产大型产品时它的能力会变得有限，也有的人说这是因为它的地位正在被其他语言篡夺。

“R更适合于做一个草图和大概，而不是详细的构建”Michael Driscoll，Metamarkets的首席执行官说。“你不会在谷歌的网页排名以及Facebook的朋友推荐算法的核心找到R语言。工程师会用R语言做原型，然后移交给用Java或Python写的模型。”

2、Rython

如果说R语言是一个神经质又可爱的高手，那么Python是它随和又灵活的表兄弟。作为一种结合了R语言快速对复杂数据进行挖掘的能力并构建产品的更实用语言，Python迅速得到了主流的吸引力。

Python是直观的，并且比R语言更易于学习，以及它的生态系统近年来急剧增长，使得它更能够用于先前为R语言保留的统计分析。

在数据处理中，在规模和复杂性之间往往会有一个权衡，于是Python成为了一种折中方案。IPython notebook和NumPy可以用作轻便工作的一种暂存器，而Python可以作为中等规模数据处理的强大工具。丰富的数据社区，也是Python的优势，因为可以提供了大量的工具包和功能。

不过，它并非最高性能的语言，只能偶尔用于大规模的核心基础设施，Driscoll这样说道。

3、Julia

虽然当前的数据科学绝大多数是通过R语言，Python，Java，MatLab和SAS执行的，但依然有其他的语言存活于夹缝中，Julia就是值得一看的后起之秀。

业界普遍认为Julia过于晦涩难懂，但数据骇客在谈到它取代R和Python的潜力时会不由得眉飞色舞，Julia是一种高层次的，极度快速的表达性语言。它比R语言快，比Python更可扩展，且相当简单易学。使用Julia，你就能够办到任何用R和Python可以做到的事情。

但是至今为止，年轻人对Julia依然犹豫不前，Julia数据社区还处于早期阶段，要能够和R语言和Python竞争，它还需要添加更多的软件包和工具。

4、JAVA

Java是一门面向对象编程语言，不仅吸收了C++语言的各种优点，还摒弃了C++里难以理解的多继承、指针等概念，因此Java语言具有功能强大和简单易用两个特征。Java具有简单性、面向对象、分布式、健壮性、安全性、平台独立与可移植性、多线程、动态性等特点。Java可以编写桌面应用程序、Web应用程序、分布式系统和嵌入式系统应用程序等。

Java，以及基于Java的框架，被发现俨然成为了硅谷最大的那些高科技公司的骨骼支架。Java不能提供R和Python同样质量的可视化，并且它并非统计建模的最佳选择。但是，如果你移动到过去的原型制作并需要建立大型系统，那么Java往往是你的最佳选择。

5、Hadoop和Hive

一群基于Java的工具被开发出来以满足数据处理的巨大需求。

Hadoop作为首选的基于Java的框架用于批处理数据已经点燃了大家的热情。Hadoop比其他一些处理工具慢，但它出奇的准确，因此被广泛用于后端分析。它和Hive——一个基于查询并且运行在顶部的框架可以很好地结对工作。

6、Scala

Scala是一门多范式的编程语言，一种类似java的编程语言，设计初衷是实现可伸缩的语言、并集成面向对象编程和函数式编程的各种特性。

Scala还包含了若干函数式语言的关键概念，包括高阶函数（Higher-Order Function）、局部套用（Currying）、嵌套函数（Nested Function）、序列解读（Sequence Comprehensions）等等。

Scala是另一种基于Java的语言，并且和Java相同的是，它正日益成为大规模机器学习，或构建高层次算法的工具。它富有表现力，并且还能够构建健壮的系统。

7、Kafka和Storm

那么，当你需要快速实时的分析时又该怎么办呢？Kafka会成为你的好朋友。Kafka，诞生于LinkedIn内部，是一个超快速的查询消息系统。Kafka的缺点？好吧，它太快了。在实时操作时会导致自身出错，并且偶尔地会遗漏东西。

Storm是用Scala编写的另一个框架，它在硅谷中因为流处理而受到了大量的青睐。它被Twitter纳入其中，勿庸置疑的，这样一来，Twitter就能在快速事件处理中得到巨大的裨益。

8、MatLab

MatLab一直以来长盛不衰，尽管它要价不菲，但它仍然被广泛使用在一些非常特殊的领域：研究密集型机器学习，信号处理，图像识别。

MATLAB是matrix&laboratory两个词的组合，意为矩阵工厂（矩阵实验室）。是由美国mathworks公司发布的主要面对科学计算、可视化以及交互式程序设计的高科技计算环境。它将数值分析、矩阵计算、科学数据可视化以及非线性动态系统的建模和仿真等诸多强大功能集成在一个易于使用的视窗环境中，为科学研究、工程设计以及必须进行有效数值计算的众多科学领域提供了一种全面的解决方案，并在很大程度上摆脱了传统非交互式程序设计语言（如C、Fortran）的编辑模式，代表了当今国际科学计算软件的先进水平。

MATLAB和Mathematica、Maple并称为三大数学软件。它在数学类科技应用软件中在数值计算方面首屈一指。MATLAB可以进行矩阵运算、绘制函数和数据、实现算法、创建用户界面、连接其他编程语言的程序等，主要应用于工程计算、控制设计、信号处理与通讯、图像处理、信号检测、金融建模设计与分析等领域。

MATLAB的基本数据单位是矩阵，它的指令表达式与数学、工程中常用的形式十分相似，故用MATLAB来解算问题要比用C，FORTRAN等语言完成相同的事情简捷得多，并且MATLAB也吸收了像Maple等软件的优点，使MATLAB成为一个强大的数学软件。在新的版本中也加入了对C，FORTRAN，C++，JAVA的支持。

9、Octave

Octave是一种高层解释类编程语言，旨在解决线性和非线性的数值计算问题。Octave为GNU项目下的开源软件，早期版本为命令行交互方式，4.0.0版本发布基于QT编写的GUI交互界面。

Octave语法与Matlab语法非常接近，可以很容易的将matlab程序移植到Octave，同时与C++,QT等接口较Matlab更加方便。

Octave是一种科学计算软件，它提供了方便的互动命令列接口来解决线性与非线性的数值运算问题，并可将计算结果可视化，与高价的商业软体MATLAB语法几乎兼容。

10、GO

Go是一种编译型语言，它结合了解释型语言的游刃有余，动态类型语言的开发效率，以及静态类型的安全性。它也打算成为现代的，支持网络与多核计算的语言。要满足这些目标，需要解决一些语言上的问题：一个富有表达能力但轻量级的类型系统，并发与垃圾回收机制，严格的依赖规范等等。这些无法通过库或工具解决好，因此Go也就应运而生了。

GO是另一个正在掀起浪潮的后起之秀。它由Google开发，从C语言松散地派生，并在构建健壮基础设施上，正在赢得竞争对手，例如Java和Python的份额。

更多有关python信息加群621540086

数据挖掘和数据分析的能力在当今时代相当重要，智能的工具是你与竞争对手对抗并为公司业务增加优势的必备条件。我列出了30个最热门的大数据工具，供大家参考。

 

Part1:数据采集工具

Part2:开源数据工具

Part3:数据可视化

Part4:情感分析

Part5:开源数据库

 

Part1：数据采集工具

 

1. 八爪鱼

八爪鱼 是一款免费的、简单直观的网页爬虫工具，无需编码即可从许多网站抓取数据。无论你是初学者还是经验丰富的技术人员或企业高管，它都可以满足你的需求。为了减少使用上的难度，八爪鱼为初学者准备了“网站简易模板”，涵盖市面上多数主流网站。使用简易模板，用户无需进行任务配置即可采集数据。简易模板为采集小白建立了自信，接下来还可以开始用“高级模式”，它可以帮助你在几分钟内抓取到海量数据。此外，你还可以设置定时云采集，实时获取动态数据并定时导出数据到数据库或任意第三方平台。

 

2.ContentGrabber

ContentGrabber是一个支持智能抓取的网页爬虫软件。它的程序运行环境可用在开发、测试和产品服务器上。你可以使用c#或VB.NET来调试或编写脚本来控制爬虫程序。它还支持在爬虫工具上添加第三方扩展插件。凭借其全面综合的功能，ContentGrabber对于具有技术基础的用户而言功能极其强大。

 

3.Import.io

Import.io是一款基于网页的数据抓取工具。它于2012年首次在伦敦上线。现在,Import.io将其商业模式从B2C转向了B2B。2019年，Import.io收购了Connotate并成为网页数据集成平台。凭借广泛的网页数据服务，Import.io成为了业务分析的绝佳选择。

 

4.Parsehub

Parsehub是一款基于网页的爬虫程序。它支持采集使用了AJax， JavaScripts技术的网页数据，也支持采集需要登录的网页数据。它有一个为期一周的免费试用窗口，供用户体验其功能。

 

5.Mozenda

Mozenda是一款网页抓取软件，它还为商业级数据抓取提供定制服务。它可以从云上和本地软件中抓取数据并进行数据托管。

 

Part2.开源数据工具

 

1. Knime

2. Knime是一款分析平台。它可以帮助你发掘商业洞察力和市场潜力。它提供了Eclipse平台以及其他用于数据挖掘和机器学习的外部扩展。它为分析专业人员提供了超过2k个部署模块。

2.OpenRefine

OpenRefine(以前称为GoogleRefine)是处理杂乱数据的强大工具：它支持数据清洗，支持将数据从一种格式转换为另一种格式，还可以通过网络服务和外部数据进行扩展。使用它的分组功能，你可以轻松地使网页上的杂乱数据标准化、规范化。

 

3. R-Programming

它是一种用于统计计算和图形的免费软件编程语言和软件环境。R语言在开发统计软件和数据分析的数据挖掘工作者中非常流行。近年来，由于其易用性和广泛的功能性，它得到了大量的赞誉和欢迎。

除了数据挖掘，它还提供统计和图形技术、线性和非线性建模、经典统计测试、时间序列分析、分类、聚类等功能。

 

4.RapidMiner

和KNIME一样，RapidMiner通过可视化程序进行操作，能够手动运作、分析和建模。它通过开源平台、机器学习和模型部署来提高数据工作效率。统一的数据科学平台可加速从数据准备到实现的分析工作流程，极大地提高了技术人员的效率，是最易于使用的预测分析软件之一。

 

5.Pentaho 

它是一款出色的商业BI软件，可以帮助企业制定数据驱动型决策。该平台集成了本地数据库、Hadoop和NoSQL等数据源，因此，你可以轻松地用它来分析和管理数据，进而从数据中获取价值。

 

6.Talend

它是一个开源的集成软件，旨在将数据转化为真知灼见。它提供各种服务和软件，包括云存储、企业应用程序集成、数据管理等等。在庞大的社区支持下，它允许所有的Talend用户和成员从任何位置共享信息，经验和疑虑。

 

7. Weka

Weka是用于数据挖掘任务的机器学习算法的集合工具。这些算法既可以直接应用于数据集，也可以从你自己的JAVA代码中调用，它也很适合开发新的机器学习方案。它还具有GUI，可以将数据科学的世界转化给缺乏编程能力的专业人员。

 

8.NodeXL

它是用于微软Excel的一个开源软件包。作为一个附加扩展，它没有数据集成服务和功能，它专注于社交网络分析。直观的网络和描述性关系使社交媒体分析变得轻松自如。它是用于数据分析的最佳统计工具之一，包括高级网络指标、对社交媒体网络数据导入器的访问以及自动化。

 

9. Gephi

 Gephi也是一个在NetBeans平台上用Java编写的开源网络分析和可视化软件包。想一想你看到的巨大的人与人之间连接的地图网络，它们代表了LinkedIn或Facebook上面的社交联系。Gephi通过提供精确的计算使这一步骤有更加精确的指标展现。

 

Part3.数据可视化工具

 

1. PowerBI

2. MicrosoftPowerBI同时提供本地和云服务。它最初是作为Excel插件引入的，不久PowerBI凭借其强大的功能开始普及。目前，它被视为商业分析领域的软件领导者。它提供了数据可视化和bi功能，使用户可以轻松地以更低的成本实现快速，明智的决策，用户可协作并共享自定义的仪表板和交互式报告。

2.Solver

Solver是一家专业的企业绩效管理(CPM)软件公司。Solver致力于通过获取可提升公司盈利能力的所有数据源来提供世界一流的财务报告、预算方案和财务分析。其软件BI360可用于云计算和本地部署，它专注于四个关键的分析领域，包括财务报告、预算、仪表板和数据仓库。

 

3.Qlik

Qlik是一种自助式数据分析和可视化工具。它具有可视化仪表板，可简化数据分析，并帮助公司快速制定业务决策。

 

4.TableauPublic

Tableau是一个交互式数据可视化工具。不像大多数可视化工具那样需要编写脚本，Tableau的简便性可以帮助新手降低使用难度。只需托拉拽的简单操作使数据分析轻松完成。他们也有一个“新手入门工具包”和丰富的培训资料，可帮助用户创建创更多的分析报告。

 

5.谷歌FusionTables

FusionTable是谷歌提供的数据管理平台。你可以使用它来做数据收集、数据可视化和数据共享。他就像电子数据表，但功能更强大更专业。你可以通过添加CSV、KML和电子表格中的数据集和同事共享资料。你还可以发布数据资料并将其嵌入到其他网页属性中。

 

6.Infogram

Infogram是一种直观的可视化工具，可帮助你创建精美的信息图表和报告。它提供了超过35个交互式图表和500多个地图，帮助你可视化数据。除了各种各样的图表，还有柱状图、条形图、饼图或词云等，它用创新的信息图表给你留下深刻印象。

 

Part4.情感分析工具

 

1. HubSpot'sServiceHub

2. 它是一个收集客户反馈和评论的客户反馈工具。该工具运用自然语言处理(NLP)对语言进行分析，分辨其正负面意义，然后用仪表板上的图形和图表来可视化结果。该工具支持将HubSpot'sServiceHub对接到CRM系统中，因此你可以将相应的结果与特定的人员产生联系。例如，你可以筛选出满意度低的客户，并及时提供高质量的服务，以提高客户的留存。

2.Semantria

Semantria是一个可以从社交媒体渠道收集帖子、推文和评论的工具。它使用自然语言处理技术来解析文本，分析客户的正负面态度。通过这种方式，公司可以获得用户对产品或服务的真实看法，据此提出更好的想法来改进你的产品和服务。

 

3.Trackur

Trackur是一款在线声誉管理工具，它可以通过对社交媒体网站追踪进行舆论监控。它爬取了大量的网页，包括视频、博客、论坛和图片来搜索相关的信息。你可以用它清理你的负面搜索引擎结果并建立和管理你的在线声誉。它是在线声誉和数字品牌管理方面的行业先驱。

 

4.SASSentimentAnalysis

SASSentimentAnalysis是一款功能相当强大的软件。网页文本分析中最困难的部分是拼写错误，而SAS可以轻松校对和聚类分析。通过自然语言处理，机器学习和语言规则相结合，SAS可帮助你分析出最新的趋势，最合适的商业机会，并从所有非结构化文本数据中提取出真正有价值的信息。

 

5.HootsuitInsight

该工具可以分析评论、帖子、论坛、新闻网站和其他50多种语言的1000多万个数据源平台。此外，它还可以对性别和位置进行分类。你可以制定针对特定群体的战略营销计划。你还可以获取实时数据并调查在线对话。

 

Part5.数据库

 

1. Oracle

2. 毫无疑问，Oracle是开源数据库中的佼佼者。它拥有许多功能，是企业的最佳选择。它还支持集成到不同平台上。在AWS中易于设置使它成为关联式数据库的可靠选择。对内置信用卡等隐私数据的高安全性保障技术使其无可替代。

 

2.PostgreSQL

它排名在Oracle、MySQL、MicrosoftSQLServer之后，成为第四大最受欢迎的数据库。由于其绝对可靠的稳定性，它可以处理高负荷的数据。

 

3.Airtable

它是基于云服务器的数据库软件，具有广泛的数据表读取和信息显示功能。它还有一个电子数据表和内置日历，可以轻松地跟踪任务。它的入门模板很容易上手，模板包括销售线索管理、bug追踪和试用追踪。

 

4.MariaDB

它是一个免费的开源数据库，用于数据存储，插入，修改和检索。此外，Maria有一个强大的社区支持，社区成员非常活跃，积极分享信息和知识。

 

5. Improvado

 Improvado是一款为营销人员设计的工具，可以通过自动仪表盘和分析报告将所有数据实时集中到一个平台。Improvado最适合提供给那些希望将所有营销平台的数据整合在一个平台的营销分析领导者。

 

你可以选择在Improvado仪表板中查看数据， 也可以将其导出到你选择的数据仓库或可视化工具中，如Tableau,lookker,Excel等。公司、机构和高校都喜欢使用Improvad，因为它为他们节省了数千小时的人工报告时间，和数百万美元的营销预算。

 

作者:阿什利·韦尔登