一般用哪些工具做大数据分析?

1. 一般用哪些工具做大数据分析?

【导读】大数据分析工具有很多，不过绝大多数是自己开发，或在某工具上进行二次开发。
大数据业务有很多环节，大致为：

1. 数据搜集：借助工具对研究对象进行数据采集，可以是人工采集——如街头调查、电话采访、现场统计……，也可以是软件采集——如网络爬虫、GPS轨迹、企业ERP历史数据。
2. 数据清洗：对采集到的数据按研究价值进行整理和归类，如：那些数据是无效数据，那的数据是被污染(被刻意篡改)将这些数据剔除，减少干扰。数据清洗的工具同样也有人工和软件，甚至同时使用。
3. 数据加工：对清洗后的数据按研究意图进行整理和归类，如价格(将出厂价、零售价、批发价、开票价、税率、促销价等价格信息进行归类)、品种(按颜色、行业规格、适用环境、质地等进行归类)、日期(将年龄、生日、期间起始日期、库龄等日期相关的归类)
4. 数据统计：对加工过的数据进行预测，发现数据规律。对加工过的数据进行人工抽样(小样本)，借助简单的工具来发现一些规律，寻找一些蛛丝马迹，建立数学统计模型和分析算法。
5. 大数据分析：对原始数据(或加工过的数据)，通过第4步建立的分析算法，进行“大数据”自动分析，分析过程中，还需要不断修正算法，可能重新回到上述第3步，将原算法推倒从重来。
大数据分析是一个系统工程，是对某种社会行为和自然现象(如购物、交易、人流、设备运转、舆情、气候等)进行分析，需要分析人员掌握很多综合知识，然后借助计算机的运算能力，帮助分析。
最后，回答本提问，大数据分析的工具有很多，手工算、算盘，excel，microsoft PowerBI，python中的很多模块，mssql，mysql……那个顺手用那个，那个适合业务需要用那个，目前没有“最好”，也没有“行业惯例”，自己选择自己习惯的吧。综上所述，就是小编今天给大家整理发布的关于大数据分析的相关内容，希望可以帮助到大家。

2. 一般用哪些工具做大数据分析

大数据图表分析的工具其实有很多，关键要看题主的是在什么样的业务场景下。
一般情况下，Excel就可以满足日常的使用需求，当然前提在于你对Excel足够熟练。
当然，如果你懂代码，可以用：Echarts ，如果你懂设计，可以用：Ai。这些都可以做大数据图表分析出来。
可是从题主的描述中，我看到两个关键词：数据积累多、领导看。
这就注定了Excel很难担此重任。所以在制作统计图表方面，你可能就需要使用一些更为灵活的软件。
作为业务人员或者分析师，你可能需要用到商业智能类的软件，比如：永洪BI
对于BI类产品来说，进行大数据图表分析简直就是小菜一碟，而永洪BI在国内的厂商中应该是做的最好的了。
进行大数据图表分析的时候，只需要把数据导入产品中，通过拖拖拽拽就可以生成统计图表了，而且完全不用担心数据量大的问题。

以下是几张有代表性的：




使用BI软件可以解决统计图表制作的问题，但是大数据图表分析的过程中，如何让图表表达更清楚的含义，有以下几个原则可以借鉴：
越简单越好，专注于表达核心信息；
在需要表达细节的时候，可以放更多的信息；
差异越大越好，这样会使得你的统计图表更明显，易于理解；

3. 一般用哪些工具做大数据分析？

大数据工具：数据建模工具
SPSS：主要用于数据建模工作，功能稳定且强大，能够满足中小企业在业务模型建立过程中的需求。                                                                大数据工具：数据可视化分析工具
亿信华辰一站式数据分析平台ABI，提供ETL数据处理、数据建模以及一系列的数据分析服务，提供的数据分析工具丰富：除了中国式复杂报表、dashboard、大屏报表外，ABI还支持自助式分析，包括拖拽式多维分析、看板和看板集，业务用户通过简单拖拽即可随心所欲的进行探索式自助分析。同时，类word即席报告、幻灯片报告，让汇报展示更加出彩。

4. 做大数据分析一般用什么工具呢？

Java ：只要了解一些基础即可，做大数据不需要很深的Java 技术，学java SE 就相当于有学习大数据。基础
Linux：因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。
好说完基础了，再说说还需要学习哪些大数据技术，可以按我写的顺序学下去。
Hadoop：这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Hadoop里面包括几个组件HDFS、MapReduce和YARN，HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面，MapReduce是对数据进行处理计算的，它有个特点就是不管多大的数据只要给它时间它就能把数据跑完，但是时间可能不是很快所以它叫数据的批处理。
记住学到这里可以作为你学大数据的一个节点。
Zookeeper：这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。它一般用来存放一些相互协作的信息，这些信息比较小一般不会超过1M，都是使用它的软件对它有依赖，对于我们个人来讲只需要把它安装正确，让它正常的run起来就可以了。
Mysql：我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那?你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。这里主要的是学习SQL的语法，因为hive的语法和这个非常相似。
Sqoop：这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个，直接把Mysql数据表导出成文件再放到HDFS上也是一样的，当然生产环境中使用要注意Mysql的压力。
Hive：这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单，不会再费劲的编写MapReduce程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。
Oozie：既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapReduce、Spark脚本，还能检查你的程序是否执行正确，出错了给你发报警并能帮你重试程序，最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的，不然你看着那一大堆脚本，和密密麻麻的crond是不是有种想屎的感觉。
Hbase：这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。
Kafka：这是个比较好用的队列工具，队列是干吗的?排队买票你知道不?数据多了同样也需要排队处理，这样与你协作的其它同学不会叫起来，你干吗给我这么多的数据(比如好几百G的文件)我怎么处理得过来，你别怪他因为他不是搞大数据的，你可以跟他讲我把数据放在队列里你使用的时候一个个拿，这样他就不在抱怨了马上灰流流的去优化他的程序去了，因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS，这时你可以与一个叫Flume的工具配合使用，它是专门用来提供对数据进行简单处理，并写到各种数据接受方(比如Kafka)的。
Spark：它是用来弥补基于MapReduce处理数据速度上的缺点，它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算，所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它，因为它们都是用JVM的。

5. 大数据分析需要哪些工具

稍微整理了下常用到的大数据分析工具，看下能不能帮到你
1.专业的大数据分析工具
2.各种Python数据可视化第三方库
3.其它语言的数据可视化框架
一、专业的大数据分析工具
1、FineReport
FineReport是一款纯Java编写的、集数据展示(报表)和数据录入(表单)功能于一身的企业级web报表工具，只需要简单的拖拽操作便可以设计复杂的中国式报表，搭建数据决策分析系统。
2、FineBI
FineBI是新一代自助大数据分析的商业智能产品，提供了从数据准备、自助数据处理、数据分析与挖掘、数据可视化于一体的完整解决方案，也是我比较推崇的可视化工具之一。
FineBI的使用感同Tableau类似，都主张可视化的探索性分析，有点像加强版的数据透视表。上手简单，可视化库丰富。可以充当数据报表的门户，也可以充当各业务分析的平台。
二、Python的数据可视化第三方库
Python正慢慢地成为数据分析、数据挖掘领域的主流语言之一。在Python的生态里，很多开发者们提供了非常丰富的、用于各种场景的数据可视化第三方库。这些第三方库可以让我们结合Python语言绘制出漂亮的图表。
1、pyecharts
Echarts(下面会提到)是一个开源免费的javascript数据可视化库，它让我们可以轻松地绘制专业的商业数据图表。当Python遇上了Echarts，pyecharts便诞生了，它是由chenjiandongx等一群开发者维护的Echarts Python接口，让我们可以通过Python语言绘制出各种Echarts图表。
2、Bokeh
Bokeh是一款基于Python的交互式数据可视化工具，它提供了优雅简洁的方法来绘制各种各样的图形，可以高性能地可视化大型数据集以及流数据，帮助我们制作交互式图表、可视化仪表板等。
三、其他数据可视化工具
1、Echarts
前面说过了，Echarts是一个开源免费的javascript数据可视化库，它让我们可以轻松地绘制专业的商业数据图表。
大家都知道去年春节以及近期央视大规划报道的百度大数据产品，如百度迁徙、百度司南、百度大数据预测等等，这些产品的数据可视化均是通过ECharts来实现的。
2、D3
D3（Data Driven Documents）是支持SVG渲染的另一种JavaScript库。但是D3能够提供大量线性图和条形图之外的复杂图表样式，例如Voronoi图、树形图、圆形集群和单词云等。

6. 大数据分析工具有哪些?

1、Hadoop
Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。
2、HPCC
HPCC，High Performance Computing and Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项目：高性能计算与 通信”的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国 实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆 比特网络技术，扩展研究和教育机构及网络连接能力。
3、Storm
Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。
4、Apache Drill
为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel.
据Hadoop厂商MapR Technologies公司产品经理Tomer Shiran介绍，“Drill”已经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。
5、RapidMiner
RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。
6、Pentaho BI
Pentaho BI 平台不同于传统的BI 产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。

7. 现在有哪些常用的大数据分析工具？

目前市场上的数据分析工具还是比较多的，国内跟国外都有，我就介绍几款主流的给楼主。
国外：
Tableau：自身定位是一款可视化工具，与Qlikview的定位差不多，可视化功能很强大，对计算机的硬件要求较高，部署较复杂。目前移动端只支持IOS系统。
Qlikview:最大的竞争者是Tableau，同Tableau和国内众多BI一样，是属于新一代的轻量化BI产品，体现在建模、部署和使用上。只能运行在windows系统，C／S的产品架构。采用内存动态计算，数据量小时，速度很快；数据量大时，吃内存很厉害性能偏慢。
Cognos：传统BI工具中最被广泛使用的，已被IBM收购。拥有强大的数据库平台、在数据管理、数据整合以及中间件领域专业功底深厚。偏操作型，手工建模，一旦需求变化需要 重新建模，学习要求较高。

国内：
FineBI:帆软旗下的自助性BI产品，轻量化的BI工具，部署方便，走多维分析方向。后期采用jar包升级换代，维护方便，最具性价比。
永洪BI:敏捷BI软件，产品稳定性较高。利用sql处理数据，不支持程序接口，实施交由第三方外包。

8. 大数据分析到底需要多少种工具

大数据工具，推荐大数据魔镜，首款免费的大数据可视化分析工具，免费版最大可视化效果库，500多种可视化效果，上卷下钻，数据预测，聚类分析，相关性分析，数据联想，地图，组合图等。更多功能：高级版、定制版！