本文介绍hive工具的安装及整合mysql
行业资讯
行业资讯
未分类
利用Spark RDD实现分组并排序
本文将介绍利用Spark RDD实现分组并排序。
未分类
Nginx 启用upstream模块后，location块中的相关参数说明
前言 写这一篇文章之前，一直很头疼一件事。就是nginx需要配置哪些东西，哪些东西需要注意什么。还有就是有关http下面的location块中都有哪些参数可以设置，设置完都能有什么样的效果。这些细节的...
未分类
利用Spark通过nginx日志离线统计网站每日pv
本文将介绍通过Apache Spark实现离线统计网站每日pv的思路及代码。
未分类
利用Hadoop Mapreduce实现pv统计分析
本文将介绍通过Hadoop Mapreduce实现离线统计网站每日pv的思路及代码。
未分类
Nginx启用具有一般的TCP代理和负载均衡的stream模块
一直以来，nginx并不支持TCP协议，一些基于TCP的业务必须依靠别的高可用负载软件来实现。但在nginx 1.9.0以后，意识到了此问题，终于得到了重大的重写。 2015-04-28 nginx更...
未分类
java实现Kafka生产者Producer工具类
本文将介绍java实现Kafka生产者Producer的简单工具类
未分类
让Spark运行在YARN上（Spark on YARN）
在Spark Standalone模式下，集群资源调度由Master节点负责。Spark也可以将资源调度交给YARN来负责，其好处是YARN支持动态资源调度。Standalone模式只支持简单的固定资...
未分类
Redis-3.x集群安装（三主三从）
什么是Redis Redis是目前一个非常优秀的key-value存储系统。和Memcached类似，它支持存储的value类型相对更多，包括string(字符串)、list(链表)、set(集合)、...
未分类
Spark RDD的Action
RDD的Action是相对Transformation的另一种操作。Transformation代表计算的中间过程，从一个RDD生成新的RDD；而Action代表计算的结束，一次Action调用之后，...
未分类
Spark RDD的Shuffle
Shuffle的概念来自Hadoop的MapReduce计算过程。当对一个RDD的某个分区进行操作而无法精确知道依赖前一个RDD的哪个分区时，依赖关系变成了依赖前一个RDD的所有分区。比如，几乎所有&...