0%
1.6k 字 5 分钟

前言

Spark 作为目前最火的技术栈或许 大概 应该 maybe 没有之一了吧,看上去很厉害,实际上也很厉害。。。
去年,有个东西还准备自己造轮子解决,后来耽搁了,上周一搜,已经有大神造好了轮子
本篇,作为自己学习Spark 的一个记录,不涉及Spark 的具体介绍,主要是一些学习思路和学习资料的整理,资源都来自网络及社区,侵删。

前置条件

编程语言

学习使用Spark,需要有一定的基础知识,在编程语言的方面,目前支持了Scala、Java、Python、R。个人建议是Scala 或 Java。

Read more »
2.6k 字 10 分钟

前言

最近接到一个新任务,使用ganglia去监控Hadoop各个组件的指标。
调研发现,hdfs,hbase,spark这三个,可以通过设置,源生支持ganglia。然后其他的组件,比如storm,hive之类的,由于都是运行在JVM上的,可以使用JMX获取其监控指标。
在实际的生产过程,使用HttpClient获取JMX的json串,然后再进行解析,可以获取其内容。但是编码量比较大,而且都是重复工作,于是发现了jmxtrans这个工具,可以通过JSON配置文件的方式,获取JMX的监控指标,并将其发给ganglia。从而完成整个监控。

Ganglia

Ganglia 简介

Ganglia是UCBerkeley发起的一个开源集群监视项目。它主要是用来监控系统性能,如:CPU、Memory、硬盘利用率,I/O负载、网络流量情况等。Ganglia通过图形化的方式展示每个节点的状态信息,这对合理调整、分配系统资源,提高系统整体性能起到重要作用。Ganglia包含三个核心组件:GangliaMonitoring Daemon(gmond)、GangliaMeta Daemon(gmetad)以及GangliaPHP Web Frontend。

Read more »
181 字 1 分钟

半年时间,断断续续,一本《老子·庄子》 跟着我从南京、北京来来回回了七八次。再加上surface中的一本《易经》、一本《唐诗选》。算来,阅读量竟如此匮乏。(好吧,如果把Spark 、Scala 这些都算上的话,其实也不少 科科)
然后,这次出差回来,忽然就打了鸡血,又又又又 列了个清单。乱七八糟定了些目标。找了些书,慢慢看。顺便提醒自己做个记录。

PS:借用河上公 的题,来给自己开个好头吧。

书单Re:
各学科领域入门书籍推荐
豆瓣9分以上小说,文学,历史,哲学,心理学,法学,经济学图书

98 字 1 分钟

提前转正了,小开森一下。
然后发现之前太忙,学了很多东西,都没有总结,写个list,慢慢填坑吧。

HBase

  • HBase 原理
  • RowKey 设计
  • 建表,建分区表,删表
  • 增、改、查(过滤器)
  • 协处理器
  • shell 使用
  • FAQ

Spark

  • SparkSQL、Hive On Spark、Parquet
  • DataSet、DataFrame、RDD
  • SparkMLlib
  • SparkML
  • GraphX
Read more »
1.1k 字 3 分钟

前言

  今天,几位同事带着我先过了一次Scrum 实践,走了一个流程,感觉内容很多,一时估计没法消化,做个笔记。

Scrum简介

  Scrum是迭代式增量软件开发过程,通常用于敏捷软件开发。Scrum包括了一系列实践和预定义角色的过程骨架。Scrum中的主要角色包括同项目经理类似的Scrum主管角色负责维护过程和任务,产品负责人代表利益所有者,开发团队包括了所有开发人员。虽然Scrum是为管理软件开发项目而开发的,它同样可以用于运行软件维护团队,或者作为计划管理方法:Scrum of Scrums.

角色

Read more »
716 字 2 分钟

前言

上周六部长给我安排了一个任务,去带一个团队,不过是承担辅助的角色.当时我的内心毫无波动,甚至有点想笑.
历经了几天内部扯皮,才知道这个活不好干,而自身才他喵的入职4个月,刚刚转正.好吧,反正都到这个份上了,说什么都没用,好好学吧.

敏捷开发宣言


个体和互动 高于 流程和文档
工作的软件 高于 详尽的文档
客户合作 高于 合同谈判
响应变化 高于 遵循计划
也就是说, 尽管右项有其价值, 我们更重视左项的价值.

敏捷开发核心理念

Read more »
103 字 1 分钟

上班第一天 加班=。=
上班第一个周末 加班=。=
平心而论 对加班不反感
but..
but…..
but……..
加班能不能让我干活啊~!!!!
虽然我是个新人,别总扔给我一堆文档去看啊
更何况这些文档,本科时候都看过了。。。。。23333
明天周一 继续努力奋斗!

btw: 点了个赞 似乎引起了什么? 难道是蝴蝶效应?