测试环境使用的Kafka出现了点儿问题，服务器被停止，所有的topic日志不知怎的被清空。一番大清洗（清理zookeeper节点、kafka topic log）、重启Kafka、创建分区后发现报了如
[阅读更多...]-
Kafka警告：No checkpointed highwatermark is found for partition
-
Kafka报错：connection reset by peer
在kafka的server.log中发现持续爆出如下错误信息： 查了下原因，是因为kafka的客户端异常关闭，而Kafka仍在向其推送数据导致的。 没有找到太好的解决办法。最后使用了一个笨方法：先停掉
[阅读更多...] -
解决PKIX：unable to find valid certification path to requested target
遇到了“unable to find valid certification path to requested target”这样的问题。 错误详情如下： 从异常信息中可以看到错误是因为找不到证书导
[阅读更多...] -
偶尔三省
最近休假在家，但平时琐事太多，难得有敲代码的时间，不过却是一个反思的好时间。在这里记录一些想法。 不要抱怨 这是一个我不自觉会犯的毛病，以后一定要注意。 抱怨本身只能吐出一下自己的郁闷，不过却不能纾解
[阅读更多...] -
设计模式讨论可以休矣
多少有些标题党了。首先声明一下，就我个人来说，我对设计模式没有丝毫反感。我反感的是空泛地没有标的地讨论设计模式，或者说言必谈设计模式。 起因是和同事的一次讨论。讨论的过程不便多说，只说下我的观点：只为
[阅读更多...] -
Spark堆内存溢出解决记录
最近的工作有很大一部分是在做用户画像。 画像读取的维度bitmap动辄几百MB，甚至存在部分GB级别的。而我们的Yarn集群规模比较小，内存总计只有100多GB。开发调试时遇到最多的问题除了Task
[阅读更多...] -
Spark Job调优-Part 2
这一节将主要介绍资源调优，或者说是如何充分利用集群资源。然后再说一下如何对并发度进行优化，这是job性能参数中最难也是最重要的部分。最后我们将了解一些数据自身的表现形式：Spark读取时数据在磁盘上的
[阅读更多...] -
Spark Job调优–Part 1
在开始写spark代码或者翻阅spark文档的时候，会遇到一些诸如“transformation”，“action”和“RDD”这样的术语。了解这些术语对于编写spark代码是至关重要的。 类似的，当
[阅读更多...] -
Kafka 调整partiton数目和replica factor
调整partiton 调整partition可以直接执行如下命令： 注意替换topicName、$ZK_HOST_NODE和partitionNum三个参数。 调整replica factor 调整r
[阅读更多...] -
Druid historical/broker 节点启动失败
部署Druid服务时遇到了启动失败的异常。相关的节点是historical和broker。异常信息如下： 异常信息中比较关键的部分是下面这一句： 这一句指明了启动失败的原因：分配的直接内存不足。需要的
[阅读更多...]