使用etcd watch做服务发现监控时遇到的坑

最近在公司折腾业务数据监控的事,听上面的意思,要把这监控做成部门的数据监控平台,接入各种各样的数据流监控,一听这目标,霎时间就不想继续开发了… 以前参与开发过基础的监控系统,那也是个巨坑的玩意,自从被伤过后,我有些抵触监控这玩意了…   不扯了,世界是美好的,我要心情好好的….

在监控系统中,使用etcd做服务发现监控的文章,原文地址是 http://xiaorui.cc/?p=1965

开发的进度已经到了服务发现了,在选择zookeeper和etcd的时候,我还真犹豫了,虽然两个都曾用过,但是长久不用就都忘了,又查了下两者的对比资料,发现在服务发现方面,两者都差不多的。只是zookeeper有Ephemeral的概念,Ephemeral结点在Zookeeper中是一个临时结点,这些结点只要创建它的结点session不挂,它就一直存在,当session中止了,比如客户端进程挂掉了,那么在zookeeper的结点也就被删除了。 etcd不支持ZooKeeper的ephemeral临时节点的概念,要监控服务的状态似乎比较麻烦。 哥还在github etcd issue里,问了那个xiang90 (中国人)….


好了,不能只看别人zookeeper vs etcd的评价,人云亦云不是我的风格,昨天花了点时间把监控的服务发现功能在zookeeper和etcd都测试了下,结果他们都适合服务注册发现….  虽然zookeeper公司有专门的集群,但是真是不想接入他们….   怎么简单怎么来,那就用etcd吧,etcd的设计理念跟运维都是比较简单的。

 

下面是我以前做测试的效果图,为了避嫌,我把图表的数据都裁剪了下,反正看明白他的意思就行了,绿色代码OK,红色代表问题。 

 

关于模块的服务注册我是这么设计的 ~

/buzz/buzzadmin/download

/buzz/buzzadmin/api

buzz是大项目,buzzadmin是子项目,api 跟 download都是子项目中的两个模块。 这样就有了层级的关系。 /A/B/C  ,B死了,C也就无意义了。 A死了,B也就完了,下层受限于上层。

etcd和zookeeper kv的存储本来就是这种树形目录,很适合我上面的监控需求设计。 

我这里放两个python操作etcd服务的小例子。

 

set client:  (这个写入的客户端)

import etcd
client = etcd.Client()
c = 0
for i in range(100):
   client.write('/nodes/n%s'%i, 1,ttl=10)
   c += 1
   print i

watch client: (这个是监控端)

import etcd
client = etcd.Client()

c = 0 
while 1:
    print client.watch('/nodes/',recursive=True)
    c += 1    
    print c

这样会造成什么问题?  我想大家在看我watch client代码的时候,估计发现了问题所在。 

写入端比如进行了100个set操作,以为他有ttl的配置,所以当他expire过期的时候,我的watch也是会收到请求的。 我一开始没有找到etcd watch有那样驻守监控的函数,所以就用以前监控socket recv那样,使用while循环地调用clent.watch() 。  这样造成的问题是,我这边收到节点反馈后,再去注册监听,这时候会丢失很多etcd反馈的信息的。   再来看看他丢失了多少,写入段100个set,还有100个expire的action。watch理应说到200个操作,结果只有150个,也就是丢失了50个。

找了下资料,看到一老外在stackoverflow.com 上说,他也是用while,一刹那间,眼前漂出一行字,caonima…..

最后直接看python-etcd的代码,原以为他会写的复杂,结果这代码只是http api的封装罢了。  下面代码是python-etcd里面关于watch监控的描述。注意有个eternal_watch,只是看字面的一面就知道他是我们要找寻找的,他构造了Generator生成器,然后用yield关键字返回。

另外watch函数其实就是self.read(self,wait=True)

def eternal_watch(self, key, index=None, recursive=None):
    """
    Generator that will yield changes from a key.
    Note that this method will block forever until an event is generated.
    Args:
        key (str):  Key to subcribe to.
        index (int):  Index from where the changes will be received.
    Yields:
        client.EtcdResult
    """
    local_index = index
    while True:
        response = self.watch(key, index=local_index, timeout=0, recursive=recursive)
        local_index = response.modifiedIndex + 1
        yield response


def watch(self, key, index=None, timeout=None, recursive=None):

    _log.debug("About to wait on key %s, index %s", key, index)
    if index:
        return self.read(key, wait=True, waitIndex=index, timeout=timeout,
                         recursive=recursive)
    else:
        return self.read(key, wait=True, timeout=timeout,
                         recursive=recursive)


def read(self, key, **kwdargs):

    _log.debug("Issuing read for key %s with args %s", key, kwdargs)
    key = self._sanitize_key(key)

    params = {}
    for (k, v) in kwdargs.items():
        if k in self._read_options:
            if type(v) == bool:
                params[k] = v and "true" or "false"
            elif v is not None:
                params[k] = v

    timeout = kwdargs.get('timeout', None)

    response = self.api_execute(
        self.key_endpoint + key, self._MGET, params=params,
        timeout=timeout)
    return self._result_from_response(response)

另外说下通过第一层key,取出所有下层key的方法…

directory = client.get("/nodes")

#可以取出所有
for result in directory.children:
  print(result.key + ": " + result.value)

#只能取出第一个
print(directory.children.next().value)

到此,我要讲述的坑就扯完成了….   etcd是个好东西,够简单,以前做配置集中管理的时候有用过etcd,虽然后期替换成zookeeper了。另外我没在线上用过etcd集群,但在社区中看到不少人在用,反馈也不错。  总之,etcd值得一用….. 

另外这里记录etcd的安装方法,环境是linux,以前记录的文档没了,就贴在这里吧。 

curl -L  https://github.com/coreos/etcd/releases/download/v2.1.3/etcd-v2.1.3-linux-amd64.tar.gz -o etcd-v2.1.3-linux-amd64.tar.gz
tar xzvf etcd-v2.1.3-linux-amd64.tar.gz
cd etcd-v2.1.3-linux-amd64
./etcd

或者是直接用docker启动

docker run -p 2379:2379 -v /usr/share/ca-certificates/:/etc/ssl/certs quay.io/coreos/etcd:v2.1.3

另外需要注意的是,docker默认启动是绑定在本地的4001端口,如果想绑定所有的网卡上,也就是0.0.0.0 ,可以./etcd -addr 0.0.0.0:4001

etcd解压的时候,貌似没有默认的配置文件,有兴趣的朋友可以用我的etcd 配置文件。

addr = "127.0.0.1:4001"
bind_addr = "127.0.0.1:4001"
ca_file = ""
cert_file = ""
cors = []
cpu_profile_file = ""
data_dir = "/var/xiaorui.cc/data/"
discovery = "http://etcd.local:4001/v2/keys/_etcd/registry/examplecluster"
http_read_timeout = 10.0
http_write_timeout = 10.0
key_file = ""
peers = []
peers_file = ""
max_result_buffer = 1024
max_retry_attempts = 3
name = "default-name"
snapshot = true
verbose = false
very_verbose = false

[peer]
addr = "127.0.0.1:7001"
bind_addr = "127.0.0.1:7001"
ca_file = ""
cert_file = ""
key_file = ""

[cluster]
active_size = 9
remove_delay = 1800.0
sync_interval = 5.0

大家觉得文章对你有些作用! 如果想赏钱,可以用微信扫描下面的二维码,感谢!
另外再次标注博客原地址  xiaorui.cc

8 Responses

  1. 1 2016年10月12日 / 下午7:02

    指定 etcd 配置文件是什么选项呢 博主

  2. 1 2016年10月12日 / 下午6:44

    没看到启动时候 指定 etcd 配置文件

  3. 1 2016年10月12日 / 下午6:43

    etcd 配置文件 咋用呢

  4. 路人甲 2016年4月2日 / 下午3:55

    循环去Watch没什么问题,但是你需要传入index参数,这样就能不漏掉任何一个事件了。不是什么etcd的坑, 是你用发问题。

    • rfyiamcool 2016年4月4日 / 下午4:44

      用另一个函数避开这问题了.

  5. ewangplay 2016年3月18日 / 上午10:54

    请问那个表示服务状态的图是用什么做的呀?看着还挺不错

    • liqiang 2016年10月9日 / 下午4:38

      看上去有点像思维导图

  6. vim 2015年9月14日 / 上午11:45

    etcd没有临时节点是有些麻烦

1进行回复 取消回复

电子邮件地址不会被公开。 必填项已用*标注