prometheus 服务发现原理 即时看 - 综合 -

当前位置:首页  >  综合  > 正文

prometheus 服务发现原理 即时看

prometheus 服务发现原理 即时看
2023-03-23 20:05:35 来源:腾讯云

服务发现

概述

如上图,Prometheus核心功能包括服务发现、数据采集和数据存储。服务发现模块专门负责发现需要监控的目标采集点(target)信息,数据采集模块从服务发现模块订阅该信息,获取到target信息后,其中就包含协议(scheme)、主机地址:端口(instance)、请求路径(metrics_path)、请求参数(params)等;然后数据采集模块就可以基于这些信息构建出一个完整的Http Request请求,定时通过pull http协议不断的去目标采集点(target)拉取监控样本数据(sample);最后,将采集到监控样本数据交由TSDB模块进行数据存储。

为什么需要服务发现模块?

类似于微服务通过引入注册中心组件解决众多微服务间错综复杂的依赖调用。无论是服务主动停止,意外挂掉,还是因为流量增加对服务实现进行扩容,这些服务数据或状态上的动态变化,通过注册中心屏蔽服务状态变更造成的影响,简化了调用方处理逻辑。

同理,Prometheus最开始设计是一个面向云原生应用程序的,云原生、容器场景下按需的资源使用方式对于监控系统而言就意味着没有了一个固定的监控目标,所有的监控对象(基础设施、应用、服务)都在动态的变化。Prometheus解决方案就是引入一个中间的代理人,这个代理人掌握着当前所有监控目标的访问信息,Prometheus只需要向这个代理人询问有哪些监控目标即可,这种模式被称为服务发现(service discovery)。


(资料图片)

目前,Prometheus支持的服务发现协议是非常丰富的,最新版本(2.41)已支持接近三十种服务发现协议:

服务发现配置解析

1、Prometheus服务启动加载prometheus.yml配置文件会被解析Config结构体:

Config结构体是配置类的最顶层结构,内部包含6个字段分别对应prometheus配置的6大组成部分。

2、其中数据采集配置部分ScrapeConfigs对应的是一个*ScrapeConfig类型切片,一个ScrapeConfig对应的是scrape_configs配置下的一个job抓取任务,服务发现协议配置对应其中ServiceDiscoveryConfigs字段:

3、discovery.Configs对应的是Config切片:

type Configs []Config

所以,一个job抓取任务下可以配置多个服务发现协议,如:

- job_name: "prometheus"  metrics_path: /metrics  static_configs:    - targets: ["124.222.45.207:9090"]  file_sd_configs:    - files:      - targets/t1.json      - targets/t2.json      refresh_interval: 5m

4、Config是一个接口:

Config是一个接口的定义,每种服务发现协议都会存在一个对应Config接口的实现(见下图)。该接口主要定义两个方法:

1、Name() string:定义服务发现协议类型,如eureka、kubernetes等等;2、NewDiscoverer(DiscovererOptions) (Discoverer, error):返回一个Discoverer类型变量,该类型也是一个接口,其只定义了一个方法Run方法,即Discoverer是对应的服务发现协议具体运行逻辑封装,通过Run方法提供统一的运行入口。
服务发现核心原理

说明:

Prometheus服务发现核心逻辑的入口主要关注Manager结构体的ApplyConfig方法:基于服务发现的配置使其生效;

ApplyConfig方法包括四个主要步骤:

type provider struct { name   string d      Discoverer subs   []string config interface{}}

❝一个job下一个服务发现协议对应一个Discoverer。❞

provider还有额外三个字段:

1、nameprovider名称,格式:fmt.Sprintf("%s/%d", typ, len(m.providers))

2、subsstring切片,存放job名称,因为可能不同job下存在一致的服务发现配置,就只会生成一个provider,然后subs存放job列表;

3、config:服务发现配置

启动Discoverer接口Run方法,让服务发现逻辑运行;协程中运行updater方法;Discoverer接口Run方法主要基于具体服务发现协议发现target,然后通过通道传递给updater处理逻辑,将其解析处理放入到Manager结构体中targets字段中,并向triggerSend通道发送信号,表示当前targets发生变更;Manager结构体sender方法每5秒监听triggerSend通道信号,并将Manager结构体中targets字段处理后放入到syncCh通道中;数据采集模块(scrape)监听syncCh通道,就可以获取到服务发现生成的targets信息,然后reloadtarget纳入监控开始抓取监控指标。启动provider:遍历Manager结构体中providers切片,启动每个provider,该步骤主要是启动两个协程:❝Manager结构体sender方法是在Prometheus启动时discoveryManagerScrape.Run()方法中启动。❞取消服务发现:配置变更也会调用ApplyConfig方法,这时就要把基于之前配置运行的服务发现服务取消,然后基于当前配置重新生成;清空:主要清空discoverCanceltargetsproviders几个容器元素,因为要基于当前配置重新生成;注册providerprovider是对Discoverer的封装,不同服务发现协议都会实现Config接口,其中NewDiscoverer方法就是创建Discoverer

「Prometheus服务发现核心就是三个协程之间协作:」

「协程1:」负责运行Discoverer接口Run方法,基于协议发现采集点;「协程2:」负责将协程1发现的采集点信息更新到Manager结构体中targets字段的map中;「协程3:」负责将Manager结构体中targets字段的数据通过通道发送给scrape模块;

scrape模块获取到采集点如何进行数据采集后续scrape模块分析。

监控指标

Prometheus服务发现通用指标主要有如下5个,都定义在discovery/manager.go中:

prometheus_sd_discovered_targetsprometheus_sd_failed_configsprometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

「1、采集点数量指标」

服务发现主要基于协议发现采集目标,prometheus_sd_discovered_targets指标反馈各个job发现的采集目标数:

prometheus_sd_discovered_targets:gauge类型,当前发现的目标数config:job名称name:取值scrape和notify,区分指标抓取服务发现还是告警通知服务发现示例:prometheus_sd_discovered_targets{config="auth_es1", name="scrape"}  12

❝这里基于协议发现的目标数,还未进入采集模块,并不能区分是在线还是离线。❞

「2、服务发现协议异常错误指标」

服务发现会给每个发现配置项生成一个provider,并为每个provider使用协程运行,如果基于配置项生成provider错误就可以通过prometheus_sd_failed_configs指标反馈:

prometheus_sd_failed_configs:gauge类型,当前无法加载的服务发现配置数配置数:一个job可能存在多个服务发现协议配置,对应配置项则是多个示例:prometheus_sd_failed_configs{name="scrape"}  10prometheus_sd_failed_configs{name="notify"} 5

一个job可能对应多个服务发现配置项,如下:这个job下配置了static_configsfile_sd_configs两个服务发现协议配置,则对应两个服务发现配置项,注册两个provider,每个provider在独立协程中运行:

scrape_configs:  # The job name is added as a label `job=` to any timeseries scraped from this config.  - job_name: "test"    static_configs:    - targets: ["localhost:9090"]    file_sd_configs:    - refresh_interval: 5m      files:      - targets/manual.*.json

「3、协程交互指标」

服务发现主要涉及3类协程:

Discoverer协程(多个):封装provider,基于协议发现采集点,这里可能会存在多个,一个provider对应一个Discoverer协程updater协程(1个):Discoverer协程发现采集点,通过channel通道通知到updater协程updater协程将采集点更新到Manager结构体targets字段中,然后向Manager结构体triggerSend通道写入数据,告诉sender协程targets有更新;sender协程(1个):sender协程每5秒检测triggerSend通道数据,检测到更新则将Manager结构体targets数据处理封装写入到Manager结构体syncCh通道中,scrape模块监测该通道,即完成将服务发现模块scrape模块交互。

这其中涉及三个指标:

prometheus_sd_received_updates_totalprometheus_sd_updates_delayed_totalprometheus_sd_updates_total

标签:

(责任编辑:news01)
杭州市消保委点名共享充电宝:收费价格不一 过度收集个人信息|每日热文

杭州市消保委点名共享充电宝:收费价格不一 过度收集个人信息|每日热文

杭州市消保委点名共享充电宝:收费价格不一过度收集个人信息
03-16 18:06:58
LOFTER被指将用户作品用于AI训练 网易致歉:伤害了创作者 争议功能下线-环球热议

LOFTER被指将用户作品用于AI训练 网易致歉:伤害了创作者 争议功能下线-环球热议

网易旗下的LOFTER日前被指将用户的作品数据用于AI训练,引发了创作者的不满,3月16日网易LOFTER发表致歉声明,
03-16 16:01:39
“只要查,绝对一查一个准”!用这种方式还房贷不可取

“只要查,绝对一查一个准”!用这种方式还房贷不可取

最近,贷款中介庞玲(化名)听到了一些风声,有的同行公司放假了,微信上认识的业务员说要请几天假,有的公司...
03-16 14:11:46
当日快讯:国家统计局:2月份商品住宅销售价格环比总体上涨

当日快讯:国家统计局:2月份商品住宅销售价格环比总体上涨

国家统计局网站消息,2023年2月份,随着政策效果逐步显现及住房需求进一步释放,70个大中城市中商品住宅...
03-16 11:49:59
世界观天下!思维列控:3月15日融资买入473.44万元,融资融券余额1.15亿元

世界观天下!思维列控:3月15日融资买入473.44万元,融资融券余额1.15亿元

3月15日,思维列控(603508)融资买入473 44万元,融资偿还526 95万元,融资净卖出53 51万元,融资余额1 15亿元。
03-16 09:55:54
茫崖:持续推动人才工作提质见效

茫崖:持续推动人才工作提质见效

茫崖:持续推动人才工作提质见效
03-16 05:06:00
音乐社团简介100字_音乐社团简介

音乐社团简介100字_音乐社团简介

1、先写上社团名称(字大些),然后写一些社团的特点和活动的日程安排,再留好地址就行了。2、总而言之...
03-16 01:02:58
天天信息:cf名字大全冷酷好听_cf好听的4个字id

天天信息:cf名字大全冷酷好听_cf好听的4个字id

欢迎观看本篇文章,小勉来为大家解答以上问题。cf名字大全冷酷好听,cf好听的4个字id很多人还不知道,现...
03-15 20:47:19
SteamDeck更新加入光追!但仅一款游戏可用-天天热讯

SteamDeck更新加入光追!但仅一款游戏可用-天天热讯

近日,SteamDeck更新了3 4 6版本系统,为《毁灭战士:永恒》带来了视觉改进,支持开启光追特效。
03-15 18:08:26
冷日村的幸福新生活 全球头条

冷日村的幸福新生活 全球头条

冷日村的幸福新生活
03-15 16:20:32
全球新消息丨瓮安县气象台发布大风蓝色预警信号【Ⅳ/一般】【2023-03-15】

全球新消息丨瓮安县气象台发布大风蓝色预警信号【Ⅳ/一般】【2023-03-15】

瓮安县气象台发布大风蓝色预警信号【Ⅳ 一般】【2023-03-15】
03-15 14:17:16
女子提前还房贷被要求买10万理财具体详细内容是什么

女子提前还房贷被要求买10万理财具体详细内容是什么

女子提前还房贷被要求买10万理财今天的热度非常高,现在也是在热搜榜上了,那么具体的女子提前还房贷被...
03-15 11:45:26
湖北鄂州花湖机场赴比利时推介招商

湖北鄂州花湖机场赴比利时推介招商

(记者德永健)主打航空货运的湖北鄂州花湖机场14日在比利时首都布鲁塞尔举行推介会,希望与比利时列日机...
03-15 09:48:20
抓紧时间晾晒,降雨+降温要来了! 世界热门

抓紧时间晾晒,降雨+降温要来了! 世界热门

今晨,淮河以北大部分地区温度在10℃到11℃左右,沿江及苏南大部分地区在7℃到11℃左右。全省天气3月15...
03-15 07:45:52
全球热消息:葭沚转盘改建忙

全球热消息:葭沚转盘改建忙

3月14日,葭沚转盘提升改造工程现场,工人正进行云西路-82省道跨线桥钢筋绑扎。“跨线桥将成为转盘提升...
03-15 03:34:20
奚梦瑶高调亮相豪门婚宴!穿露肩裙超抢风头,小腹凸起怀三胎了?

奚梦瑶高调亮相豪门婚宴!穿露肩裙超抢风头,小腹凸起怀三胎了?

奚梦瑶是家喻户晓的超模,曾多次亮相维密舞台,在国际上也是一度跟刘雯齐名,不过自从嫁入豪门之后,她...
03-14 23:03:16
英国民事司法制度_关于英国民事司法制度的简介|世界新要闻

英国民事司法制度_关于英国民事司法制度的简介|世界新要闻

1、《英国民事司法制度》是2011年厦门大学出版社出版的图书,作者是齐树洁。本书主要内容包括绪论、法院...
03-14 19:46:39
太原能力素质提升补助指南(时间+对象+条件)

太原能力素质提升补助指南(时间+对象+条件)

一、申请时间全年可申请,法定节假日去申请二、申请对象能力素质提升补助申请对象为:取得上一级学历学...
03-14 16:58:54
闪电气象吧|预计14日夜间到15日上午,滨州偏北风风力较大

闪电气象吧|预计14日夜间到15日上午,滨州偏北风风力较大

闪电气象吧|预计14日夜间到15日上午,滨州偏北风风力较大
03-14 15:10:13
合肥万象城蔚来中心在几楼?

合肥万象城蔚来中心在几楼?

合肥万象城蔚来中心在几楼?答:合肥万象城蔚来中心在1楼,具体位置位于安徽合肥市蜀山区潜山路111号万...
03-14 13:11:04
12月17日起,天津各医疗机构不再查验核酸阴性证明或检测抗原-信息

12月17日起,天津各医疗机构不再查验核酸阴性证明或检测抗原-信息

12月17日,天津市疫情防控指挥部办公室发布关于进一步优化医疗机构就诊流程的公告:根据天津市当前疫情...
03-14 11:04:42
热点在线丨十大震撼人心的纯音乐免费下载_十大震撼人心的纯音乐

热点在线丨十大震撼人心的纯音乐免费下载_十大震撼人心的纯音乐

《Radioactive》是由美国著名的钢琴演奏家威廉·约瑟夫演奏的,这首纯音乐电子乐与钢琴演奏完美结合在一...
03-14 08:55:27
前沿热点:淘宝网真皮女包品牌_网上购买女包的技巧

前沿热点:淘宝网真皮女包品牌_网上购买女包的技巧

1、  女生出行,一个包包是少不了的,现在越来越多的人喜欢在网上购买女包了,下面我们一起来看看网上...
03-14 04:47:28
天天最新:奇瑞轿车翻身之作,艾瑞泽8遭遇滑铁卢,2月销量落后吉利星瑞

天天最新:奇瑞轿车翻身之作,艾瑞泽8遭遇滑铁卢,2月销量落后吉利星瑞

国产自主品牌中,很多人都说奇瑞汽车是理工男,也给与了各种赞誉之词,并且奇瑞汽车的出口数量也确实不...
03-13 22:54:27
天正建筑选择cad版本_天正打开选择cad版本

天正建筑选择cad版本_天正打开选择cad版本

1、8 2采用单图标选择平台启建筑软件自识别前图形平台安装版本前些TArch启平台选择再提问给打勾结默认AutoCAD2
03-13 19:38:09
同安区举办首届山药节 山药酒山药膏等衍生品让人长见识

同安区举办首届山药节 山药酒山药膏等衍生品让人长见识

■有趣的削山药比赛。■三秀山山药。厦门网讯(厦门晚报记者颜梅丽通讯员李清洁图 夏海滨)五六公斤重...
03-13 16:56:39
西沙群岛攻略,比马尔代夫更纯净的海岛,只有中国国籍才能去 环球关注

西沙群岛攻略,比马尔代夫更纯净的海岛,只有中国国籍才能去 环球关注

西沙群岛攻略,比马尔代夫更纯净的海岛,只有中国国籍才能去,西沙群岛,西沙,海岛,邮轮,海域,鸭公岛
03-13 15:07:29
展示电气化时代核心科技 长城汽车Hi4实现两驱价格四驱体验

展示电气化时代核心科技 长城汽车Hi4实现两驱价格四驱体验

近日,“长城汽车智能新能源干货大会”在保定哈弗技术中心举行。发布会上,长城汽车发布了“长城智能新...
03-13 12:12:23
环球速递!美国硅谷银行光速破产,白宫紧急声明,拜登或面临更为棘手的事

环球速递!美国硅谷银行光速破产,白宫紧急声明,拜登或面临更为棘手的事

美国硅谷银行光速破产,白宫紧急声明,拜登或面临更为棘手的事,白宫,科学家,法学家,乔·拜登,美国总统,...
03-13 10:14:12
今日沪深港通标的迎最大规模扩容 资本市场更高水平的双向开放迈出新步伐

今日沪深港通标的迎最大规模扩容 资本市场更高水平的双向开放迈出新步伐

互联互通机制迎来又一重要里程碑。3月13日,沪深交易所互联互通股票标的范围扩大规则正式生效,内地与香...
03-13 08:00:51

为您推荐

精彩推送