1.通过transmittable-thread-local源码理解线程池线程本地变量传递的码下原理
2.consulmanager部署和使用
3.java后端如何对接SNMP\IPMI\syslog常用底层协议
4.部署Kafka监控
5.基于Prometheus + Grafana搭建IT监控报警最佳实践(2)
6..NET 6+Loki+Grafana实现轻量级日志可视化服务功能

通过transmittable-thread-local源码理解线程池线程本地变量传递的原理

       最近几周，我投入了大量的码下时间和精力，完成了UCloud服务和中间件迁移至阿里云的码下工作，因此没有空闲时间撰写文章。码下不过，码下回忆起很早之前对ThreadLocal源码的码下呯凡攻击指标源码分析，其中提到了ThreadLocal存在向预先创建的码下线程中传递变量的局限性。恰好，码下我的码下一位前同事，HSBC的码下技术大牛，提到了团队引入了transmittable-thread-local（TTL）来解决此问题。码下借此机会，码下我深入分析了TTL源码，码下本文将全面分析ThreadLocal和InheritableThreadLocal的码下局限性，并深入探讨TTL整套框架的码下实现。如有对线程池和ThreadLocal不熟悉的读者，建议先阅读相关前置文章，本篇文章行文较为干硬，字数接近5万字，希望读者耐心阅读。

       在Java中，没有直接的API允许子线程获取父线程的实例。获取父线程实例通常需要通过静态本地方法Thread#currentThread()。同样，为了在子线程中传递共享变量，也常采用类似的方法。然而，这种方式会导致硬编码问题，海南免税商城源码限制了方法的复用性和灵活性。为了解决这一问题，线程本地变量Thread Local应运而生，其基本原理是通过线程实例访问ThreadLocal.ThreadLocalMap来实现变量的存储与传递。

       ThreadLocal与InheritableThreadLocal之间的区别主要在于控制ThreadLocal.ThreadLocalMap的创建时机和线程实例中对应的属性获取方式。通过分析源码，可以清楚地看到它们之间的联系与区别。对于不熟悉概念的读者，可以尝试通过自定义实现来理解其中的原理与关系。

       ThreadLocal和InheritableThreadLocal的最大局限性在于无法为预先创建的线程实例传递变量。泛线程池Executor体系、TimerTask和ForkJoinPool等通常会预先创建线程，因此无法在这些场景中使用ThreadLocal和InheritableThreadLocal来传递变量。

       TTL提供了更灵活的解决方案，它通过委托机制（代理模式）实现了变量的传递。委托可以基于Micrometer统计任务执行时间并上报至Prometheus，然后通过Grafana进行监控展示。此外，TTL通过字节码增强技术（使用ASM或Javassist等工具）实现了类加载时期替换Runnable、Callable等接口的实现，从而实现了无感知的增强功能。TTL还使用了模板方法模式来实现核心逻辑。

       TTL框架的核心类TransmittableThreadLocal继承自InheritableThreadLocal，通过全局静态变量holder来管理所有TransmittableThreadLocal实例。holder实际上是一个InheritableThreadLocal，用于存储所有线程本地变量的映射，实现变量的风痕绘制源码全局共享。disableIgnoreNullValueSemantics属性的设置可以影响NULL值的处理方式，影响TTL实例的行为。

       发射器Transmitter是TransmittableThreadLocal的一个公有静态类，提供传输TransmittableThreadLocal实例和注册当前线程变量至其他线程的功能。通过Transmitter的静态方法，可以实现捕获、重放和复原线程本地变量的功能。

       TTL通过TtlRunnable类实现了任务的封装，确保在执行任务时能够捕获和传递线程本地变量。在任务执行前后，通过capture和restore方法捕获和重放变量，实现异步执行时上下文的传递。

       启用TTL的Agent模块需要通过Java启动参数添加javaagent来激活字节码增强功能。TTL通过Instrumentation回调激发ClassFileTransformer，实现目标类的字节码增强，从而在执行任务时自动完成上下文的捕捉和传递。

       TTL框架提供了一种高效、灵活的方式来解决线程池中线程复用时上下文传递的问题。通过委托机制和字节码增强技术，TTL实现了无入侵地提供线程本地变量传递功能。如果您在业务代码中遇到异步执行时上下文传递的问题，TTL库是一个值得考虑的解决方案。

consulmanager部署和使用

       书接上回 渐行渐远：prometheus的安装以及监控指标的配置

       这次主要介绍如何使用consulmanager 去监控各个监控项

       一 consulmanager安装

       github.com/starsliao/Te... #consulmanager项目地址

       consulmanager 是一个开源的项目，现在已经更名为tensuns，有兴趣的可以自行研究

       要想安装consulmanager，必须先安装下面三个 docker ，docker-compase，排盘系统源码 consul

       1.1 安装consul

       1.1.1 安装consul-基于centos7

       1.1.2 生成uuid

       1.1.3 配置文件设置

       1.1.4 启动consul

       访问方式 ip:

       1.2 安装docker和docker-compase

       1.2.1 安装docker

       1.2.2 安装docker-compase

       二 安装 ConsulManager

       2.1 下载源码

       下载地址 github.com/starsliao/Co...

       目录结构如下：

       2.2 docker-compose.yml 内容

       2.3 启动并访问

       三 配置consulmanager

       3.1 云主机管理

       3.1.1 同步云主机

       云主机管理就是可以自动同步云服务器到consulmanager这个上面

       前提是需要你在云账号里面创建access key 和secret key,这个账号还需要有访问主机的权限

       新增云资源

       创建完成之后，你可以手动同步，也可以自动同步，然后去云主机列表查看，是否同步过来了

       3.1.2 批量云主机监控

       前提是每天主机需要安装好node-exporter

       选定好指定的组，选择好系统，点击生成配置，然后把这个配置，粘贴到prometheus的配置文件中

       进行重启prometheus

       然后进去到prometheus-target里进行查看

       当然如果你的node-exporter的端口不是,怎么办，打开cousul的web页面，可以自定义设置

       3.1.3 导入对应的模版

       导入ID：

       详细URL： grafana.com/grafana/das...

       3.1.4 设置告警规则

       3.2 blackbox站点监控设置

       3.2.1. 配置Blackbox_Exporter

       在Web页面点击

       Blackbox 站点监控/Blackbox 配置，点击

       复制配置，如下所示：

       复制配置到 blackbox.yml，清空已有的配置，把复制的内容粘贴进去，重启blackbox_exporter

       3.2.2 配置Prometheus

       在Web页面点击 Blackbox 站点监控/Prometheus 配置，点击复制配置。编辑Prometheus的

       prometheus.yml，把复制的内容追加到最后，reload或重启Prometheus

       3.2.3. 配置Prometheus告警规则

       在Web页面点击

       Blackbox 站点监控/告警规则，点击复制配置。

       编辑Prometheus的配置文件，添加 rules.yml，然后把复制的内容粘贴到rules.yml里面，reload或重启Prometheus。

       然后去prometheus查看告警规则是否生成

       3.2.4. 查看Prometheus

       在Prometheus的Web页面中，点击Status-Targets，图写真APP源码能看到新增的Job即表示数据同步到Prometheus。

       3.2.5 新增tcp或者blogs.com/weskynet/p/领取本地安装包，包括源码。

       解压Loki至本地后，根据文档配置文件。注意配置文件中的retention_period应为小时的整数倍。更多Loki配置信息，请参考grafana.com/docs/loki/l页面。

       启动Loki服务，推荐在控制台操作以确保稳定运行。启动命令为：xxx.exe --config.file=配置文件.yaml。若条件允许，您也可将Loki服务挂载到Windows中，方法参考另一篇文章，了解如何挂载Elasticsearch等至Windows服务。

       创建测试案例，使用基于.NET6的webapi服务。在此服务中，引用serilog包，并在appsetrings配置文件中添加日志输出配置，分别输出至控制台与Loki，并配置日志标签用于查询和规则匹配。

       在启动项内注册serilog日志服务，确保自动关联配置文件。在控制器中新增日志写入测试方法，注入日志服务，输出不同类型的日志。

       运行程序后，通过Swagger接口测试日志写入，控制台将显示日志输出。在Grafana中，通过数据源设置连接Loki，配置Loki部署地址（默认为本地），并测试连接成功。接下来，使用Explore菜单进行日志查询，预设查询区间，选择标签与标签值进行搜索，根据时间区间查询对应日志。同时，可以以Json形式查看日志，或进行关键字查询。

       如果您需要配套的安装包和源码，可扫描下方二维码，或搜索公众号Dotnet Dancer，回复Loki获取所有内容。本文至此结束，希望对您的日志管理与分析工作有所帮助。

收藏 Kafka监控组件大全

       本文概述了用于监控Kafka系统的多种组件，包括Burrow、Telegraf、Grafana以及一些其他工具，如Kafka Manager、Kafka Eagle、Confluent Control Center和Kafka Offset Monitor。以下对这些工具进行了简要介绍。

       Burrow是一个用于监控Kafka的组件，由Kafka社区的贡献者编写，主要关注于监控消费者端的情况。它使用Go语言编写，功能强大，但用户界面不提供，可通过GitHub获取二进制文件进行安装。

       Telegraf是一个数据收集工具，与Burrow结合使用，用于收集Kafka监控数据，并将其存储到InfluxDB中，以便在Grafana中进行可视化展示。

       Grafana是一个强大的数据可视化工具，允许用户创建仪表板，以直观地显示从Burrow收集的监控数据。通过配置Grafana，可以设置变量和图表，过滤集群并显示关键指标，如消费者滞后度、分区状态等。

       Kafka Manager是一个受欢迎的监控组件，使用Scala编写，提供源码下载。它支持管理多个Kafka集群、副本分配、创建和管理Topic等功能，但编译过程较为复杂，且在处理大型集群时资源消耗大。

       Kafka Eagle是一个由国人开发的监控工具，以其美观的界面和强大的数据展现能力受到推崇。它支持权限报警和多种报警方式，如钉钉、微信和邮件，还具备使用ksql查询数据的功能。

       Confluent Control Center是一个功能齐全的Kafka监控框架，集成了多种监控和管理功能，但需购买Confluent企业版才能使用。官方文档提供了快速启动指南，但安装过程较为繁琐，需要引入特定的Kafka版本及其相关服务。

       Kafka Monitor和Kafka Offset Monitor被认为是监控组件中的“炮灰”，具体信息不详。

       综上所述，这些组件提供了从不同角度监控Kafka系统的能力，包括消费者监控、资源管理、性能分析和数据可视化等。选择合适的监控工具时，需要考虑功能需求、资源消耗和集成难度等因素。

Mac搭建grafana二次开发环境操作教程（图文详解）

       Grafana是开源的图表数据展示系统，可以配置很多的dashboard，还可以下载别人已经配置好的dashboard。

       这篇博客介绍下如何在mac下搭建grafana的二次开发环境。

一、安装grafana

       首先，我们可以通过brew把grafana安装到系统里，来看一看这个开源系统的功能。

       如果你的brew是直接可用的，就在terminal中直接运行下面的命令，否则，需要先brewupdate一下。

brewinstallgrafana

       装好以后，通过如下命令可以启动grafana

brewservicesstartgrafana

       然后打开localhost:，看到下面的图，就可以了。

       初始账号密码是admin/admin。

       通过下面的命令可以关闭和重启grafana

brewservicesstopgrafanabrewservicesrestartgrafana二、搭建grafana的开发环境

       grafana依赖node和go，需要先安装好node和go。

1、安装node

       我这里的grafana是7.3，需要版本的node

       安装node有两种方式

       如果之前没有装过，直接brewinstallnode就可以了，这样安装的node默认是最新版本，如果需要指定版本，可以在node后通过@来指定安装某个版本。

       通过版本管理神器n来升级

npmin-g//安装node版本管理神器n-V//安装后查看n的版本nlatest//使用或安装最新的官方发布：nstable//使用或安装稳定的正式版本：nlts//使用或安装最新的LTS正式版本：

       安装好node后顺便升级下npm

npminpm@latest-g2、安装golang

       依然通过brew安装go

brewinstallgo//安装golang

       然后查看go的环境变量配置

goenv

       上面的命令默认得到如下信息

GOMODULE=""GOARCH="amd"GOBIN=""GOCACHE="/Users/XXXXX/Library/Caches/go-build"GOENV="/Users/XXXXX/Library/ApplicationSupport/go/env"GOEXE=""GOFLAGS=""GOHOSTARCH="amd"GOHOSTOS="darwin"GOINSECURE=""GOMODCACHE="/Users/XXXXX/go/pkg/mod"GONOPROXY=""GONOSUMDB=""GOOS="darwin"GOPATH="/Users/XXXXX/go"GOPRIVATE=""GOPROXY=""GOROOT="/usr/local/go"GOSUMDB="sum.golang.org"GOTMPDIR=""GOTOOLDIR="/usr/local/go/pkg/tool/darwin_amd"GCCGO="gccgo"AR="ar"CC="clang"CXX="clang++"CGO_ENABLED="1"GOMOD=""CGO_CFLAGS="-g-O2"CGO_CPPFLAGS=""CGO_CXXFLAGS="-g-O2"CGO_FFLAGS="-g-O2"CGO_LDFLAGS="-g-O2"PKG_CONFIG="pkg-config"GOGCCFLAGS="-fPIC-m-pthread-fno-caret-diagnostics-Qunused-arguments-fmessage-length=0-fdebug-prefix-map=/var/folders/3m/xp_vx4jj3lh8chqq5tq_dwgn/T/go-build=/tmp/go-build-gno-record-gcc-switches-fno-common"

       注意GOPATH地址，在"/Users/XXXXX/go"下，其中XXXXX是我的用户名。但是在XXXXX下是没有go这个文件夹，需要我们自己建立。

       假如我们想写一个go的helloworld，就需要把这个程序放到go目录下。

       假如想要修改GOPATH也是可以的。用如下命令：

vim~/.bash_profile

       添加如下代码：exportGOPATH="XXXXXXXXXX"然后快捷键shift+zz关闭文件

       这时候，在terminal中输入echo$GOPATH，就可以看到刚刚设置的GOPATH了。

       到这一步，go就算安装到我们的电脑里了。

3、下载grafana的源代码

       由于grafana是开源的，因此代码托管在github上，地址：makerun

       到这里，grafana的二次开发环境就搭建好了。

作者：晴天同学