1.Java | 带你理解 ServiceLoader 的源码原理与设计思想
2.Mysql - com.mysql.jdbc.Driverä¸com.mysql.cj.jdbc.Driverçåºå«
3.Flink深入浅出:JDBC Connector源码分析
4.Apache Calcite系列(五):数据库驱动实现
5.JBuilder使用问题
Java | 带你理解 ServiceLoader 的原理与设计思想
本文将为您解析Java中ServiceLoader的原理与设计思想,以JDBC为例,分析引导您理解和掌握其基本用法与内部机制。源码
首先,分析了解JDBC的源码五大步骤,包括定义服务接口、分析到位家庭服务源码实现服务接口、源码注册实现类到配置文件、分析加载服务。源码
定义服务接口时,分析JDBC通过抽象一个服务接口,源码使数据库驱动实现类统一实现此接口,分析实现代码耦合的源码降低。
接着,分析实现服务接口,源码数据库厂商提供一个或多个实现此服务的类,如MySQL的com.mysql.cj.jdbc.Driver。
注册实现类到配置文件,需在java同级目录下的resources/META-INF/services新建文件,每行记录实现类全限定名,方便ServiceLoader查找。
加载服务时,DriverManager的静态代码块通过ServiceLoader遍历所有驱动实现类,此过程无需实际操作。
深入ServiceLoader源码解析,龙将源码架设其构造器创建LazyIterator实例,此迭代器采用懒加载策略,优先从providers集合获取元素。
providers集合是LazyIterator的内存缓存,LazyIterator#next()方法将每次迭代获取的元素放入此集合,实现高效检索。
ServiceLoader要点总结,包括构造器、迭代器及优先加载机制。
解决DriverManager源码疑问,为何next()操作不取得服务实现类对象?答案在于LazyIterator的高效设计,它在获取元素后立即放入缓存,无需额外操作。
在DriverManager中,注册服务实现类实例并保存在CopyOnWriteArrayList中,后续获取数据库连接时直接从该列表获取驱动。
ServiceLoader设计思想强调模块化与扩展性,通过懒加载机制提高性能,简化代码耦合。
本文仅提供基本概念与解析,后续将探讨ARouter与WMRouter的源码实现,欢迎关注彭旭锐的博客。
Mysql - com.mysql.jdbc.Driverä¸com.mysql.cj.jdbc.Driverçåºå«
spring常ç¨dataSourceé ç½®å¦ä¸:è driver-class-name ç com.mysql.jdbc.Driver ä¸ com.mysql.cj.jdbc.Driver æä»ä¹åºå«å¢?
å½5ä¹åççæ¬éæ© com.mysql.jdbc.Driver çæ¶åï¼ä¼æè¦åæ示ï¼æ¿æ¢ä¸º com.mysql.cj.jdbc.Drive
æ¥çæºç å¯ç¥ï¼èçæ¬ç Driver 继æ¿äºæ°çæ¬ç Driver ï¼éè¿ç»§æ¿çæ¹å¼å ¼å®¹èçæ¬ï¼å¹¶æ·»å äºåè¦æ示ï¼å¦ä¸:
Flink深入浅出:JDBC Connector源码分析
大数据开发中,数据分析与报表制作是融券卖出金额源码日常工作中最常遇到的任务。通常,我们通过读取Hive数据来进行计算,并将结果保存到数据库中,然后通过前端读取数据库来进行报表展示。然而,使用FlinkSQL可以简化这一过程,通过一个SQL语句即可完成整个ETL流程。
在Flink中,读取Hive数据并将数据写入数据库是常见的需求。本文将重点讲解数据如何写入数据库的过程,包括刷写数据库的机制和原理。
以下是本文将讲解的几个部分,以解答在使用过程中可能产生的疑问:
1. 表的定义
2. 定义的表如何找到具体的实现类(如何自定义第三方sink)
3. 写入数据的机制原理
(本篇基于1..0源码整理而成)
1. 表的定义
Flink官网提供了SQL中定义表的示例,以下以oracle为例:
定义好这样的表后,就可以使用insert into student执行插入操作了。接下来,我们将探讨其中的技术细节。
2. 如何找到实现类
实际上,这一过程涉及到之前分享过的SPI(服务提供者接口),即DriverManager去寻找Driver的过程。在Flink SQL执行时,会通过translate方法将SQL语句转换为对应的Operation,例如insert into xxx中的xxx会转换为CatalogSinkModifyOperation。这个操作会获取表的文华量化模型源码信息,从而得到Table对象。如果这个Table对象是CatalogTable,则会进入TableFactoryService.find()方法找到对应的实现类。
寻找实现类的过程就是SPI的过程。即通过查找路径下所有TableFactory.class的实现类,加载到内存中。这个SPI的定义位于resources下面的META-INFO下,定义接口以及实现类。
加载到内存后,首先判断是否是TableFactory的实现类,然后检查必要的参数是否满足(如果不满足会抛出异常,很多人在第一次使用Flink SQL注册表时,都会遇到NoMatchingTableFactoryException异常,其实都是因为配置的属性不全或者Jar报不满足找不到对应的TableFactory实现类造成的)。
找到对应的实现类后,调用对应的createTableSink方法就能创建具体的实现类了。
3. 工厂模式+创建者模式,创建TableSink
JDBCTableSourceSinkFactory是JDBC表的具体实现工厂,它实现了stream的sinkfactory。在1..0版本中,它不能在batch模式下使用,但在1.版本中据说会支持。这个类使用了经典的工厂模式,其中createStreamTableSink负责创建真正的逆天纪源码Table,基于创建者模式构建JDBCUpsertTableSink。
创建出TableSink之后,就可以使用Flink API,基于DataStream创建一个Sink,并配置对应的并行度。
4. 消费数据写入数据库
在消费数据的过程中,底层基于PreparedStatement进行批量提交。需要注意的是提交的时机和机制。
控制刷写触发的最大数量 'connector.write.flush.max-rows' = ''
控制定时刷写的时间 'connector.write.flush.interval' = '2s'
这两个条件先到先触发,这两个参数都是可以通过with()属性配置的。
JDBCUpsertFunction很简单,主要的工作是包装对应的Format,执行它的open和invoke方法。其中open负责开启连接,invoke方法负责消费每条数据提交。
接下来,我们来看看关键的format.open()方法:
接下来就是消费数据,执行提交了
AppendWriter很简单,只是对PreparedStatement的封装而已
5. 总结
通过研究代码,我们应该了解了以下关键问题:
1. JDBC Sink执行的机制,比如依赖哪些包?(flink-jdbc.jar,这个包提供了JDBCTableSinkFactory的实现)
2. 如何找到对应的实现?基于SPI服务发现,扫描接口实现类,通过属性过滤,最终确定对应的实现类。
3. 底层如何提交记录?目前只支持append模式,底层基于PreparedStatement的addbatch+executeBatch批量提交
4. 数据写入数据库的时机和机制?一方面定时任务定时刷新,另一方面数量超过限制也会触发刷新。
更多Flink内容参考:
Apache Calcite系列(五):数据库驱动实现
Avatica,作为Apache Calcite的子项目,提供了实现JDBC和ODBC标准数据库驱动的能力。通过这个项目,开发者可以构建自定义数据库的Java驱动,或代理非JDBC、ODBC标准的数据库,而无需修改上层服务代码。本文将探讨Avatica的实现原理。
在探讨Avatica实现细节之前,需要了解其架构。Avatica采用典型的RPC架构,分为客户端和服务端两个部分。客户端将JDBC相关操作如建立连接、执行请求等通过RPC协议发送给服务端,服务端执行这些操作并返回结果。Avatica的核心概念有三个:连接、Statement和查询执行。
接下来,我们将通过一个DEMO展示Avatica的使用方法。DEMO中,我们将使用Avatica框架访问MySQL数据库。代码包括客户端测试代码和服务器端代码。客户端首先建立连接,创建Statement,然后执行查询,最后打印结果。
在建立连接的过程中,代码调用Driver的connect方法,实际上由AvaticaFactory创建连接,Avatica的Driver通过此方法创建AvaticaConnection。连接创建时,指定连接驱动、URL、元数据等信息。元数据使用RemoteMeta,它连接实际数据库并代理数据。
客户端发送建立连接请求后,服务端处理逻辑通过Jetty网络服务实现。Jetty收到请求后,将请求交给AbstractAvaticaHandler处理。Handler内部处理流程包括:调用LocalService,LocalService再调用Meta处理连接请求,Meta根据请求内容选择合适的数据库驱动建立连接。
创建Statement的过程与建立连接类似,通过远程请求实现。服务端创建Statement后,返回Statement ID给客户端,客户端通过ID执行后续操作。创建StatementHandle的过程也是远程请求,服务端创建Statement并返回。
执行查询的过程与创建Statement类似,服务端根据Statement ID查找Statement,执行查询并返回结果。
源码解读方面,主要关注几个关键目录:org.apache.calcite.avatica根目录下的JDBC框架代码,包括Connection、Statement、ResultSet等实现;org.apache.calcite.avatica.remote包下的Service定义、请求处理Handler以及RemoteMeta;Server端的org.apache.calcite.avatica.jdbc目录定义代理其他数据源的类,如JdbcMeta和JdbcResultSet;org.apache.calcite.avatica.server目录定义服务端Handler和启动服务。
核心类包括消息类Handler、Service接口、Meta接口和Driver类。Handler负责处理网络请求,Service接口处理请求和响应,Meta接口处理JDBC规范操作请求,Driver类提供了实现Avatica框架的Driver。
总结来说,Avatica通过构建RPC架构,实现JDBC和ODBC标准数据库驱动的自定义和代理,简化了数据库访问过程。通过理解和使用Avatica框架,开发者可以灵活地构建和管理数据库驱动,满足不同场景的需求。
JBuilder使用问题
在使用JBuilder时,遇到assert语句执行问题,需在project的properties设置中开启"enable assert keyWord"。默认情况下,JVM不会处理assert,需在runtime configuration的VM parameters中添加"-ea"参数。在Windows平台生成.exe文件,可使用Native Executable Builder,JBuilder8提供此功能,解决中文环境下光标错位问题的方法是调整Editor Option设置,取消"Bold",选择中文宋体,同时调整字体大小。 JBuilder的TAB键使用需先选定代码再进行缩进,预设快捷键为F2而非Tab键。安装JDBC driver需先从数据库获取Class.zip等驱动文件,将其包含的jar包添加到JBuilder的Library中,并在工程属性中指定。在Tools>Enterprise Setup>Database drivers中创建新的Library,指定JDBC Driver的jar文件路径,确保路径无空格。如有源代码和JavaDoc,也需在Configure Libraries对话框中加入。年,Borland将其CodeGear子公司出售给Embarcadero,这个年轻的公司曾以JBuilder等产品在程序开发界享有高度声誉。扩展资料
Jbuilder是一个可视化JAVA开发工具。它是在Java2平台上开发商业应用程序、数据库、发布程序的优秀工具。它支持J2EE,所以程序员可以快速的转换企业版Java应用程序。螺旋矩阵源码_螺旋矩阵源码是什么
筹码密集选股指标源码_筹码密集选股指标源码是什么
以物换物系统源码_以物换物 平台
神龙趋势线指标公式源码_神龙指标的炒股软件
batis配置源码_bat源代码
c语言表示源码代码_c语言表示源码代码是什么