1.?视频视频?Ƶȥ??Դ??
2.七爪源码:LeetCode - 从排序列表中删除重复项
3.Nginx源码导读:[3]Ngnix头文件处理
4.PHP7源码之array_unique函数分析
5.通过深挖Clickhouse源码,我精通了数据去重!去重去重
6.降低代码的源码源码圈复杂度——复杂代码解决之道
??Ƶȥ??Դ??
讨论C#数据去重的常见方式,每种方法有其特点与适用场景,视频视频选择最合适的去重去重策略至关重要。欢迎在评论区分享更多有效数据去重方法。源码源码超级资金 源码
使用HashSet进行去重,视频视频它确保元素唯一,去重去重添加重复值时被忽略,源码源码实现高效数据去重。视频视频
Linq的去重去重Distinct()方法提供简单高效去重,基于元素相等性筛选出不重复元素,源码源码底层利用HashSet实现。视频视频
借助Linq的去重去重GroupBy()方法,根据指定键或条件对集合元素进行分组,源码源码通过选择每个分组的第一个元素实现去重。
采用自定义比较器与循环遍历实现直接去重,具体示例源码可参考github链接。
七爪源码:LeetCode - 从排序列表中删除重复项
问题描述:给定一个已排序的链表,目标是删除其中所有重复的节点,只保留每个数字的首次出现,然后返回处理后的有序链表。 示例1:删除重复的节点,例如给定链表1->1->2,结果为1->2。订餐软件源码 示例2:处理复杂边缘情况,如给定链表1->1->2->3->3,结果应为1->2->3。 解决方案策略:使用哈希映射:遍历链表,将节点值作为哈希键,记录出现次数。只保留出现一次的节点,时间复杂度O(N),空间复杂度O(N)。
哨兵节点:利用哨兵头节点,处理重复子列表时的边界情况。遍历链表,比较节点值和下一个节点,时间复杂度O(N),空间复杂度O(1)。
以下是不同编程语言的实现:C++代码示例
(C++代码略)
Golang代码示例
(Golang代码略)
Javascript代码示例
(Javascript代码略)
通过以上算法,我们能够有效地处理并返回一个去重后的有序链表。测试后,算法表现良好。Nginx源码导读:[3]Ngnix头文件处理
这节主要讲一下nginx , 对头文件的包含 ,怎么处理多次包含的 ,其实也可以是小的C语言知识点
在nginx中有很多头文件 ngx_core.h ngx_errno.h 等等, 并且他们很多相互包含了 ,jdk源码 github大家可能会想那不是有重复定义了很多数据结构吗 ?
回答是当然不是,还记得上一节中的头文件吗 ,在这我们也拿过来 , ngx_config.h : #ifndef _NGX_CONFIG_H_INCLUDED_ #define _NGX_CONFIG_H_INCLUDED_ #include "ngx_linux_config.h" typedef intptr_t ngx_int_t; typedef uintptr_t ngx_uint_t; typedef intptr_t ngx_flag_t; #endif 发现了吗 , nginx开头都有 #ifndef XXXXX ,nginx就是用这个条件宏来去重的 ,如果第一次就会#define_NGX_CONFIG_H_INCLUDED_ ,以后某个文件在include这个头文件 ,#ifndef _NGX_CONFIG_H_INCLUDED_ 这个判断就是false了,直接就都#endif了
#ifndef这个语法是预处理执行的 ,类似于方面里面的if语句 ,但是预处理不同的是 ,处理完了 ,不满足条件的 ,编译后是不存的 , 而if语句是会怎么的 ,是在运行时做的条件判断
PHP7源码之array_unique函数分析
以下源码基于 PHP 7.3.8
array array_unique ( array array[,intarray[,intsort_flags = SORT_STRING ] ) (PHP 4 >= 4.0.1, PHP 5, PHP 7) array_unique — 移除数组中重复的值 参数说明: array:输入的数组。 sort_flag:(可选)排序类型标记,用于修改排序行为,主要有以下值: SORT_REGULAR - 按照通常方法比较(不修改类型) SORT_NUMERIC - 按照数字形式比较 SORT_STRING - 按照字符串形式比较 SORT_LOCALE_STRING - 根据当前的本地化设置,按照字符串比较。
array_unique 函数的源代码在 /ext/standard/array.c 文件中。由于篇幅过长,完整代码不在这里贴出来了,可以参见 GitHub 贴出的源代码。
定义变量
首先是open linux源码定义变量,array_unique 函数默认使用 PHP_SORT_STRING 排序,PHP_SORT_STRING 在 /ext/standard/php_array.h 头文件中定义。
可以看到和开头PHP函数的sort_flag 参数默认的预定义常量 SORT_STRING 很像。
compare_func_t cmp 这行代码没看懂,不清楚是做什么的。compare_func_t 在 /Zend/zend_types.h 中定义:应该是定义了一个指向int 型返回值且带有两个指针常量参数的函数指针类型,没有查到相关资料,先搁着,继续往下看。
参数解析
ZEND_PARSE_PARAMETERS_START(1, 2),第一个参数表示必传参数个数,第二个参数表示最多参数个数,即该函数参数范围是 1-2 个。
数组元素个数判断
这段代码很容易看懂,当数组为空或只有 1 个元素时,无需去重操作,直接将array 拷贝到新数组 return_value来返回即可。
分配持久化内存
这一步只有当sort_type 为 PHP_SORT_STRING 时才执行。在下面可以看到调用 zend_hash_init 初始化了 array,调用 zend_hash_destroy 释放持久化的内存。
设置比较函数
进行具体比较顺序控制的函数指针是cmp,是通过向 php_get_data_compare_func 传入 sort_type 和 0 得到的,sort_type 也就是 SORT_STRING 这样的标记。
php_get_data_compare_func 在 array.c 文件中定义(即与 array_unique 函数同一文件),妹子ui源码代码过长,这里只贴出默认标记为 SORT_STRING 的代码:
在前面的代码中,我们可以看到,cmp = php_get_data_compare_func(sort_type, 0); 的第二个参数,即参数 reverse 的值为 0,也就是当 sort_type 为 PHP_SORT_STRING 时,调用的是 php_array_data_compare_string 函数,即 SORT_STRING 采用 php_array_data_compare_string 进行比较。继续展开 php_array_data_compare_string 函数:
可以得到这样一条调用链:
string_compare_function 是一个 ZEND API,在 /Zend/zend_operators.c 中定义:
可以看到,SORT_STRING 使用 zend_binary_strcmp 函数进行字符串比较。下面的代码是 zend_binary_strcmp 的实现(也在 /Zend/zend_operators.c 中):
上面的代码是比较两个字符串。也就是SORT_STRING 排序方式的底层实现是 C 语言的 memcmp,即它对两个字符串从前往后,按照逐个字节比较,一旦字节有差异,就终止并比较出大小。
数组排序
这段代码初始化一个新的数组,然后将值拷贝到新数组,然后调用zend_sort 排序函数对数组进行排序。排序算法在 /Zend/zend_sort.c 中实现,注释有这样一句话:
Derived from LLVM's libc++ implementation of std::sort.
这个排序算法是基于LLVM 的 libc++ 中的 std::sort 实现的,算是快排的优化版,当元素数小于等于时有特殊的优化,当元素数小于等于 5 时直接通过 if else 嵌套判断排序。代码就不贴出来了。
数组去重
回到array_unique 上,继续看代码:
遍历排序好的数组,然后删除重复的元素。
众周所知,快排的时间复杂度是O(nlogn),因此,array_unique 函数的时间复杂度是O(nlogn)。array_unique 底层调用了快排算法,加大了函数运行的时间开销,当数据量很大时,会导致整个函数的运行较慢。
通过深挖Clickhouse源码,我精通了数据去重!
数据去重的Clickhouse探索
在大数据面试中,数据去重是一个常考问题。虽然很多博主已经分享过相关知识,但本文将带您深入理解Hive引擎和Clickhouse在去重上的差异,尤其是后者如何通过MergeTree和高效的数据结构优化去重性能。Hive去重
Hive中,distinct可能导致数据倾斜,而group by则通过分布式处理提高效率。面试时,理解MapReduce的数据分区分组是关键。然而,对于大规模数据,Hive的处理速度往往无法满足需求。Clickhouse的登场
面对这个问题,Clickhouse凭借其列存储和MergeTree引擎崭露头角。MergeTree的高效体现在它的数据分区和稀疏索引,以及动态生成和合并分区的能力。Clickhouse:Yandex开源的实时分析数据库,每秒处理亿级数据
MergeTree存储结构:基于列存储,通过合并树实现高效去重
数据分区和稀疏索引
Clickhouse的分区策略和数据组织使得去重更为快速。稀疏索引通过标记大量数据区间,极大地减少了查询范围,提高性能。优化后的去重速度
测试显示,Clickhouse在去重任务上表现出惊人速度,特别是通过Bitmap机制,去重性能进一步提升。源码解析与原则
深入了解Clickhouse的底层原理,如Bitmap机制,对于优化去重至关重要,这体现了对业务实现性能影响的深度理解。总结与启示
对于数据去重,无论面试还是日常工作中,深入探究和实践是提升的关键。不断积累和学习,即使是初入职场者也能在大数据领域找到自己的位置。降低代码的圈复杂度——复杂代码解决之道
本文以Go语言为例,探讨降低代码圈复杂度的重要性与方法。首先,什么是圈复杂度?它是一种用于衡量程序复杂性的软件度量指标,由Thomas J. McCabe, Sr.在年提出。圈复杂度衡量的是程序源代码中的独立路径数量,有助于开发者识别和优化复杂度高的代码。
圈复杂度为何重要?当项目规模增加,业务逻辑复杂,代码可读性差,维护成本随之提高。例如,使用TDD开发时,单测代码量激增,而业务逻辑尚未开始实现。代码过长、嵌套复杂,易导致难以理解、维护困难。为避免此类问题,开发者可在编码、代码审查阶段使用圈复杂度检测工具,通过重构代码结构、减少控制结构(如if、else、while)的使用,将长函数拆分为小而清晰的职责单一函数,或采用设计模式解决复杂逻辑。虽然短期内可能需要重构他人代码,但从长远看,低圈复杂度代码具备更佳的可读性、扩展性和可维护性。
圈复杂度的计算方法主要有节点判定法和工具辅助计算。节点判定法基于公式:圈复杂度 = 节点数量 + 1,其中节点包括条件判断、循环、异常处理等控制结构。使用工具如gocognit可以快速计算代码圈复杂度,辅助代码优化。
如何降低圈复杂度?核心在于减少代码中的控制结构数量。拆分小函数,将复杂业务逻辑分解为单一职责的函数,提高代码可读性和可维护性。优化流程控制语句,避免冗长的if-else嵌套。此外,利用代码重构工具如go-linq简化代码结构,通过流式编程实现代码的简洁与可读性。
go-linq提供了一种简洁的代码风格,支持流式操作,如遍历、筛选、去重、交集、并集等,有助于代码逻辑清晰化。但使用go-linq时应考虑代码的可读性和整体结构,避免盲目追求低圈复杂度而牺牲代码可理解性。
总结而言,降低圈复杂度是提升代码质量、提高可维护性的关键步骤。开发者应根据业务需求和实际场景选择合适的优化策略,利用工具辅助提高代码的可读性和可维护性,从而构建高效、易于维护的软件系统。