1.Codegen技术在MPP数据库的源码应用
2.cmake MakefileList.txt文件解析与实践
3.Impala 技术总结
4.impala和hive的区别

Codegen技术在MPP数据库的应用

       Codegen技术在MPP数据库的应用探讨了查询编译（Query Compilation）在OLAP引擎中的优势，特别是编译针对大数据分析场景。火山模型执行引擎提供了可扩展性、源码并行性、编译流水线化并行和迭代器拉取等特性，源码但在硬件快速发展的编译resource底层源码今天，显示出一些局限性，源码如iterator overhead、编译cache inefficiency和CPU inefficiency。源码为了解决这些问题，编译Codegen技术被引入，源码它通过动态编译提升性能，编译尤其是源码在处理大规模数据时。

       在OLAP场景下，编译Codegen技术能够显著减少CPU指令执行时间，源码特别是当处理万行数据时，相较于查询解释执行的方案，性能优势可达8-9倍。信息发布付费源码通过对比不同实现方式的核心汇编指令，发现查询编译方式的指令数量明显较少，从而减少了CPU的指令周期消耗，提高了性能。

       大数据量分析场景下的SQL执行瓶颈大多落在CPU上。Codegen技术通过减少CPU指令运算是非常有必要的。探索Codegen技术在谓词表达式、数据解析、表达式和Operator（火山模型中的单个操作符）等方面的应用，能够进一步优化性能。现代硬件的发展使得查询编译技术成为提升MPP数据库性能的关键方法。

       为了实现Codegen技术，可以使用LLVM IR（LLVM中间表示）作为代码生成的标准。LLVM IR提供了一个统一的中间代码，使得不同编程语言和硬件设备的编译成为可能。通过使用LLVM IRBuilder API进行编码，可以生成特定的连信源码下载机器码，从而实现高效执行。

       Impala是使用Codegen技术的一个实例，它在查询开始前生成并编译关键性能函数的特定版本。通过对比使用LLVM IRBuilder生成代码与普通读取代码，可以发现生成代码可以显著减少指令数量，从而提高性能。在优化后，Codegen技术在不同查询和数据集上的加速比显著提高。

       总结而言，Codegen技术结合LLVM IR在MPP数据库中的应用，能够有效地提升查询执行效率，尤其是在处理大规模数据和复杂查询时。随着技术的进一步发展，Codegen有望实现整个查询执行树的优化，消除内存访问并利用寄存器保存状态，从而极大地提高MPP数据库的性能。

cmake MakefileList.txt文件解析与实践

       通过分析Apache Impala项目的android硬解源码构建过程，我们了解到其使用CMake作为构建工具。在项目中，几乎每个子目录都包含有CMakeLists.txt文件，用于描述特定模块的构建需求。在实际应用中，构建CMake C++项目时，可以参考Impala的项目结构进行操作。

       在构建前，首先分析项目结构，通常分为三个部分：源代码目录、中间文件目录及构建目录。项目根目录下的CMakeLists.txt文件包含了构建项目的主线内容，而模块目录下的文件则较为简洁，仅包含模块内源代码文件及CMakeLists.txt。

       在构建过程中，CMakeLists.txt文件起到了关键作用。项目目录中的房子线指标源码文件通常较为复杂，包含了用于构建整个项目的配置信息；而模块目录下的文件则相对简单，主要关注模块内部的源代码组织与构建需求。

       在实际操作中，通过合理使用CMakeLists.txt文件，可以实现多模块项目的构建。例如，可以创建一个名为first的子模块，通过执行build.sh脚本进行构建，使用make命令进行编译和链接，确保C++项目和Java项目均能正常编译。

       在构建过程中，需要注意清理CMake生成的中间文件。通常建议将中间文件存储于一个专门的build目录中，以避免混淆源码目录。为了简化构建过程，可以创建一个build.sh脚本，用于构建整个项目。

       在创建CMakeLists.txt文件时，应注意区分项目层级与模块层级的需求。通过合理组织CMakeLists.txt文件，可以实现多模块项目的协同构建。对于Java模块，同样可以使用CMake进行编译，实现跨语言项目的整合构建。

       使用CMake进行异构项目的构建时，可以实现对C++项目、Maven项目、Python项目的统一管理。构建流程通常由一个名为buildall.sh的脚本进行控制，该脚本负责管理项目的依赖检查、下载、构建等过程。在构建过程中，通过设置相关环境变量、构建类型等参数，可以确保构建过程的顺利进行。

       总之，通过深入了解CMake的使用方法，结合实际项目需求，可以高效地进行多模块项目的构建，实现跨语言、跨平台的项目整合与管理。

Impala 技术总结

       Impala技术总结

       Impala是由Cloudera公司主导开发的新型查询系统，专注于处理Hadoop中的PB级大数据，提供SQL语义。相较于Hive，Impala的最大优势在于其快速响应能力。具体来说，Impala的快速特性体现在以下几个方面：

       1. 不需要将中间结果写入磁盘，减少了大量的I/O开销。

       2. 省去了MapReduce作业启动的开销，提高了作业调度速度。

       3. 完全抛弃了MapReduce，借鉴了MPP并行数据库的思想，进行更多查询优化，减少了不必要的shuffle、sort等开销。

       4. 通过LLVM统一编译运行时代码，避免了通用编译带来的额外开销。

       5. 使用C++实现，针对硬件做了大量优化，如使用SSE指令。

       6. 采用了支持Data locality的I/O调度机制，将数据和计算尽可能分配在同一台机器上，减少了网络开销。

       安装Impala相对简单，在CDH主节点的端口界面，直接添加服务即可。

       使用方法如下：添加服务后，在主节点或子节点输入“impala-shell”进入SQL编写界面，然后通过“connect”命令连接到CDH中的Impala服务节点，如“connect hadoop”。之后，与MySQL类似，使用命令“use ods”进行表切换，执行SQL语句。

       与普通SQL相比，Impala SQL存在以下差异：

       1. 缺乏存储过程概念，直接在文件中调用执行。

       2. 调用Hive数据表前需要同步数据结构，手动执行“INVALIDATE METADATA;”命令。

       3. 特殊的语法处理，如“truncate”命令格式与常规SQL不同。

       4. 字段类型强制相同，字符型与数值型不能互相比较，使用时需注意添加引号。

       5. 缺乏事务支持，更新或删除数据采用全表覆盖方式，使用“insert overwrite”语句。

       6. group by语句使用严格，除非包含汇总项，否则会报错。

       运行Impala时，可能遇到的常见问题及解决方法：

       1. Memory limit exceeded问题：通过调整Impala配置中的内存限制，通常建议设置为接近机器内存大小，以充分利用内存计算能力。

impala和hive的区别

       1、执行计划不同：

       Impala: 把执行计划表现为一棵完整的执行计划树，可以更自然地分发执行计划到各个Impalad执行查询，而不用像Hive那样把它组合成管道型的 map-reduce模式，以此保证Impala有更好的并发性和避免不必要的中间sort与shuffle。

       Hive的执行计划分成 map-shuffle-reduce-map-shuffle-reduce…的模型。如果一个Query会被编译成多轮MapReduce，则会有更多的写中间结果。由于MapReduce执行框架本身的特点，过多的中间过程会增加整个Query的执行时间。

       2、数据流不同：

       Impala: 采用拉的方式，后续节点通过getNext主动向前面节点要数据，以此方式数据可以流式的返回给客户端，且只要有1条数据被处理完，就可以立即展现出来，而不用等到全部处理完成，更符合SQL交互式查询使用。

       Hive: 采用推的方式，每一个计算节点计算完成后将数据主动推给后续节点。

       3、所使用的内存不同：

       Impala: 在遇到内存放不下数据时，会直接返回错误，而不会利用外存，这使用得Impala目前处理Query会受到一 定的限制，最好还是与Hive配合使用。Impala在多个阶段之间利用网络传输数据，在执行过程不会有写磁盘的操作（insert除外）。

       Hive: 在执行过程中如果内存放不下所有数据，则会使用外存，以保证Query能顺序执行完。每一轮MapReduce结束，中间结果也会写入HDFS中，同样由于MapReduce执行架构的特性，shuffle过程也会有写本地磁盘的操作。

       4、调度不同：

       Impala: 调度由自己完成，目前只有一种调度器simple-schedule，它会尽量满足数据的局部性，扫描数据的进程尽量靠近数据本身所在的物理机器。

       Hive: 任务调度依赖于Hadoop的调度策略。