基于Hive的优化器优化方法

摘要

本发明公开了一种基于Hive的优化器优化方法，其步骤包括：将结构化查询语言数据发送至语义分析驱动模块；在语义分析驱动模块中，对结构化查询语言数据进行分析，并将语义分析数据发送至元数据分析器模块；基于缓存的优化器接收并优化关键词数据和元数据分析器模块的分析数据；基于规则的优化器接收并优化基于缓存的优化器的优化数据；获取元数据的关键词，并将其保存在关键词存储模块中；在自动建模功能模块中，接收基于规则的优化器的最优结构化查询语言数据并进行建模；元数据统计模型模块与自动建模功能模块进行数据交换；将建模数据传送至Hive客户端模块。本发明提供的基于Hive的优化器优化方法，不仅效率高，而且可以可以消除重复计算，方便使用。

主权项

一种基于Hive的优化器优化方法，其特征在于：步骤包括：在ETL自动化模块中，接收Hive客户端模块的结构化查询语言数据；将结构化查询语言数据发送至语义分析驱动模块；在语义分析驱动模块中，对结构化查询语言数据进行分析，并将语义分析数据发送至元数据分析器模块；基于缓存的优化器接收并优化关键词数据和元数据分析器模块的分析数据；基于规则的优化器接收并优化基于缓存的优化器的优化数据；获取元数据分析器模块的分析数据、Hive元数据、Hadoop元数据和优化数据中的关键词，并将其保存在关键词存储模块中；在自动建模功能模块中，接收基于规则的优化器的最优结构化查询语言数据；根据中间表、指标汇总表和最优结构化查询语言，进行建模；在元数据统计模型模块中，接收并统计建模数据；在自动建模功能模块中，接收统计数据，并根据统计数据进行建模；将建模数据传送至Hive客户端模块。