设为首页 收藏本站
查看: 1039|回复: 0

[经验分享] Apache Calcite官方文档中文版-概览-1.背景

[复制链接]

尚未签到

发表于 2018-11-17 09:42:31 | 显示全部楼层 |阅读模式
第一部分 概览

1.   背景
    Apache Calcite是一个动态数据管理框架。它包含了许多组成典型数据管理系统的经典模块,但省略了一些关键×××: 数据存储,数据处理算法和元数据存储库。
    Calcite有意地远离了存储和处理数据的任务。如我们所见,这使得它成为在应用程序和一个或多个数据存储位置和数据处理引擎之间的最佳中间层选择。它同样也是构建数据库的完美基础选择: 只需要在它的基础上添加数据。
    下面为了展示说明,我们建立了一个空的Calcite实例并查询数据。
  

public static>public final Employee[] emps = 0;  public final Department[] depts = 0;
  
}
  
Class.forName("org.apache.calcite.jdbc.Driver");
  
Properties info = new Properties();
  
info.setProperty("lex", "JAVA");
  
Connection connection = DriverManager.getConnection("jdbc:calcite:", info);
  
CalciteConnection calciteConnection = connection.unwrap(CalciteConnection.class);
  
SchemaPlus rootSchema = calciteConnection.getRootSchema();
  
Schema schema = ReflectiveSchema.create(calciteConnection,
  
rootSchema, "hr", new HrSchema());
  
rootSchema.add("hr", schema);
  
Statement statement = calciteConnection.createStatement();
  
ResultSet resultSet = statement.executeQuery(
  "select d.deptno, min(e.empid)\n"
  + "from hr.emps as e\n"
  + "join hr.depts as d\n"
  + "  on e.deptno = d.deptno\n"
  + "group by d.deptno\n"
  + "having count(*) > 1");
  
print(resultSet);
  
resultSet.close();
  
statement.close();
  
connection.close();
  

    大家可能对上面的代码比较疑惑,数据库在哪里?这里没有数据库。在我们调用ReflectiveSchema.create将一个java object注册为schema,以及这个集合的成员emps和depts作为表之前,connection都是空的。
    Calcite并不想管理数据,它甚至没有标准的数据格式。上面的例子使用了内存数据集,并且使用linq4j libaray的groupBy和join操作来对他们进行处理,但Calcite同样也支持以其他标准数据格式对数据进行处理,例如JDBC。在上面的例子中,将下面的代码
  

Schema schema = ReflectiveSchema.create(calciteConnection, rootSchema, "hr", new HrSchema());  

  替换成:
  

Class.forName("com.mysql.jdbc.Driver");  
BasicDataSource dataSource = new BasicDataSource();
  
dataSource.setUrl("jdbc:mysql://localhost");
  
dataSource.setUsername("username");
  
dataSource.setPassword("password");
  
Schema schema = JdbcSchema.create(rootSchema, "hr", dataSource,
  null, "name");
  

  %emsp;%emsp;Calcite就可以通过JDBC来执行同样的查询了。对应用来说,数据和API不会产生任何变化,但底层的实现却差异巨大。Calcite使用优化规则来将JOIN和GROUP BY操作下推到源数据库中进行执行。
  %emsp;%emsp;基于内存和基于JDBC只是两个大家较为熟悉的例子。Calcite可以处理任意一种数据源和数据格式。如果想要增加数据源,我们需要编写一个适配器来告诉Calcite,它应该将数据源中的什么样的集合视为“table”来进行操作。
  %emsp;%emsp;如果想要进一步更智能地集成,我们可以编写自己的优化器规则。优化器规则允许Calcite来处理新格式的数据,并注册新的算子(如更优化的join算法),同时还允许Calcite来对查询转化为算子的过程进行优化。Calcite会结合用户提供的规则和算子与系统内建规则和算子,执行基于成本的优化,生成高效的执行计划。

编写适配器Adapter
  %emsp;%emsp;Calcite在example/csv子项目下提供了CSV的适配器。它能很好地支持应用程序的功能需求,同时如果正在编写自己的适配器,它也能作为一个足够简单的例子来作为参考模板。
  %emsp;%emsp;具体使用CSV 适配器和编写其他适配器的方法请查看下一章节2教程。
  %emsp;%emsp;帮助(HOWTO)章节提供了更多使用其他适配器的信息,和常用的使用场景。

功能状态
  %emsp;%emsp;Calcite提供了以下特性:
  1)  查询解析器、验证器和优化器
  2)  以JSON格式读取模型
  3)  标准函数以及标准聚合函数
  4)  针对Linq4j和JDBC后端的JDBC查询
  5)  Linq4j front-end
  6)  SQL特性:SELECT, FROM (包括JOIN语法), WHERE, GROUP BY (包括GROUPING SETS), 聚合函数 (包括COUNT(DISTINCT...) 和FILTER),HAVING, ORDER BY(包括NULLS FIRST/LAST), 集合操作 (UNION, INTERSECT, MINUS), 子查询(包括相关子查询), 窗口聚合函数,LIMIT (Postgres语法); SQL reference章节中提供了更详细的信息
  7)  本地和远程JDBC驱动器,详情参考Avatica章节
  8)  多种适配器



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-636074-1-1.html 上篇帖子: apache2.4-zhangyuhe2的博客 下篇帖子: Apache Calcite官方文档中文版- 概览-2. 教程
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表