专栏名称: 数据派THU
本订阅号是“THU数据派”的姊妹账号,致力于传播大数据价值、培养数据思维。
目录
相关文章推荐
大数据文摘  ·  AI + 影视,学会「避坑」再「吟诗 ... ·  2 天前  
软件定义世界(SDX)  ·  2024『AI十大前沿技术』趋势展望发布 ·  2 天前  
玉树芝兰  ·  提示词里的大模型「人设」,有用吗? ·  昨天  
51好读  ›  专栏  ›  数据派THU

数据蒋堂 | 从SQL语法看集合化

数据派THU  · 公众号  · 大数据  · 2017-08-19 19:00

正文

来源:数据蒋堂

作者:蒋步星

本文长度为1827,建议阅读4分钟

本文为你介绍以Java作为参照语言,从SQL的语法上看集合化语言的一些特征。

SQL作为最常用的结构化数据计算语言,虽然在做一些细致处理时不太方便,但用于描述基本运算还是比Java等高级语言要简单许多。这是因为SQL是一种集合化的语言,而Java等语言不是。我们下面从SQL的语法上看集合化语言的一些特征,为了方便讨论,我们就用Java作为参照语言,其它高级语言是类似的。

集合运算能力

结构化数据经常是批量(以集合形式)出现的,为了方便地计算这类数据,程序设计语言有必要提供足够的集合运算能力。

Java等高级语言则没有直接提供集合运算类库,虽然也有数组(相当于集合)数据类型,但并没有定义多少基本运算,以至于我们要对数据成员做个简单地求和也需要写四五行循环语句才能完成,而要做过滤、分组聚合等运算则常常要写出数百行代码。代码过长不仅仅是写起来很繁琐,而且也不利于理解算法的整体结构,算法过程都湮没在细节处理中。

而SQL则提供有较丰富的集合运算,如SUM/COUNT等聚合运算,WHERE用于过滤、GROUP用于分组,也支持针对集合的交、并、差等基本运算。这样写出来的代码就会短小很多。

表达式参数

那么,有了集合运算能力是否就够了呢?假如,我们为Java这类语言开发一批的集合运算类库,是否就可以达到SQL的效果呢?

没有这么简单!

我们来看一下过滤运算。过滤通常需要一个条件,把满足条件的集合成员保留,更技术的说法,是保留条件计算结果为真的成员。在SQL中这个条件是以一个表达式形式出现的,比如写WHERE x>0,就表示保留那些使得x>0计算结果为真的成员。这个表达式x>0并不是在执行这个语句之前先计算好的,而是在针对集合成员遍历时才计算的。本质上,这个表达式就是一个函数,是一个以当前集合成员为参数的函数。对于WHERE运算而言,相当于把一个用表达式定义的函数用作了WHERE的参数。

Java的语法不能直接支持这种写法。Java当然也允许把一个函数作为参数传递给另一个函数,但写法要麻烦很多,需要事先定义一个函数,代码看起来非常臃肿。而直接把表达式写到函数的参数中,会被先计算出来,而不是针对每个集合成员分别计算。

相比之下,SQL这种用表达式直接定义函数而作为参数传递的方法,显然要简捷和直观得多了。

这种写法有一个术语叫做lambda语法,或者叫函数式语言。

SQL中大量使用了lambda语法。除了过滤这种运算可以说必须要用外,有些并非必须的情况,使用了这种语法形式也会更为简单。比如聚合函数中可以填入表达式来计算运算后的聚合值,如sum(x*x)计算平方和,这里x*x也是在sum的执行过程中再计算的。在不支持lamdba语法时,我们也可以先用集合运算计算出成员平方构成的集合,再针对这个集合进行地求和,但写法上就不如使用lamdba语法更为直观,毕竟针对单个成员的表达式要比针对整个集合的计算更容易书写和理解。

直接引用字段

结构化数据并非简单的单值,而是带有字段的记录。

我们看到,在SQL的表达式参数中引用记录字段时,大多数情况可以直接使用字段名称而不必指明字段所属的记录,只有在多个同名字段时才需要冠以表名(或表的别名)以示区分。

再来看Java,即使我们可以容忍事先定义函数来变相实现lambda语法,也只能把当前记录作为参数传入这个函数,然后再写计算式时就总要带上这个记录。比如用单价和数量计算金额时,如果用于表示当前成员的参数名为x,则需要写成 “x.单价*x.数量”。而在SQL中可以更为直观地写成 "单价*数量”。

SQL中这些看起来理所当然的语法风格,其实背后并没有那么简单,这需要精心设计后才能被解释程序正确解析和运算。某些支持lambda语法的脚本语言就没有这个特性,虽然可以用表达式定义函数作为参数传递,但必须写成“x.单价*x.数量”这种啰嗦的形式。有了直接引用字段的语法机制后,才可以说是专门面向结构化数据计算的语言。

动态数据结构

SQL还能很好地支持动态数据结构。

结构化数据计算中,返回值经常也是有结构的数据,而结果数据结构和运算相关,没办法在代码编写之前就先准备好。所以需要支持动态的数据结构能力。

SQL中任何一个SELECT语句都会产生一个新的数据结构,在代码中可以随意添加删除字段,而不必事先定义结构(类)。Java这类语言则不行,在代码编译阶段就要把用到的结构(类)都定义好,原则上不能在执行过程中动态产生新的结构。

解释型语言

动态数据结构不能在编译型语言中实现。前面说到的lambda语法也不适合采用编译型语言来实现。编译器不能确定这个写到参数位置的表达式是应该当场计算出表达式的值再传递,还是把整个表达式编译成一个函数传递,需要再设计更多的语法符号加以区分。而解释型语言则没有这个问题,作为参数的表达式是先计算还是遍历集合成员时再计算,可以由函数本身来决定。解释执行是集合化语言的另一个重要特征。


专栏作者简介



润乾软件创始人、首席科学家


清华大学计算机硕士,著有《非线性报表模型原理》等,1989年,中国首个国际奥林匹克数学竞赛团体冠军成员,个人金牌;2000年,创立润乾公司;2004年,首次在润乾报表中提出非线性报表模型,完美解决了中国式复杂报表制表难题,目前该模型已经成为报表行业的标准;2014年,经过7年开发,润乾软件发布不依赖关系代数模型的计算引擎——集算器,有效地提高了复杂结构化大数据计算的开发和运算效率;2015年,润乾软件被福布斯中文网站评为“2015福布斯中国非上市潜力企业100强”;2016年,荣获中国电子信息产业发展研究院评选的“2016年中国软件和信息服务业十大领军人物”;2017年, 自主创新研发新一代的数据仓库、云数据库等产品即将面世。


数据蒋堂

《数据蒋堂》的作者蒋步星,从事信息系统建设和数据处理长达20多年的时间。他丰富的工程经验与深厚的理论功底相互融合、创新思想与传统观念的相互碰撞,虚拟与现实的相互交织,产生出了一篇篇的沥血之作。此连载的内容涉及从数据呈现、采集到加工计算再到存储以及挖掘等各个方面。大可观数据世界之远景、小可看技术疑难之细节。针对数据领域一些技术难点,站在研发人员的角度从浅入深,进行全方位、360度无死角深度剖析;对于一些业内观点,站在技术人员角度阐述自己的思考和理解。蒋步星还会对大数据的发展,站在业内专家角度给予预测和推断。静下心来认真研读你会发现,《数据蒋堂》的文章,有的会让用户避免重复前人走过的弯路,有的会让攻城狮面对扎心的难题茅塞顿开,有的会为初入行业的读者提供一把开启数据世界的钥匙,有的甚至会让业内专家大跌眼镜,产生思想交锋。


往期回顾:

数据蒋堂 | SQL用作大数据计算语法好吗?

数据蒋堂 | SQL的困难源于关系代数

数据蒋堂 | SQL像英语是个善意的错误

数据蒋堂 | 开放的计算能力为数据库瘦身

数据蒋堂 | 计算封闭性导致臃肿的数据库

数据蒋堂 | 怎样看待存储过程的移植困难

数据蒋堂 | 存储过程的利之弊

数据蒋堂 | 不要对自助BI期望过高

数据蒋堂 | 报表的数据计算层

数据蒋堂 | 报表应用的三层结构

数据蒋堂 | 列式存储的另一面

数据蒋堂 | 硬盘的性能特征

数据蒋堂 | 我们需要怎样的OLAP?

数据蒋堂 | 1T数据到底有多大?

数据蒋堂 | 索引的本质是排序

数据蒋堂 | 功夫都在报表外--漫谈报表性能优化

数据蒋堂 | 非结构化数据分析是忽悠?

数据蒋堂 | 多维分析的后台性能优化手段


编辑:王璇

校对:王红玉


为保证发文质量、树立口碑,数据派现设立“错别字基金”,鼓励读者积极纠错

若您在阅读文章过程中发现任何错误,请在文末留言,或到后台反馈,经小编确认后,数据派将向检举读者发8.8元红包

同一位读者指出同一篇文章多处错误,奖金不变。不同读者指出同一处错误,奖励第一位读者。

感谢一直以来您的关注和支持,希望您能够监督数据派产出更加高质的内容。

公众号底部菜单有惊喜哦!

企业,个人加入组织请查看“联盟”

往期精彩内容请查看“号内搜”

加入志愿者或联系我们请查看“关于我们”