使用MaxCompute访问TableStore(OTS) 简明手册

上面的语句造出一份有50行的数据表,值是从1到50;
测试时候的数据就可以方便造出来了。功能看似简单,但以前是odps的一个痛点,没有方便的办法造数据,就不方便测试以及初学者的学习和探索。当然这也可以通过udtf来实现,但是需要复杂的流程:进入ide->写udtf->打包->add
jar/python->create function->执行->drop function->drop
resource。

例如:

2.下载解压,将conf/odps_config.ini
的内容修改为:

本文为云栖社区原创内容,未经允许不得转载。返回搜狐,查看更多

等效于

access_key= ODPS-AccessKey

  • SELECT TRANSFORM。

  • 场景1

  • 我的系统要迁移到MaxCompute平台上,系统中原来有很多功能是使用脚本来完成的,包括python,shell,ruby等脚本。
    要迁移到MaxCompute上,我需要把这些脚本全部都改造成UDF/UDAF/UDTF。改造过程不仅需要耗费时间人力,还需要做一遍又一遍的测试,从而保证改造成的udf和原来的脚本在逻辑上是等价的。我希望能有更简单的迁移方式。
  • 场景2
  • SQL比较擅长的是集合操作,而我需要做的事情要对一条数据做更多的精细的计算,现有的内置函数不能方便的实现我想要的功能,而UDF的框架不够灵活,并且Java/Python我都不太熟悉。相比之下我更擅长写脚本。我就希望能够写一个脚本,数据全都输入到我的脚本里来,我自己来做各种计算,然后把结果输出。而MaxCompute平台就负责帮我把数据做好切分,让我的脚本能够分布式执行,负责数据的输入表和输出表的管理,负责JOIN,UNION等关系操作就好了。

实际上的逻辑执行顺序是 FROM->WHERE->GROUY
BY->HAVING->SELECT->ORDER
BY->LIMIT,前一个是后一个的输入,与标准的书写语序实际并不相同。很多容易混淆的问题,都是由此引起的。例如order
by中只能引用select列表中生成的列,而不是访问FROM的源表中的列。HAVING可以访问的是
group by key和聚合函数。SELECT的时候,如果有GROUP BY,就只能访问group
key和聚合函数,而不是FROM中源表中的列。

update_url=

这个例子是为了说明,很多java的utility可以直接拿来运行。java和python虽然有现成的udtf框架,但是用select
transform编写更简单,并且不需要额外依赖,也没有格式要求,甚至可以实现离线脚本拿来直接就用。

图片 1

CREATE EXTERNAL TABLE IF NOT
EXISTS
ots_vehicle_track

Select
transform允许sql用户指定在服务器上执行一句shell命令,将上游数据各字段用tab分隔,每条记录一行,逐行输入shell命令的stdin,并从stdout读取数据作为输出,送到下游。Shell命令的本质是调用Unix的一些utility,因此可以启动其他的脚本解释器。包括python,java,php,awk,ruby等。

是否合并或者分裂子查询,是由ODPS2.0的基于代价的优化器
(CBO)做出决定的,SQL本身的书写方式,不管是CTE还是子查询,并不能确保物理执行计划的合并或者分裂。

set odps.task.major.version=2dot0_demo_flighting;

第二弹 – 新的基本数据类型与内建函数

其中M1, M2,
M4三个分布式任务分别对应对应三个输入表,双击M2可以看到中具体执行的DAG(在DAG中再次双击可以返回),如下

select
cloud_metric_extract_md5(name,
name) as udf_test from test_table
limit 1;

  1. UDTF是有类型,而Transform的子进程基于stdin/stdout传输数据,所有数据都当做string处理,因此transform多了一步类型转换;
  2. Transform数据传输依赖于操作系统的管道,而目前管道的buffer仅有4KB,且不能设置,
    transform读/写 空/满 的pipe会导致进程被挂起;
  3. UDTF的常量参数可以不用传输,而Transform没办法利用这个优化。

ODPS1.0不支持顶层UNION。ODPS2.0可以支持,例如

 

  1. 可以串联着用,使用 distribute by和 sort by对输入数据做预处理

2

 

图片 2

EXISTS SUBQUERY/NOT EXISTS SUBQUERY

‘tablestore.table.name’=’vehicle_track’ —
(4)

上面的语句仅仅是把value原样输出,但是熟悉awk的用户,从此过上了写awk脚本不写sql的日子

图片 3

分布式NoSQL数据存储服务,无缝支持单表PB级数据及百万级访问并发,弹性资源,按量计费,对数据高频的增、删、改支持的很好,保证单行数据读写的强一致性。

图片 4

LEFT SEMI JOIN

DROP TABLE IF EXISTS
ots_vehicle_track;

  1. 无中生有造数据

场景1 

project_name=上面申请的ODPS工程名

MaxCompute基于ODPS2.0新一代的SQL引擎,显著提升了SQL语言编译过程的易用性与语言的表达能力。我们在此推出MaxCompute(ODPS2.0)重装上阵系列文章

IN SUBQUERY与LEFT SEMI JOIN类似。

// 统计编号 4 以下的车辆在时间戳 1469171387
以前的平均速度和平均油耗

图片 5

等效于

)

该命令兼容Hive的Transform功能,可以参考Hive的文档。一些需要注意的点如下:

a

然后,准备好一个表格存储的实例以及一张数据表,表格存储实例管理,准备好实例名、EndPoint,为了区别其他产品的AccessId和AccessKey,后面我们称之为TableStore-InstanceName,TableStore-EndPoint。

或者用map,reduce的关键字会让逻辑显得清楚一些

原有ODPS也支持IN SUBQUERY,但是不支持correlated条件,MaxCompute支持

set odps.sql.ddl.odps2=true;

或者使用python

编译此脚本,可以观察执行计划如下

5.创建一张 MaxCompute 的数据表关联到 TableStore
的某一张表。

或者

MaxCompute大大扩充了DML语句的支持,在易用性,兼容性和性能方面,可以更好的满足您的需求。对于SQL比较熟悉的专家会发现,上述功能大部分是标准的SQL支持的功能。MaxCompute会持续提升与标准SQL和业界常用产品的兼容性。

目前ODPS-SQL访问 TaleStore
还在对执行逻辑进行深度的优化,如果有需求请联系ots_support,我们将针对业务场景来进行优化。

小结

除此之外,针对MaxCompute用户的特点,也就是需要在非常复杂的业务场景下,支持对己大量数据的处理,MaxCompute提供了特有的脚本模式和参数化视图,将在下一次为您介绍。

3.行bin/odpscmd,输入show
tables,正常执行则表示上面配置正确。

理论上OpenMR的模型都可以映射到上面的计算过程。注意,使用map,reduce,select
transform这几个语法其实语义是一样的,用哪个关键字,哪种写法,不影响直接过程和结果。

图片 6

什么是大数据计算服务 MaxCompute?

MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,
尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
MaxCompute除了持续优化性能外,也致力于提升SQL语言的用户体验和表达能力,提高广大ODPS开发者的生产力。

图片 7

3.打开bin/odpscmd,输入

  1. awk 用户会很喜欢这个功能

SELECT*frommytable1whereidnotin(selectidfrommytable2);

STORED BY ‘com.aliyun.odps.TableStoreStorageHandler’
— (1)

上次向您介绍了CTE,VALUES,SEMIJOIN,本篇向您介绍MaxCompute对其他脚本语言的支持

场景3

环境准备

性能上,SELECT TRANSFORM 与UDTF
各有千秋。经过多种场景对比测试,数据量较小时,大多数场景下select
transform有优势,而数据量大时UDTF有优势。由于transform的开发更加简便,所以select
transform非常适合做adhoc的数据分析。

场景4

有时候用户在表格存储里面的数据有独特的结构,希望自己开发逻辑来处理每一行数据,比如解析特定的json字符串,这一块的开发也已经很方便了。

第三弹 – 复杂类型

大部分DBMS系统中,如MySQL,Hive等,UNION后如果有CLUSTER BY, DISTRIBUTE
BY, SORT BY, ORDER
BY或者LIMIT子句,其作用于与前面所有UNION的结果,而不是UNION的最后一路。ODPS2.0在set
odps.sql.type.system.odps2=true;的时候,也采用此行为。例如:

使用客户端 ODPS-CMD

  1. 子进程和父进程是两个进程,而UDTF是单线程的,如果计算占比比较高,数据吞吐量比较小,可以利用服务器的多核特性
  2. 数据的传输通过更底层的系统调用来读写,效率比java高
  3. SELECT
    TRANSFORM支持的某些工具,如awk,是natvie代码实现的,和java相比理论上可能会有性能优势。

SELECT*frommytable1 aLEFTSEMIJOINmytable2 bona.id=b.id;

 

图片 8

使用 UDF(User Defined Function)处理数据

第四弹 – CTE,VALUES,SEMIJOIN

执行后在,MaxCompute Project
Explorer中可以找到新创建的表,并看到values中的数据已经插入到表中,如下:

  1. FAILED: ODPS-0010000:System internal error – fuxi
    job failed, WorkerPackageNotExist:需要设置set
    odps.task.major.version=unstructured_data
  2. FAILED: ODPS-0010000:System internal error –
    std::exception:Message: a timeout was
    reached:一般情况下是OTS的endpoint填写错误,导致ODPS没法访问,可以咨询ots_support旺旺账号
  3. logview invalid
    end_point:在执行过程中,会返回一个logview
    URL地址,如果使用浏览器访问该地址返回错误,可能是配置不对,请检查
    MaxCompute 配置,并咨询 odps_support 旺旺账号
  1. 用odps跑测试

例如:

)

性能

上次向您介绍了复杂类型,从本篇开始,向您介绍MaxCompute在SQL语言DML方面的改进

FAQ

提交作业可以看到执行计划(全部展开后的视图):

对于NOT IN SUBQUERY,类似于LEFT ANTI JOIN,但是有一点显著不同

摘要: 大数据计算服务 MaxCompute
能够提供强大的分析能力,而分布式 NoSQL
数据库表格存储在行级别上的实时更新和可覆盖性写入等特性,相对于
MaxCompute 内置表 append-only 批量操作,提供了一个很好的补充。

理论上select transform能实现的功能udtf都能实现,但是select
transform比udtf要灵活得多。且select
transform不仅支持java和python,还支持shell,perl等其它脚本和工具。
且编写的过程要简单,特别适合adhoc功能的实现。举几个例子:

其中子查询中的where value =
mytable1.value就是一个correlated条件,原有ODPS对于这种既引用了子查询中源表,由引用了外层查询源表的表达式时,会报告错误。MaxCompute支持这种用法,这样的过滤条件事实上构成了SEMI
JOIN中的ON条件的一部分。

关联的数据表信息如下:

select transform (key, value) using “perl -e ‘while($input =
<STDIN>){print $input;}'” from src;

则等效于

set
odps.sql.planner.mode=lot;

图片 9

图片 10

LOCATION ‘tablestore://vehicle-test.cn-shanghai.ots-internal.aliyuncs.com’; — (5)

目前odps select transform完全兼容了hive的语法、功能和行为,包括
input/output row format 以及
reader/writer。Hive上的脚本,大部分可以直接拿来运行,部分脚本只需要经过少许改动即可运行。另外我们很多功能都用比hive更高执行效率的语言
(C++) 重构,用以优化性能。

返回

distance double
,

上述功能可以使用SELECT TRANSFORM来实现

SELECT*FROMsrcUNIONALLSELECT*FROMsrc;

# this url is for odpscmd update

摘要:
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,
尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
MaxCompute除了持续优化性能外,也致力于提升SQL语言的用户体验和表达能力,提高广大ODPS开发者的生产力。

INSERT… VALUES…
有一个限制,values必须是常量,但是有的时候希望在插入的数据中进行一些简单的运算,这个时候可以使用MaxCompute的VALUES
TABLE功能,如下:

首先,准备好一个 MaxCompute 的工程,工程创建指导文档,准备好AccessId和AccessKey备用,为了区别其他产品的AccessId和AccessKey,后面我们称之为ODPS-AccessId,ODPS-AccessKey。并在RAM中授权
MaxCompute 访问 TableStore 的权限,授权方式请参考MaxCompute访问TableStore数据——授权

此文中采用MaxCompute Studio作展示,首先,安装MaxCompute
Studio,导入测试MaxCompute项目,创建工程,建立一个新的MaxCompute脚本文件, 如下

支持新的SELECT语序

set odps.sql.type.system.odps2=true; –是支持表格存储的binary类型

6.
资源文件会被下载到执行指定命令的工作目录,可以使用文件接口打开./bar.txt文件。

UNION后LIMIT的语义变化。

网络连通性

SELECT TRANSFORM 的优势:

返回左表中的数据,当join条件成立,也就是mytable1中某行的id在mytable2的所有id中出现过,此行就保留在结果集中

写在最后

责任编辑:

图片 11

 

  1. 支持其他脚本语言

SELECT*frommytable1 aLEFTANTIJOINmytable2 bona.id=b.id;

vid bigint,

SELECT TRANSFORM 介绍

但是,如果mytable2中有任何为NULL的列,则 not
in表达式会为NULL,导致where条件不成立,无数据返回,此时与LEFT ANTI
JOIN不同。

  • 实例名称:vehicle-test
  • 数据表名称:vehicle_track
  • 主键信息:vid(int); gt (int)
  • 访问域名:https://vehicle-test.cn-shanghai.ots-internal.aliyuncs.com

图片 12

还有一种VALUES表的特殊形式

常见错误处理:

相关文章