课程表

Apache Pig 基础

Apache Pig 诊断运算符

Apache Pig 分组和连接

Apache Pig 合并和拆分

Apache Pig 过滤

Apache Pig 排序

Pig Latin 内置函数

Apache Pig 其他执行模式

工具箱
速查手册

PluckTuple()函数

当前位置:免费教程 » 大数据/云 » Apache Pig

在执行join之类的操作以区分两个模式的列之后,我们使用函数 PluckTuple() 要使用此函数,首先,我们必须定义一个字符串Prefix,并且我们必须对以该prefix开头的关系中的列进行过滤。

语法

下面给出了 PluckTuple() 函数的语法。

  1. DEFINE pluck PluckTuple(expression1)
  2. DEFINE pluck PluckTuple(expression1,expression3)
  3. pluck(expression2)

假设在HDFS目录 /pig_data/ 中有两个文件,分别是 emp_sales.txt emp_bonus.txt emp_sales.txt 包含销售部门员工的详细信息, emp_bonus.txt 包含获得奖金的员工详细信息。

emp_sales.txt

  1. 1,Robin,22,25000,sales
  2. 2,BOB,23,30000,sales
  3. 3,Maya,23,25000,sales
  4. 4,Sara,25,40000,sales
  5. 5,David,23,45000,sales
  6. 6,Maggy,22,35000,sales

emp_bonus.txt

  1. 1,Robin,22,25000,sales
  2. 2,Jaya,23,20000,admin
  3. 3,Maya,23,25000,sales
  4. 4,Alia,25,50000,admin
  5. 5,David,23,45000,sales
  6. 6,Omar,30,30000,admin

分别使用关系 emp_sales  emp_bonus ,将这些文件加载到Pig中。

  1. grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',')
  2. as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
  3. grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
  4. as (sno:int, name:chararray, age:int, salary:int, dept:chararray);

使用 join 运算符连接这两个关系,如下所示。

  1. grunt> join_data = join emp_sales by sno, emp_bonus by sno;

使用 Dump 运算符验证关系 join_data

  1. grunt> Dump join_data;
  2. (1,Robin,22,25000,sales,1,Robin,22,25000,sales)
  3. (2,BOB,23,30000,sales,2,Jaya,23,20000,admin)
  4. (3,Maya,23,25000,sales,3,Maya,23,25000,sales)
  5. (4,Sara,25,40000,sales,4,Alia,25,50000,admin)
  6. (5,David,23,45000,sales,5,David,23,45000,sales)
  7. (6,Maggy,22,35000,sales,6,Omar,30,30000,admin)

使用PluckTuple() 函数

现在,使用 PluckTupe() 函数定义要用来区分列的必需表达式。

  1. grunt> DEFINE pluck PluckTuple('a::');

过滤 join_data 关系中的列,如下所示。

  1. grunt> data = foreach join_data generate FLATTEN(pluck(*));

描述名为 data 的关系,如下所示。

  1. grunt> Describe data;
  2. data: {emp_sales::sno: int, emp_sales::name: chararray, emp_sales::age: int,
  3. emp_sales::salary: int, emp_sales::dept: chararray, emp_bonus::sno: int,
  4. emp_bonus::name: chararray, emp_bonus::age: int, emp_bonus::salary: int,
  5. emp_bonus::dept: chararray}

由于我们已将表达式定义为“a ::",因此 emp_sales 模式的列将被作为 emp_sales :: column name emp_bonus 模式的列将被作为 emp_bonus :: column name

转载本站内容时,请务必注明来自W3xue,违者必究。
 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号