Pig教程

Pig TOKENIZE

Apache Pig TOKENIZE 函数

Apache Pig TOKENIZE 函数用于拆分现有字符串并在结果中生成词袋。

令牌函数示例

在此示例中,我们将字符串拆分为令牌。

执行令牌函数的步骤

在本地机器上创建一个文本文件并插入元组列表。
$ nano evaltokenize.txt 
Apache Pig TOKENIZE Function 检查插入到文本文件中的元组。
$ cat evaltokenize.txt
Apache Pig TOKENIZE Function 上传特定目录下 HDFS 上的文本文件。
$ hdfs dfs-put evaltokenize.txt /pigexample
开启猪 MapReduce 运行模式。
$ pig
加载包含数据的文件。
grunt> A = LOAD '/pigexample/evaltokenize.txt' USING PigStorage(',') AS (a1:chararray) ;
现在,执行并验证数据。
grunt> DUMP A;
Apache Pig TOKENIZE Function 让我们返回字符串的标记化形式。
grunt> Result = FOREACH A GENERATE TOKENIZE(a1);
grunt> DUMP Result;
Apache Pig TOKENIZE Function
在这里,我们得到了想要的输出。
昵称: 邮箱:
Copyright © 2022 立地货 All Rights Reserved.
备案号:京ICP备14037608号-4