AK文件读入 (AkSourceBatchOp)

Java 类名：com.alibaba.alink.operator.batch.source.AkSourceBatchOp

Python 类名：AkSourceBatchOp

功能介绍

从文件系统读Ak文件。Ak文件格式是Alink 自定义的一种文件格式，能够将数据的Schema保留输出的文件格式。

分区选择

Export2FileSinkStreamOp组件能将数据分区保存，AkSourceBatchOp可以选择分区读取。
分区目录名格式为”分区名=值”，例如： month=06/day=17;month=06/day=18。
Alink将遍历目录下的分区名和分区值，构造分区表：

使用SQL语句查找分区，例如：AkSourceBatchOp.setPartitions(“day = ‘17’”)，分区选择语法参考《Flink SQL 内置函数》，分区值为String类型。

参数说明

代码示例

Python 代码

from pyalink.alink import *
import pandas as pd
useLocalEnv(1)
df = pd.DataFrame([
    [2, 1, 1],
    [3, 2, 1],
    [4, 3, 2],
    [2, 4, 1],
    [2, 2, 1],
    [4, 3, 2],
    [1, 2, 1],
    [5, 3, 3]])
batchData = BatchOperator.fromDataframe(df, schemaStr='f0 int, f1 int, label int')
filePath = "/tmp/test_alink_file_sink";
# write file to local disk
batchData.link(AkSinkBatchOp()\
                .setFilePath(FilePath(filePath))\
                .setOverwriteSink(True)\
                .setNumFiles(1))
BatchOperator.execute()
# read ak file and print
AkSourceBatchOp().setFilePath(FilePath(filePath)).print()

Java 代码

import org.apache.flink.types.Row;
import com.alibaba.alink.common.io.filesystem.FilePath;
import com.alibaba.alink.operator.batch.BatchOperator;
import com.alibaba.alink.operator.batch.sink.AkSinkBatchOp;
import com.alibaba.alink.operator.batch.source.AkSourceBatchOp;
import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
import org.junit.Test;
import java.util.Arrays;
import java.util.List;
public class AkSourceBatchOpTest {
    @Test
    public void testAkSourceBatchOp() throws Exception {
        List <Row> df = Arrays.asList(
            Row.of(2, 1, 1),
            Row.of(3, 2, 1),
            Row.of(4, 3, 2),
            Row.of(2, 4, 1),
            Row.of(2, 2, 1),
            Row.of(4, 3, 2),
            Row.of(1, 2, 1)
        );
        BatchOperator <?> batchData = new MemSourceBatchOp(df, "f0 int, f1 int, label int");
        String filePath = "/tmp/test_alink_file_sink";
        batchData.link(new AkSinkBatchOp()
            .setFilePath(new FilePath(filePath))
            .setOverwriteSink(true)
            .setNumFiles(1));
        BatchOperator.execute();
        new AkSourceBatchOp().setFilePath(new FilePath(filePath)).print();
    }
}

运行结果