Java 类名：com.alibaba.alink.operator.batch.sink.AkSinkBatchOp
Python 类名：AkSinkBatchOp

功能介绍

将一个批式数据，以Ak文件格式写出到文件系统。Ak文件格式是Alink 自定义的一种文件格式，能够将数据的Schema保留输出的文件格式。

参数说明

| 名称 | 中文名称 | 描述 | 类型 | 是否必须？ | 取值范围 | 默认值 | | —- | —- | —- | —- | —- | —- | —- |

| filePath | 文件路径 | 文件路径 | String | ✓ | | |

| numFiles | 文件数目 | 文件数目 | Integer | | | 1 |

| overwriteSink | 是否覆写已有数据 | 是否覆写已有数据 | Boolean | | | false |

| partitionCols | 分区列 | 创建分区使用的列名 | String[] | | | null |

代码示例

以下代码仅用于示意，可能需要修改部分代码或者配置环境后才能正常运行！

Python 代码

  1. df = pd.DataFrame([
  2.     [2, 1, 1],
  3.     [3, 2, 1],
  4.     [4, 3, 2],
  5.     [2, 4, 1],
  6.     [2, 2, 1],
  7.     [4, 3, 2],
  8.     [1, 2, 1],
  9.     [5, 3, 3]])
  11. batchData = BatchOperator.fromDataframe(df, schemaStr='f0 int, f1 int, label int')
  13. filePath = "/tmp/test_alink_file_sink";
  15. # write file to local disk
  16. batchData.link(AkSinkBatchOp()\
  17.                 .setFilePath(FilePath(filePath))\
  18.                 .setOverwriteSink(True)\
  19.                 .setNumFiles(1))
  20. BatchOperator.execute()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.common.io.filesystem.FilePath;
  4. import com.alibaba.alink.common.io.filesystem.HadoopFileSystem;
  5. import com.alibaba.alink.operator.batch.BatchOperator;
  6. import com.alibaba.alink.operator.batch.sink.AkSinkBatchOp;
  7. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  8. import org.junit.Test;
  10. import java.util.Arrays;
  11. import java.util.List;
  13. public class AkSinkBatchOpTest {
  14.     @Test
  15.     public void testAkSinkBatchOp() throws Exception {
  16.         List <Row> df = Arrays.asList(
  17.             Row.of(2, 1, 1),
  18.             Row.of(3, 2, 1),
  19.             Row.of(4, 3, 2),
  20.             Row.of(2, 4, 1),
  21.             Row.of(2, 2, 1),
  22.             Row.of(4, 3, 2),
  23.             Row.of(1, 2, 1)
  24.         );
  25.         BatchOperator <?> batchData = new MemSourceBatchOp(df, "f0 int, f1 int, label int");
  26.         String filePath = "/tmp/test_alink_file_sink";
  27.         batchData.link(new AkSinkBatchOp()
  28.             .setFilePath(new FilePath(filePath))
  29.             .setOverwriteSink(true)
  30.             .setNumFiles(1));
  31.         String hdfsFilePath = "alink_fs_test/test_alink_file_sink";
  32.         HadoopFileSystem fs = new HadoopFileSystem("2.8.3", "hdfs://10.101.201.169:9000");
  33.         batchData.link(new AkSinkBatchOp()
  34.             .setFilePath(new FilePath(hdfsFilePath, fs))
  35.             .setOverwriteSink(true)
  36.             .setNumFiles(1));
  37.         BatchOperator.execute();
  38.     }
  39. }