Java 类名：com.alibaba.alink.operator.stream.dataproc.LookupStreamOp
Python 类名：LookupStreamOp

功能介绍

支持数据查找功能，支持多个key的查找，并将查找后的结果中的value列添加到待查询数据后面。与SQl语法中的inner join功能类似，当不存在重复的key时
LookupBatchOp().setMapKeyCols(“key_col_A”).setMapValueCols(“value_col”).setSelectedCols(“key_col_B”).linkFrom(A, B)与
“SELECT A.value_col FROM A INNER JOIN B ON A.key_col_A = B.key_col_B”，但是需要注意：当数据B中存在多行相同的key时，只保留一个value，不会找到所有的value。
Table A

| key_col_A | value_col | | —- | —- |

| Bob | 98 |

| Tom | 72 |

Table B

| key_col_B | age | | —- | —- |

| Bob | 11 |

| Denny | 10 |

查找结果

| key_col_B | age | value_col | | —- | —- | —- |

| Bob | 11 | 98 |

| Denny | 10 | null |

参数说明

| 名称 | 中文名称 | 描述 | 类型 | 是否必须？ | 取值范围 | 默认值 | | —- | —- | —- | —- | —- | —- | —- |

| selectedCols | 选择的列名 | 计算列对应的列名列表 | String[] | ✓ | | |

| mapKeyCols | Key列名 | 模型中对应的查找等值的列名 | String[] | | | null |

| mapValueCols | Values列名 | 模型中需要拼接到样本中的列名 | String[] | | | null |

| modelFilePath | 模型的文件路径 | 模型的文件路径 | String | | | null |

| outputCols | 输出结果列列名数组 | 输出结果列列名数组，可选，默认null | String[] | | | null |

| reservedCols | 算法保留列名 | 算法保留列 | String[] | | | null |

| numThreads | 组件多线程线程个数 | 组件多线程线程个数 | Integer | | | 1 |

| modelStreamFilePath | 模型流的文件路径 | 模型流的文件路径 | String | | | null |

| modelStreamScanInterval | 扫描模型路径的时间间隔 | 描模型路径的时间间隔，单位秒 | Integer | | | 10 |

| modelStreamStartTime | 模型流的起始时间 | 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式，详见Timestamp.valueOf(String s) | String | | | null |

| modelStreamUpdateMethod | 模型更新方法 | 模型更新方法，可选COMPLETE（全量更新）或者 INCREMENT（增量更新） | String | | “COMPLETE”, “INCREMENT” | “COMPLETE” |

代码示例

Python 代码

  1. from pyalink.alink import *
  3. import pandas as pd
  5. useLocalEnv(1)
  7. data_df = pd.DataFrame([
  8.     ["10", 2.0],
  9.     ["1", 2.0], 
  10.     ["-3", 2.0], 
  11.     ["5", 1.0]
  12. ])
  13. inOp = StreamOperator.fromDataframe(data_df, schemaStr='f0 string, f1 double')
  15. model_df = pd.DataFrame([
  16.     ["1", "value1"], 
  17.     ["2", "value2"], 
  18.     ["5", "value5"]
  19. ])
  21. modelOp = BatchOperator.fromDataframe(model_df, schemaStr="key_col string, value_col string")
  23. LookupStreamOp(modelOp)\
  24.     .setMapKeyCols(["key_col"])\
  25.     .setMapValueCols(["value_col"]) \
  26.     .setSelectedCols(["f0"])\
  27.     .linkFrom(inOp)\
  28.     .print()
  30. StreamOperator.execute()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  5. import com.alibaba.alink.operator.stream.StreamOperator;
  6. import com.alibaba.alink.operator.stream.dataproc.LookupStreamOp;
  7. import com.alibaba.alink.operator.stream.source.MemSourceStreamOp;
  8. import org.junit.Test;
  10. import java.util.Arrays;
  11. import java.util.List;
  13. public class LookupStreamOpTest {
  14.     @Test
  15.     public void testLookupStreamOp() throws Exception {
  16.         List <Row> data_df = Arrays.asList(
  17.             Row.of("10", 2.0),
  18.             Row.of("1", 2.0),
  19.             Row.of("-3", 2.0),
  20.             Row.of("5", 1.0)
  21.         );
  22.         StreamOperator <?> inOp = new MemSourceStreamOp(data_df, "f0 string, f1 double");
  23.         List <Row> model_df = Arrays.asList(
  24.             Row.of("1", "value1"),
  25.             Row.of("2", "value2"),
  26.             Row.of("5", "value5")
  27.         );
  28.         BatchOperator <?> modelOp = new MemSourceBatchOp(model_df, "key_col string, value_col string");
  29.         new LookupStreamOp(modelOp)
  30.             .setMapKeyCols("key_col")
  31.             .setMapValueCols("value_col")
  32.             .setSelectedCols("f0")
  33.             .linkFrom(inOp)
  34.             .print();
  35.         StreamOperator.execute();
  36.     }
  37. }

脚本输出结果

| f0 | f1 | value_col | | —- | —- | —- |

| 10 | 2.0 | null |

| 1 | 2.0 | value1 |

| -3 | 2.0 | null |

| 5 | 1.0 | value5 |