Java 类名：com.alibaba.alink.pipeline.similarity.TextApproxNearestNeighbor
Python 类名：TextApproxNearestNeighbor

功能介绍

文本相似度是在字符串相似度的基础上，基于词，计算两两文章或者句子之间的相似度，文章或者句子需要以空格分割的文本，计算方式和字符串相似度类似：支持SimHashHamming，MinHash和Jaccard三种近似相似度计算方式，通过选择metric参数可计算不同的相似度。
该功能由训练和预测组成，支持计算1. 求最近邻topN 2. 求radius范围内的邻居。该功能由预测时候的topN和radius参数控制, 如果填写了topN，则输出最近邻，如果填写了radius，则输出radius范围内的邻居。
SimhashHamming（SimHash_Hamming_Distance)相似度=1-距离/64.0，应选择metric的参数为SIMHASH_HAMMING_SIM。
MinHash应选择metric的参数为MINHASH_SIM。
Jaccard应选择metric的参数为JACCARD_SIM。

参数说明

名称 中文名称 描述 类型 是否必须？ 取值范围 默认值
idCol id列名 id列名 String ✓
selectedCol 选中的列名 计算列对应的列名 String ✓
metric 距离类型 用于计算的距离类型 String “SIMHASH_HAMMING_SIM”, “SIMHASH_HAMMING”, “MINHASH_JACCARD_SIM”, “JACCARD_SIM” “SIMHASH_HAMMING_SIM”
modelFilePath 模型的文件路径 模型的文件路径 String null
numBucket 分桶个数 分桶个数 Integer 10
numHashTables 哈希表个数 哈希表的数目 Integer 10
outputCol 输出结果列 输出结果列列名，可选，默认null String null
overwriteSink 是否覆写已有数据 是否覆写已有数据 Boolean false
radius radius值 radius值 Double null
reservedCols 算法保留列名 算法保留列 String[] null
seed 采样种子 采样种子 Long 0
topN TopN的值 TopN的值 Integer [1, +inf) null
numThreads 组件多线程线程个数 组件多线程线程个数 Integer 1
modelStreamFilePath 模型流的文件路径 模型流的文件路径 String null
modelStreamScanInterval 扫描模型路径的时间间隔 描模型路径的时间间隔，单位秒 Integer 10
modelStreamStartTime 模型流的起始时间 模型流的起始时间。默认从当前时刻开始读。使用yyyy-mm-dd hh:mm:ss.fffffffff格式，详见Timestamp.valueOf(String s) String null

代码示例

Python 代码

  1. from pyalink.alink import *
  3. import pandas as pd
  5. useLocalEnv(1)
  7. df = pd.DataFrame([
  8.     [0, "a b c d e", "a a b c e"],
  9.     [1, "a a c e d w", "a a b b e d"],
  10.     [2, "c d e f a", "b b c e f a"],
  11.     [3, "b d e f h", "d d e a c"],
  12.     [4, "a c e d m", "a e e f b c"]
  13. ])
  15. inOp = BatchOperator.fromDataframe(df, schemaStr='id long, text1 string, text2 string')
  17. pipeline = TextApproxNearestNeighbor().setIdCol("id").setSelectedCol("text1").setMetric("SIMHASH_HAMMING_SIM").setTopN(3)
  19. pipeline.fit(inOp).transform(inOp).print()

Java 代码

  1. import org.apache.flink.types.Row;
  3. import com.alibaba.alink.operator.batch.BatchOperator;
  4. import com.alibaba.alink.operator.batch.source.MemSourceBatchOp;
  5. import com.alibaba.alink.pipeline.similarity.TextApproxNearestNeighbor;
  6. import org.junit.Test;
  8. import java.util.Arrays;
  9. import java.util.List;
  11. public class TextApproxNearestNeighborTest {
  12.     @Test
  13.     public void testTextApproxNearestNeighbor() throws Exception {
  14.         List <Row> df = Arrays.asList(
  15.             Row.of(0, "a b c d e", "a a b c e"),
  16.             Row.of(1, "a a c e d w", "a a b b e d"),
  17.             Row.of(2, "c d e f a", "b b c e f a"),
  18.             Row.of(3, "b d e f h", "d d e a c"),
  19.             Row.of(4, "a c e d m", "a e e f b c")
  20.         );
  21.         BatchOperator <?> inOp = new MemSourceBatchOp(df, "id int, text1 string, text2 string");
  22.         TextApproxNearestNeighbor pipeline = new TextApproxNearestNeighbor().setIdCol("id").setSelectedCol("text1")
  23.             .setMetric("SIMHASH_HAMMING_SIM").setTopN(3);
  24.         pipeline.fit(inOp).transform(inOp).print();
  25.     }
  26. }

运行结果

| id | text1 | text2 | | —- | —- | —- |

| 0 | {“ID”:”[0,1,4]”,”METRIC”:”[1.0,0.96875,0.921875]”} | a a b c e |

| 1 | {“ID”:”[1,0,4]”,”METRIC”:”[1.0,0.96875,0.921875]”} | a a b b e d |

| 2 | {“ID”:”[2,4,1]”,”METRIC”:”[1.0,0.9375,0.890625]”} | b b c e f a |

| 3 | {“ID”:”[3,4,2]”,”METRIC”:”[1.0,0.828125,0.828125]”} | d d e a c |

| 4 | {“ID”:”[4,2,1]”,”METRIC”:”[1.0,0.9375,0.921875]”} | a e e f b c |