这是一个创建于 3600 天前的主题，其中的信息可能已经有所发展或是发生改变。
现在在做的一个系统，会从多个外部网站抓取同类的节目数据，并将数据存在 MySQL 中。
但是这些不同的外部网站可能有相同的节目（比如标题、简介和音频都是相同/相似的），这种情况下需要做去重。想根据标题的字符串相似度来判断是否重复，并且需要能方便地查询到与一个节目所重复的其他节目。
那么问题来了，被认定为相似的两个节目，应该用什么数据结构保存下来？如果用关系型数据库，做一张两两相关的表，那表会很大，似乎不是理想的做法。
请问 V2 上的大中小牛们，业界有什么思想/框架/工具可以用来做这个事情？
 |
1
laoyuan 2015-01-13 20:40:14 +08:00  1
加个字段unid，认为相同的条目，随便取其中一个的主键作为unid
|
 |
2
halfcrazy 2015-01-13 21:16:37 +08:00 1
bloomfilter
|
Select Language