这是一个创建于 4685 天前的主题,其中的信息可能已经有所发展或是发生改变。
前一段发过一个类似的,可能描述不清楚。最近一直在想这个问题,并做了一个调研,希望各位能给一些好的建议。
目前有三张表其中两张是表是业务表(数据量为三个月一归档,每个月大约1K万数据量),分别描述了一个业务,两张表的相关字段为50%,其余50%为个性字段。第三表为索引表(存储了两张表的50%相同字段),主要承担了,对于其它两张业务表的ID的统一分配,但是更多的是承载了前台对于两个业务的同时的列表和搜索功能。
随着需求的不断增加,对于搜索的需求日益加强,变成了需要同时搜索两张业务表中的各自的个性字段的合集,并且有向所有表的全字段搜索的趋势。
基于需求,目前总结出三种方案,三种方案各有优缺点:
1、直接搜索三张表,然后对于数据进行合集。这样子是不动现有架构,可以直接使用,缺点是需要将搜出的结果再进行合集,因数据量大,所以会产生等待时间长。
2、维护一张两张表的全字段表,即将两张表的所有字段全部融合成一张表,这样子的结果是数据表字段过多,不方便扩展业务。
3、增加搜索引擎:目前考虑的有两个,Sphinx和Lucene,但是这两个对于大数据量的实时更新处理有问题,会吃大量的内存。
目前来说,我只想到了以上的几种解决方案。各位有什么好的想法或已经使用的解决方案不?
多谢!
6 条回复 1970-01-01 08:00:00 +08:00  | | 1 xlogion 2013-01-17 15:19:41 +08:00 Sphinx 是不存的选择,内库的话,首次会很大,之后设定增量即可 |
 | | 2 xlogion 2013-01-17 15:20:45 +08:00 换个键盘,各种错别字啊 Sphinx 是不错的选择,内存的话,首次会很大,之后设定增量即可 |
 | | 3 twm 2013-01-17 15:24:49 +08:00 搜索用lucene吧 |
 | | 4 macdino 2013-01-17 15:26:25 +08:00 @ xlogion 增量好处理。对于数据会频繁更新,如果用实时索引的话这样子会巨吃内存的。 |
 | | 5 BigZ 2013-01-17 15:38:15 +08:00 从易用性来说 当然是sphinx
sphinx没有实时索引一说,索引都在磁盘上,不占内存,频繁更新索引磁盘IO的压力大
另:耗内存也不是问题,我们现在部署数据服务的新机器,标配内存都是96G |
 | | 6 xcl3721 2013-01-17 15:41:11 +08:00 @ BigZ sphinx最近新推出了realtime index |