浅谈用Python实现一个大数据搜索引擎(python该怎么用)

编辑：rootadmin

推荐整理分享浅谈用Python实现一个大数据搜索引擎(python该怎么用)，希望有所帮助，仅作参考，欢迎阅读内容。

文章相关热门搜索词:python运用,利用python进行,怎么用python做,python%怎么用,利用python进行,怎么用python做,python%怎么用,用python编写,内容如对您有帮助，希望把文章链接给更多的朋友！

搜索是大数据领域里常见的需求。Splunk和ELK分别是该领域在非开源和开源领域里的领导者。本文利用很少的Python代码实现了一个基本的数据搜索功能，试图让大家理解大数据搜索的基本原理。

布隆过滤器（Bloom Filter）

第一步我们先要实现一个布隆过滤器。

布隆过滤器是大数据领域的一个常见算法，它的目的是过滤掉那些不是目标的元素。也就是说如果一个要搜索的词并不存在与我的数据中，那么它可以以很快的速度返回目标不存在。

让我们看看以下布隆过滤器的代码：

基本的数据结构是个数组（实际上是个位图，用1/0来记录数据是否存在），初始化是没有任何内容，所以全部置False。实际的使用当中，该数组的长度是非常大的，以保证效率。利用哈希算法来决定数据应该存在哪一位，也就是数组的索引当一个数据被加入到布隆过滤器的时候，计算它的哈希值然后把相应的位置为True 当检查一个数据是否已经存在或者说被索引过的时候，只要检查对应的哈希值所在的位的True／Fasle

看到这里，大家应该可以看出，如果布隆过滤器返回False，那么数据一定是没有索引过的，然而如果返回True，那也不能说数据一定就已经被索引过。在搜索过程中使用布隆过滤器可以使得很多没有命中的搜索提前返回来提高效率。

我们看看这段 code是如何运行的：

结果：

[False, False, False, False, True, True, False, False, False, True][False, False, False, False, True, True, False, False, False, True]dog: 5 Truefish: 4 Truecat: 9 Truebird: 9 Trueduck: 5 Trueemu: 8 False

首先创建了一个容量为的的布隆过滤器

然后分别加入 ‘dog'，‘fish'，‘cat'三个对象，这时的布隆过滤器的内容如下：

然后加入‘bird'对象，布隆过滤器的内容并没有改变，因为‘bird'和‘fish'恰好拥有相同的哈希。

最后我们检查一堆对象（'dog', 'fish', 'cat', 'bird', 'duck', 'emu'）是不是已经被索引了。结果发现‘duck'返回True，2而‘emu'返回False。因为‘duck'的哈希恰好和‘dog'是一样的。

分词

下面一步我们要实现分词。分词的目的是要把我们的文本数据分割成可搜索的最小单元，也就是词。这里我们主要针对英语，因为中文的分词涉及到自然语言处理，比较复杂，而英文基本只要用标点符号就好了。

下面我们看看分词的代码：

主要分割