位置: 编程技术 - 正文
浅谈用Python实现一个大数据搜索引擎(python该怎么用)
编辑：rootadmin推荐整理分享浅谈用Python实现一个大数据搜索引擎(python该怎么用)，希望有所帮助，仅作参考，欢迎阅读内容。
文章相关热门搜索词:python运用,利用python进行,怎么用python做,python%怎么用,利用python进行,怎么用python做,python%怎么用,用python编写,内容如对您有帮助，希望把文章链接给更多的朋友！
搜索是大数据领域里常见的需求。Splunk和ELK分别是该领域在非开源和开源领域里的领导者。本文利用很少的Python代码实现了一个基本的数据搜索功能，试图让大家理解大数据搜索的基本原理。
布隆过滤器 （Bloom Filter）
第一步我们先要实现一个布隆过滤器。
布隆过滤器是大数据领域的一个常见算法，它的目的是过滤掉那些不是目标的元素。也就是说如果一个要搜索的词并不存在与我的数据中，那么它可以以很快的速度返回目标不存在。
让我们看看以下布隆过滤器的代码：
基本的数据结构是个数组（实际上是个位图，用1/0来记录数据是否存在），初始化是没有任何内容，所以全部置False。实际的使用当中，该数组的长度是非常大的，以保证效率。 利用哈希算法来决定数据应该存在哪一位，也就是数组的索引 当一个数据被加入到布隆过滤器的时候，计算它的哈希值然后把相应的位置为True 当检查一个数据是否已经存在或者说被索引过的时候，只要检查对应的哈希值所在的位的True／Fasle看到这里，大家应该可以看出，如果布隆过滤器返回False，那么数据一定是没有索引过的，然而如果返回True，那也不能说数据一定就已经被索引过。在搜索过程中使用布隆过滤器可以使得很多没有命中的搜索提前返回来提高效率。
我们看看这段 code是如何运行的：
结果：
[False, False, False, False, True, True, False, False, False, True][False, False, False, False, True, True, False, False, False, True]dog: 5 Truefish: 4 Truecat: 9 Truebird: 9 Trueduck: 5 Trueemu: 8 False
首先创建了一个容量为的的布隆过滤器
然后分别加入 ‘dog'，‘fish'，‘cat'三个对象，这时的布隆过滤器的内容如下：
然后加入‘bird'对象，布隆过滤器的内容并没有改变，因为‘bird'和‘fish'恰好拥有相同的哈希。
最后我们检查一堆对象（'dog', 'fish', 'cat', 'bird', 'duck', 'emu'）是不是已经被索引了。结果发现‘duck'返回True，2而‘emu'返回False。因为‘duck'的哈希恰好和‘dog'是一样的。
分词
下面一步我们要实现分词。 分词的目的是要把我们的文本数据分割成可搜索的最小单元，也就是词。这里我们主要针对英语，因为中文的分词涉及到自然语言处理，比较复杂，而英文基本只要用标点符号就好了。
下面我们看看分词的代码：
主要分割
主要分割使用空格来分词，实际的分词逻辑中，还会有其它的分隔符。例如Splunk的缺省分割符包括以下这些，用户也可以定义自己的分割符。
] < > ( ) { } | ! ; , ' " * n r s t & &#; + % % % %3B %7C % %2B %3D -- % %5D %5B %3A %0A %2C % %
次要分割
次要分割和主要分割的逻辑类似，只是还会把从开始部分到当前分割的结果加入。例如“1.2.3.4”的次要分割会有1，2，3，4，1.2，1.2.3
分词的逻辑就是对文本先进行主要分割，对每一个主要分割在进行次要分割。然后把所有分出来的词返回。
我们看看这段 code是如何运行的：
src1..2.3.4src_ip.2.3ip2=4
搜索
好了，有个分词和布隆过滤器这两个利器的支撑后，我们就可以来实现搜索的功能了。
上代码：
Splunk代表一个拥有搜索功能的索引集合
每一个集合中包含一个布隆过滤器，一个倒排词表（字典），和一个存储所有事件的数组
当一个事件被加入到索引的时候，会做以下的逻辑
为每一个事件生成一个unqie id，这里就是序号 对事件进行分词，把每一个词加入到倒排词表，也就是每一个词对应的事件的id的映射结构，注意，一个词可能对应多个事件，所以倒排表的的值是一个Set。倒排表是绝大部分搜索引擎的核心功能。当一个词被搜索的时候，会做以下的逻辑
检查布隆过滤器，如果为假，直接返回 检查词表，如果被搜索单词不在词表中，直接返回 在倒排表中找到所有对应的事件id，然后返回事件的内容我们运行下看看把：
是不是很赞！
更复杂的搜索
更进一步，在搜索过程中，我们想用And和Or来实现更复杂的搜索逻辑。
上代码：
利用Python集合的intersection和union操作，可以很方便的支持And（求交集）和Or（求合集）的操作。
运行结果如下：
总结
以上的代码只是为了说明大数据搜索的基本原理，包括布隆过滤器，分词和倒排表。如果大家真的想要利用这代码来实现真正的搜索功能，还差的太远。所有的内容来自于Splunk Conf。希望对大家的学习有所帮助，也希望大家多多支持积木网。
从头学Python之编写可执行的.py文件 Python可是真强大。但他具体是怎么强大的，让我们一点一点来了解吧（小编每天晚上下班回家会抽时间看看教程，多充实下自己也是好的）。废话不多
详解如何使用Python编写vim插件 前言vim是个伟大的编辑器，不仅在于她特立独行的编辑方式，还在于她强大的扩展能力。然而，vim自身用于写插件的语言vimL功能有很大的局限性，实现
JSONLINT：python的json数据验证库实例解析 JSON(JavaScriptObjectNotation)是一种轻量级的数据交换格式，易于人阅读和编写。JSON函数使用JSON函数需要导入json库：importjson。函数描述json.dumps将Python对象编
标签: python该怎么用
本文链接地址:https://www.jiuchutong.com/biancheng/375457.html 转载请保留说明！上一篇：Python中用psycopg2模块操作PostgreSQL方法(python中用input()函数接收到的数据为)
下一篇：从头学Python之编写可执行的.py文件(编程python怎么学)
