侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 中国象棋ai
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

浅谈Python 敏感词过滤的实现

Python  /  管理员 发布于 7年前   151

一个简单的实现

class NaiveFilter():  '''Filter Messages from keywords  very simple filter implementation  >>> f = NaiveFilter()  >>> f.add("sexy")  >>> f.filter("hello sexy baby")  hello **** baby  '''  def __init__(self):    self.keywords = set([])  def parse(self, path):    for keyword in open(path):      self.keywords.add(keyword.strip().decode('utf-8').lower())  def filter(self, message, repl="*"):    message = str(message).lower()    for kw in self.keywords:      message = message.replace(kw, repl)    return message

其中strip() 函数 删除附近的一些空格,解码采用utf-8的形式,然后将其转为小写。

parse()函数就是打开文件,然后从中取各个关键词,然后将其存在关键词集合中。

filter()函数是一个过滤器函数,其中将消息转化为小写,然后将关键词替换成*。、

class BSFilter:  '''Filter Messages from keywords  Use Back Sorted Mapping to reduce replacement times  >>> f = BSFilter()  >>> f.add("sexy")  >>> f.filter("hello sexy baby")  hello **** baby  '''  def __init__(self):    self.keywords = []    self.kwsets = set([])    self.bsdict = defaultdict(set)    self.pat_en = re.compile(r'^[0-9a-zA-Z]+$') # english phrase or not  def add(self, keyword):    if not isinstance(keyword, str):      keyword = keyword.decode('utf-8')    keyword = keyword.lower()    if keyword not in self.kwsets:      self.keywords.append(keyword)      self.kwsets.add(keyword)      index = len(self.keywords) - 1      for word in keyword.split():        if self.pat_en.search(word):          self.bsdict[word].add(index)        else:          for char in word:self.bsdict[char].add(index)  def parse(self, path):    with open(path, "r") as f:      for keyword in f:        self.add(keyword.strip())  def filter(self, message, repl="*"):    if not isinstance(message, str):      message = message.decode('utf-8')    message = message.lower()    for word in message.split():      if self.pat_en.search(word):        for index in self.bsdict[word]:          message = message.replace(self.keywords[index], repl)      else:        for char in word:          for index in self.bsdict[char]:message = message.replace(self.keywords[index], repl)    return message

在上面的实现例子中,对于搜索查找进行了优化,对于英语单词,直接进行了按词索引字典查找。对于其他语言模式,我们采用逐字符查找匹配的一种模式。

BFS:宽度优先搜索方式。

class DFAFilter():  '''Filter Messages from keywords  Use DFA to keep algorithm perform constantly  >>> f = DFAFilter()  >>> f.add("sexy")  >>> f.filter("hello sexy baby")  hello **** baby  '''  def __init__(self):    self.keyword_chains = {}    self.delimit = '\x00'  def add(self, keyword):    if not isinstance(keyword, str):      keyword = keyword.decode('utf-8')    keyword = keyword.lower()    chars = keyword.strip()    if not chars:      return    level = self.keyword_chains    for i in range(len(chars)):      if chars[i] in level:        level = level[chars[i]]      else:        if not isinstance(level, dict):          break        for j in range(i, len(chars)):          level[chars[j]] = {}          last_level, last_char = level, chars[j]          level = level[chars[j]]        last_level[last_char] = {self.delimit: 0}        break    if i == len(chars) - 1:      level[self.delimit] = 0  def parse(self, path):    with open(path,encoding='UTF-8') as f:      for keyword in f:        self.add(keyword.strip())  def filter(self, message, repl="*"):    if not isinstance(message, str):      message = message.decode('utf-8')    message = message.lower()    ret = []    start = 0    while start < len(message):      level = self.keyword_chains      step_ins = 0      for char in message[start:]:        if char in level:          step_ins += 1          if self.delimit not in level[char]:level = level[char]          else:ret.append(repl * step_ins)start += step_ins - 1break        else:          ret.append(message[start])          break      else:        ret.append(message[start])      start += 1    return ''.join(ret)

DFA即Deterministic Finite Automaton,也就是确定有穷自动机。

使用了嵌套的字典来实现。

参考

Github:敏感词过滤系统

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。


  • 上一条:
    Python数据可视化 pyecharts实现各种统计图表过程详解
    下一条:
    Python依赖包整体迁移方法详解
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • 在python语言中Flask框架的学习及简单功能示例(0个评论)
    • 在Python语言中实现GUI全屏倒计时代码示例(0个评论)
    • Python + zipfile库实现zip文件解压自动化脚本示例(0个评论)
    • python爬虫BeautifulSoup快速抓取网站图片(1个评论)
    • vscode 配置 python3开发环境的方法(0个评论)
    • 近期文章
    • 智能合约Solidity学习CryptoZombie第四课:僵尸作战系统(0个评论)
    • 智能合约Solidity学习CryptoZombie第三课:组建僵尸军队(高级Solidity理论)(0个评论)
    • 智能合约Solidity学习CryptoZombie第二课:让你的僵尸猎食(0个评论)
    • 智能合约Solidity学习CryptoZombie第一课:生成一只你的僵尸(0个评论)
    • 在go中实现一个常用的先进先出的缓存淘汰算法示例代码(0个评论)
    • 在go+gin中使用"github.com/skip2/go-qrcode"实现url转二维码功能(0个评论)
    • 在go语言中使用api.geonames.org接口实现根据国际邮政编码获取地址信息功能(1个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf分页文件功能(0个评论)
    • gmail发邮件报错:534 5.7.9 Application-specific password required...解决方案(0个评论)
    • 欧盟关于强迫劳动的规定的官方举报渠道及官方举报网站(0个评论)
    • 近期评论
    • 122 在

      学历:一种延缓就业设计,生活需求下的权衡之选中评论 工作几年后,报名考研了,到现在还没认真学习备考,迷茫中。作为一名北漂互联网打工人..
    • 123 在

      Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..
    • 原梓番博客 在

      在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..
    • 博主 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..
    • 1111 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..
    • 2016-10
    • 2016-11
    • 2018-04
    • 2020-03
    • 2020-04
    • 2020-05
    • 2020-06
    • 2022-01
    • 2023-07
    • 2023-10
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客