网站信息安全检测、敏感词过滤设计方案
gaoyangw 2024-10-16 09:37 26 浏览 0 评论
网站信息审核自动化、敏感词过滤
功能目标
针对客户（业务员、用户）输入的信息、上传的文件（后期），实现自动审核过滤，以达成尽可能少的人工参与！
通过程序中对文本对象进行检测，有效降低内容违规风险。但是不能彻底解决内容违规。
我们会将大部分的违规内容，通过前端js、后台服务自动处理，并返回处理结果；小部分违规内容，由人工参与处理，具体逻辑根据不同的业务场景提供不同的功能支持。
后期如需对图片、音视频文件进行内容检测，需要对接第三方接口实现。
内容审核自动化（半）
内容审核方案
以上第三方支持直接针对网站内容进行检测判断。
文本内容检测实施方案
1，违规词汇检测审核。
2，第三方接口检测审核。
3，人工审核。
图片、音视频内容检测方案
1，第三方接口检测审核。
2，人工审核。
文本反垃圾汇总
文本信息检测流程（半）自动化
核心是通过前端结合后端程序，对信息进行违规检测，将大部分的违规信息，通过应用程序自动判定处理，并返回对应的处理结果。有效降低内容违规风险。
针对程序没有检测到的违规信息，通过人工审核的策略，下架或删除遗漏的违规信息。
信息检测流程概述：
1，用户输入文本信息，前端通过敏感词库进行JS校验判断，如果不合法，返回结果；合法，执行下一步；
2，服务端，通过敏感数据库对信息进行检测判断，如果不合法，返回结果；合法，执行下一步；
3，调用第三方接口，检测判断，如果不合法，返回结果；合法，保存到数据库中。【此步骤，前期可省略】
4，人工审核，功能包括：巡查审核、信息审核、禁言等操作。作为保全方案！（主要针对广告、刷屏、添加重复数据的情况）
注意：【词库大，需要注意检测方法执行时长，不影响业务的情况下，需控制在50ms以内；时长根据业务容错而定】
补充
以上方案，对于文本内容检测程序会增加程序响应时间（尽量控制在10ms以内），从而会进一步影响整个应用的吞吐量。
前期：代码实现，优化方法执行逻辑，缩短程序执行时间。（测试方法执行时间）
后期可考虑应用集群。
审核结果处理方案
针对违规信息处理方案，根据不同的场景，可考虑不同的落地设计方案：
1，弹框提示
2，接口信息提示
3，信息提示
4，频繁发送，限制
5，信息下架
6，账号锁定或禁用
图片、音视频检测审核
前期主要针对文本信息进行检测处理。
后期如需对图片、音视频文件进行内容检测，需要对接第三方接口实现。
文本信息检测算法
检测方法，可参考--DFA算法/AC自动机，可有效缩短检测方法时间。
- DFA全称为：Deterministic Finite Automaton，即确定有穷自动机。
大致是将敏感数据构建成树的结构，完成搜索命中，然后进行处理。
- AC自动机
多模式匹配算法：在主串中查找多个模式串。(字典树+kmp算法+失配指针)
（原理todo）
前端
针对客户输入的信息，采用js检测，判断是否会命中敏感词。
后端
服务端：通过已有的敏感词数据表，查询判断。如果敏感词较多，可使用redis进行缓存处理。
数据库：敏感词数据表（后期可后台维护新增）
功能设计
场景1：添加数据
- 方案1，敏感词打码处理。
- 方案2，提示填写的数据违规。
结合人工审核，信息下架处理，网站不再显示。
视频检测
对接第三方，todo
相关推荐
- 手把手教你30分钟搭建企业官网:零基础也能搞定的傻瓜式教程
-
想给公司做个网站展示产品，又怕被程序员忽悠花冤枉钱？今天教你个绝招——用现成的网站模板"拼"网站！就像搭乐高一样简单，全程鼠标点点就能搞定，连代码都不用碰。第一步：挑个合身的"...
- 以Twig模板为例浅学一手SSTI（twig中文）
-
什么是SSTISSTI：开局一张图，姿势全靠ySSTI，即服务器端模板注入（Server-SideTemplateInjection）...
- 成功上岸腾讯运营，教你如何写校招简历?
-
产品策划/运营的校招简历应该怎么写？作者从自身实际情况出发，总结分享了相关经验，希望对你有用。写在前面红红火火恍恍惚惚，本人是一位2020届本科毕业生，校招意向互联网产品类。此前有过产品相关的项目&a...
- 50个精彩的响应式HTML和CSS模板:上
-
自由设计固然是一件好事儿，然而经常关注先进的设计作品，久而久之，就会帮你节省更多的布景设计时间，视觉效果也明显会更为专业，可以参考以下这些响应式HTML/CSS模板，实用性高，你肯定能从中汲取不...
- 你的人生，有多少“模板”?（扣好人生第一粒扣子手抄报模板可打印）
-
你浏览网页时，注意过那些海报吗？海报不仅仅是广告，还可以传递新闻信息，也常常摘要一些金句热词。作为一种新的传播形式，海报传递信息，简洁快捷，鲜明突出，往往有意想不到的效果。然而，做一张网络海报并不容易...
- 5款值的推荐的高效工具软件（高效工作软件哪个好用）
-
现在，有很多实用的工具和软件可以帮助我们更高效地完成各种任务。以下是几个值得推荐的工具和软件，能够极大地提高我们的工作效率。1.矢量设计——AffinityDesigner...
- 广州津虹YY直播成立“麦絮”厂牌 打造直播界短剧新标杆
-
3月31日，广州津虹YY直播在广州举办了生态大会暨麦絮短剧星光点映礼，宣布正式成立短剧厂牌“麦絮”，旨在宣传和推广自制短剧。广州津虹YY直播计划聚焦生态故事，与旗下公会、主播，以及百度、七猫、爱奇艺、...
- 广州哪家小程序开发公司比较靠谱?这三家值得推荐
-
小程序已成为企业数字化的重要工具，广州作为互联网产业重镇，小程序开发公司众多。如何选择靠谱的服务商？本文推荐三家实力突出的公司，供您参考。一、广州聆科网络技术有限公司本土老牌技术团队，专注小程序定制开...
- 西北嚎狼解析SEOer如何写好优质的软文
-
什么是软文？狭义：指企业花钱在报纸或杂志等宣传载体上刊登的纯文字性的广告。广义：企业通过策划在杂志或网络等宣传载体上刊登的提升企业品牌形象和知名度。软文：以摆事实讲道理的方式使用使消费者走进企业设定的...
- 花了15分钟答题，成功成为内容品鉴官了
-
午后的阳光在手机屏上碎成光斑，我盯着弹窗里闪烁的「恭喜」二字，指尖悬停在半空忘了动作。第三次了，那些被题库支配到深夜的郁结，此刻正顺着喉咙往上涌，最终化成一声压在胸腔里的叹息——这次终究是不同的。（一...
- 怎样写出能突破一切封锁的好广告（怎样写出能突破一切封锁的好广告作文）
-
每天拿出一分钟来学习，你得生命会更加精彩，我是洪雨有个朋友跟我讲，“现在发广告真难啊，发个链接就被删了，有时候你起的名字里带点广告都不行，引流真难啊……洪雨为什么你几乎可以在任何地方做广告，是怎么做到...
- 你能看出几个广告?软文分享《一个程序员的一天》
-
从电视广告到平面广告，再到各个banner、病毒视频、软文、HTML5等等等，各家公司为了给自家的产品做广告费尽了心思，无所不用其极。小编近日看见一篇文章，一时间竟没反应出这是一篇软文！只能说6666...
- 中小企业发稿总被拒?资深编辑教你3招软文发布轻松过审
-
中小企业新闻媒体发稿经常被拒怎么办？资深编辑教你3招软文发布轻松过审：发稿流程和投稿要点、注意事项分享...
- 「源生活」那些让人惊喜的中秋节软文广告
-
说起中秋节，我相信很多人会想起来很多物品，小编想到的是：水果，月亮，月饼，鲜花。此外还有数不尽好广告，好文案。当然了中秋节作为下半年的第一个大节日，显得就比较重要了。特别是又是传统佳节，又是法定节假日...
- 软文案例标题和内容怎么写（软文优秀案例）
-
1：软文营销专家南昌牛推科技（媒介星软文平台）全网营销+一对一服务成长软文案例标题和内容怎么写？软文营销专家南昌牛推科技（媒介星软文平台）全网营销+一对一服务成长，从业务经验出发分享一些心得。软文标题...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- 网站建设 (107)
- 百度收录 (50)
- 搜索引擎排名优化 (49)
- 关键词优化工具 (51)
- 外贸网站建设 (56)
- seo整站优化吧 (50)
- 苏州网站建设 (59)
- 百度搜索推广 (61)
- 关键词优化公司 (51)
- 广州网站建设 (48)
- 电商网站建设 (49)
- 百度站长平台 (48)
- 网站模板 (51)
- 厦门网站建设 (52)
- 百度快照推广 (51)
- 免费网页在线客服系统 (53)
- 雷神代刷网站推广 (53)
- 手机网站建设 (53)
- 网站维护 (53)
- 网页制作教程 (66)
- 百度收录批量查询工具 (48)
- 网站服务器 (53)
- 学生个人网页制作html (56)
- 一键优化 (67)
- 网页制作软件 (49)