自从弹幕视频网站Acfun和Bilibili的兴起之后，国内很多视频平台甚至直播平台纷纷加入了实时弹幕功能，现在对于经常在网上看视频的朋友而言，在视频中看到弹幕，或自己看视频时发点心情弹幕，已经是习以为常的事，甚至有些人专门喜欢看视频中吐槽的弹幕，还会通过实时发布的弹幕与别人相互交流，因此说视频中的弹幕，其实已经成了视频内容的一种重要组成部分。
尽管优质的弹幕将屏幕前的观众聚集在了一起，但是很多无意义甚至恶俗的弹幕内容也极大地破坏了用户体验。短时间内疯狂涌入的弹幕可以表一个视频的热门程度，但同样也给屏幕前的观众带来了困扰。因此各大弹幕视频网站都在采用“关键词过滤+人工审核”的方式来监管弹幕内容。各大视频网站都有自己的屏蔽词库，比如爱奇艺就有自建的监测工具”爱奇艺大脑“，根据弹幕的关键词进行屏蔽。
2018年8月，《北京青年报》在《顺风车司机直播女乘客牟利》一文中写到，” 有顺风车司机边接单边在虎牙平台上直播，且专选女性乘客。整个直播过程中，女乘客并不知道自己正在被看客‘围观’，也不知道直播间满屏都是污秽不堪的留言。“此后，弹幕文化下，低俗的弹幕内容对于网络环境的负面影响日益引起重视。
近日，中国网络视听节目服务协会发布《网络短视频平台管理规范》和《网络短视频内容审核标准细则》，再次重申弹幕进行”先审后播“的重要性，但这对于视频和直播平台来说，无疑是一个巨大考验。据小葫芦直播平台统计，2018年全年全平台直播弹幕条数就达到了452亿条。而截止到今天(3月7日)下午三点，虎牙和斗鱼两个平台的弹幕条数已经分别达到了1430万条和1015万条。
这样庞大的弹幕条数，和更加坚决的监管政策，也促使平台方不断优化过滤规则。常见的处理方式有敏感词拦截、词库过滤和违规用户屏蔽。而Acfun和Bilibili还在前端页面为用户开放了通过正则表达式屏蔽弹幕的功能，这种规则引擎也可以应用在全平台的弹幕管理中。由于词库拦截的方式相对滞后和刻板，各个平台也逐渐扩大人工审核团队来完善审核，字节跳动公司提出将现有6000人运营审核队伍再度扩大至总人数1万人，快手宣布将审核团队从2000人扩大至5000人。
然而尽管人对于价值观的辨别、社会局势的把握、大事件的捕捉要远远强于机器，但却免不了有疲劳疏忽的时刻。热门直播?瞬间爆发的弹幕容易让内容审核员应接不暇，也很难在15秒内做出准确判断，因此让现在更加成熟智能的机器审核辅助审核员显得尤为重要。
随着近年来数据挖掘的迅速发展，文本挖掘也开始受到重视，逐渐应用到垃圾信息处理中。通过文本分词、词性标注、句法结构分析、词位置分析等手段，结合大数据的算法实现对垃圾弹幕、涉黄涉政弹幕的分析识别也是未来弹幕管理的大方向。
以在业内知名的人工智能公司图普科技为例，此前依托图像识别技术，图普科技为众多直播、短视频平台提供了图像视频的内容审核。但是正如之前顺风车司机接单直播视频所表现出来的，单一的图像审核维度并不能完全评价用户的内容是否符合规范，弹幕文字也是考量因素之一，因此，图普科技便研发了文本内容审核的功能，利用全天候响应速度快的机器识别，从图像和文字两个维度对用户内容进行审核，?既保证了审核的及时性和准确性，又能减轻内容审核员的负担。可以说现在人工智能充当了网络环境的扫地机器人，帮助内容审核员净化网络环境，带给用户更好的体验。
对于视频直播平台来讲，想要保证用户粘度，内容体验永远是根本。既要在市场和用户的监督下做好内容审核的工作，避免踩到红线，又不能因此牺牲用户体验，阻止弹幕文化的发展，因此不断优化审核技术，引入基于自然语言处理的智能文本审核，或许将是平台方们的必经之路。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
