据悉,灵犬是一款使用技术模型识别低俗信息的 ,用户通过输入一段文字或链接,就可以检测出文章的健康指数,随即输出鉴定结果。检测用户上传内容是否可以获得算法推荐,是否需要引入人工判断等都是灵犬职责所在。
反低俗工作是一个打怪升级的过程,“灵犬”在原有反色情低俗功能基础上,新增了关于“反暴力谩骂”和“反标题党”功能,基本覆盖主流低质内容类型,同时,整体的识别和鉴定效率以及结果也都有了整体的提升。
究竟效果如何,“灵犬”嗅觉是否灵敏呢?我们用用四大门户网站标检验了一把。首先在搜狐客户端选取了一篇标题为“事发大连!女子陌陌上交友……结果遭男子非法拘禁,被折磨得惨不忍睹”的文章。
然后将标题“喂”给灵犬,结果显示“经灵犬反低俗助手鉴定,该样本必须交由人工审核”。为保障结果准确性,随后又将该文章链接“喂”给灵犬,审核结果亦然。
同样,我们又在腾讯网选取了一篇标题为“这种白酒一定不要买回家,家里有的赶紧扔掉,赶紧告诉家里人”的文章,进行检测。测结果显示,健康概率达88%, 可以获得算法推荐。
随后我们在网易客户端选取了一篇“凶手施暴时,38位邻居看着她死去”含有一定暴力含义的标题进行检测,“灵犬”则给出了需要引入人工判断的结果。
最后我们又在新浪客户端选取了一篇名为“才媛满宫闱——风流天子汉成帝执政前期的后宫佳丽”的文章,因为文章含有风流、佳丽等敏感字眼,灵犬结果显示为该样本必须交由人工审核。
今日头条在平台内容治理方面,除了配备“灵犬”,还有其他反色情、反标题党、反虚假信息、反低质内容等数百个技术模型。与此同时,今日头条投入了上万人专业审核编辑团队,致力于结合人工、技术手段,保障平台内容健康,致力打造一个基础设施最完备的内容平台。
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!