这就是国内首款反低俗信息小程序「灵犬」,它脱胎于今日头条反低俗算法模型,可用于鉴定低俗信息。
近日,灵犬小程序正式上线,知晓君第一时间试用了它,并且发现了很多「灵犬」小程序有趣的地方。
以关键词为主要评估的灵犬
说到反低俗信息,当然要提低俗词语了。在低俗词语的鉴定上,今日头条的「灵犬」小程序是毋庸置疑的存在。一些侮辱、暴力、色情词语会被小程序直接识别出,然后给出极低的健康概率指数。
非常明显的低俗词汇「灵犬」可以轻松 carry,那一些可污可正经的词汇效果如何呢?
出于众所周知的原因,「下面」、「鸡」、「小伙伴」等词语因为网络互联网的发展,这些词语已经不仅具有单一词性了。在某些语境下,还会有涉黄的可能,所以知晓君不停的测试,想看看灵犬对这些词语会做出怎样的判断。
由于「灵犬」小程序需要十个文字才能判断,所以知晓君输入了「我和我的小伙伴一起去下面吃鸡!」和「我的小伙伴一起去下面吃鸡吧!」两句话,想要对比两个评分。
两个健康概率都被评判为 74%,可以获得算法推荐。
看来「灵犬」小程序还不太明白「说鸡不说吧,文明你我他」。
女性关键词易被降权
第一关「灵犬」小程序真没让知晓君失望,接下来我们又在句子中加入「人」再次尝试了一下。
这次的结果嘛,就有点一言难尽了。
或许是头条号过于惧怕人们利用女性作为吸引标签而标题党了,知晓君发现,如果文字带有「女孩」或者「女人」都很容易将你的内容健康度判定降低。
知晓君做的尝试是这样的:
我要去上面看看人生风景(89% 健康概率)我要和那个男孩去上面看看人生风景(87% 健康概率)我要和那个男人去上面看看人生风景(74% 健康概率)我要和那个女孩去上面看看人生风景(69% 健康概率)我要和那个女人去上面看看人生风景(66% 健康概率)我要和那个女人去下面看看人生风景(74% 健康概率)
从试验结果来看女人这个词最影响健康概率,男孩这个词最不影响。
影响健康概率的大小关系应该是这样的:
女人>女孩>男人>男孩
虽然理解头条是出于担心自媒体用户用性做吸引才使用这样的杀手锏的,但是偶尔题目也有女性,但是内容十分健康的知晓君还是有点委屈。
不断完善的算法模型
「灵犬」并不是一个很全面的反低俗小程序,它自己也承认「算法仍有缺陷,我们希望借助更多人的力量,完善算法模型,更好地服务社会。」
所以「灵犬」也欢迎社会大众的反馈,邀请大家把「灵犬」无法测试出的低俗内容反馈给团队,以此提升「灵犬」的嗅觉。
当然,今日头条的作者们只能以「灵犬」作为题目参考,不能把它作为判断依据。灵犬自己说「如果我是一条犬,头条审核机制就是一支工作犬部队。我只是今日头条反低俗部分的一个简化版本。」
因此,大家还是要自己审核一下,反低俗,反虚假。
最后再说一下,「灵犬不能检测带视频、图片的链接」实在是个大大的缺陷,希望早日完善。
「灵犬反低俗助手」小程序使用链接https://minapp.com/miniapp/6363/