文科生都能看得懂的基本算法推荐原理
本文概要:
一、背景
二、算法推荐系统的两个核心
1.内容标签2.用户标签三、如何衡量推荐系统的好坏四、总结
一、背景
在纸媒时代,消费者对于信息和内容的获取,处于十分被动且匮乏 的状态。
一张报纸、一份杂志,虽然“千人一面”,但许多人仍然爱不释手,翻来覆去。
随着互联网时代(特别是移动互联网)的到来,信息如同《三体》里“技术爆炸”一般,呈现出“信息爆炸”的状态。
每天以EB为单位的信息量诞生在互联网的每个角落。预计到2025年,全球每天产生的数据量将达到491EB(1 EB=1024 PB=1048576 TB)。
在这种情况下,消费者对于信息的获取无疑变得更加的主动且丰富。 但丰富,并不意味着有效。
纸媒时代尚且有专业的编辑对内容进行筛选、排版后“分发”给消费者。
但对于互联网产品来说,即使内容再丰富,用户如果不感兴趣也是无效内容。
“效率”始终是商业社会的本质之一。 低效意味着随时有可能落后或被淘汰。
为了解决这一问题, 淘宝最早再在2013年提出“千人千面”的概念。
依托淘宝网十年发展积累下来的庞大数据库,从细分类目中抓取那些与买家兴趣相匹配的商品,进行优先展现。
而每个在淘宝网上购买或是浏览过商品的消费者,都会被平台打上标签,比如年龄、地域、客单价、收藏偏好等。
标签的不同,在千人千面模式下,用户所看到的产品自然就会有所差异。
更有效率的内容分发方式,由此从野蛮生长进入到精细化运营的时代。
到了以“算法驱动”为核心理念的张一鸣手里,今日头条、抖音等产品更是在这种理念下饲养出来的洪水猛兽。
因此作为一名互联网人,即使不用动手去写编程算法,但了解相关算法知识、懂得相关内容分发与推荐机制背后的基本原理,也有利于更上一个认知的新台阶。
二、算法推荐系统的两个核心
(一)抖音为何让人如此上瘾?
许多人或许会有这样的体验:
在不同的场景下(在家、地铁、公司)、不同的时间点(早上、中午、晚上),即使是同类型的电影,实际上所接收到的内容也略有差别。
例如白天大多会收到比较幽默的内容,而到了晚上则会收到略带悬疑的影视剪辑片段等。
而无论是什么时候打开抖音,它都能让用户沉浸其中,似乎感觉不到时间的流逝,往往一下子能过去一两个小时。
你会发现抖音似乎很懂你,因为给你推送的内容全都是你喜欢看的。
抛开抖音的产品设计、沉浸式消费体验、短平快的内容节奏等,这其中还涉及到算法推荐机制和运营策略等因素。
而内容的个性化分发,本质上用一句大白话就可以解释:
让喜欢看妹子的用户,看到含有妹子的内容。
但在现实环境中,放眼互联网,能把这句话做好的公司其实没几个。
那么问题到底难在哪里呢?
(二) 给内容打标,没有想的那么简单
给标签定义难,给内容打标也难。
在给一篇内容打上标签之前,首先需要做的是给标签做定义。
即讲清楚什么是苹果,什么是梨,而不是把苹果叫成梨。
一篇内容通常包括一级分类、二级分类、三级分类、标签 等几个层次。
如动漫>日漫>火影忍者>鸣人等。
对于这些具有普遍性认知的分类跟标签来说,通常比较好下定义。
但是对于搞笑、美女这样的标签,则因人而异。因为每个人的笑点不同、审美不同。
到底什么内容才算好笑、多好看才算美女?
萝卜青菜各有所爱,打标还没开始,就先卡在定义上面。
这里其实就涉及到两个概念——实体标签跟语义标签:
1.实体标签
广州就是广州、上海就是上海;马云就是马云,淘宝就是淘宝。
他们都是确定的实体,通常在不同人那里不会产生太大的歧义。
2.语义标签
如沙雕、美女、奇葩等词,并没有确定的指定对象。
在不同人那里会有不同的认知,因此打标难点通常出现在语义标签的定义上面。
语义标签的推荐效果是检验一个公司NLP(自然语言处理)技术水平的试金石。
不同公司根据其业务能力或需求的不同,对标签颗粒度 的要求也不同。
比如有的公司拆分到火影忍者就不往下拆了,直接把这个词当作最小颗粒度的标签。
所有涉及到这部动漫的内容都可以打上这个“火影忍者”标签,但是难免有种一刀切的感觉,对后续的运营工作也有影响。
比如有的用户想看、或者想搜索“鸣人”,结果推送的、搜索出来的全都是“火影忍者”里面的其他人。
而有的公司则继续往下拆:例如拆到火影忍者>鸣人、佐助、小樱等实体标签。
因此可以看得出:标签颗粒度越细,推荐的内容越精准,同时所需要投入的资源则越多。
OK,即使把整个公司的打标团队拉到一个会议室里面,大家通过统一培训、讲解,一个月后大家终于对什么才算是美女有了一个统一的认知,审美逐渐相同。
那么打标就可以顺利开展了吗?NO!
让我们先喝口水缓一缓,然后再接着往下继续聊。
(三)用户标签:可能是最难搞的部分
1.用户口味就像个难哄的女朋友
比内容标签难度更大的便是用户标签。
因为火影忍者就是火影忍者,一旦打上这个内容标签,它就不会变成海贼王。
内容标签尚且可以通过人工打标+机器训练 的方式进行。
用户不一样,可能这个月他喜欢看火影忍者,算法推荐机制也给他匹配了相关的内容。但是下个月他可能因为朋友或同事的推荐开始看海贼王了。
如果算法还没反应过来,继续给他推送火影忍者的相关内容,此时这些内容对他来说便是无效内容,从而影响了内容的分发效率 。
好比胡萝卜一直是胡萝卜,但是用户的口味却一直在变化。
今天想喝汤,明天想吃肉。
这里其实涉及到“推荐窄化” 的问题,算法机制越差的产品,其推荐的内容越容易出现窄化。
如不小心点击了几篇文章,算法便默认你喜欢这一类内容,此后便一直推送相关信息,无法做到根据用户的需求变化进行灵活更迭。
尽管在这个时代,无论使用哪一款内容产品,都不可避免的会出现“信息茧房” 的现象,但成熟的NLP技术与初级之间,实际的产品体验效果仍是天差地别。
2. 掌握用户的基本信息
在做用户标签之前,需要先掌握跟用户相关的信息,通常包括性别、年龄、地点、兴趣偏好等。
1)性别 有助于分发性别属性较明显的内容:如给男生推送体育、给女生推送美容护肤;
2)年龄 也同理:给年轻人推送动漫、游戏等内容,给老年人推送养生、健康信息等;
3)地点 则用于推送与区域热点相关的信息:如给上海用户推送上海突发新闻,北京限行对于广州用户似乎没有多大影响。
以上三者通常可以通过用户自动填写、授权访问位置信息的方式获取,且不会有太大的变动。
3.掌握用户兴趣偏好 对于用户兴趣偏好,如上所说,则是做用户标签的难点所在。
获取用户兴趣偏好采用的方式,是根据用户消费过的内容匹配相应的标签,通常采取以下几种方式进行定位:
1)过滤噪声: 如用户被标题党内容吸引进去,但是停留时间过段,则说明用户对该内容所绑定的标签不感兴趣,以此来过滤标题党;
2)热点降权: 对一些社会热点、突发新闻(如某明星出轨),虽然短时间内用户浏览了相关信息,但并不能说明该用户一定对“娱乐”内容特别感兴趣,需要对该用户的“娱乐”兴趣偏好进行降权处理;
3)时间衰减: 如上所说,用户的兴趣会发生偏移,因此推送策略需要更偏向于新的用户行为;
4)惩罚展现: 如果一篇推荐给用户的文章没有被点击,则该内容的相关特征(如内容分类、标签)权重会被降低。
举一个十分简单的例子:
如某新注册用户(女,25岁,上海)在刷抖音时,算法采用A-A、A-B的方式进行测试。
首先连续推送两条影视剪辑内容(A-A),用户都完整观看并有点赞、评论等操作;
其次推送影视剪辑后推送母婴内容(A-B),用户只观看了影视剪辑内容,却划走了母婴内容。
那么则说明用户对“影视剪辑”这一内容的兴趣偏好度较高,对“母婴”标签内容兴趣偏好较低。
4. 不同内容类型的推荐权重
我们都知道对于综合型平台而言,内容通常不止一种类型,如今日头条便包含了长图文、小视频、短视频、问答、微头条等几种不同形态的内容。
即使是同一个标签,如“美女”,不同内容类型的推荐权重是否一样?这也是算法推荐机制需要考虑的问题。
三、如何衡量推荐系统的好坏
内容推荐的准不准,通常可以直接从数据上去分析。
CTR(点击率)、消费时长、点赞、评论、转发数等“可量化指标”。
如Y=F(X1,X2,X3),Y代表内容可被加大曝光的权重,X代表点赞、评论等实际参数。
评论数的影响权重通常大于点赞权重,不同平台由于产品差异对于参数的权重设置也有所不同。
而不同的用户因其账号“置信度” 的差异,即使点赞了同一条内容,对该内容的影响权重也有差异,如某知乎大V点赞跟普通账号点赞的权重显然是不一样的。
但有时数据也有缺陷。 如对于低俗、标题党、涉黄内容,如果短时间内吸引了大量用户点击浏览,那么算法能判定其为好内容,并加大推送量吗?
答案显然是否定的。
因此通常需要打压降权的内容主要有以下几种:1)广告、低质搬运内容打压;2)涉黄、低俗恶心内容打压;3)标题党、低质账号内容降权等。
基于社会责任感和政策法规等因素,平台需要对该部分内容进行打压、降权,而对重点时事新闻进行置顶强插,如打开新闻APP都会看到置顶了*的相关文章。
这些都是算法无法独立完成的,需要运营配合进行。许多资讯平台都会有专门的首页运营小组对内容进行人工干预。
大多数APP日常通知栏PUSH的内容也是采取算法+人工的方式进行推送的。
四、总结
回到开头所说:要让喜欢看妹子的用户看到含有妹子的内容。
这句如此简单的话想要实现它,需要做到:
1. 内容标签的准确定义、准确打标
因为不同的人对于同一个语义标签会有不相同的认知。
2. 用户标签的准确匹配
清楚用户对于哪种“妹子”兴趣偏好度更高:是长发妹子?还是短发妹子?是南方人还是北方人等等颗粒度更细的拆分。
用户标签是建立在内容标签打的足够准确的前提条件之上的,一步错则步步错。
如果内容标签无法准确判断,那么基于内容标签建立起来的用户标签也是不可信的。
3. 算法训练
要想训练机器能够自动打标,往往一个“标签”就需要训练几个星期的时间。
通常采用抓取标题关键词的方式打上内容标签,但有时标题与文章或视频里面所有表达的内容其实有很大出入,因此打上的标签很有可能是不准确的,需要人工进行复核,判断其准确率。
综上所述,如今算法分发几乎已经是所有搜索引擎、资讯软件、内容社区、社交软件等产品的标配。
算法代表着用系统的方法去描述、解决问题的策略机制。
因此无论你是一只产品汪、还是一只运营喵,了解了内容平台的基本算法原理,无论是对于产品推荐机制的设计,还是对平台运营策略的构建,都能有所帮助。
本文来自于微信公众号深刻运营(ID:WhiteDeerPark),作者:Thinker
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!