讀者讀完本文後，你會知道每類範式常用的算法有哪些、實現的思路是什麼、以及常用的應用場景。本文也可以作為讀者落地推薦算法到真實推薦場景的參考指南。
一、推薦算法與產品介紹
什麼是推薦系統？
在介紹推薦算法之前需要先介紹一下什麼是信息過載。
信息過載就是信息的數量遠超於人手工可以遍歷的數量。比如，當你沒有目的性的去逛超市，你不可能把所有的商品都看一遍都有什麼。同樣，無論是去書店看書，還是在電影網站上搜索電影，這些物品的量級對於沒有目的性、需求性的用戶而言都是信息過載。
那麼什麼是推薦系統呢？
就是當用戶的目的不明確、且該服務對於用戶而言構成了信息過載；但該系統基於一定的策略規則，將物品進行了排序，並將前面的物品展示給了用戶，這樣的系統就可以稱之為推薦系統。
舉例說明，在網站購物過程中，無論是天貓或者京東這樣的平臺，如果我們有明確的需求去搜索框裡檢索。如希望買啤酒，那麼檢索結果就是很多種類的啤酒；如果沒有明確的需求，就會有猜你喜歡等等模塊，這些模塊就是推薦系統基於一定的規則策略計算出來的，這些規則策略就是個性化推薦算法。
在工業級推薦系統的推薦業務流程一般分為召回和排序兩個階段，召回就是將用戶可能會感興趣的標的物通過算法從全量標的物庫中取出來，一般會採用多個算法來召回，比如熱門召回、協同過濾召回、標籤召回等，排序階段將召回階段的標的物列表根據用戶可能的點擊概率大小排序(即所謂的ctr預估)。在實際業務中，在排序後還會增加一層調控邏輯，根據業務規則及運營策略對排序後的列表進一步增補微調，滿足特定的運營需求。
個性化召回
1、什麼是個性化召回？ 在item全集中選取一部分作為候選集。這裡就存在一個問題，就是說為什麼要選取一部分作為作為候選集，而不是全部？其原因在於：
- 1.不同的用戶不會喜歡所有類型的item；
- 2.基於服務性能的考慮，如果選擇了全部的item作為候選集，對於後續的排序就將耗費大量的時間，對於整體推薦的後端，服務響應時間將會是災難性的。
根據用戶的屬性行為上下文等信息從物品全集中選取其感興趣的物品作為候選集。
下面舉例說明：
如果某個推薦系統中，物品全集是如下左圖中9個item，這裡有兩個用戶A和B，他們分別對不同的item感興趣。這裡拿信息流產品舉例，如果user A對體育類新聞感興趣，user B對娛樂類新聞感興趣，那就按照簡單的類別召回，得到結果如下右圖所示。
在候選集{a,b,c,….,g,h,i}中為User A,User B選取一部分item作為候選集
2、召回的重要作用 召回決定了最終推薦結果的天花板
為什麼這麼說呢？這裡先看一下推薦系統的整體架構，工業中的個性化推薦系統中的策略部分的架構主要由一下三部分構成：召回、排序、以及最後的策略調整部分（同上文提到），其中召回部分包括各路個性化召回之後將所有的item merge進入rank部分，rank只是調整召回完item的展現順序，rank完之後還有一些策略的調整，比如信息流場景中的控制相同作者的數目等等，所以可以看到個性化召回的候選集是多麼的重要，因為最終展現給用戶的就是從這個候選集中選出來的。那麼就可能會有疑問，為什麼不能將所有的item進行排序？這是為了保證後端響應時間。
與用戶離的最近的是端，在移動互聯網的時代主要的流量集中在了移動app也可以是網站前端。連接接前後端的是WEB API層。WEB層主要給APP端提供API服務，解析端上發來的請求，調用後端rpc服務。得到的結果投全到端上。web api層儘量不做策略業務邏輯，但是會做一些諸如log寫實時信息隊列，或寫分佈式存儲這樣的事情來方便後續的數據分析和模型訓練。
最後是後端的RPC服務。個性化推薦算法主要發揮作用的部分。
RPC服務的三大策略部分。
- 第一：個性化召回，基於用戶的行為，通過算法模型來為用戶精準推薦。或基於用戶畫像的標籤推薦同類型的item。舉個栗子，如果某個用戶過往經常點擊體育類的item，那麼用戶畫像就給她標上體育的lable。那麼有較新的體育類新聞，會優先推薦給改用戶。召回決定了最終推薦結果的天花板，因為這一步決定了候選集。
- 第二部分：排序部分。第一部分召回了用戶感興趣的物品集合後，我們需要決策 出展現給用戶的順序。好的順序可以讓用戶在列表的開始找到自己的所需，完成轉化。因為用戶的每一次下拉都是有成本的，如何不能在最初的幾屏裡，顯示用戶的所需，用戶就很可能流失掉。結合剛才召回所舉的例子，給用戶召回了體育類的item，不同的item可能會有不同的瀏覽人數，評論人數，發佈時間，不同的字數，不同的時長，不同的發佈時間等等，同樣該用戶也有體育類的細分的傾向性。
- 第三部分：策略調整部分，基於業務場景的策略調整部分。由於召回和排序大多數是基於模型來做的，所以基於業務場景的策略調整部分可以增加一些規則來fit業務場景。比如在信息流場景中，我們不希望給用戶一直連續推薦同一個作者的新聞，我們可以加一些打散的策略。
3、工業界個性化召回架構
整體的召回架構可以分為兩大類：
- 第一大類是離線模型
根據用戶行為基於離線的model file算出推薦結果，這些推薦結果可以是用戶喜歡哪些item集合，也可以是item之間的相似度文件 ，計算出具有某種lable的item的排序。然後離線計算好的排序的文件寫入KV存儲。在用戶訪問服務的時候，Recall部分直接從KV中讀取。因為我們直接存儲的是item ID,我們讀取到的item id的時候還需要去Detail Server中得到每個item id的詳情，然後將詳情拼接好傳給rank。(在線的server recall部分直接調用這個結果，拿到ID之後訪問detail server得到詳情，再往rank部分傳遞)
- 第二大類是深度學習模型
如果採用深度學習的一些model，這是需要將model file算出來的item embedding的向量也需要離線存入KV中，但是用戶在訪問我們的KV的時候，在線訪問深度學習模型服務（recall server）的User embedding。同時去將user embedding層的向量和item embedding層的向量做最近鄰計算，並得到召回。
下面是電視貓(一款基於OTT端[智能電視或者智能盒子]的視頻播放軟件)的推薦系統的業務流程，包含召回、排序和業務調控三大算法和策略模塊，可以作為大家設計推薦系統算法模塊的參考。
推薦算法是一種機器學習算法，所以算法模型的質量強依賴於用於算法訓練的數據集，這裡我們簡單提下推薦系統可以利用的數據有哪些(參考下面圖及上面圖的數據源)。一般推薦系統依賴三大類數據：標的物metadata數據(標的物相關的描述信息)、用戶畫像數據(用戶相關數據，如年齡、地域、性別、收入等)、用戶行為數據(用戶對標的物的操作行為，如播放、點擊、購買、收藏等)。這三類數據是主要可用的模型數據。另外人工標註數據、第三方數據等也可以用來補充完善上述三類數據。
相信大家對推薦流程及算法依賴的數據有了初步瞭解，下面我們來根據不同的推薦範式重點講解對應的推薦產品及可行的推薦算法，方便大家將不同的推薦算法對應到不同的推薦產品中。
上面我們提到的5類推薦範式，可以從三個維度來理解：
- 一個是用戶維度 -一 個是標的物維度
- 一個是用戶與標的物笛卡爾積維度
從用戶維度來看就是為用戶推薦可能感興趣的標的物，從標的物維度來看，就是用戶在訪問標的物詳情頁(或者退出標的物詳情頁)時，關聯一組標的物作為推薦。第三個維度是將用戶維度和標的物維度結合起來，不同的用戶訪問同樣的標的物詳情頁看到的內容也不一樣。
1. 基於用戶維度的推薦
基於用戶維度的推薦可以根據個性化的力度分為非個性化、群組個性化、完全個性化。這三種粒度對應我們前面提到的非個性化範式、群組個性化範式、完全個性化範式。
非個性化是每個用戶看到的推薦內容都完全一樣，傳統門戶網站的編輯對內容的編排就是非個性化的方式，每個用戶看到的內容都是一樣的。對於各類網站或者APP的排行榜的推薦形態也是非個性化的。下面圖是網易雲音樂的排行榜推薦，根據各個維度計算各類榜單。
群組個性化就是將相同特徵的用戶聚合成一組，同一組用戶在某些特徵上具備相似性，我們為這一組用戶推薦完全一樣的內容。
精細化運營一般會採用該方式，通過用戶畫像系統圈一批人，並對這批人做統一的運營。比如視頻行業的會員精細化運營，當會員快到期時，可以藉助精準運營留住用戶，具體可以將快到期的會員用戶圈出來，針對這批用戶做會員打折活動，促進用戶產生新的購買。
下圖是電視貓電視劇頻道”戰爭風雲“tab的基於群組的個性化重排序。我們將用戶根據興趣分組(聚類)，同一組內的用戶看到的內容是一樣的順序，但是不同組的用戶的排序是不一樣的。但是不管哪個用戶其實看到的內容集合(戰爭風雲tab的全部內容)是相同的，只不過根據用戶的興趣做了排序，把用戶更喜歡的內容排在了前面。
對於天貓這類購物網站來說，對未登錄用戶或是冷啟動的用戶，可以採用基於人群屬性來做推薦。通過將用戶按照性別、年齡段、收貨城市等粗粒度的屬性劃分為若干人群，然後基於每個人群的行為數據挑選出該人群點擊率最高的TopK個商品作為該人群感興趣的商品推薦給他們。該方法也是一種群組個性化推薦策略。
完全個性化就是為每個用戶推薦的內容都不一樣，是根據用戶的行為及興趣來為用戶做推薦，是最常用的一種推薦形式。大多數時候我們所說的推薦就是指這種形式的推薦。下圖是淘寶首頁的猜你喜歡推薦，這個推薦就是完全個性化的，每個人推薦的都不一樣。
完全個性化也可以基於用戶的好友關係來做推薦。下面圖是微信最近上線的好物推薦，是基於社交關係的個性化推薦，將你的好友買過的商品推薦給你。
從另外一個角度看，完全個性化推薦可以分為只基於用戶個人行為的推薦和基於群組行為的推薦。基於個人行為的推薦，在構建推薦算法時只依賴個人的行為，不需要其他用戶的行為，常見的基於內容推薦就是這類推薦。基於群組行為的推薦，除了利用自己的行為外，還依賴其他用戶的行為構建算法模型，這類推薦可以認為是全體用戶的“協同進化“，像協同過濾、基於模型的推薦等都是這類推薦形式。
2. 基於標的物維度的推薦
基於標的物維度的推薦是用戶在訪問標的物詳情頁時，或者訪問後退出時，關聯一批相似或者相關的標的物列表，對應我們上面提到的標的物關聯標的物範式。下圖是電視貓APP節目詳情頁的相似影片，就是常見的一類標的物關聯標的物的推薦模式。
除了視頻網站外，電商、短視頻等APP都大量使用基於標的物維度的推薦。下圖分別是淘寶APP和網易新聞APP上的標的物關聯標的物推薦。淘寶APP上當你點擊某個衣服詳情頁後從該詳情頁退出，就會在該衣服圖片下面用小圖展示4個相關的衣服(下面左圖紅色圈圈部分)，網易新聞視頻模塊當你點擊播放一個視頻超過幾秒後就會在該視頻下面展示一行相關視頻(見下面右圖紅色圈圈部分)，如果你一直播放，當該視頻播完後會播放後面的相似視頻，最終形成連播推薦的效果。這兩款APP的相似推薦都是非常好的推薦形態，交互非常自然流暢，毫無違和感。
3. 基於用戶和標的物交叉維度的推薦
這類推薦，不同用戶對同一個標的物的關聯推薦是不一樣的，對應我們上面提到的笛卡爾積範式。還是拿電視貓來舉例，如果該推薦是用戶與標的物笛卡爾積式的推薦的話，不同用戶看到雙重約會這個電影，下面的相似影片是不一樣的，推薦會整合用戶的興趣特徵，過濾掉用戶已經看過的電影等等。對於搜索來說，不同的人搜索同一個關鍵詞得到的搜索結果及排序是不同的，搜索結果及排序整合了個人的歷史行為特徵及興趣。
這類推薦由於每個用戶在每個標的物上的推薦列表都不一樣，我們沒法事先將所有的組合算出並存下來(否則存儲量是用戶數 × 標的物數，對於互聯網公司，這個數量是巨大的)，我們必須在用戶請求的過程中快速地為用戶計算個性化的推薦列表，這對整個推薦系統的架構有更高的要求，所以在實際場景中用得比較少。
二、召回算法概述
一、推薦召回算法概述
1. 非個性化範式 非個性化範式就是所有用戶推薦一樣的標的物列表，一般各種榜單就是這類推薦，如最新榜、最熱榜等等。這類排行榜就是基於某個規則來對標的物降序排列，將排序後的標的物取topN推薦給用戶。比如最新榜可以根據標的物上線的時間順序來倒序排列，取前面的topN推薦給用戶。最熱榜可以根據用戶播放量(點擊量)降序排列。
這裡面可能需要考慮標的物的多品類特性，甚至還會考慮地域、時間、價格等各個維度。在具體實施時會比較複雜，需要根據具體的產品及業務場景來設計。
非個性化範式可以基於簡單的計數統計來生成推薦，基本不會用到很複雜的機器學習算法。當然，用來取topN的排行榜計算公式可能會整合各類用戶行為數據，公式會比較複雜(如豆瓣評分公式就比較複雜)。
非個性化範式的排行榜等算法，實現起來很簡單，可解釋性也很強。雖然每個用戶推薦的內容都一樣，但是(從生物進化上)人都是有從眾心理的，大家都喜歡的東西，我們也喜歡的概率還是很大的，所以這類推薦效果還是非常不錯的。這類算法也可以作為冷啟動或者默認的推薦算法。
2. 完全個性化範式
完全個性化範式是最常用的推薦模式，可用的推薦方法非常多。下面對常用的算法及最新的算法進展進行簡單梳理。
（1）基於內容的個性化推薦算法
這類推薦算法只依賴於用戶自己的歷史行為而不必知道其他用戶的行為。該算法的核心思想是：標的物是有描述屬性的，用戶對標的物的操作行為為用戶打上了相關屬性的烙印，這些屬性就是用戶的興趣標籤，那麼我們就可以基於用戶的興趣來為用戶生成推薦列表。拿視頻推薦來舉例，如果用戶過去看了科幻和恐怖兩類電影，那麼恐怖、科幻就是用戶的偏好標籤了，這時我們就可以給用戶推薦科幻、恐怖類的其他電影。具體來說，我們有如下兩類方法來為用戶做推薦。
- a 基於用戶特徵表示的推薦
標的物是具備很多文本特徵的，比如標籤、描述信息、metadata信息等。我們可以將這些文本信息採用TF-IDF或者LDA等算法轉化為特徵向量，如果是用標籤來描述標的物，那麼我們可以構建一個以標籤為特徵的特徵向量。
有了特徵向量，就可以將用戶所有操作過的標的物的特徵向量的(時間加權)平均作為用戶的特徵向量，利用用戶特徵向量與標的物特徵向量的乘積就可以計算用戶與標的物的相似度，從而計算出用戶的推薦列表。
- b 基於倒排索引查詢的推薦
如果我們基於標籤來表示標的物屬性，那麼基於用戶的歷史行為，可以構建用戶的興趣畫像，該畫像即是用戶對各個標籤的偏好，並且有相應的偏好權重。
構建完用戶畫像後，我們可以構建出標籤與標的物的倒排索引查詢表(熟悉搜索的同學應該不難理解)。基於該反向索引表及用戶的興趣畫像，我們就可以為用戶做個性化推薦了。該類算法其實就是基於標籤的召回算法。
具體推薦過程是這樣的(見下面圖)：從用戶畫像中獲取用戶的興趣標籤，基於用戶的興趣標籤從倒排索引表中獲取該標籤對應的節目，這樣就可以從用戶關聯到節目了。其中用戶的每個興趣標籤及標籤關聯到的標的物都是有權重的。
該類推薦算法是非常自然直觀的，可解釋性強。同時可以較好地解決冷啟動，只要用戶有一次行為，就可以基於該行為做推薦。但是，該類算法往往新穎性不足，給用戶的推薦往往侷限在一個狹小的範圍中，如果用戶不主動拓展自己的興趣空間，該方法很難為用戶推薦新穎的內容。
（2）基於協同過濾的推薦算法
基於協同過濾的推薦算法，核心思想是很樸素的”物以類聚、人以群分“的思想。所謂物以類聚，就是計算出每個標的物最相似的標的物列表，我們就可以為用戶推薦用戶喜歡的標的物相似的標的物，這就是基於物品的協同過濾。所謂人以群分，就是我們可以將與該用戶相似的用戶喜歡過的標的物(而該用戶未曾操作過)的標的物推薦給該用戶，這就是基於用戶的協同過濾。具體思想可以參考下圖。
協同過濾的核心是怎麼計算標的物之間的相似度以及用戶之間的相似度。我們可以採用非常樸素的思想來計算相似度。
我們將用戶對標的物的評分(或者隱式反饋，如點擊等)構建如下矩陣(見下) 矩陣的某個元素代表某個用戶對某個標的物的評分(如果是隱式反饋，值為1)，如果某個用戶對某個標的物未產生行為，值為0。其中行向量代表某個用戶對所有標的物的評分向量，列向量代表所有用戶對某個標的物的評分向量。有了行向量和列向量，我們就可以計算用戶與用戶之間、標的物與標的物之間的相似度了。具體來說，行向量之間的相似度就是用戶之間的相似度，列向量之間的相似度就是標的物之間的相似度。相似度的計算可以採用cos餘弦相似度算法。
在互聯網產品中一般會採用基於物品的協同過濾，因為對於互聯網產品來說，用戶相對於標的物變化更大，用戶是增長較快的，標的物增長相對較慢，利用基於物品的協同過濾算法效果更穩定。
協同過濾算法思路非常直觀易懂，計算也相對簡單，易於分佈式實現，也不依賴於用戶及標的物的其他信息，效果也非常好，也能夠為用戶推薦新穎性內容，所以在工業界得到非常廣泛的應用。
（3）基於模型的推薦算法
基於模型的推薦算法種類非常多，最常用的有矩陣分解算法、分解機算法等。目前深度學習算法、強化學習算法、遷移學習算法也在推薦系統中得到大規模採用。
基於模型的推薦算法，基於用戶歷史行為數據、標的物metadata、用戶畫像數據等構建一個機器學習模型，利用數據訓練模型，求解模型參數。最終利用該模型來預測用戶對未知標的物的偏好。下面圖就是基於模型的推薦系統模型訓練與預測的流程。
基於模型的推薦算法有三類預測方式，一類是預測標的物的評分，基於評分的大小表示對標的物的偏好程度。第二類是採用概率的思路，預測用戶對標的物的喜好概率，利用概率值的大小來預測用戶對標的物的喜好程度。另外一類是採用分類的思路，將每個標的物看成一類，通過預測用戶下一個(幾個)標的物所屬的類別來做推薦。矩陣分解算法就是預測用戶對標的物的評分，logistic迴歸算法就是概率預測方法，而youtube發表的深度學習推薦就是基於分類思路的算法(參見參考文獻10)。
矩陣分解算法是將用戶評分矩陣M分解為兩個矩陣U、V的乘積。U代表的用戶特徵矩陣，V代表標的物特徵矩陣。某個用戶對某個標的物的評分，就可以採用矩陣U對應的行(該用戶的特徵向量)與矩陣V對應的列(該標的物的特徵向量)的乘積。分解機算法是矩陣分解算法的推廣，這裡不做介紹。
隨著最近幾年深度學習在圖像識別、語音識別領域的大獲成功。有很多研究者及工業實踐者將深度學習用於推薦系統，也取得了非常好的成績，如youtube、Netflix、阿里、京東、網易、攜程等，都將深度學習部署到了實際推薦業務中，並取得了非常好的轉化效果(參考後面的參考文獻中對應的論文)。
強化學習及遷移學習等新的方法也開始在推薦業務中嶄露頭角，有興趣的讀者可以閱讀文末對應的參考文獻。
3. 群組個性化範式
群組個性化範式需要先將用戶分組，分組的原則是非常重要的。一般有如下兩類分組方案。
（1）基於用戶畫像圈人的推薦
先基於用戶的人口統計學數據或者用戶行為數據構建用戶畫像。用戶畫像一般用於做精準的運營，通過顯示特徵將一批人圈起來，對這批人做針對性的運營。在前面也做了介紹，這裡不再說明。
（2）採用聚類算法的推薦
聚類是非常直觀的一種思路，將行為偏好相似的用戶聚成一類，他們有相似的興趣。常用的聚類策略有如下兩類。
- a 將用戶嵌入一個高維向量空間，基於用戶的向量表示做聚類
將用戶相關特徵嵌入向量空間的方式有很多，下面都是非常主流的做法。
採用基於內容推薦的思路，可以構建用戶的特徵向量(TF-IDF，LDA，標籤等，前面已經介紹過)。有了用戶的特徵向量就可以聚類，該類所有用戶特徵向量的加權平均就是該組用戶的特徵向量，再利用群組特徵向量與標的物特徵向量的內積來計算群組與標的物的相似度，從而為該群組做個性化推薦。
採用基於用戶的協同過濾的思路，可以構建用戶和標的物的行為矩陣，矩陣的元素就是用戶對標的物的評分，利用該矩陣的行向量就構建了一個衡量用戶特徵的向量，基於該特徵向量可以對用戶聚類。先對該組用戶所有的特徵向量求均值，可以取k個最大的特徵，其他特徵忽略不計(設置為0)，最終得到該組用戶的特徵。最後就可以根據基於用戶協同過濾的思路來為該組用戶計算推薦列表了。
利用矩陣分解可以得到每個用戶的特徵向量，我們可以用該組用戶特徵向量的均值來作為該用戶組的特徵向量。再利用用戶組的特徵向量與標的物特徵向量的內積來計算群組對該標的物的偏好，所有偏好計算出來後，通過降序排列就可以為該組用戶推薦topN的標的物列表了。前面我們提到的電視貓的重排序算法就是基於該思路實現的。
還可以基於詞嵌入的方式，將每個用戶對標的物的所有操作(購買、觀看等)看成一個文檔集合，標的物的sid就是一個單詞，採用類似word2vec的方式可以獲得標的物的向量表示(見參考文獻9)，那麼用戶的向量表示就是用戶操作過的所有標的物的向量表示的均值(可以採用時間加權，對最早操作的標的物給予最低的權重)，這樣就獲得了每個用戶的特徵向量了。該組所有用戶的平均特徵向量就是該組的特徵向量。這時可以採用類似上面矩陣分解的方式計算該組特徵向量與標的物特徵向量的內積為該組用戶做個性化推薦。
除了上面幾種計算群組推薦的方法外，還有一種基於計數統計的更直觀的推薦方法。當我們對用戶進行聚類後，我們可以對這一組用戶操作過的標的物採用計數的方式統計每個標的物被操作的次數，將同一標的物的操作次數累加，最後按照標的物計數大小按照降序排列。 將標的物列表topn推薦給該組，這個topN列表就是絕大多數人喜歡的標的物。
- b 基於圖的聚類
我們可以構建用戶關係圖，頂點是用戶，邊是用戶之間的關係，我們可以採用圖的分割技術，將圖分割成若干個聯通子圖，這些子圖即是用戶的聚類。還有一種方法是將圖嵌入到高維向量空間中，這樣就可以採用kmeans聚類方法做聚類了。有了用戶的聚類就可以採用上面基於計數統計的直觀方法做推薦了，或者採用更復雜的方案做推薦。
那怎麼構建用戶關係圖呢？一般有兩種方法。如果是社交類產品，可以基於社交關係來構建用戶關係圖，用戶之間的邊，代表好友關係。如果是非社交類產品，如果兩個用戶對同一標的物都有操作行為，那麼這兩個用戶之間可以構建一條邊。
群組個性化推薦的優勢是每組給出一樣的推薦，可以減少推薦的計算和存儲。但該方案有一個最大的問題，同一組推薦一樣的標的物列表，很可能對某個用戶來說，推薦的標的物他已經看過，但是其他用戶沒有看過，所以無法過濾掉該標的物，針對某些用戶推薦體驗不夠好。另外，同一組用戶在興趣特徵上多少是有差別的，無法精細地照顧到每個用戶的興趣點。
群組個性化推薦的思路和優點也可以用於完全個性化範式的推薦。可以將用戶先分組，每一個分組看成一個等價類(熟悉數學的同學應該很容易理解，不熟悉的同學可以理解為一個興趣小組)，同一組的用戶當成一個用戶，這樣就可以利用完全個性化範式中的算法思路來做推薦。Google在07年發表的一篇論文(參考文獻17)就是採用該思路的協同過濾實現。將用戶分組可以減少計算量，支持大規模並行計算。
4. 標的物關聯標的物範式
標的物關聯標的物就是為每個標的物推薦一組標的物。該推薦範式的核心是怎麼從一個標的物關聯到一組標的物。這種關聯關係可以是相似的，也可以是基於其他維度的關聯。常用的推薦策略是相似推薦。下面給出4種常用的生成關聯推薦的策略。
（1）基於內容的推薦
這類方法一般可以利用已知的數據和信息利用向量來描述標的物，如果每個標的物都被向量化了，那麼我們就可以利用向量之間的相似度來計算標的物之間的相似度。
如果標的物是新聞等文本信息，可以採用TF-IDF將標的物映射為詞向量，我們可以通過詞向量的相似度來計算標的物之間的相似度。
即使不是文本，只要標的物具備metadata等文本信息，也可以採用該方法。很多互聯網產品是具備用戶評論功能的，這些評論文本就可以看成是標的物的描述信息。
LDA模型也非常適合文本類的推薦，通過LDA模型將文章(文檔)表示為主題及相關詞的概率，我們可以通過如下方式計算兩個文檔的相似度：先計算兩個文檔某個主題的相似度，將所有主題的相似度加權平均就可以得到兩篇文檔的相似度，而主題的相似度可以採用主題的詞向量的餘弦內積來表示。
（2）基於用戶行為的推薦
在一個成熟的推薦產品中，會包含很多用戶的行為，如用戶的收藏、點贊、購買、播放、瀏覽、搜索等，這些行為代表了用戶對標的物的某種偏好。我們可以基於該用戶行為來進行關聯推薦。具體的策略有如下4類。
- a 比如常用的矩陣分解算法
可以將用戶的行為矩陣分解為用戶特徵矩陣和物品特徵矩陣，物品特徵矩陣可以看成是衡量物品的一個向量，利用該向量我們就可以計算兩個標的物之間的相似度了。
- b 採用嵌入的思路做推薦
用戶的所有行為可以看成是一個文檔，每個標的物可以看成是一個詞，我們可以採用類似word2vec的思路，最終訓練出每個詞(即標的物)的向量表示，利用該向量表示可以計算標的物之間的相似度。
- c 我們可以將用戶對標的物的所有操作行為投射到一個二維表(或者矩陣)上
行是用戶，列是標的物，表中的元素就是用戶對該標的物的操作(評分或者點擊等隱式行為)，通過這種方式我們就構建了一個二維表。這個二維表的列向量就可以用來表示標的物。這樣我們就可以採用向量相似來計算標的物之間的相似度了。
- d 採用購物籃的思路做推薦，這種思路非常適合圖書、電商等的推薦
經常一起購買(或者瀏覽)的標的物形成一個列表(一個購物籃)，將過去一段時間所有的購物籃收集起來。 任何一個標的物，我們可以找到跟它出現在同一個購物籃的標的物及次數，統計完該次數後，我們就可以按照該次數降序排列，那麼這個列表就可以當做標的物的關聯推薦了。該推薦思路非常直觀易懂，可解釋性強。下面圖就是亞馬遜網站上採用該思路的兩類關聯推薦。
（3） 基於標籤推薦
如果標的物是包含標籤的，比如視頻推薦。我們就可以利用標籤來構建向量，每個標籤代表一個維度。總標籤的個數就是向量的維度，這樣每個標的物就可以利用標籤的向量來表示了。一般標的物的標籤個數遠遠小於總標籤的個數，所以這個向量是稀疏向量。這樣我們就可以基於稀疏向量的表示來計算標的物之間的相似度了。
（4）基於標的物聚類的推薦
我們可以將標的物按照某個維度聚類，同一類具備某些相似性，那麼我們在推薦時，就可以將同一類的其他標的物作為關聯推薦。我們需要解決的問題是，某些類可能數量很小，不夠做推薦，這時可以採用一些策略來補充(如補充熱門推薦等)不足的數量。
5. 笛卡爾積範式
笛卡爾積範式的推薦算法一般可以先採用標的物關聯標的物範式計算出待推薦的標的物列表。再根據用戶的興趣來對該推薦列表做重排(調整標的物列表的順序)、增補(增加用戶的個性化興趣)、刪除(比如過濾掉用戶看過的)等。由於笛卡爾積範式的推薦算法在真實業務場景中使用不多，這裡不再詳細講解。
到目前為止，我們講完了常用的召回策略。召回除了根據上面的一些算法策略外，還跟具體業務及產品形態有關，可以基於更多的其他維度(如時間、地點、用戶屬性、收入、職業等)來做召回。
智能電視上的推薦，早上、白天、晚上推薦的不一樣，節假日和平常推薦的也不一樣。上班族早上需要上班，時間不充足，可能推薦短視頻或者新聞更加合適，白天一般是老人在家，可以推薦戲曲、抗戰類節目等，晚上主人回家又會推薦不一樣的內容。
基於地點的召回，要求在不同的地方推薦不一樣的標的物，典型的應用有美團外賣，你在不同的地方，給你推薦的是你所在地附近幾公里範圍內的餐廳。
個性化召回算法
本章節主要講解itemcf與usercf的基礎理論部分與理論公式升級部分，並詳細介紹itemcf與usercf的優缺點分析
Item Collaborative Filtering(Item CF) 背景
- 信息過載，用戶需求不明確
- 強依賴於用戶行為
工業界主流落地場景
- 信息流
- 電商
- o2oLBS
含義：給用戶推薦他之前喜歡的物品相似的物品
如何衡量相似
- 基於用戶行為，如果喜歡2個物品的用戶重合度越高，那麼2個物品也就越相似。 如何衡量喜歡
- 看用戶是否真實點擊，在電商場景下，更看重實際轉化（實際消費購買）；信息流場景下，更看重真實的點擊（基於一定時長下的停留）
物品之間相似度公式：
u(i)表示喜歡物品i的用戶數，表示同時喜歡物品i和物品j的用戶數
根據用戶行為計算出用戶相似度矩陣：
- 分子：u(i)表示對item (i)有過行為的用戶集合 ,u(j)表示對item (j)有過行為的用戶集合 ，分子表示user的重合程度，重合度越高，越相似。
- 分母：歸一化（舉例：對item(i)有過行為的用戶2個，對item(j)有過行為的用戶3個,物理意義：懲罰的熱門物品與其他物品的相似度，因為熱門物品對應的user倒排會非常長造成了與很多物品都有重合，如果分母除以一個很大的數，將相似度的數值趨於0。
- 用戶u對物品j的興趣公式： N(u) 表示用戶喜歡的物品集合，表示和物品j最相似的k個物品的集合。表示物品i和j的相似度.表示用戶u對物品i的興趣。 表示user對 i的行為得分，表示物品的相似度得分 對user進行item(j)的推薦，根據item(i)來完成推薦的，item(i)是user行為過的物品並且取與item(i)最相似的top k個(一般50個）
Item CF在工業界落地公式升級1：
理論意義：針對於活躍用戶應該被降低在相似度公式中的貢獻度。
如果在某電商系統中，如果某User A是批發商，他購買了很多物品，可能有啤酒，書刊等，這都不能真實的表現他的興趣。還有一名User B,他只買了啤酒和書刊，這能完全表現他的興趣。如果我們在計算啤酒和書刊的相似度的時候，如果按照之前相似度公式User A和User B對啤酒和書刊的相似度貢獻是一樣的。這樣子顯然是不合理的。我們需要降低User A在相似度計算過程中的貢獻度。
u(i)表示喜歡物品i的用戶數，表示同時喜歡物品i和物品j的用戶數
與之前的相似度計算公式公式相比，分母部門沒有發生任何變化。那麼我們重點看分子部分。之前的相似度計算公式中每個重合用戶對相似度的貢獻是一樣的，都是1.但是升級後的公式，我們發現每個用戶對相似度的貢獻變成了不一樣。N(u)表示用戶u所行為過的item的總數。如果一個用戶行為過的item的總數越多，那麼他的相似度就越低。這樣子是符合常理的認知的。
分子：N(u)表示用戶u所行為過的item總數，如果用戶行為過的總數越多，對相似度貢獻越低。
Item CF在工業界落地公式升級2：
理論意義：用戶在不同時間對item的操作應給予時間衰減懲罰。
因為在很多場景中，用戶的興趣隨時間是有變化的。如在信息流場景中，可能30前看過的短視頻，30天后就不一定喜歡了。因為在做物品相似度矩陣計算的時候，就假定了用戶的行為可以反映用戶的興趣。所以需要給予時間衰減降權。
的物理意義就是說如果item i與item j被行為時間的差異越小，那麼就越逼近於1.如果他們item i與item j被行為時間的差異越大，那麼這個貢獻就越低。
與之前的相似度計算公式相比，分母部門沒有發生任何變化。那麼我們重點看分子部分。每個用戶對相似度的貢獻也發生了變化。這裡的變化主要由決定的。是指用戶item i與 item j所行為的時間的差異。
User Collaborative Filtering(User CF) 意義：給用戶推薦相似興趣用戶感興趣的物品。
舉個栗子：在我們讀書的時候是否經常問學長學姐該讀什麼樣的書或者下載什麼樣的論文？學長學姐就會給你推薦。在這個栗子中學長學姐和你就屬於具有相同愛好的用戶群體，因為你們具有相同的研究領域。
那麼所以基於用戶的協同過濾的算法有兩個步驟：
1、找到相似興趣用戶的集合
那麼問題來了，如何評價相似興趣用戶集合？區別於很多傳統做法，這裡主要採用基於用戶行為重合度的方法，舉例來說，如果兩個用戶的行為具有很高的重合度，那麼他們具有很高的相似性。那麼他們可以稱為相似興趣用戶集合。
2、推薦相似用戶行為過，而該用戶並沒有行為過的item。舉個栗子，如果我們發現兩個用戶A、B都非常喜歡足球相關的視頻，行為重合度極高。而用戶B經常點擊天下足球相關的視頻，用戶A並沒有行為，那麼我們可以推薦天下足球相關的視頻給用戶A。
栗子：
User A 可以給User D 推薦b
基於用戶的協同過濾算法的步驟
1、計算相似用戶的相似度矩陣
相似度公式
N(u)表示用戶u有過行為item的集合。N(v)表示用戶v有過行為item的集合。
分子是item的重合程度。顯然重合程度越高，user越相似。
分母做了一個歸一化，物理意義上解釋了懲罰了操作過多的用戶與其他用戶的相似程度。因為操作過多的用戶對應的item的序列會非常的長，造成了與很多的用戶都有相似。分母除以一個很大的數之後呢，就能把相似度得分的數值趨於0.在得到用戶相似度矩陣過後，我們根據用戶的行為點擊，來完成相似用戶的item推薦。
下面來看公式
表示用戶v對item i的行為得分。在前面介紹item cf公式的時候，我們提到過對於不同的行為，我們對用戶的行為得分定義不同。我們這裡將行為得分歸一化為1.
表示user u與uer v的相似度得分。這裡根據用戶v來完成對用戶u的推薦。所以這裡要介紹用戶v。用戶v是用戶u的前TOP k個的相似用戶。並且用戶v行為過的物品 item i,用戶user u 沒有行為。那麼我們便得到了用戶u對item i的推薦度得分。
工業界落地時公式升級1:
理論意義：降低那些異常活躍物品對與用戶相似度的貢獻
舉個栗子解釋：
如果某個電商系統中，User (A) 與User(B)同時購買了《新華字典》，User (A) 與User(C)同時購買了《機器學習》，並且他們都只有這一本書重合，User (A) 與User(B)、User (A) 與User(C)的重合度都是1，顯然不合理，因為購買《新華字典》並不能十分準確的反映用戶的興趣，也許是給家裡孩子買，換言之《新華字典》的用戶倒排會非常的長，而購買《機器學習》的用戶大概率可以反映他們的興趣，因為這本書的購書群體很窄，因此我們需要降低那些很多人購買的在重合度中的貢獻。
分子：基礎版本的相似度計算公式當中重合的每一item對整體的貢獻都是相同的。在升級版中貢獻變得不同的。u(i)表示對item(i)有過行為的用戶集合，如果一個item被更多的用戶行為過，那麼它在重合度的貢獻越低。這也符合我們的認知。
公式升級2（工業界） 理論意義，不同用戶對同一item行為的時間段不同應該給予時間懲罰 （因為很多用戶不同時間段，興趣是發生變化的，比如，2個用戶都曾經點擊過足球類短視頻，一個用戶是近期點擊，另一個用戶是在好幾個月之前歐洲盃比賽期間，也許在目前時間節點，已經不再喜歡足球類短視頻了，我們在計算用戶相似度矩陣的時候，假定了用戶行為可以反映出用戶的興趣，所以我們要給予時間衰減降權）
與基礎版本的用戶相似度矩陣計算公式，分母沒有發生任何變化。
分子：每一個重合的item的貢獻度得分都變得不同,它們的貢獻度得分由函數決定。函數具體的得分是2個用戶對同一item操作時間的差，如果越短的話,的得分越高;如果越長的話,的得分越低。相應的在重合度貢獻中也就越低。
Itemcf VS Usercf優缺點比較：
推薦實時性
- User cf用戶有了新的行為，不會對結果造成很快的變化，因為Usercf是基於相似度矩陣來完成推薦的，User本身的行為並不能造成自己的推薦結果發生改變。
- Item cf用戶一旦有了新的行為，推薦結果立刻發生改變，因為Itemcf是基於相似度矩陣來完成推薦的，所以點擊了物品，會立馬推薦出相似的物品
新用戶/新物品的推薦
- Usercf新用戶的到來是不能立即推薦的，需要等用戶有了一定的行為並且得到了與其他用戶相似度矩陣之後才可以完成推薦，新用戶一旦被用戶點擊，Usercf可以通過相似度用戶矩陣將該物品推薦給相似的用戶。
- Item cf新用戶一旦完成了Item點擊，便可以推薦該Item相似的其餘Item，新物品的到來，由於此時新物品，並沒有與其他物品在相似度矩陣中出現，所以Itemcf並不能將新物品及時地推薦出去
推薦理由的可解釋性
- User cf由於是通過用戶相似度矩陣來完成推薦的，結果會略顯難以解釋。
- Item cf通過用戶歷史點擊行為完成的推薦，所以推薦結果更加令人信服。
Item cf VS User cf適用場景 性能層面考量
- User cf通過計算用戶相似度矩陣，所以它並不適合用戶很多的場合。因為相似度矩陣計算起來代價非常大。
- Item cf需要計算物品的相似度矩陣，所以Itemcf適用於物品數遠小於用戶數場合。由於實戰中用戶量往往遠大於物品的數量級，所以實戰中更傾向於Item cf。
個性化層面考量
- User cf適用於物品及時推薦下發且個性化需求不太強烈的領域。
- Itemcf適用於長尾物品豐富並且個性化需要強烈的領域。由於真實的推薦系統中，各種個性化召回算法組合，會有一些召回方法解決新物品及時下發問題，而我們需要個性化程度強烈，所以從個性化層面考慮，更傾向於在落地實戰中採用Itemcf。
ItemCF的優勢：
（1）計算性能高，通常用戶數量遠大於物品數量。
（2）可預先計算保留，物品並不善變。
ItemCF存在的問題： 物品冷啟動問題：當平臺中物品數據較少或缺失時，無法精確計算物品相似度，解決辦法：
（1）文本分析，通過分析物品的介紹文本，計算相似度。 （2）主題模型，通過主題模型分析物品文本主題得出主題相似度。 （3）打標籤，對物品打標籤求得相似度。 （4）推薦排行榜單。
三、排序算法概述
推薦系統排序模塊將召回模塊產生的標的物列表(一般幾百個標的物)，通過排序算法做重排，更好的反應用戶的點擊偏好，通過排序優化用戶的點擊行為，將用戶更可能點擊的標的物(一般幾十個)取出來推薦給用戶，最終提升用戶體驗。
排序模塊會用到很多特徵，基於這些特徵構建排序模型，排序特徵在排序的效果中起到非常關鍵的作用，常用的特徵可以抽象為如下5大類：
- 用戶側的特徵，如用戶的性別、年齡、地域、購買力、家庭結構等。
- 商品側的特徵，如商品描述信息、價格、標籤等。
- 上下文及場景特徵，如位置、頁面、是否是週末節假日等。
- 交叉特徵，如用戶側特徵與商品側特徵的交叉等。
- 用戶的行為特徵，如用戶點擊、收藏、購買、觀看等。
包括：個性化召回算法、個性化排序算法
排序框架需要充分利用上述五大類特徵，以便更好的預測用戶的點擊行為。排序學習是機器學習中一個重要的研究領域，廣泛應用於信息檢索、搜索引擎、推薦系統、計算廣告等的排序任務中，有興趣的讀者可以參考微軟亞洲研究院劉鐵巖博士的專著《Learning to Rank for Information Retrieval》。常用的排序算法框架有pointwise、pairwise、listwise三類，見下圖。
上圖中x1，x2，... 代表的是訓練樣本1，2，... 的特徵，y1，y2，s1，... 等是訓練集的label(目標函數值)。pointwise學習單個樣本，如果最終預測目標是一個實數值，就是迴歸問題，如果目標是概率預測，就是一個分類問題，例如CTR預估。pairwise和listwise分別學習一對有序對和一個有序序列的樣本特徵，考慮得更加精細。在推薦系統中常用pointwise方法來做排序，它更直觀，易於理解，也更簡單。
常用的排序學習算法有logistic迴歸、GBDT、Wide & Deep等，這裡對這些算法的實現原理做一個簡單描述。
1. logistic迴歸模型
logistic迴歸是比較簡單的線性模型，通過學習用戶點擊行為來構建CTR預估。利用logistic迴歸構建推薦算法模型，具體模型如下面公式。
其中， 是用戶喜歡某個標的物的概率；
是權重，是需要學習的模型參數；
是特徵i的值，特徵如上面所述，有5大類可用特徵。
我們可以通過上述公式計算待推薦標的物的p值。最終我們可以按照p值的大小降序排列來對召回的標的物列表做排序。
在工業界，為了更好地將該模型應用到真實業務場景中，很多公司對logistic迴歸模型做了推廣。比如用到在線實時推薦場景中做排序，有Google在2013年推廣的FTRL(見參考文獻14)，以及阿里推廣的分片線性模型(見參考文獻13)。
2. GBDT模型
GBDT(Gradient Boosting Decision Tree)是一種基於迭代思路構造的決策樹算法(可以參考文獻15)，該算法在實際問題中將生成多棵決策樹，並將所有樹的結果進行彙總來得到最終答案，該算法將決策樹與集成思想進行了有效的結合，通過將弱學習器提升為強學習器的集成方法來提高預測精度。GBDT是一類泛化能力較強的學習算法。
2014年Facebook發表了一篇介紹將GBDT+LR(Logistic Regression)模型用於其廣告CTR預估的論文(參考文獻16)，開啟了利用GBDT模型應用於搜索、推薦、廣告業務的先河。GBDT作為一種常用的樹模型，可天然地對原始特徵進行特徵劃分、特徵組合和特徵選擇，並得到高階特徵屬性和非線性映射。從而可將GBDT模型抽象為一個特徵處理器，通過GBDT分析原始特徵獲取到更利於LR分析的新特徵，這也正是GBDT+LR模型的核心思想——利用GBDT構造的新特徵來訓練LR模型。
3. Wide & deep模型
Wide&deep模型最早被Google提出來，並用於Android手機應用商店上APP的推薦排序。目前該算法在國內很多互聯網企業得到大規模的採用，有比較好的效果。該模型將傳統模型和深度學習模型相結合。wide部分(傳統模型，如logistic迴歸)起記憶(memorization)的作用，即從歷史數據中發現item(推薦內容)或者特徵之間的相關性，deep部分(深度學習模型)起泛化(generalization)的作用，即相關性的傳遞，發現在歷史數據中很少或者沒有出現的新的特徵組合，尋找用戶的新偏好。通過將這兩個模型結合起來可以更好地在用戶的歷史興趣和探索新的興趣點之間做到平衡。感興趣的讀者可以閱讀參考文獻12。
評估指標： 包括：在線評估指標和離線評估指標
四、推薦算法落地需要關注的幾個問題
前面幾節對推薦系統算法和產品做了初步描述，相信大家對常用算法實現思路、怎麼用於真實產品中有了比較直觀的認識。在本節作者對算法落地中幾個重要問題加以說明，以便你可以更好地將推薦算法落地到真實業務場景中。
- 推薦算法工程落地是否一定需要排序模塊
工業上的推薦算法一般分為召回和排序模塊，召回的作用是從全量標的物集合(幾萬甚至上億)中將用戶可能喜歡的標的物取出來(幾百個)，排序階段將召回的標的物集按照用戶點擊的可能性再做一次排序。但是排序階段不是必須的，特別是對於標的物池不大的產品及團隊資源較少的情形，沒必要一開始就開發出排序框架。召回算法一般也會對標的物做排序(如果是評分預測模型，如矩陣分解，可以按照評分大小排序，如果是概率模型，可以按照對標的物的偏好概率大小排序)。缺失了排序模塊的推薦系統可能精準度沒有那麼高，但是工程實現上相對更加簡單，可以快速落地上線。特別對於剛做推薦系統的團隊，可以讓系統快速上線，後面再逐步迭代，補全缺失模塊。
- 推薦算法服務於用戶的兩種形式
推薦算法計算出的推薦結果可以直接插入數據庫(如Redis等)，直接為用戶提供服務，另外一種方式是將核心特徵計算好存儲下來，當用戶請求推薦業務時，推薦web服務通過簡單計算將特徵轉化為最終給用戶的推薦結果返回給用戶。這兩種方式一個是事先計算好，拿來就用，另外一種是準備好核心數據，在請求時實時計算最終結果。
我拿餐廳服務外賣來類比說明，第一種方式是將餐廳有的菜先做好很多份，如果有外賣單過來，直接將做好的送出。第二種是將所有的配菜都準備好，接到外賣單立馬將配菜加上調料炒熟再送出去，只要配菜準備足夠好，炒菜的時間不太長並且可控，也是可以很好的服務用戶的。第一種方式是事先做好的，無法滿足用戶個性化需求，同時如果做好了沒人點的話就浪費了，第二種可以更好滿足用戶個性化需求，比如用戶說不要香菜多放辣椒就可以在現做的時候滿足。
第二種方式對整個推薦系統要求更高，服務更加精細，但是第一種方案更加簡單，不過也需要更多的存儲資源(將所有用戶的推薦結果事先存下來)。在推薦系統構建的初級階段建議採用方案一。
某些推薦業務用方案一是不可行的，比如上面的笛卡爾積範式的推薦系統，因為用戶數乘以標的物數是一個巨大的天文數字，公司不可能有這麼多的資源將每個用戶關聯的每個標的物的推薦結果事先計算好存儲下來。
- 推薦系統評估
推薦系統是服務於公司商業目標的(盈利目標，提升用戶體驗、使用時長、DAU等，最終也是為了盈利)，所以推薦系統落地到真實業務場景中一定要定義推薦系統的優化目標，只有目標具體而清晰，並可量化，才能更好的通過不斷迭代優化推薦效果。大家可以參考《推薦系統的商業價值》，瞭解怎麼定義推薦系統的商業指標。
參考文獻：
- 1.Multi-Interest Network with Dynamic Routing for Recommendation at Tmall
- 2.Deep Session Interest Network for Click-Through Rate Prediction
- 3.Behavior Sequence Transformer for E-commerce Recommendation in Alibaba
- 4.Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba
- 5.Personal Recommendation Using Deep Recurrent Neural Networks in NetEase
- 6.Deep Reinforcement Learning for List-wise Recommendations
- 7.Recommendations with Negative Feedback via Pairwise Deep Reinforcement Learning
- 8.Learning Tree-based Deep Model for Recommender Systems
- 9.Item2Vec- Neural Item Embedding for Collaborative Filtering
- 10.Deep Neural Networks for YouTube Recommendations
- 11.Deep Learning based Recommender System- A Survey and New Perspectives
- 12.Wide & Deep Learning for Recommender Systems
- 13.Learning Piece-wise Linear Models from Large Scale Data for Ad Click Prediction
- 14.Ad Click Prediction- a View from the Trenches
- 15.Greedy function approximation: a gradient boosting machine
- 16.Practical Lessons from Predicting Clicks on Ads at Facebook
- 17.Google News Personalization: Scalable Online Collaborative Filtering
