有没有懂行的大佬能谈谈做推荐系统的大公司是否真的很“邪恶”?所谓邪恶就是为了自己的利益牺牲用户的体验和利益。 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
shendaowu
V2EX    互联网

有没有懂行的大佬能谈谈做推荐系统的大公司是否真的很“邪恶”?所谓邪恶就是为了自己的利益牺牲用户的体验和利益。

  •  
  •   shendaowu 18 天前 850 次点击
    所谓牺牲用户体验和利益比如:
    为了增加用户的使用时间不推荐对用户真正有用的。
    为了增加用户的使用时间对真正的好东西藏着掖着,不一次给用户,而是细水长流。
    为了增加用户的消费推荐更贵的商品,而不是有同样功能却更便宜的。

    类似的东西我曾经是拍脑袋想出来的,然后在 V 站提过,然后最近看到别人也说过类似的东西。我有那么一点怀疑可能是被我带歪的。我自己瞎说我还能接受,另外我当时说的语气可能也不是很确定,但是影响到别人我就不得不在意了。所以想发帖确认一下。

    我略读过两本推荐系统的书。里面有两个我感觉很在意的相关的东西。其一是任何一个能带来利益的算法系统都会被人攻击。推荐系统也一样,可以通过一些手段让恶意的内容生产者之类的人的东西获得更多曝光。可以类比一下恶意的 SEO ,比如内容农场。当然这会牺牲用户的体验。其二是通过简单的打分进行推荐效果并不好,而效果更好的通过列表排序进行推荐的复杂度是 O(n!)。书上好像没说是时间还是空间复杂度。所以有没有可能是地主家也没有余粮呢?或者可能两个原因都有?甚至可能还有其他的原因?比如我还听说那些总提信息茧房的人可能自己就是不愿意尝试新东西的人,因为成熟的推荐系统好像都是会尝试发现用户的其他兴趣的。
    r6cb
        1
    r6cb  
       18 天前
    这不可能吧,用户也会货比三家,你推荐的没别家的好就去别家买了
    EdmondGUO
        2
    EdmondGUO  
       18 天前   1
    是否牺牲用户体验取决于模型的目标是什么。现在业界大部分模型本质上还是 pointwise 的,对短视频/电商推荐来说,推荐的是当下你能产生最大目标的视频/商品,一般是时长/点击转换率 or gmv 。

    「为了增加用户的使用时间对真正的好东西藏着掖着,不一次给用户,而是细水长流。」这是短视频推荐的最终目的,就是最大化用户总时长,如果能做到全局最优,也就是你说的细水长流那是最好的。但事实上像我之前说的业界大部分模型都是预估的单个视频的时长最大化。但是这个我不认为是损害了用户的利益,单个视频看的时长长未必是你说的「真正的好东西」,这个本来就是极难定义的一个事情。

    「为了增加用户的消费推荐更贵的商品,而不是有同样功能却更便宜的。」给你推贵的你未必下单买,最终打分未必比便宜的但是点击转换率高的好。

    你说的那些内容农场呀骗点击骗点赞的视频呀,一般都是由运营或者 ai 来标注,然后通过策略进行过滤或者降权操作,不让他们出或者少出。

    「通过简单的打分进行推荐效果并不好,而效果更好的通过列表排序进行推荐的复杂度是 O(n!)」这个就是上面说的单个最优还是全局最优,pointwise 还是 listwise 。其实很难做 listwise 。模型比较难训,时延上也不允许,我了解业界应该没有直接以序列质量为目标来优化的,一般都是在最后用策略或者另一个小的模型来优化一下。策略举个例子,打散就是一种优化手段,纯粹按模型分排序,可能某一个你特别喜欢的作者会连着出,这时候打散会防止他连着出,这样长期来说不会让用户感到厌倦。
    huc2
        3
    huc2  
       18 天前
    @EdmondGUO 现在 llm base 的推荐好像是 listwise 的?比如快手的 oneRec 。不过现在的 llm base 的推荐算法还感觉还是偏讲故事用
    EdmondGUO
        4
    EdmondGUO  
       18 天前
    @huc2 是的,oneRec 生成的确实是一个序列。其实在他之前,也有人做把系统推出的几个用一个小模型重新排列组合,也是一种 listwise 的想法。不过效果没有好到在业界推广开的程度。
    akira
        5
    akira  
       18 天前
    假如有个用户的消费能力是 二锅头,然后推荐系统一直给他推茅台。这样的推荐系统有公司会用么。
    Edwinxedwin
        6
    Edwinxedwin  
       17 天前 via iPhone   1
    推荐系统最大的邪恶之处是培养用户成瘾性。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1177 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 23:34 PVG 07:34 LAX 16:34 JFK 19:34
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86