今天忽然想到一个深度研究引用语料素材投毒的问题。 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
imaxwell

今天忽然想到一个深度研究引用语料素材投毒的问题。

  •  
  •   imaxwell Sep 18, 2025 via Android 1259 views
    This topic created in 221 days ago, the information mentioned may be changed or developed.

    如果有人在做完 Deep research 之后把相关的全文公布在互联网上,但是篡改其中的结论和部分数据,使其结论利于自己,不利于友商。 那么下一次别的人在做同样主题的 deep research 的时候,AI 应该能够通过关键词和语义向量匹配到之前的这一份报告。对于其中的篡改的结论和数据,AI 会怎么处理呢?是随机接纳其中的结论和数据,还是会尝试交叉验证确认一下?

    avrillavigne
        1
    avrillavigne  
       Sep 18, 2025 via Android
    https://www.cloudflare.com/zh-cn/learning/ai/data-poisoning/
    什么是 AI 数据投毒?

    AI 数据投毒是指故意在 AI 模型的训练数据中引入偏见,从而产生有偏见的输出。
    avrillavigne
        2
    avrillavigne  
       Sep 18, 2025 via Android
    avrillavigne
        3
    avrillavigne  
       Sep 18, 2025 via Android
    其实把你主题内容放进 ai ,他会告诉你
    imaxwell
        4
    imaxwell  
    OP
       Sep 18, 2025 via Android
    @avrillavigne 谢谢,看来 ai seo 也是一场攻防战。