如何让我放心地把隐私数据接入到 AI Agent 里? - V2EX
请不要在回答技术问题时复制粘贴 AI 生成的内容
c137rick

如何让我放心地把隐私数据接入到 AI Agent 里?

  •  
  •   c137rick Apr 14 2841 views
    This topic created in 53 days ago, the information mentioned may be changed or developed.

    最近 Hermes 好像很火,但是我似乎还是不能放心地把我的隐私数据接入到 AI Agent 里。

    作为一个从古法编程时代过来的程序员,而且又比较注重个人隐私,我对把隐私数据交给 AI 一直感到不舒服。但自从 OpenClaw 火了之后,似乎到现在也没有一个能让我感到满意的方案。

    想了想,最终选择捡起我尘封已久的博客,凭感觉写下来了我的想法,希望能和你共鸣吧。

    博客链接: https://www.addesp.com/archives/6299

    16 replies    2026-04-15 06:26:40 +08:00
    c137rick
        1
    c137rick  
    OP
       Apr 14
    Hermes 开发者好像对隐私和安全这个话题还是有一些想法的: https://github.com/NousResearch/hermes-agent/issues/410
    Vipcw95
        2
    Vipcw95  
       Apr 14
    之前想过,默认走云 LLM API 即暴露 key 。那么也许需要一个本地部署的开源小模型,不需要高智能,只是充当类似于 iPhone 中的安全隔区 Secure Enclave 的概念,所有涉及 key 的操作只由小模型来操作,只对主模型暴露操作结果。
    opengo
        3
    opengo  
       Apr 14
    在想参考港大的 EdgeClaw 做一个本地版本的数据脱敏服务
    superkite
        4
    superkite  
       Apr 14
    之前小米的龙虾也能把 apikey 骗出来
    nevin47
        5
    nevin47  
       Apr 14
    我属于你想法的另外一个极端,我的 sudo 密码,支付密码,服务器私钥目录全部配置在了 Memroy.md 里面
    tf2
        6
    tf2  
       Apr 14
    呃,本地搭个 qwen3.5 gemma4 不就行了
    xing7673
        7
    xing7673  
       Apr 14
    agent 都用开源的代码审核
    基座模型用离线权重模型

    能力换隐私 成本换隐私 时间换隐私

    有纠结的选项么?
    alphaply
        8
    alphaply  
       Apr 14
    讲真的,你的需求就是本地化,本地部署个 ai agent 就可以放心大胆的用了。
    Tompes
        9
    Tompes  
       Apr 14
    其实本地部署模型也不一定安全哦,遇到提示词投毒攻击一样危险
    ExplodingDragon
        10
    ExplodingDragon  
       Apr 14   1
    本地部署模型避免的是上下文的直接泄露,上下文注入这类只能设计一个沙盒 + 独立的审计, 还有操作的完整回滚机制
    YsHaNg
        11
    YsHaNg  
       Apr 14
    ?本地部署啊 你要不发推广去 这样只能招黑
    c137rick
        12
    c137rick  
    OP
       Apr 15
    @alphaply #8 是指把 Agent 接入本地模型么?如果 Agent 没有 shell 权限确实可以放心大胆用了,有 shell 权限而且能联网的话还是有点蛋疼。
    c137rick
        13
    c137rick  
    OP
       Apr 15
    @Vipcw95 #2 听起来和 sub-agent 有点像,用单独的上下文来处理敏感信息,感觉可以减少敏感信息对主模型的暴露程度。老哥有开源出来么?
    c137rick
        14
    c137rick  
    OP
       Apr 15
    @ExplodingDragon #10 巧了,我也有类似的想法,老哥要不咱俩聊聊?我的邮箱:bWVAYWRkZXNwLmNvbQ= (base64 解码两遍)。
    c137rick
        15
    c137rick  
    OP
       Apr 15
    @tf2 #6 呃,其实主要担心的是 Agent 现在都有 shell 权限,本地模型也可能执行一些恶意命令来把上下文打包发出去,如果没有 shell 权限我会放心不少。
    c137rick
        16
    c137rick  
    OP
       Apr 15
    @ExplodingDragon #14 “bWVAYWRkZXNwLmNvbQ==”,base64 解码一遍就行了。
    (手滑打错了)
    About     Help     Advertise     Blog     API     FAQ     Solana     1191 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 50ms UTC 23:52 PVG 07:52 LAX 16:52 JFK 19:52
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86