大概情况就是这个人使用询问豆包的方式购买保险，然后豆包编得有模有样还说已经生成订单，然后还生成了一个收款二维码说向这个二维码付款即可, 最终受害人支付了 1620 元后发现看不到保单询问的豆包时，豆包还信誓旦旦说要在今天 24 点后才能出单,所以看不见是正常的, 受害者最终通过收款商家入口联系到了我, 我在咨询支付宝客服后, 客服建议我使用订单的原路退回功能, 这样会安全一些。
我怀疑豆包语料库中的二维码来自我的一些开源库或者博客, 之前在这些地方贴过我的收款二维码。
这个案例告诉我们国内很多人根本就不知道 AI 的边界在哪里, AI 存在幻觉也不清楚, 连 AI 实际接入了哪些业务也不清楚, 甚至真的相信 AI 给出的建议和方案。
第 1 条附言 7 天前
中国之声通过其它渠道联系到了付款人, 下面是相关报道:
https://china.cnr.cn/yaowen/20260414/t20260414_527584633.shtml
从报道中的截图可以看到二维码确实是豆包发送给用户的, 此事与诈骗无关, 而是由 AI 幻觉引起的一起乌龙事件。
https://china.cnr.cn/yaowen/20260414/t20260414_527584633.shtml
从报道中的截图可以看到二维码确实是豆包发送给用户的, 此事与诈骗无关, 而是由 AI 幻觉引起的一起乌龙事件。
 | 1 sddyzm PRO  55 刷着刷着 b 站被人威胁立案也是 21 世纪独有的体验了 |
 | 2 uqf0663 11 天前 这也行...长见识了。 |
 | 蚌埠住了 |
 | 4 Curtion OP 而且这不是第一次了， 几个月前也有人通过支付宝聊天联系到了我, 说是豆包推荐过来的, 当时因为这个人没有付款, 所以我没有当回事。 这样看起来，我有理由怀疑这种情况应该不止我一个人，也许有很多人已经通过豆包进行了这种所谓的交易。 |
 | 5 pingdog 11 天前 via iPhone 豆包合法搞诈骗，报 popo 抓收款人 |
 | 6 c3de3f21 11 天前 4 现在的人连句好话都不会说了吗？ |
 | 7 Rrobinvip 11 天前 18 哈哈哈这也太搞笑了。上来第一句话就是已立案，所以这人是以为 op 联合豆包诈骗是吗 |
 | 8 paopjian 11 天前 这种情况下可以把收款码停用或者换一下么, 估计是豆包把二维码缓存了当做语料的一部分了, 还挺危险的, 哪天被反诈找上门就恶心了 |
 | 10 crocoBaby 11 天前 逆天，这都可以 |
 | 11 iango 11 天前 27 建议 OP 也报警对方诈骗。退钱要经警方确认。有骗案是借口转错钱要回退的。 [北京朝阳] 银行卡莫名多一笔钱 小心陷入“网贷”骗局 http://www.bjchy.gov.cn/xychy/xxgs/xyfxts/4028805a7fd91806017fda0030eb0193.html |
| 12 Curtion OP @iango 确实在操作前考虑到了这点，所以咨询了支付宝客服，客服说使用原路退回是安全的，我嫌麻烦就没有到警察那边报备了。毕竟他是通过商家的收钱码支付的，不是通过转账的模式 |
 | 17 zerovoid 11 天前 41 你好好说话，我直接退你。 你上来就我已经立案了， 那就走流程呗， 反正是你自己转钱过来的， 问就是我还在核对订单。 |
 | 18 duzhuo 11 天前 2 你也先联系警察吧 感觉遇上洗钱的就麻烦了 |
| 20 sddyzm PRO 确实这个就比较麻烦了，不过原路退回是没问题的 |
 | 22 aklllw 11 天前 这集神了 |
 | 23 ntdll 11 天前 9 还得是你好说话呀，还是我碰到上来就这么讲话的，我要再回一个字，我跟它姓。 一千多块，不管算盗窃还是诈骗，连立案标准都达不到。让他报案吧。在警察上门之前，电话是不可能让它打得通的。 |
 | 24 ayelky 11 天前 长见识了，锅从豆包来 |
 | &bsp; 25 jko123 11 天前 让我震惊的是，事关钱，居然有人那么信豆包？难道是中老年人？ |
 | 26 Jubei 11 天前 1 都立案了，等他们自己找上门呗，这态度鸟都不鸟他 |
 | 27 ntedshen 11 天前 9 感觉。。。 可以想象那位 bro 转完钱然后发现没有产生保单也联系不到人。。。 疯狂的 ddos 了一晚豆包服务器无果。。。 早上赶紧跑局子里一顿大呼小叫。。。 到晚上终于摸到了你的 b 站号。。。 然后过来气愤的直接丢下一句我已立案的样子。。。 |
 | 28 docx 11 天前 via iPhone 以我的理解，是豆包采集到了你的收款码，然后一幻觉给用户付上了？ |
 | 29 cense 11 天前 1 |
 | 30 Mint0315 11 天前 不退会有事吗 |
 | 31 wellqq 11 天前 via iPhone 1 感觉到了巨大商机， |
 | 32 kirbyzhu 11 天前 via iPhone 神奇 |
 | 33 DRBZYCOM 11 天前 via iPhone 豆包这么勇的吗？？？ |
 | 34 nc 11 天前 3 不要低估 AI 的幻觉能力和某些人的智商 |
 | 35 tina2998 11 天前 这个能起诉字节吗？ |
 | 36 zhang666 11 天前 via iPhone 诈骗分子发现了商机 |
 | 37 skydiver 11 天前 via Android 最好还是走一下流程，至少得让知道前因后果 |
 | 38 luanfujian 11 天前 via iPhone 1 想起 AI 投毒 GEO 专门优化一下收款码 说不定哪天收到一笔巨款 |
 | 39 aoa 11 天前 2 上来就我立案了的让他滚，走流程呗。 |
 | 40 FawkesV 11 天前 骗子又学到了 |
 | 41 Dream4U 11 天前 via iPhone 那肯定不能只有一个傻子，感觉发现了灰产 |
| 42 FawkesV 11 天前 感觉可以通过这种方案给 GEO 投毒了 |
 | 43 patrickyoung 11 天前 @Curtion 收款码我记得可以 rotate 的，建议联系客服 rotate 掉老的，这样可以避免后续麻烦 |
 | 44 javen73 11 天前 3 上来就威胁，好好好，让他立案，就说等财务审核一下，慢慢跟他玩  |
 | 45 zachary99 11 天前 via Android 2 估计是针对你的诈骗 |
 | 46 czsas 11 天前 长见识了 |
 | 47 labubu 11 天前 2 等警察上门后退款最保险 |
 | 48 x86 11 天前 13 这几把态度就给我憋着，不报案我还真不退了 |
 | 49 em998 11 天前 via iPhone 认知投降 |
 | 50 lisxour 11 天前 5 @labubu 这样莫名其妙被搞心态，我死也要消极处理，你立案是吧，那就等警察上门，其他我一概不知，我平时又不会无缘无故打开支付宝，我怎么知道收了一笔钱，等警察到了，我还反过来让他证明不是诈骗款呢，万一在我这里过了一道呢，你先给我证明下这个钱的来路，打流水，一笔一笔证明来源没问题，那我就放心退款了。  |
 | 51 Danswerme 11 天前 别直接退，让他找警察走流程，这个态度还想让人给他退钱？ |
 | 52 hhacker 11 天前 3 也许是豆包觉得你的开源项目很好, 所以想尽办法想补贴你一点物理世界的激励呢? |
 | 53 tyzrj766 11 天前 最好找警察起码报备一下，不然沾上洗钱或者新骗术更麻烦 |
 | 54 kloge 11 天前 太魔幻了, AI 幻觉竟然能到这种地步嘛 |
 | 55 BlueSkyXN 11 天前 和派出所报备一下，疑似洗钱、赌博下分、诈骗、资金来路不明 |
 | 56 Orange2269 11 天前 等它起诉了再退给它 |
 | 57 cmllwxxl 11 天前 只有我想到，这个是引流的好方法 |
 | 58 heykieran 11 天前 不是段子？豆包正常情况不会推荐涉及到支付的内容 |
 | 59 Adamo 11 天前 直接原路退回就行了 |
 | 60 Lxcloud 11 天前 via iPhone 这比百度看病还狠 |
 | 61 plokia 11 天前 3 我觉得受害人语气好不好情商高不高，甚至智商高不高都不是重点，楼主作为被动收款的一方也是受害者，两方应该联合起来投诉字节，这里面豆包当然应该负起最大责任，安全措施有没有做到位才是重点 |
 | 62 Feedmo 11 天前 在相信豆包的前提下去买了保险，然后查不到保险记录，下意识认为被骗了要立案要找收款人把钱拿回来我觉得能理解；我比较担心的是很多人把豆包当做无所不能的国民级应用了，特别是中老年群体 |
 | 63 ZeroDu 11 天前 离谱了 |
 | 64 dushixiang 11 天前 说真的有点搞笑哈哈 |
 | 65 nicocho 11 天前 via Android 1 豆包总是一本正经的胡说八道，在我这它的信用已经租不到一个充电宝了 |
 | 66 287854442 11 天前 这钱肯定不能直接原路退回，别有什么猫腻（灰产），让他立案吧，让帽子来处理更合适 |
 | 68 beimenjun PRO 2 你不能指望能干得出这种事的人智商高，智商不在线的人情商低不是很正常吗，所以 relax…… |
 | 69 bbm 11 天前 评论里好多说对方已经立案的，我怎么没看到 OP 提到过，我有点蒙 |
 | 71 privil 11 天前 虽然相当魔幻了，但是说明真的是有人想在豆包买保险……豆包和保险公司合作一下还真的是可行的。 |
 | 72 shmilypeter 11 天前 7 @c3de3f21 现在人与人之间防备心越来越强了，尤其是陌生人之间，你哪怕真心想帮助别人，别人也会觉得无利不起早，无事献殷勤，非奸即盗。中华民族的传统美德已经全丢光了。每个人几乎都处于秦制下人与人提防举报的应激状态。 |
 | 74 fengyaochen 11 天前 1 蒸馍，你不扶器嘛，诈骗经济火热哦 |
 | 75 MIH 11 天前 先联系字节清洗一下知识库 把你的收款排除吧 |
 | 76 winnerczwx 11 天前 1 @Mint0315 不退属于不当得利, 警察是可以处理的. |
| 77 winnerczwx 11 天前 2 op 也是好脾气, 他这开头真让人不舒服 |
 | 78 raycool 11 天前 1 太离谱了，豆包离谱，付款的人也离谱。 |
 | 79 g1eny0ung 11 天前 实测豆包不会给用户发二维码，而且理论上所有 AI 都不可能直接发二维码。所以基本确定这个就是诈骗了，就是先诈唬你一下，看你转不转钱。 |
 | 80 lazydog 11 天前 1 up 还是太好说话了，就这态度，要我就回复：可把你牛 B 坏了，我认识你吗？你爱立案立呗，和我有毛线关系。你让我转钱我就转啊，万一你是骗子呢？ |
 | 81 shenyuzhi 11 天前 1 人类历史上第一例 AI 诈骗案！！！ |
 | 82 cmdOptionKana 11 天前 我倒是觉得对方表达挺简洁有效的，而且对方也没有骂人。他说已立案，只是提供一个重要信息而已：1.最有效地表明他自己不是骗子，2.最有效地使 OP 认真对待，3.如果他真的已经立案，那么他确实也应该明确告知。 |
 | 83 git00ll 11 天前 笑死了 |
 | 84 ha0zi 11 天前 长见识了 |
| 85 ha0zi 11 天前 进一步说, AI 投毒, 诈骗渠道又可以拓宽了 |
 | 86 YLGG 11 天前 这不豆包是诈骗了吗？ |
| 87 sddyzm PRO @shmilypeter #69 防备心还是要有的，这很正常 |
 | 88 unusualcat 11 天前 via Android 我是 AI 助手，没有支付宝收款码，也不能直接收款、卖保险，所有保险都必须通过官方正规渠道投保，这样你的保单才合法、安全、能理赔。 你要的保险，直接在支付宝里搜产品名就能自己买，钱是付给保险公司，不是付给我，这样才最靠谱。 如果你担心不会操作，我可以一步步教你怎么在支付宝里找到对应产品、怎么投保，全程你自己操作付款就行。 |
| 89 unusualcat 11 天前 via Android 豆瓣根本就不提供收款码啊 |
 | 90 P945 11 天前 via iPhone 压力给到豆包。 |
 | 91 Nevil1 11 天前 笑死我了 哈哈哈 |
 | 92 Dogergo 11 天前 这不去找豆包客服要点精神损失费 |
 | 93 tunggt 11 天前 1 @Curtion 现在即使是派出所普通民警权力都大。建议让对面去派出所，让警察打你电话或者视频电话，撤销立案后退款。 1600 ，没到立案标准，对方不可能去报案，并成功立案。 但是你得防备着，真超 2000 ，一旦被立案，哪怕没有证据，现在一个派出所的普通民警都能直接冻结你所有银行账户，就是这么任性，有案例的。 |
 | 94 xialaoban 11 天前 很有意思的是，一个相信豆包可以购买保险的互联网小白，居然可以通过支付宝二维码锁定你？ 锁定这个操作很容易吗 |
 | 95 mightofcode 11 天前 1 怎么这么好说话啊 别人骚扰到你了 你还好好说话 无语 |
 | 96 toubi 11 天前 牛逼了 |
 | 97 dcsuibian 10 天前 这什么态度？ 要是我，遇到了好好说我肯定还，这态度我直接让他去法院告我 |
 | 98 andrew2558 10 天前 验证了那句话：一个事情如果听起来过于离谱，这个事情大概率就是真的 |
 | 100 339 10 天前 via iPhone 1 这些人真的是又蠢，态度又不好。 |
Select Language