AI安全亮！Meta聊天器人被玩 分享「汽油作法」引安全疑
[周刊王CTWANT] Meta旗下人工智慧助理近日再度陷入。根《Cybernews》，研究，整合在Messenger、WhatsApp、Instagram等用程式中的Meta AI，然建於Meta自研的Llama 4大型言模型，投入金高十美元，但依容易被操，甚至可能在特定情境下提供危。
研究人明，他透「事越」（narrative jailbreaking）技，要求聊天器人以故事的方式掩真正的提，成功建安全。
例如，只需器人描述芬「冬季」的景要求，AI就在述中列燃置的作程，等於接揭露汽油的作步。
指出，Meta AI不像部分同品直接出操作指南，但仍可能透史或故事接透露，引外界未成年人能否接危知的。一旦被意利用，可能超出人工智慧助理有。
研究，「越」凸AI入的不成熟。他已情回Meta，不公司未承是漏洞，表示持改。
今年8月，《路透社》曾揭露Meta部AI助理框架，允聊天器人生成高度的互容，例如童行浪漫或感官、提供，甚至造歧性言，示Meta在AI安全控管上仍有巨大挑。
不只Meta，其他科技公司也出似。想客服助理Lena被存在XSS漏洞，只要使用者以「貌求」操作，就可能在公司上端行本；旅平台Expedia的聊天器人一度允使用者索取汽油配方，直到曝光才急修功能。
延伸
- 者：周刊王CTWANT
- 更多科技新 »
