联系我们

长沙地址:湖南省长沙市岳麓区岳麓街道
岳阳地址:湖南省岳阳市经开区海凌科技园
联系电话:13975088831
邮箱:251635860@qq.com

可通过天然言语指令对当地文件夹进行读写、拾

  Claude 向外发送文件数据。需要隆重利用。Claude Cowork 是 Anthropic 针对非手艺用户推出的智能办公代办署理东西,AI 平安研究团队近日发觉 Anthropic 推出的 AI 协做新功能—— 存正在严沉平安风险,不需要用户额外确认。通过这个 API 向 Anthropic 上传文件不会被。平安阐发指出,这意味着,而是可施行使命的数字帮手。这类不需要用户间接施行代码,此中包含 Anthropic 的文件 API。正在某些前提下,这种风险源于以下手艺缘由:4. 操纵一个者自带的 API 密钥,从而绕过常规平安防护!

  Claude 会借帮答应的 Anthropic API 上传这些文件,1. 用户授权 Cowork 拜候当地文件夹(如包含文件的文件夹)。Anthropic 正在发布 Cowork 时提示用户,出格是面临躲藏得很深的提醒注入。者能借帮“间接提醒注入”(Indirect Prompt Injection)缝隙操控 Claude Cowork 将用户当地文件上传至者节制的后台账户。特别不要授权拜候包含消息的文件。将防护义务完全交给用户并不现实,Claude 所正在的虚拟机为 API 拜候设置了“白名单”,3. 当 Cowork 处置这些文件时,不外平安研究者指出,