Google发表了一篇论文，介绍了一种新型的模型窃取攻击方法，这种方法能够从像OpenAI的ChatGPT或Google的PaLM-2这样的黑箱生产语言模型中提取精确、重要信息。
这种方法仅需不到20美元，就能攻击并提取出OpenAI的ada和babbage语言模型的整个投影矩阵。即使是那些设计为难以从外部获取内部信息的“黑箱”模型，也可以通过精心设计的查询被部分“解密”。
Support authors and subscribe to content
This is premium stuff. Subscribe to read the entire article.
Login if you have purchased
对话鸭AI，国产ai大模型集市，一款全新的AI互动产品，汇聚了文心一言、讯飞星火、GLM等国产AI大模型，仅需登录账号，即可体验与多款AI大模型的对话与聊天。