通过定制恶意GPT或者提供恶意提示词给用户使用，攻击者可以窃取用户使用ChatGPT的对话详情等信息。

　　安全内参12月22日消息，OpenAI已经采取缓解措施，修补了ChatGPT可将对话详情泄漏到外部URL的数据泄露漏洞。

　　2023年4月，安全研究员Johann Rehberger发现了一种从ChatGPT窃取数据的方法，并向OpenAI报告了这一问题。11月，研究员进一步分享了创建恶意GPT模型的方法，利用此漏洞向用户发动钓鱼攻击等额外信息。

　　研究员在披露文章中写道，“11月13日，我当即将这个GPT和底层指令报告给了OpenAI。然而，报告工单在11月15日被标记为‘不适用’。我进行了两次后续查询，都未得到回复。所以，我选择与公众分享信息，让大家提高警惕。”

　　GPTs是一种定制化人工智能模型，被称作“AI应用”。GPT可以扮演类似客户支持代理的角色，比如辅助写作和翻译、分析数据、根据现有食材制作烹饪食谱、为研究收集数据，甚至打游戏。

　　由于OpenAI没有回应，研究员决定于12月12日公开披露他的发现。他展示了一个名为“小偷！”（The Thief!）的自定义GPT模型，它可以将对话数据外泄到由研究员操控的外部URL。

　　为了窃取数据，需要用到图像Markdown渲染和提示词注入。因此，攻击者会直接向受害者提供恶意提示词，或将恶意提示词藏在某处等受害者发现并使用。一旦受害者提交恶意提示词，数据就会泄漏。

　　为了窃取数据，还可以像Johann Rehberger演示的那样，使用恶意GPT模型。恶意GPT模型的用户不会意识到，他们的对话详情以及元数据（时间戳、用户ID、会话ID）和技术数据（IP地址、用户代理字符串）已被外泄给第三方。

　　Johann Rehberger在博客上公布了漏洞详情之后，OpenAI对此情况做出了回应，并通过调用验证API执行了客户端检查，以防渲染来自不安全URL的图像。

　　之后，Johann Rehberger再次发帖，回顾问题并讨论修复方案。他解释道，“当服务器返回带超链接的图像标签时， ChatGPT客户端现在会调用验证API，然后再决定是否显示图像。”

　　“由于ChatGPT不是开源的，修复也不是通过内容安全策略（用户和研究人员可见且可检查）进行的，所以我们不清楚具体的验证细节。”

　　研究员指出，在某些情况下，ChatGPT仍然会渲染对任意域的请求。因此代理ip安卓模拟器，攻击有时还是可以奏效。即使测试相同域，也会观察到差异。

　　目前尚不清楚修复方案是否已经应用于ChatGPT的安卓应用程序，该应用程序在Google Play上的下载量已经超过1000万次。

　　未来智能实验室的主要工作包括：建立AI智能系统智商评测体系，开展世界人工智能智商评测；开展互联网（城市）大脑研究计划，构建互联网（城市）大脑技术和企业图谱，为提升企业，行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。