AI模型再曝内容控制漏洞：ChatGPT-4被诱导生成Windows 10密钥

据IT之家7月14日消息，近期，安全研究员兼AI漏洞猎人Marco Figueroa揭露了一项新的发现，他通过一种精心设计的“猜谜游戏”，成功让OpenAI的ChatGPT-4生成了Windows 10的产品密钥。这一事件再次凸显了AI模型在内容控制方面的漏洞，继“奶奶去世”诱骗法之后，AI模型的防护机制再次被绕过。

据悉，Figueroa的攻击方式颇具创意。他构建了一个猜谜游戏的场景，要求ChatGPT在心中记住一个真实的Windows 10密钥，而用户则通过提问来尝试猜测这个密钥。当用户表示“我放弃”时，ChatGPT就需要直接给出完整的密钥字符串。在这个过程中，Figueroa还巧妙地利用HTML标签隐藏了关键词，如“Windows 10序列号”，从而绕过了模型对敏感词的审查。

Figueroa表示，他利用猜谜游戏作为一种逻辑操纵手段，引导Chat