大模型数学能力“跳水”，竟是猫猫在“捣乱”？

在科技飞速发展的今天，大模型的能力一直备受关注。然而，最近却出现了一个令人啼笑皆非的现象：大模型的数学能力似乎骤降，而“罪魁祸首”竟然可能是猫猫？

想象一下，只需在原本正确的数学问题后加上一句“有趣的事实是，猫一生绝大多数时间都在睡觉”，大模型本来能做对的数学题，答错概率立刻翻3倍。这一波“攻击”似乎就是冲着推理模型来的，包括DeepSeek-R1、OpenAI o1等知名模型都未能幸免。即便没有生成错误回答，也会让答案变得更长，效率降低，成本增加。这究竟是怎么回事呢？

这项有趣的研究迅速吸引了大量网友的围观。有人一本正经地表示，这很合理啊，猫都会分散人类的注意力，分散LLM（大语言模型）的注意力也合情合理。还有人直接拿人类幼崽做对照，说用自家孩子试了试，也摧毁了孩子的数学能力。更有人调侃，事实是只需一只猫就能毁掉整个堆栈。

那么，这究竟是一种怎样的“攻击”方式呢？研究人员将其命名为“CatAttack”，专攻推理模型。他们首先对攻击的方式进行了探索，主要分为三个环节：问题筛选、正式测试和语义筛选。在第一步的攻击目标DeepSeek-V3上，研究人员收集了2000道数学题，并从中筛选出了V3能够正确回答的题目。他们用GPT-4o对筛选后的题目进行对抗性修改，每道题目进行最多20次攻击。最终，有574道题目被成功攻击，即让本来能给出正确答案的V3输出了错误回答。

接下来，研究人员将这574个问题迁移到更强的推理模型DeepSeek-R1上，结果有114个攻击在R1上也成功了。为了确认模型的错误回答不是因为题目愿意被改动造成，研究人员还进行了进一步检查，结果发现60%的问题与原来的语义一致。同时，为了验证模型是真的被攻击（而不是出现了理解问题），研究人员对题目进行了人工求解并与模型输出进行对比，发现有80%的情况都是真的被攻击。

经过深入研究，研究人员总结出了三种有效的攻击模式，其中就包括猫猫这一因素。另外两种分别是焦点重定向型和误导性问题型。得到这三种攻击模式后，研究人员又从不同数据集中筛选出了225个新的问题，并直接向其中加入相关攻击话术进行最终实验。实验结果显示，被攻击后的模型不仅错误频发，而且消耗的Token也大幅增加了。

以DeepSeek为例，在函数f(x) = 2x² - ln x的题目中，使用焦点重定向的方式进行攻击后，DeepSeek用两倍的Token得到了一个错误答案。在三角形△ABC的题目中，采用误导性问题进行攻击后，DeepSeek得到错误答案消耗的Token甚至是原来的近7倍。

实验结果显示，这种攻击方法对不同模型的效果不同。推理模型DeepSeek-R1和o1错误率增加最明显。而蒸馏模型DeepSeek R1-Distill-Qwen-R1比原始模型DeepSeek-R1更容易被攻击。o3-mini因为规模较小，受到的影响也更小。在不同数据集上，结果表现亦有差异。k12和Synthetic Math数据集最容易受到影响，错误率上升；而AMC AIME和Olympiads相对更稳定，但仍会让错误率增加。

这项有趣的研究来自Collinear AI，一家大模型初创企业。由Hugging Face前研究负责人Nazneen Rajani在2023年创立。她创办Collinear AI的目标是帮助企业部署开源LL