谈球吧app - Anthropic迈出新步伐，AI服务的未来亟需变革

随着人工智能技术的快速发展，用户在实际使用中不得不面对一个困惑：我所调用的AI模型，真的是商家所承诺的那个高级模型吗？在某些情况下，第三方平台声称接入了旗舰级模型，但实际使用中却可能是更为便宜或过时的小模型。仅凭回答的语气和质量，用户常常难以判断模型的真实身份。甚至同一问题，官方网站的处理能力与通过中转站的体验截然不同。

在众多依赖第三方API、聚合平台或中转服务的用户中，这样的疑虑不胜枚举。简单的模型请求背后，其实隐藏着用户与中转站、上游服务商、模型之间的多个环节，任何一个环节的透明度不足，都让用户难以确认自己所付出的费用是否与所获得的服务相匹配。

针对这一问题，Anthropic最近发布了一项颇具前瞻性的研究，试图将这种依赖口碑和个人体验的验证方式，转变为一个可以用数学工具验证的问题。该研究开发了一款名为FlashProve的开源原型，它能够为模型推理生成密码学证明，从而允许服务商为模型的计算结果提供可验证的证明。用户不需要获取模型的权重，也不必自行运行大模型，就能进行有效的核查。 谈球吧app

除了通过官方应用及API进行验证，用户在日常的API调用中，提交问题后所获得的回答，实则是运行于远端服务器的黑箱操作，无法得知背后究竟发生了哪些运算。斯坦福大学的研究项目《Model Equality Testing》曾对2024年的四个Llama模型的31个商业API端点进行了测试，发现其中11个端点的输出分布与Meta发布的权重参考分布之间存在显著差异。同样的模型名，有时却并不意味着相似的表现。即使在服务页面上标示为Opus 5.5，但用户依然无法保证得到与官方一致的模型。

曾有人尝试通过提问的方式来辨别模型，比如在某个内测阶段询问一个特定人物的去向，倘若模型无法回答其前往Anthropic，这就表明模型的版本不对应。然而，这种方法并不总是可靠，变量复杂，可能影响答案的是模型的路由、参数差异，甚至上下文信息的缺失，这一切都可能导致用户得出结论：“怎么变笨了？”或“这不是我想要的模型。”

FlashProve的创新之处在于采用了被称为zkSNARK的零知识简洁证明技术。它首先由模型服务商为模型权重生成一个“承诺”，这个承诺类似于加密指纹，能够唯一标识特定权重，但并不暴露权重本身。接着，在接收到用户的输入及待检查的输出后，服务商生成一份证明，以验证这些输出是否符合预定的模型计算。用户在获取承诺、提示词、回答和证明文件后，可以在本地进行检验，确认这些被锁定的权重是否能够在特定输入下产生特定输出。这一过程中，倘若中转站悄然替换了模型或篡改了输出，便无法与原有的模型承诺相对应，从而减小了利用假冒模型的可能性。 谈球吧app

另外，零知识证明的应用至关重要，它确保验证者可以验证计算结果，而无须获取模型的权重、中间计算结果或层级调用的具体数据。这正解释了为何该方法比简单的“让AI自我声明”更为可靠，过去依赖证词的方式在此变得苍白无力，新的验证方式聚焦于输出与指定权重之间的计算关系。

在之前的研究中，为大模型生成零知识证明面临的最大挑战在于高昂的成本，证明过程可能比常规推理慢得多，且生成的证明文件体积庞大。Anthropic选择了开放的Llama 4 Maverick作为实验基础，这是一个拥有4000亿参数的混合专家模型，每次计算实质激活参数约为170亿。根据Anthropic的数据显示，生成证明的吞吐量约为110 tokens/秒，而每个1024-token请求的证明文件大小大致为19MB。验证过程无需GPU支持，使用24线程CPU的情况下大约需要17秒，而单线程的速度则在21秒左右。尽管初始承诺的生成耗时约39分钟，但这一过程的效率与可行性，表明了巨大的进展。

然而，这并不能解决用户在中转站使用时遇到的“降智”问题。对于依赖中转站的用户来说，这项技术最直接的吸引力在于识别模型是否被替换，但前提是用户必须事先了解所购模型的承诺。如果中转站出示了有效的证明，但只能证实回答来自其所选择的模型B，而用户却不能确认模型B与其所购买的模型A是否一致，那么这样的证明依然难以解决身份识别问题。因此，理想的方案应由模型厂商或可信机构提供，确保用户能获得比以往更可靠的验证。 谈球吧app