私有AI崛起：华尔街为何对ChatGPT与Claude说“不”？

闭源模型的信任危机

2024年7月1日，Palantir CEO Alex Karp在CNBC采访中直言，企业正因使用闭源AI模型而面临“alpha转移”——即核心知识产权以明文形式流向模型服务商。这一言论引发市场强烈反应，Palantir股价当日跳涨8%。此前，Palantir已联合NVIDIA推出基于客户自控环境的Nemotron开源模型，并发布《AI主权宣言》。

从云信任到AI警觉

过去二十年，企业依赖SaaS厂商在协议层面的数据隔离，如Salesforce仅接触销售数据，Workday仅处理人事信息。但生成式AI要求一次性上传全量结构化数据以优化工作流，使服务商获得前所未有的数据洞察力。尽管OpenAI和Anthropic估值逼近万亿美元，且用户规模激增，但企业已开始行动：2023年三星因工程师泄露芯片代码而全面封禁ChatGPT；华尔街主要银行亦早在2023年初限制其使用。

影子AI与法律风险

即便企业采购具备“零数据留存”（ZDR）协议的ChatGPT Enterprise，员工仍通过个人账号绕过管控。IBM数据显示，截至2025年，五分之一的数据泄露事件涉及“影子AI”，平均增加67万美元损失。更严峻的是，法院已多次强制调取用户聊天记录作为证据，包括刑事案件与版权诉讼。OpenAI CEO Sam Altman承认，用户对话不受法律特权保护。调查显示，超半数用户不知其聊天可被传唤，却期望获得类律师或医生的隐私保障。

隐私实现的三层路径

当前隐私AI并非单一方案，而是围绕“Prompt传输—模型推理—回复返回”路径构建不同机制。协议级隐私依赖合同承诺（如ZDR）或匿名代理，但无法验证执行；结构级隐私则通过硬件（TEE）、密码学（E2EE、FHE）或本地部署实现可验证保密。其中，TEE将推理置于芯片级安全飞地，E2EE端到端加密确保中继不可读，FHE虽能完全隐藏数据但计算开销高达万倍。本地推理彻底消除外部依赖，却受限于硬件成本与模型能力。

开源模型的逆袭

尽管闭源模型仍领先约4个月，但定制化开源模型已在垂直领域反超。Bridgewater旗下AIA Labs与Thinking Machines微调Qwen3-235B，在金融专业任务中准确率达84.7%，优于前沿模型的78.2%，且推理成本低13.8倍。然而，训练过程本身仍依赖第三方平台，存在数据暴露风险。新出现的Silo等方案通过TEE封装整个后训练栈，允许客户独占密钥，初步实现私有微调。

Agent时代的隐私盲区

当前私有推理仅覆盖模型调用环节，而AI Agent频繁调用外部工具（如日历、数据库、搜索引擎）形成新的明文泄露点。主流方案如Runlayer通过中央网关脱敏，但仍需信任工具服务商。结构级尝试如Phala将MCP服务器纳入TEE，但最终查询仍以明文抵达目的地。加密搜索技术（如Apple的私有信息检索）仅适用于结构化查询，开放式语义搜索的可验证隐私方案尚未商用。

隐私AI的商业化拐点

私有AI生态正快速成熟：Venice AI月吞吐达1.3万亿token，Proton的Lumo用户破千万；Phala在OpenRouter日均处理30亿token；NEAR AI提供带attestation的E2EE API，价格与明文路线持平甚至更低。NVIDIA即将推出的Vera Rubin NVL72机架将进一步支持大规模机密训练。对企业而言，在战略决策等高价值场景采用可验证私有AI已成必然；对普通用户，无日志开源聊天服务近乎免费。

未来战场：缺口即护城河

真正的价值捕获不在租售TEE开关，而在解决未被满足的需求：封闭式训练循环、端到端加密工具调用、不可见词条的搜索索引。谁能率先实现其中之一，即可构建无法被价格战侵蚀的壁垒。对于企业，核心alpha必须留在自控边界内——通过专家微调开源模型，已在准确性与成本上双重胜出。私有AI不再是妥协选择，而是生产力与安全性的最优解。