OpenAI为五角大楼平台添加定制版ChatGPT，专家警告潜在风险

OpenAI部署定制版ChatGPT至五角大楼平台

OpenAI周一宣布，正在将定制版的ChatGPT部署到由美国国防部开发的AI平台GenAI.mil上。

军事领域对生成式AI模型的访问扩大

此举扩展了军方对强大生成式AI模型的访问权限，尽管批评人士警告称用户操作失误仍然是关键的安全隐患。

多种AI模型加入美军工具库

ChatGPT加入了越来越多向美军开放的AI模型名单，其中包括谷歌的Gemini以及xAI开发的Grok。xAI已于本月早些时候被并入SpaceX。

OpenAI强调AI在国防中的潜力与必要性

OpenAI在一份声明中表示：“我们认为，负责保卫国家的人应该能够使用最好的工具。对于美国及其他民主国家而言，了解如何通过适当的安全措施利用AI保护人民、威慑对手并预防未来冲突至关重要。”

定制版ChatGPT获准用于非机密任务

OpenAI表示，GenAI.mil版本的ChatGPT已获准用于国防部的非机密用途，并将在授权的政府云基础设施内运行。

系统内置保护敏感数据的安全措施

据OpenAI介绍，该系统包含旨在保护敏感数据的安全防护措施。

专家警告：用户过度依赖AI可能带来隐患

然而，公共公民组织（Public Citizen）的大科技问责倡导者J.B. Branch警告称，用户对AI的过度依赖可能会削弱这些保护措施。

Branch在接受《Decrypt》采访时表示：“研究表明，当人们使用这些大型语言模型时，往往会对它们抱有信任倾向。因此，在军事等高风险情境中，确保其准确性尤为重要。”

五角大楼加速商业AI在军事网络中的应用

此次部署正值五角大楼加速在军事网络中采用商业AI之际，同时也是AI开发者寻求盈利的关键时期。

国防部长宣布AI模型部署计划

今年1月，国防部长Pete Hegseth表示，国防部计划在非机密和机密军事网络中部署领先的AI模型。

敏感信息输入AI系统的潜在风险

尽管OpenAI表示，定制版ChatGPT仅适用于非机密数据，但Branch警告称，将任何敏感信息输入AI系统都可能使其面临被对手利用的风险。他还指出，用户常常误以为这些工具是安全的保险库。

他补充道：“机密信息只能由特定人员查看。因此，即使你有一个仅限军方使用的隔离系统，这并不改变机密数据只能由有限人群接触的事实。”

OpenAI尚未回应评论请求

截至发稿，OpenAI尚未对《Decrypt》的评论请求作出回应。