正文

摩尔线程联合创始人王东:推理市场没有“万能芯片”,而是解决方案的组合

发布时间:1小时前

GPU 厂商摩尔线程联合创始人、执行总裁王东说,“大模型的发展在国内外都非常迅速,现在头部厂商平均每两个月完成一次前沿基础模型版本迭代,而在模型的调用成本上,我们发现,中国前沿基础模型较国外同等智力水平模型有明显成本优势,中国模型性价比更优,这也恰恰说明模型公司在有限算力的情况下,对如何提升模型效率、价格效率以及训练成本方面做了非常多的工作。”

王东指出,推理市场没有“万能芯片”,而是“解决方案”的组合,“推理市场的技术应用门槛相对较低,且场景高度碎片化,不存在任何一家公司能够垄断所有细分应用场景;没有绝对完美的单一硬件,通过灵活的软硬协同,每个模型都能找到最适合它的硬件组合,实现成本与性能的最佳平衡。市场将涌现大量 ISP 公司,为 MaaS 提供商或终端客户提供更具性价比,更灵活的定制化推理服务。”