新闻中心

News

新闻中心

高通白皮书认为混合AI是行业未来

日期:2023-06-20 19:15

高通白皮书认为混合AI是行业未来

  高通技术公司日前发布白皮书《混合AI是AI的未来》。这份白皮书分析了混合AI架构的领先优势、终端侧AI将如何赋能生成式AI从而实现规模化扩展,介绍了高通公司如何凭借终端侧AI领导力、全球化规模和生态系统优势,让混合AI成为现实。

  白皮书认为,混合AI架构带来诸多优势。混合AI将支持生成式AI应用开发者借助边缘侧终端的计算能力降低成本。混合AI架构或仅在终端侧运行AI,能够带来高性能、个性化的优势,保护用户隐私和安全。混合AI架构可以根据模型和查询需求的复杂度等因素,选择不同方式在云端或终端侧之间分配处理负载。

  利用边缘侧终端帮助生成式AI规模化扩展。随着生成式AI模型不断缩小以及终端侧处理能力的持续提升,混合AI的潜力将进一步提升。参数超过10亿的AI模型已经能够在手机上运行,且性能和精度已基本达到云端水平。将来,拥有100亿或更高参数的模型将能在终端上运行。混合AI策略适用于几乎所有生成式AI应用和终端领域,对推动生成式AI规模化扩展、满足全球企业与消费者需求至关重要。

  白皮书显示,高通公司面向手机、汽车、XR头显与眼镜、PC和物联网等在内的数十亿边缘终端,提供领先的硬件和软件解决方案,推动混合AI规模化扩展。高通的AI引擎和软件栈为加速终端侧AI推理提供了解决方案,并具备行业领先的性能和能效优势。

  高通公司力求创造能为社会带来积极影响的AI技术。高通的终端侧AI愿景基于透明、负责、公平和以人为本等原则,致力于负责任地管理AI并采取措施以规避潜在风险。高通终端侧AI解决方案旨在赋能增强的隐私性和安全性,这对打造稳健可信的AI生态系统至关重要。高通技术公司还专注于为全球数十亿由高通和骁龙平台支持的终端提供开发和部署的支持,从而赋能开发者和独立软件开发商。借助高通公司的AI软件栈,开发者可以在高通的硬件上创建、优化和部署AI应用,一次编写即能获得不同产品和细分领域的应用部署方案。