腾讯披露最新大模型训练方法,可节省50%算力成本

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话

  随着大模型时代到来,模型参数呈指数级增长,已达到万亿级别。与此同时,大模型也逐渐从支持单一模态、单一任务发展为支持多种模态下的多种任务。

  在这种趋势下,大模型训练所需算力巨大,远超单个芯片的处理速度,而多卡分布式训练通信损耗巨大。如何提高硬件资源利用率,成为影响国产大模型技术发展和实用性的重要前提。

  在此背景下,腾讯于11月23日宣布,腾讯混元大模型背后的自研机器学习框架Angel再次升级,可将大模型训练效率提升至主流开源框架的2.6倍,千亿级大模型训练可节省50%算力成本。

  Angel能力提升背后,是基于训练框架和推理框架的迭代。据悉,面向大模型训练,腾讯自研了机器学习训练框架AngelPTM,可针对预训练、模型精调和强化学习等全流程进行加速和优化,能够以更少的资源和更快的速度训练更大的模型。

  而为了解决推理成本的不断上升,腾讯自研的大模型推理框架AngelHCF通过扩展并行能力、采用多种Attention优化策略等方式对性能进行了提升。同时,框架还适配了多种压缩算法,以提高吞吐能力,从而实现更快的推理性能和更低的成本。

  实测数据显示,相较于业界主流框架,AngelHCF的推理速度提高了1.3倍。在腾讯混元大模型文生图的应用中,推理耗时从原本的10秒缩短至3-4秒。

  另外,升级后的Angel还提供了从模型研发到应用落地的一站式平台,包含数据处理、精调、模型评估、一键部署以及提示词调优等服务,让大模型的“开箱即用”成为可能。

  据介绍,在应用开发层面,腾讯内部已有超过300项业务和应用场景接入腾讯混元大模型内测,相比上个月数量翻了一倍。

艾媒咨询|2023年中国AIGC行业发展研究报告

随着人工智能技术的不断发展,AIGC技术也日益成熟,广泛应用于更多领域,其广阔的应用前景将推动AIGC市场规模快速增长。艾媒咨询预测,预计2023年中国AIGC核心市场规模将达79.3亿元,2028年将达2767.4亿元。

艾媒咨询|2023年中国AIGC行业发展研究报告 精品决策
中国ChatGPT及AIGC消费者行为洞察数据 中国ChatGPT及AIGC消费者行为洞察数据 科技消费 用数据说话