大模型推理成本两年下降90%，AI应用普及加速
大模型推理成本两年下降90%，AI应用普及加速
随着模型优化技术和硬件技术的进步，大模型的推理成本在过去两年下降了90%，目前千tokens的推理成本已经降到了0.001元以下，大幅降低了AI应用的门槛。
推理成本的下降主要得益于几个方面：模型量化、稀疏化、蒸馏等模型优化技术的进步，GPU硬件性能的提升，以及云服务厂商的规模效应。
成本的大幅下降推动了AI应用的快速普及，越来越多的中小企业和开发者能够负担得起AI技术的使用成本，AI技术正在从互联网大厂向各个行业渗透。
未来随着技术的进一步进步，大模型的推理成本还有继续下降的空间，AI技术的普惠性会越来越强。