industry-news
AI推理成本自2023年下降90%:民主化加速
Andreessen Horowitz的最新分析显示,AI推理成本急剧下降:2023年每百万token需60美元的GPT-4级智能,如今已降至不到3美元,且预计将继续下降。驱动因素包括:NVIDIA Blackwell硬件效率提升、改进的模型架构(混合专家、更小的上下文缓存)、量化改进以及激烈的提供商竞争。实际意义:2023年仅对高价值用例经济可行的AI功能,如今几乎适用于任何软件应用。预计这将引发针对成本敏感用例的第二波AI产品开发浪潮。
2025年5月14日来源:Andreessen Horowitz
相关资讯
NVIDIA GB200 NVL72服务器开始发货:AI推理性能提升30倍
4月5日 · NVIDIA
DeepSeek被曝自研AI推理芯片,全球大模型厂商加速算力自主
7月8日 · 综合整理
NVIDIA 发布 Blackwell Ultra GPU:大语言模型推理性能提升 20 倍
4月20日 · NVIDIA
Groq、Cerebras 和 Tenstorrent 共融资 30 亿美元,用于 AI 推理芯片
7月30日 · Groq
Together AI 推出无服务器 LLM 推理服务,定价具有竞争力
5月22日 · Together AI
OpenAI联合博通发布自研推理芯片Jalapeño,9个月流片创纪录
6月25日 · 综合整理