理解
我们现在一般指的 大模型就是 LLM, 全称是 Large Language Model->大语言模型
ChatGPT、DeepSeek、Gemini 等等都是大模型
风控模型、OCR 模型、广告算法模型、营销模型都是小模型, 或者说是传统模型 / 专业模型
所谓的"大",体现在哪?
参数量巨大
这里的参数指的是模型在训练过程中学习到的 "知识" 或者 "规则" 的内部表示
像常见模 xxx:8B中的 B 指的是十亿, 所以 8B 指的就是 80 亿参数
训练数据量大
用海量多样化的文本、代码数据进行训练, 数据集通常能达到TB/PB级别
算力需求大
数据训练需要使用到很大的计算资源, 通常就是需要成千上万个高性能 GPU/TPU 组成的集群运行数周 / 数月的时间