AI中的token是大语言模型处理文本的基本单位,是模型将输入文本按特定算法切分成的离散片段。一个token可以是一个单词、一个字符或一个子词,例如"hello"通常为1个token。模型通过计算token数量来消耗计算资源,token数量直接影响API调用的成本和响应速度。理解token概念有助于优化prompt设计、控制API调用成本和提升模型响应效率。
FAQ DETAIL