AI 入门指北

什么是上下文窗口?

上下文窗口(Context Window)是大模型在一次对话中能同时"看到"的内容总量上限,按 token 计算——超出这个范围的内容,AI 就"忘了"。

用一个类比理解

把 AI 想象成一个只能在一块白板上工作的人:你们聊的每句话、你贴给它的每份资料都写在白板上。白板写满了,最早的内容就得擦掉。白板的大小,就是上下文窗口。

实际意味着什么?

  • 窗口 128K token ≈ 能装下一本 10 万字左右的书
  • 聊天聊久了 AI"失忆"、忘了你开头的设定——就是窗口满了
  • 让 AI 总结长文档、分析整个代码库,需要大窗口模型

主流水平

目前主流模型窗口在 128K~200K token,部分模型(如 Gemini)做到了 100 万 token。窗口越大,一次能处理的资料越多,但通常也越贵、越慢。

实用建议

  1. 长对话中,关键信息隔一段重申一次
  2. 让 AI 处理长文档时,先让它分段总结,再汇总
  3. 新任务开新对话,别在一个对话里堆十件事

常见误解

  • "窗口大 = 模型聪明"——窗口只是"能装多少",理解得好不好是另一回事。
  • "AI 会永久记住我说的话"——默认情况下,关掉对话就忘了;"记忆功能"是产品单独做的。

相关名词

什么是 token? · 什么是大模型?