)
提示压缩就是把又长又啰嗦的提示词删掉废话,让模型读懂任务的字数变少。1. 它到底在说什么Prompt Compression(提示压缩)指的是:在不改变任务目标、尽量不损失答案质量的前提下,把送进大模型的提示词(prompt)缩短,让里面的 token 数量减少。打个比方:你让同事帮忙办事,原先写满三页邮件,把背景、来历、客套都说一遍;提示压缩相当于把三页删成半页要点——把“谁、什么背景、要什么”留下,把重复、铺垫、客套删掉。模型读半页照样把事办好,但你省下了邮件字数,也就是 token 和钱。它和“摘要”不是一回事:摘要是把内容重新讲一遍,可能改写数字、改变语气、甚至引入幻觉;提示压缩是尽量删掉低价值 token、保留原句的关键片段,目标不是生成一段漂亮短文,而是让原模型仍能完成原任务。2. 为什么现在这个词很热这个方向的底层动机很朴素:2023 年中,随着 Chain-of-Thought(思维链,CoT)、In-Context Learning(上下文学习,ICL)和 RAG(检索增强生成)普及,送进模型的提示词越来越长,常常上万 token;而主流 API 按 token 计费,“长提示=高成本”成了真实痛点。2023 年 10 月,微软发表 LLMLin