人工智能领域风云变幻，犹如夜空中闪烁的星辰，总有新的技术趋势划破长空，引人注目。近年来，大型语言模型（LLM）的崛起，无疑是其中最为耀眼的一颗。而围绕着如何更好地驾驭这些强大的模型，一场关于“提示工程”与“上下文工程”的论战，正在硅谷悄然上演。
曾几何时，“提示工程”（Prompt Engineering）被视为解锁LLM潜力的金钥匙。通过精心设计的提示语，引导模型生成符合预期的结果，成为了开发者和研究人员的必备技能。然而，随着LLM能力的不断进化，一种新的范式——“上下文工程”（Context Engineering）正逐渐崭露头角，并隐隐有取代“提示工程”之势。
“上下文工程”的核心思想，在于不再仅仅依赖于简洁而直接的提示语，而是通过提供更丰富、更全面的上下文信息，来引导LLM更好地理解任务和生成结果。这就像给一个初学者提供详细的背景知识和参考资料，而不是简单地告诉他答案。上下文工程的优势在于，它可以更有效地利用LLM的推理能力和知识储备，从而生成更准确、更连贯、更符合逻辑的结果。它让LLM不再仅仅是一个“复读机”，而更像是一个具备真正理解能力的助手。
上下文工程的兴起，得益于LLM在处理长文本和复杂信息方面的能力的显著提升。早期的LLM受限于计算资源和模型架构，难以处理过长的文本输入，这使得“提示工程”成为了一种无奈的选择。但随着模型参数量的增加和训练技术的进步，LLM已经能够有效地处理数千甚至数万个token的输入，这为上下文工程的实践提供了坚实的基础。现在，我们可以将相关的文档、对话历史、甚至代码片段等信息，作为上下文输入到LLM中，从而让模型更好地理解任务和生成结果。
而上下文工程爆火的背后，与硅谷重量级人物的站台密不可分。Andrej Karpathy，作为人工智能领域的领军人物，OpenAI的早期核心成员，以及特斯拉Autopilot项目的灵魂人物，他的公开支持无疑为上下文工程的推广注入了一剂强心针。Karpathy的认可，不仅提升了上下文工程的学术地位，也吸引了更多的开发者和投资者的关注。
相较之下，曾经风光无限的“提示工程”似乎正在逐渐失宠。这并非意味着“提示工程”完全失去了价值，而是说它在某些场景下已经显得力不从心。在处理需要大量知识和推理的任务时，简单的提示语往往难以发挥作用，而上下文工程则能够更好地满足这些需求。例如，在法律咨询、医疗诊断、以及金融分析等领域，上下文工程可以通过提供相关的法律条文、病历信息、以及财务报表等数据，帮助LLM做出更准确的判断和建议。
然而，上下文工程也面临着一些挑战。首先，如何有效地组织和管理上下文信息是一个难题。我们需要设计合适的数据结构和算法，来存储和检索相关的上下文信息。其次，如何防止上下文信息中的噪声和偏见影响LLM的判断也是一个需要解决的问题。我们需要对上下文信息进行清洗和过滤，以确保其质量和可靠性。此外，如何评估上下文工程的效果也是一个重要的研究方向。我们需要开发合适的指标和方法，来衡量上下文工程在不同任务中的表现。
展望未来，上下文工程有望成为人工智能领域的一项关键技术。随着LLM能力的不断提升和相关技术的不断完善，上下文工程将在更多的领域得到应用，并为我们带来更智能、更便捷、更高效的AI服务。但这并不意味着“提示工程”将被完全淘汰。在某些简单的任务中，简单的提示语仍然能够发挥作用。更可能的是，未来“提示工程”和“上下文工程”将相互结合，形成一种更加灵活和强大的AI开发模式。我们既可以利用“提示工程”来快速构建简单的应用，也可以利用“上下文工程”来解决复杂的难题。而最终的目标，是让AI能够更好地服务于人类，解决实际问题，创造更大的价值。
发表评论