ChatGPT Prompt 最佳指南二:提供参考文本
本文是 ChatGPT Prompt 最佳指南系列的第二篇,全部系列文章:
- ChatGPT Prompt 最佳指南一:写清晰的说明;
- ChatGPT Prompt 最佳指南二:提供参考文本;
- ChatGPT Prompt 最佳指南三:复杂任务拆分;
- ChatGPT Prompt 最佳指南四:给模型思考时间;
- ChatGPT Prompt 最佳指南五:借助外部工具;
- ChatGPT Prompt 最佳指南六:系统基准评测;
OpenAI 可以理解和生成人类语言,帮助我们解答问题,写文章,甚至编程。然而,即使是 GPT-4,也有其局限性,其中之一就是上下文长度的限制。GPT-4 的上下文长度限制是由其内部架构决定的,简单来说,GPT-4 在处理输入时,会将输入的文本转化为一系列的“令牌”(tokens)。然而,GPT-4 只能处理一定数量的令牌,这就是所谓的“上下文长度”。超过这个长度,GPT-4 就无法全面理解输入的内容,这可能会影响其生成的输出的质量。
目前 OpenAI 的 GPT4 有两个模型,最多分别支持 8K 长度和 32K 长度的Token。其中 32K 长度 Token 之对少量人开放,大部分用的都是 4K 长度,因为 GPU 算力不够。好在随着 AI 的发展,应该会支持越来越长的 Token。OpenAI 也把支持更长的 token 作为 2023 年的主要目标了,参考 OpenAI’s plans according to Sam Altman。
Longer context windows — Context windows as high as 1 million tokens are plausible in the near future.