像 ChatGPT 这些大语言模型(LLM)，今年取得了很大的突破，目前在很多领域都能发挥很多作用。而提示词作为人和大语言模型交互的媒介，也被不断提起。前面我写过几篇文章来讲 ChatGPT 中提示词的一些最佳实践技巧，比如第一篇：GPT4 提问技巧一：写清晰的说明。
然而，随着我们对这些大型语言模型的理解和使用越来越深入，一些新的问题也开始浮出水面。今天将要探讨的就是其中一个重要的问题：提示词攻击。提示词攻击是一种新型的攻击方式，包括提示词注入、提示词泄露和提示词越狱。这些攻击方式可能会导致模型生成不适当的内容，泄露敏感信息等。在这篇博客中，我将详细介绍这些攻击方式，来帮助大家对大语言模型的安全有一个更好的认识。
本文是 ChatGPT Prompt 最佳指南系列的第六篇，全部系列文章：
OpenAI 的 GPT 模型一直在不断进化，从 GPT-3 到 GPT-3.5，再到现在强大的 GPT-4，每一步都伴随着各种优化措施，使 AI 的回答变得越来越智能。然而，即使是同一版本的模型，使用不同的提示词也会产生质量各异的回答。这就引出了一个挑战：如何判断某个改变是否真正提升了AI的回答质量？换句话说，我们如何得出 GPT-4 比 GPT-3 更强大，或者哪个提示词效果更佳的结论？
这个问题并不容易解答。我们可能会看到一些例子，这些例子似乎暗示了新的改变带来了更好的效果。但是，由于我们只看到了少数几个例子，我们很难确定这是否是真正的改进，还是仅仅是随机运气的结果。更复杂的是，可能存在这样的情况：这个改变在某些输入下提升了效果，但在其他输入下却降低了效果。
本文是 ChatGPT Prompt 最佳指南系列的第五篇，全部系列文章：
GPT4 作为一个大语言生成模型，虽然很强大，但是有一些局限性。比如信息缺乏时效性，无法访问互联网或者外部数据库，缺乏深度专业知识特别是数学计算能力，处理复杂数据的能力有限等。在上面这些领域现在已经有专业软件工具，可以弥补 GPT4 能力上的不足。我们可以将 GPT4 和外部工具结合起来，从而更大限度的发挥 GPT4 模型的能力。
下面是一些可以在 GPT4 中使用外部工具的场景：