ChatGPT的Token限制
我们都知道ChatGPT它是有Token限制的,当上下文长度超过最大Token的时候,它就会忘记之前的信息,这就会导致我们没有办法在一个窗口当中完成比较长的文本创作,很大程度限制了ChatGPT的能力。
目前常规的解决方案是定期总结一些前面的对话内容,但这个也有弊端,就是内容多的时候,如果只是简单的总结,可能会遗漏掉很多重要的信息;如果是详细的总结,就会浪费太多的Token,毕竟GPT-4也就只有8K的上下文Token,这就会导致后面能用来创作的Token会越来越少。
利用代码解释器存储内容
那有没有办法彻底解决这个问题呢?经过反复研究和测试,我发现可以利用代码解释器的存储空间,帮助我们存储需要处理的内容,以文本文件的形式保存在沙盒环境当中。这样我们就可以随时保存重点的内容,ChatGPT需要的时候也可以随时调取出来,而且因为文本文件占用的空间非常非常小,代码解释器的沙盒环境有足够的空间让我们来保存内容,就能做到及时保存随用随取。
这里有点类似向量的感觉,创作的时候需要什么就去调用什么,完全不用担心ChatGPT会忘记之前的内容。
演示具体操作步骤
接下来我就给大家演示一下这个方法的具体操作步骤,在实际的创作过程当中,应该怎么样去用这个方法:
我是以创作一篇科幻小说为例子,要求ChatGPT来帮我创作小说的大纲,然后在后面的过程当中,我会让ChatGPT在对话窗口当中,依次把我小说的所有内容全部给我完成，使用这个方法主要有两个关键的点:
我们必须要打开代码解释器,也就是高级数据分析工具；
使用我所书写的Prompt,就是根据我之前说的思路,然后自己创作了这样一个Prompt,这个Prompt就可以让ChatGPT自动把我们想要的内容保存到代码解释器当中,然后当我们后面任务需要的时候,他又可以自动去调用相关的文本文件（如果没有自动询问你是否需要保存，你可以发送指令给他让它给你保存下来）。
将预先书写的prompt和任务要求一同发送给ChatGPT后（根据测试预先准备的prompt最好用英文格式），ChatGPT根据我的要求,帮我创作完成了科幻小说的大纲,一共10章。
在大纲创作完成之后,它会自动询问我是否需要保存大纲,如果你让他保存大纲。它就会执行Python指令,自动把大纲内容保存到一个TXT文件当中,然后返还给你一个TXT文件，我们可以下载下来查看。
保存完大纲以后,我们再给它命令要求它开始为我创作第一章节的内容,也就是“异星觉醒”,长度1000字左右。第一节结束以后,它又自动询问我是否需要保存这个章节,我是让它继续保存然后创作第二章节,字数要求也是1000字左右，它就会先执行第一个命令,把第一章节的内容保存到一个TXT文件当中;然后开始创作第二章节“机械之心”。
接下来就是第三章节、第四章节……我都可以让ChatGPT按章节帮我保存内容。如果怕它忘记之前的内容,每过一节就可以让它去阅读一下之前章节的摘要,确保它不会遗忘之前的信息。
如果内容已经超出ChatGPT的Token上限,在执行下一步任务时,我可以让它先阅读之前保存的大纲文件（之前大纲文件名字我们可以点开代码解释查看）,然后再创作新章节的内容。这样就可以一步一步循序渐进的创作下去。
在最后,我还可以让ChatGPT把已经完成的章节按每一节总结成摘要保存到一个文件当中,以便我后面创作使用。在总结章节摘要过程中,可以让它按照我指定的字数长度来进行。
其他细节说明
在使用过程中,还需要注意以下几点:
- 根据ChatGPT的提示来决定是否保存内容,它会自动判断是否需要保存；
- 如果ChatGPT没有主动调用之前的记录,可以手动指定它读取哪个文件避免遗忘；
- 代码解释器只提供临时存储空间,要么一次性完成任务,要么保存记录后下次再上传使用。
上面就是利用代码解释器突破ChatGPT上下文Token限制的方法和步骤。这个方法可以让我们在一个窗口内完成很长的文本创作,大大提高ChatGPT的使用效率。需要通过多次实践不断优化,才能真正达到学以致用!
通过使用代码解释器提供的存储空间,我们可以随时保存ChatGPT生成的内容,需要时再调取使用,这样就可以突破单次对话的Token限制,完成更长篇幅的创作。正确使用这个方法,需要掌握Prompt的书写技巧,以及合理保存和调用内容的步骤。需要不断实践与优化,才能发挥出代码解释器最大的价值,从而大大提升ChatGPT的创作能力。
参考：公众号 AI新视角