Prompt教程-用GPT-3构建ChatGPT
用GPT-3构建ChatGPT
介绍
在最近一个月中，ChatGPT经历了爆炸式增长，仅一周内就获得了100万用户。这是一个令人惊讶的数字，因为其基础模型GPT-3在2020年才首次亮相，并且公开了对外访问权限仅一年之久。
ChatGPT是一种新的语言模型，由OpenAI进行了优化和微调，使其可以用于对话。它具有用户友好的聊天界面，您可以通过它输入内容并获得AI助手的响应。请在chat.openai.com上查看。
尽管早期版本的GPT-3不如当前的GPT-3.5系列那么先进，但它们仍然非常印象深刻。这些模型可通过API和Playground Web UI界面提供，并让您调整某些配置参数并测试提示。GPT-3受到了广泛关注，但并没有像ChatGPT那样迅速传播。
与GPT-3相比，ChatGPT非常成功，因为它作为一个简单的AI助手对于普通人来说非常易于使用，无论他们对数据科学、语言模型或AI的知识有多少。
在本文中，我将介绍如何使用像GPT-3这样的大型语言模型来实现像ChatGPT这样的聊天机器人。
动机
本文部分原因是由Riley Goodside的一条推文引发的，他指出了ChatGPT是如何实现的。
How to make your own knock-off ChatGPT using GPT‑3 (text‑davinci‑003) — where you can customize the rules to your needs, and access the resulting chatbot over an API. pic.twitter.com/9jHrs91VHW
— Riley Goodside (@goodside)
December 26, 2022
与GPT-3.5系列中的其他模型一样，ChatGPT是使用RLHF进行训练的，但它的大部分效果来自于使用了好的提示。
提示
Skippy chatbot完整的提示(prompt)
提示是指示 AI 进行某些操作的过程。 正如你可能在网上看到的 ChatGPT 的示例一样，你可以提示它做任何事情。常见的用例是总结文本、根据描述编写内容或创建诸如诗歌、食谱等等。
ChatGPT 是一个语言模型和用户界面。用户输入到界面的提示实际上被插入到包含用户和 ChatGPT 之间整个对话的较大提示中。这使得基础语言模型能够理解对话的上下文并作出适当的回应。
在发送到模型之前插入用户提示的示例
语言模型通过在预训练过程中学习的概率来完成提示，从而确定接下来的词汇。
GPT-3 能够从简单的指令或几个示例中“学习”。后者被称为少样本或上下文学习。在上面的聊天机器人提示中，我创建了一个虚构的聊天机器人命名为 Skippy，并指示它向用户提供回应。GPT-3 明白了来回交流的格式 USER: {user input} 和 SKIPPY: {skippy response}。GPT-3 理解 Skippy 是一个聊天机器人，之前的交流是一段对话，因此当我们提供下一个用户输入时，“Skippy”将作出回应。
记忆
Skippy和用户之间的历史交流会被储存并添加到下一个提示中。每次用户提供更多输入并且聊天机器人生成相应时，提示会被扩展以纳入新的交流历史。这就是类似Skippy和ChatGPT这样的聊天机器人如何“记忆”过去的输入。
但需要注意的是，GPT-3聊天机器人可以记忆的内容是有限的。在进行多次交流后，提示可能会变得非常庞大，特别是当我们使用聊天机器人来生成长篇回复，例如博客文章等。将发送到GPT-3的提示转换为标记(tokens)，这些标记(tokens)通常是单个单词或者它们的组合。对于包括ChatGPT在内的GPT-3模型，提示和生成响应的标记组合数量限制为4097个（大约3000个单词）。
几个例子
保存先前对话的提示有许多不同的用途。 ChatGPT旨在成为一个多功能的通用助手，在个人使用的经验中，它很少会要求一些后续跟进的问题。
询问你近况的心理治疗师聊天机器人
拥有一个主动询问问题并从用户那里获得反馈的聊天机器人可能会很有帮助。下面是一个关于治疗师聊天机器人的示例，它将询问问题和后续问题，以帮助用户思考他们的一天。
治疗师聊天机器人
使用旧的日记与年轻的自己交谈
Michelle Huang使用GPT-3与她的年轻自己聊天。提示(Prompt)使用了一些上下文，例如旧的日记，配对聊天机器人样式的问答格式。 GPT-3能够根据这些条目模仿一种人格。
i trained an ai chatbot on my childhood journal entries - so that i could engage in real-time dialogue with my "inner child"
some reflections below:
— michelle huang (@michellehuang42)
November 27, 2022
提示的内容:
以下是一段现在Michelle(年龄[已隐去])与14岁的年轻自己之间的对话，年轻的Michelle曾写下以下的日记：
[日记内容在此处]
现在的Michelle: [在此处输入你的问题]作者指出日记条目可能会达到token的限制。在这种情况下，你可以挑选几个条目或者尝试概括几个条目。
实现
我将介绍如何使用Python编写一个简单的GPT-3驱动聊天机器人。使用OpenAI API将GPT-3包含在您正在构建的应用程序中非常容易。您需要在OpenAI上创建一个帐户并获取API密钥。请查看OpenAI的文档获取更多信息。
下面是我们要完成的步骤：
- 格式化用户输入，以便GPT-3的聊天机器人可以理解
- 从GPT-3获取聊天机器人响应作为回复
- 使用用户输入和聊天机器人的响应更新提示
- 循环执行以上步骤
下面是我们将要使用的提示。在代码中，我们可以使用Python将<conversation history>和<user input>替换为它们的实际值。
chatbot_prompt = """
作为一个高级聊天机器人，你的主要目标是尽可能地协助用户。这可能涉及回答问题、提供有用的信息，或根据用户输入完成任务。为了有效地协助用户，重要的是在你的回答中详细和全面。使用例子和证据支持你的观点，并为你的建议或解决方案提供理由。
<conversation history>
User: <user input>
Chatbot:"""我跟踪下一个用户输入和上一个对话。每个循环之间，聊天机器人和用户之间的新输入/输出都会附加到对话历史中。
import openai
openai.api_key = "YOUR API KEY HERE"
model_engine = "text-davinci-003"
chatbot_prompt = """
作为一个高级聊天机器人，你的主要目标是尽可能地协助用户。这可能涉及回答问题、提供有用的信息，或根据用户输入完成任务。为了有效地协助用户，重要的是在你的回答中详细和全面。使用例子和证据支持你的观点，并为你的建议或解决方案提供理由。
<conversation history>
User: <user input>
Chatbot:"""
def get_response(conversation_history, user_input):
prompt = chatbot_prompt.replace(
"<conversation history>", conversation_history).replace("<user input>", user_input)
# Get the response from GPT-3
response = openai.Completion.create(
engine=model_engine, prompt=prompt, max_tokens=2048, n=1, stop=None, temperature=0.5)
# Extract the response from the response object
response_text = response["choices"][0]["text"]
chatbot_response = response_text.strip()
return chatbot_response
def main():
conversation_history = ""
while True:
user_input = input("> ")
if user_input == "exit":
break
chatbot_response = get_response(conversation_history, user_input)
print(f"Chatbot: {chatbot_response}")
conversation_history += f"User: {user_input}\nChatbot: {chatbot_response}\n"
main()这里是一个简单聊天机器人的完整代码的链接。
现在只需要构建一个漂亮的前端，让用户可以与之交互！
