ChatGPT 和 Whisper API 现已推出!
请击鼓励 OpenAI 终于 (1.03.2023) 发布了官方的 ChatGPT/Chat Completion 和 Whisper API 端点!如果您错过了新闻,可以在他们的博客页面 OpenAI 博客上阅读。如果您错过了去年开始的所有炒作并且不熟悉这 2 个模型,您可以在我们的技术页面上阅读更多关于它们的信息。
但长话短说,ChatGPT 是一种由 OpenAI 训练的大型语言模型,可以以对话方式生成类似人类的文本。它是 GPT-3 模型的变体,专门设计用于生成文本以响应用户输入。Whisper 是一种通用的语音识别模型,在包含各种音频的大型数据集上进行训练,也是一种多任务模型,可以执行多语言语音识别以及语音翻译和语言识别。
这对我们开发者意味着什么?
关于 ChatGPT,我们最终可以在我们的项目中实现 Chat Completion,而无需一些 hack 和解决方法。我们可以使用gpt-3.5-turbo
和gpt-3.5-turbo-0301
模型。我们可以立即将最先进的文本到文本和音频到文本技术应用到我们的项目中!
关于 Whisper,这意味着我们不必再担心基础设施、如何部署模型和如何扩展它,以及一直用 GPU 运行虚拟机的成本。我们可以只使用 OpenAI 提供的端点,我们可以立即开始构建。
但开门见山 – 让我们将 OpenAI 的技术添加到我们的项目中!
如何在我们的项目中实施 ChatGPT/Chat 完成端点?
ChatGPT 使用的是 gpt-3.5-turbo 模型。因为在这个模型中,代币的价格是 gpt-3 价格的 10%,甚至 OpenAI 建议使用它而不是 GPT-3。如果你已经实现了 GPT-3,那么迁移到 GPT 非常容易- 3.5. 唯一需要记住的是 GPT-3.5 是可用的 inchat 模型。聊天模型将一系列消息作为输入,而不是单个提示。此处更详细地解释了聊天格式
您需要添加一个消息数组,而不是向您的请求正文添加提示。例如,在带有 openAI 库的 Python 中,它将如下所示:
import openaiopenai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "system", "content": "You are a very kind helpdesk agent."}, {"role": "user", "content": "How can I fix my computer if it is not turning on?"}, {"role": "assistant", "content": "Did you try to turn it off and on again?"}, {"role": "user", "content": "Yes, I did. What can be the problem?"} ])
消息变量必须是具有 2 个键的对象数组:role
和content
。角色可以是user
或assistant
和system
角色system
消息有助于设置助手的行为。
我们如何将 gpt-3 完成更改为 gpt-3.5 聊天完成?
好简单。例如,如果在我们使用 gpt-3 创建主题标签之前,提示如下所示:
Create hashtags for the following text: "{text}"
现在我们需要将其更改为:
[ {"role": "system", "content": `You are an assistant that creating hashtags for a text`}, {"role": "user", "content": `Create hashtags for the following text: "{text}"`}]
或者
[ {"role": "user", "content": `Create hashtags for the following text: "{text}"`}]
超级简单!
如何在您的项目中实施 Whisper OpenAI 端点?
如果您已经在自己的基础设施上部署了这个模型,您只需将端点更改为 OpenAI 端点 🙂开个玩笑,如果您只是打算将此端点实施到您的项目中,您可以使用 OpenAI library for Pythonand also for Javascript 或者你可以自己创建请求。
修改我们的 React 前端样板以使用 OpenAI Whisper 端点
我们已经有一个 React Frontend 样板文件,您可以在 [此处] 找到它。(https://github.com/lablab-ai/react-audio-send)
我们需要做一些事情来完成这项工作。我们需要将 App.js 文件WHISPER_ENDPOINT
变量更改为 OpenAI 端点 https://api.openai.com/v1/audio/transcriptions。
我们需要改变一些变量
const formData = new FormData(); formData.append("file", file); formData.append("model", "whisper-1");
我们需要添加Authorization
带有Bearer
令牌的标头。您可以从 OpenAI 仪表板获取令牌
const data = await fetch(WHISPER_ENDPOINT, { headers:{ "Authorization": "{PASTE_YOUR_TOKEN_HERE}" "Content-Type": "multipart/form-data", } method: "POST", body: formData, }) .then((response) => response.json()) .then((result) => { return result; }) .catch((error) => { console.error("Error:", error); });
就是这样!您现在可以在之前创建的项目中使用 OpenAI Whisper 端点来创建音频文件的转录。请记住,如果您想创建一个生产就绪的应用程序,您将必须隐藏您的 API
我可以从 ChatGPT API 中受益吗?
当然可以!AI 革命已经来临,要么加入,要么落伍。我们不是算命先生,但我们可以阅读数字,并且 LLM 从技术巨头和技术专家那里得到了所有的关注,在这个技术行业有大量的创始人和不同 IT 技术的大量裁员,我们可以肯定地说人工智能技术将成为未来几年的“它”。我们已经在我们的博客上写了它,但如果你不想从我们那里拿走它,而是从有史以来最伟大的创业投资者那里拿走——你可以了解更多关于他对技术中的生成人工智能的预测。
但最后同样重要的是——这一切对我来说有什么意义?那么,您可以在为期 7 天的 AI 黑客松期间构建一个基于 ChatGPT 或 Whisper 的应用程序,进入 lablab.ai 的弹弓程序并构建您价值数百万的 AI 初创公司!只需确定问题并使用尖端技术构建解决方案即可!
如果您想了解更多基于 AI 的工具,请访问我们的教程页面。如果您想提高您的 AI 技能,请加入我们的 AI 黑客马拉松之一,并在几天内创建一个工作演示,这可以作为您创业的开始!
每一段旅程都从一步开始,我们鼓励您使用 aihubpro.cn 来完成!