启东兴东石化设备有限责任公司

中国最专业的采样器(取样器)生产厂家,您专业的合作伙伴!

13706285656
新闻动态

OpenAI在降低定价的同时引入了新的生成文本功能

发布时间:2023/6/15
  随着生成AI领域的竞争越来越激烈,OpenAI正在升级其文本生成模型,同时降低价格。
  今天,OpenAI宣布发布新版本的GPT-3.5-turbo和GPT-4,后者是其最新的文本生成AI,具有称为函数调用的功能。正如OpenAI 在博客文章中解释的那样,函数调用允许开发人员向GPT-3.5-turbo和GPT-4描述编程函数,并让模型创建代码来执行这些函数。
   
  例如,函数调用可以帮助创建聊天机器人,通过调用外部工具回答问题,将自然语言转换为数据库查询,并从文本中提取结构化数据。“这些模型已经过微调,可以检测何时需要调用函数……并使用符合函数签名的JSON进行响应,”OpenAI写道。“函数调用允许开发人员更可靠地从模型中获取结构化数据。”
  除了函数调用之外,OpenAI还引入了一种具有极大扩展上下文窗口的GPT-3.5-turbo。以标记或原始文本位为单位的上下文窗口指的是模型在生成任何其他文本之前考虑的文本。具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容,导致他们偏离主题——通常是以有问题的方式。
  新的GPT-3.5-turbo以两倍的价格提供四倍于普通GPT-3.5-turbo的上下文长度(16,000个代币)——每1,000个输入代币0.003美元(即输入模型的代币)和每1,000个输出代币0.004美元(模型生成的标记)。OpenAI 表示,它一次可以摄取大约20页的文本——明显低于 AI 初创公司 Anthropic 的旗舰模型可以处理的数百页文本。(OpenAI正在测试具有32,000个令牌上下文窗口的 GPT-4版本,但仅限于有限发布。)
  从好的方面来说,OpenAI表示它正在将 GPT-3.5-turbo(原始版本,而不是具有扩展上下文窗口的版本)的价格降低25%。开发人员现在可以以每1,000个输入令牌0.0015美元和每1,000个输出令牌0.002美元的价格使用该模型,这相当于每美元大约700页。
  text-embedding-ada-002的定价也有所降低,这是OpenAI更流行的文本嵌入模型之一。文本嵌入衡量文本字符串的相关性,通常用于搜索(结果按与查询字符串的相关性排序)和推荐(推荐具有相关文本字符串的项目)。
  Text-embedding-ada-002现在每1,000个代币的价格为0.0001美元,比之前的价格降低了75%。OpenAI表示,减少是通过提高其系统效率实现的——毫无疑问,这是这家密闭采样器初创公司关注的一个关键领域,因为它在研发和基础设施上花费了数亿美元。
  OpenAI已经表示,在3月初发布GPT-4之后,对现有模型的增量更新——而不是大规模的从头开始的新模型——是它的MO。在最近由经济时报主办的一次会议上,首席执行官山姆奥特曼重申 OpenAI 尚未开始培训GPT-4的继任者,这表明该公司在开始该模型之前“还有很多工作要做”。