欢迎访问今日热搜榜

更优更强更便宜!OpenAI重磅更新:GPT API增杀手级功能、嵌入模型价格降75%

频道:韩国电影 日期: 来源

OpenAI推出了处理更长的文本(允许提示的长度达16k个token)的GPT-3.5-turbo,相比标准版本的GPT-3.5-turbo(允许提示的长度为4k个token),可在单次请求中支持多达20页的文本,适用于法律、学术文件的解读以及项目管理应用场景。

在Chat Completions API新增函数调用(Function call)功能,允许开发人员向GPT-3.5-turbo和GPT-4用自然语言描述编程函数,并让模型创建代码来执行这些函数。简单来说,该功能可理解为“无代码编程”,GPT不再需要开发者为它描述复杂的Prompt,便可实现从自然语言到API调用或数据库查询的转换,人机互动将更加流畅。

例如,它可以将如“Email Anya to see if she wants to get coffee next Friday”(给Anya发电子邮件,看看她下周五是否想喝咖啡)的提示转换为“send_email(to: string, body: string)”的函数调用。

当你向ChatGPT 提问“波士顿的天气怎么样?”时,该问题会被模型解读为调用第三方天气API,进一步去检索相关的数据,输出准确的回答。

对于使用量最大的模型GPT-3.5-turbo(可处理4K token的版本),tokens输入价格降低了25%:每1K输入token0.0015美元(1美元66.6万token)、每1K输出token0.002美元(1美元50万token),相当于1美元大约可以处理700页文件;新推出的16K token版GPT3.5-Turbo提供了4K版本四倍的处理能力,但价格只有两倍,输入及输出token的价格分别是0.003和0.004美元每千token。

最新的嵌入模型(text-embedding-ada-002)的价格降幅更大,降低了75%,每1K token 0.0001美元(1美元1000万token)。嵌入模型类似于计算机的翻译器,将单词和概念转化为机器可以理解的数值语言,这对于搜索文本和提供相关内容建议等任务非常重要。

相关应用将于6月27日自动升级到新版本,OpenAI还披露了大模型上一个版本(GPT-3.5-turbo-0301和GPT-4-0314)的淘汰时间:9月13日之前,用户选择升级到新的模型,过了这个时间后,旧模型将不再可用。

网友在将函数调用功能称为“杀手级能力”的同时,也开始担忧有了该功能加持的OpenAI将重创一些AI初创公司。

他们认为,OpenAI新出的“函数调用”基本就是Langchain里“Tools”的翻版。Langchain是大模型领域最火的开源开发框架,能够把各种大模型能力整合起来快速构建应用程序。

在产品迅速迭代的同时,OpenAI的降价策略一如既往,自家推广者都称之为“疯狂”。OpenAI开发者推广大使Logan Kilpatrick表示,“我想花点时间重申下嵌入模型降价75%这件事,这实际上很疯狂。过去需花费约5000万美元嵌入整个互联网,现在已降至约1250万美元。”

此前3月份,OpenAI正式向第三方开发者开放ChatGPT API的同时,还宣布将以0.002美元的价格提供1K token,这一API调用价格是GPT-3.5模型原来价格(1K token 0.02美元)的十分之一。

关键词:非常杀手