> 自媒体 > (AI)人工智能 > ChatGPT升级降价!OpenAI奉上程序员大礼包,API新增杀手级能力
ChatGPT升级降价!OpenAI奉上程序员大礼包,API新增杀手级能力
来源:量子位
2023-06-20 13:44:59
726
管理

梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI

ChatGPT一夜间再次进化,OpenAI一口气推出大量更新!

何时使用工具,API自己决定

根据OpenAI官方介绍,函数调用同时支持新版GPT-4和GPT-3.5。

开发者只需要模型描述需要用到的函数,何时调用哪个函数都是模型根据提示词自己决定的,与ChatGPT调用插件的机制一样。

对于具体使用方法,官方给出了三个例子:

第一,聊天机器人调用外部API执行操作或回答问题,如“给某人发邮件”或“今天的天气如何?”。

第三,从文本中自动提取结构化数据,如只需要定义好需要的“人名、生日、位置”,再给个网页链接,就可以自动提取一篇维基百科文章中提到的所有人物信息。

更新版本,更低价格

目前,新版本的模型已经逐步开始迭代。

最新版gpt-4-0613、gpt-3.5-turbo-0613与扩充上下文长度的gpt-4-32k-0613都支持函数调用。

gpt-3.5-turbo-16k不支持函数调用,提供4倍上下文长度,意味着一次请求可支持约20页文本。

旧模型也开始逐步废弃。

使用初始版本gpt-3.5-turbo、gpt-4的应用将于6月27日自动升级到新版本

需要更多时间过渡的开发者也可以手动指定继续使用旧版本,但9月13日之后所有旧版本请求将彻底废弃。

说完这个时间线,我们再来看看价格。

升级之后,OpenAI不仅没有让产品涨价,反而下调了价格。

首先是使用量最大的的gpt-3.5-turbo(4k token版)。

输入token的价格降低了25%,现在0.0015美元每千token,也就是1美元66.6万token。

而输出token每千token的价格则为0.002美元,也就是1美元50万token。

换算成英语文本的话,大致是1美元700页。

嵌入模型(embeddings model)的价格更是大跳水,直接降低了75%。

每千token只需0.0001美金,也就是1美元一千万token。

此外,新推出的16K token版GPT3.5-Turbo提供了4K版本四倍的处理能力,但价格只有两倍。

输入及输出token的价格分别是0.003和0.004美元每千token。

另外还有少数网友反应,当月账单直接从100到降到几美分了,目前还不清楚具体什么情况。

最后,有需要的话也不要忘记去排队GPT-4 API的测试资格。

(传送门放在文末)

OpenAI捕“Chain”,微软在后

不少网友指出,OpenAI新出的“函数调用”基本就是Langchain里“Tools”的翻版。

也许接下来,OpenAI还会翻版Langchain的更多功能,如Chains和Indexes。

Langchain是大模型领域最火的开源开发框架,能够把各种大模型能力整合起来快速构建应用程序。

团队最近也刚刚获得1000万美元种子轮融资。

虽然OpenAI的这次更新还不至于直接“杀死”Langchain这个创业项目。

但是开发者们本来需要LangChain才能实现一些功能,现在确实不再需要了。

具体来说:

median latency从15秒减少到3秒95th percentile latency从60秒减少到15秒平均每秒处理的token数量增加了三倍,从8个增加到24个。

再算上Azure给的一些折扣,甚至比原来还便宜了。

但微软Azure的更新速度一般要比OpenAI慢上几周。

开发阶段快速迭代用OpenAI,大规模部署转去微软Azure,你学到了么?

更新公告https://openai.com/blog/function-calling-and-other-api-updates

GPT-4 API排队https://openai.com/waitlist/gpt-4-api

参考链接:[1]https://news.ycombinator.com/item?id=36313348[2]https://twitter.com/svpino/status/1668695130570903552[3]https://weibo.com/1727858283/N5cjr0jBq[4]https://twitter.com/LangChainAI/status/1668671302624747520[5]https://twitter.com/hwchase17/status/1668682373767020545[6]https://twitter.com/ItakGol/status/1668336193270865921

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
微信又上线新功能,聊天突然变了!
近日,微信突然因内测“访客记录”功能,引发全网关注。被内测到的用户,..
元宝可以总结微信聊天记录了
作者 | 黄昱元宝终于拆掉了微信最高的围墙。5月13日,腾讯旗下AI原生应用..
刚刚,微信聊天记录能喂给AI了!我让它爬楼、砍价、整理信息..
智东西作者 | 陈骏达编辑 | 心缘智东西5月13日报道,今天,腾讯宣布,微..
微信聊天出新功能了,快试试!
但要求你的手机安装有元宝App,这时就会跳转到元宝中进行粘贴,你可以发..
不用登你的微信,也能看到你的聊天记录!这几个地方一定赶紧删除..
你知道吗?其实不用登你的微信,也能看到你的聊天记录,是不是太可怕了?..
刚刚,微信聊天记录能喂给AI了,我让它爬楼、砍价、整理信息..
智东西5月13日报道,今天,腾讯宣布,微信已经支持将消息一键转发至元宝..
聊天总把天聊死?这7个雷区,你可能正在踩。如何正确和女生聊天..
明明聊得火热,为什么突然被拉黑?你可能踩中了这七个聊天雷区“在吗?”..
用ChatGPT看病,80%误诊:AI医生的9秒奇迹和80%的残酷真相..
9秒出CT报告,1分钟完成心脏诊断——AI医疗看起来像魔法。但哈佛刚说完:..
突发!OpenAI高层巨震,ChatGPT与CodeX或合并,超级AI来了!..
根据《连线》5 月 15 日的独家报道,在最新一轮组织调整中,OpenAI 总裁 ..
关于作者
司机(普通会员)
文章
2098
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体110233

1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索