赞
踩
卷友们好,我是rumor。
有一个好消息和一个坏消息。
好消息是,就在昨天,OpenAI发布博客说GPT-3的API不用再单独申请,要全面开放了!
然而坏消息是,支持的国家地区中没有我们。。。
Oops???
What's more,虽然博客中说了没有开放的地区可以继续走waitlist申请,但就我身边申请到的朋友透露,还是用不了。
Anyway,原因就不去探究了,但OpenAI作为MaaS(Model-as-a-Service)的先行者,它的一举一动还是值得算法er去关注,如果它的大模型模式可以形成好的商业闭环,那中文大模型的商业化也指日可待。
下面就让我们来一起看看OpenAI是什么玩法。
做生意,首先要先清楚卖什么。
BERT虽然是个划时代的模型,但它真正应用起来却无法避免finetune步骤,只能通过两种方式盈利:
买方提需求,卖方出人力精调,赚这个需求的钱。但之后每个需求还是要付出一样的人力,边际成本不能很好递减
买方直接购买基模型,做一次性生意,无法持续获利
以上两种方式都不够理想,使得BERT不能成为一个长期产品。而GPT-3的NB之处,就在于它的zero-shot能力,在不精调、或者利用prompt的情况下就有一定效果,显著减少了第一种模式的边际成本,可以通过卖服务长期捞金。
考虑到需求不同,OpenAI开放了4种基模型:
每个模型都有自己不同的优点,其中Ada是最快最便宜的,可以完成简单的文本理解、句法解析任务,Davinci是最强的,可以应对复杂文本及因果分析。可以看到模型的性能排序与任务难度直接正相关。
除了每个模型能完成生成功能之外,OpenAI开推出了三种功能:
Instruction:和之前谷歌的一篇工作不谋而合,通过直接输入指令的形式,让模型更好地完成任务。目前这个功能只有curie和davinci可以做到
Codex:GPT-3的衍生模型,目前只有davinci可以做到,同时还有个更快的cushman-codex模型
Content filter:新推出的内容过滤功能,可以判断内容是否敏感、不安全
GPT-3是核心壁垒,但真正让买方动心的,是GPT-3可以产生的实际价值。从Guides上可以看到,基本的生成、分类、搜索、问答应用都已经被OpenAI考虑到了,并且开发了对应的API。比如分类支持用户提供有标注示例、搜索可以支持用户上传自定义文档。
经过一年的小范围试用,OpenAI已经能比较好地对这些应用进行抽象,向着落地更近一步。过去的一年大厂们都在各种卷大模型,每天用千亿万亿的参数在刷屏,而真正想落地到业务并不容易,每个业务都有自己的定制化需求。OpenAI这些开放的功能,是它们在「产品化」上的一种尝试,恰恰也为我们国产大模型提供了一个很好的范式,让做大模型的同学可以不再忍痛提供出自己训练的模型,而是「通用地提供定制服务」。
做生意第二步,想清楚怎么卖。
OpenAI采取了按量付费的方式,每个用户账户初始有18刀免费额度。模型收费情况如下:
精调同样也是这种付费方式,但价格是inference的5倍:
这种方式对于小B比较友好,但大B就不划算了,需要私下联系OpenAI具体去谈。从这种计费方式,可以看到GPT3经过一年的试用,仍旧处于Beta阶段,没有开发出MaaS的包月包年、抢占资源、甚至更创新的模式。
除了按调用付费外,也可以看到OpenAI的「阶梯式」付费尝试。以往我们在使用软件时,可能会分为基础版、专家版等,每个更高级的版本会开放不同的功能,而OpenAI则是通过不同的模型来充当软件版本。
从上面的介绍可以看到,OpenAI已经先一步开启了变现节奏,而这对我们有什么启发呢?个人觉得有以下两点:
作为大模型生产方,可以参考OpenAI,开始产品化与商业化的尝试。无论是独立的自负盈亏单位,还是大厂中台部门,都可以试着把自己的大模型按照上述功能形式进行整合,提供更省力的产品化服务
作为使用者,可以获得比自己现有模型更好的文本生成能力,用来产生更多的价值。文本生成的落地点其实也不少了,比如智能营销文案,可以为每个user生成个性化的推荐语,提升购买率,这个就有直接的变现收益,而人工是肯定写不完的。有嗅觉的算法er,也可以找到一个小蓝海的需求,自己加工一下GPT-3,为小B提供高价值的NLP能力
再回到GPT-3本身上,大语料训就完了,它究竟是不是核心壁垒呢?我认为是的,但一定是建立在「产品化」之后的产品上,这个产品,不仅是一个海量的参数合集,更是它在下游的适配能力和已有的一年task-specific数据积累。就像我们把算法落地一样,从来都不是一个模型能搞定的事情,而是多种技术的结合,以及对业务的理解。
利用目前的积累,产出服务和价值,并获取到更多的需求与数据。这个闭环run下去,才会形成真正的壁垒。
欢迎对NLP感兴趣的朋友加入我们的「NLP卷王养成」群,一起学习讨论~
扫码添加微信备注「NLP」即可⬇️
大家好我是rumor
一个热爱技术,有一点点幽默的妹子
欢迎关注我
带你学习带你肝
一起在人工智能时代旋转跳跃眨巴眼
「我的壁垒就是我周五晚还在肝了吧」
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。