VSCode 核心开发吕鹏：对不久的未来的一些展望

作为AI/LLM行业的从业者（VS Code/Copilot），基于我对现有的公开产品、论文及过去两年的行业发展的感受，对未来（2024年至2025年中）进行了一些展望。总体而言，我的看法是偏悲观的。

以下内容很大概率听起来像废话，这也是为什么我特意加上了时间限定（2024年至2025年中）。21/22年我们在使用Tabnine的时候对未来有着美好的展望，当时我的感受是未来人人都会通过AI模型辅助写代码。结果LLM只花了半年就把“未来”变成了“现在”，实在是令人震惊。这篇文章的一大作用，就是在半年后打自己的脸。

可用的本地小模型将成为智能设备不可缺的核心组件

在移动平台上，苹果在iPhone上推出“Local First, Privacy First”的LLM体验是必然的，预计在2024年的WWDC上我们就能看到，它的效果也不会逊于Gemini Nano。虽然苹果的Siri像“智障”且有不少人怀疑苹果在这个领域行动缓慢，但老实说我觉得没什么好担心的，如果开源社区已经可以有数十个可用的模型，苹果没有理由做不出一个针对其芯片优化的高可用模型。

这对苹果的应用市场会是颠覆性的，就像LLM将颠覆谷歌的搜索一样。我们这些iOS应用开发者以后可能都将成为agent developer，又或者我们的应用就根本没有存在的必要。由于LLM不是最终产品，苹果的情况可能要比谷歌好一些，毕竟搜索是自然语言交互，但是绝大部分iOS应用都不是。如何基于LLM提供合理的交互依然是未知的，这让我对接下来几年的应用开发感到些许兴奋。

GPT 3.5/4 能力的模型使用”成本”会急剧下降

这里主要指的是为LLM服务商支付的成本，LLM服务商会推出更高级的模型，而相对“低级”的模型要么降低使用价格，要么被开源的本地模型取代。最近层出不穷的Mixture of Experts模型在特定领域会让GPT3.5相形见绌（参考Mixtral 8x7）。任何试图通过prompt engineering优化gpt 3.5都是徒劳的，因为优化了幻觉就会让结果普遍更平庸，而显然对于openai来说，gpt3.5就是过去式，it’s what it is。

绝大部分做些“中间商赚差价”生意的AI应用/服务会很快消亡，这其中打着 Build in Public 旗号的应用是最值得担忧的。这个行业发展过快了，追求low hanging fruits从长期来看是没有什么意义的。

我自己判断一个AI应用是否有能力存活主要是看两个指标，一是这个产品本身在前AI时代是否也能提供价值（AI使得这个产品更可行，比如大幅降低了研发和运营成本），二是场景是不是足够复杂。小而美的应用有大概率会被AI以及的升级群碾压（所以请谨慎为它们付高额的subscriptions费）。

硬要找一个大家熟悉的应用作为标的的话，我觉得Podwise是个足够好的产品。[The premier app for podcast lovers] 是它提供的价值，而LLM是手段。

混沌的就业/工作机会

很多小众的需求因为ROI的提高而得到满足，从消费者的角度这是一件好事。另一方面很多工作会消失，尤其是白领岗位。

很多工作的存在是因为个人的生产力没法进一步 scale up，所以只能 scale out。AI模型则打破了单个人生产力的玻璃天花板。我们早就认识到没有“人月神话”，所以探索了各种方法来解决软件工程中的问题。这其中很多问题又将随着单人生产力提高以及团队的精简而不复存在。再结合全球经济的趋势，老实说我很难不对此感到悲观。

如果苹果/谷歌有数据的话，他们可能能够看到新应用发布的速度变快了，而新应用的质量也相对更好了。过于二十年互联网服务发展的特别成熟，为一个已有的网络服务制作应用是现阶段LLM/Copilot非常擅长的。这对工作机会的影响是正面的。但与此同时，由于ROI的降低，复制一个产品的门槛也特别低，这可能最后让大家都没有生意可做。

我们要做的就是拥抱这个变化，good luck