赞
踩
stream_chat
‘回复’生成了多少即立即返回多少,在生成过程中一批一批返回给用户,让用户尽可能感觉不到在等待,体验效果会好一些。
恰当的形容就是,你预订了一辆新车,你可以看到汽车生产线。
chat 则需要全部回复生成完毕了,才一次性返回,用户可能等待时间较久才能看到结果。
恰当的形容就是,你预订了一辆新车,你直接看到了最终整车。