赞
踩
背景:项目中需要获取chatgpt实时返回的数据
使用场景:在对接chatgpt 语言模型的时候采取的这种方案,因为目前的大语言的模型的结果都是需要一点点计算的,如果提出的问题比较复杂就导致响应的时间过长。
好处:流式获取一般在用于数据量比较大的情况,一次性返回会导致前端页面加载时间过长或者请求超时等问题,这时候我们就可以考虑使用流式的方式拿到部分数据并先展示,从而提升用户体验。
- async function getChatgptMsg() {
- const response = await fetch('你的url', {
- method: 'POST',
- headers: {
- 'Content-Type': 'application/json'
- },
- dataType: "text/event-stream",
- body: JSON.stringify({
- model: 'gpt-4',
- messages: messages,
- frequency_penalty: 0;
- max_tokens:4000;
- model:"gpt-4";
- presence_penalty: 0.6;
- temperature: 0.5;
- top_p :1;
- })
- });
-
- if (!response.ok) {
- throw new Error(`HTTP error! status: ${response.status}`);
- }
-
- const reader = response.body.getReader();
- let decoder = new TextDecoder();
- let resultData = '';
- let result = true;
- while (result) {
- const { done, value } = await reader.read();
- if (done) {
- console.log("Stream ended");
- result = false;
- break;
- }
- resultData += decoder.decode(value);
-
- }
- }
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。