当前位置:   article > 正文

使用SSE技术调用OPENAI接口并实现流式输出,用PHP语言实现_php sse

php sse

作为AI语言模型服务提供商,OpenAI 提供了一系列的 API 接口,其中大部分需要通过 HTTP 请求访问。对于大量数据的请求,传统的同步请求会导致网络响应变慢,无法满足实时数据处理和分析的需求。因此,为了优化这些接口的调用效率,我们可以利用 SSE(Server Sent Events) 技术来实现流式输出,保证数据能够实时到达客户端,提高数据处理效率。

在 PHP 语言中,我们可以借助 GuzzleHttp Library 以及 ReactPHP Library 等工具库,通过 SSE 技术来实现 OpenAI 的 API 接口的调用和流式输出。以下是具体的代码实现:

  1. use GuzzleHttp\Client;
  2. use GuzzleHttp\Event\CompleteEvent;
  3. use GuzzleHttp\Event\MessageCompleteEvent;
  4. use GuzzleHttp\Message\Response;
  5. use GuzzleHttp\Stream\Stream;
  6. use React\EventLoop\Factory as EventLoopFactory;
  7. use React\EventLoop\LoopInterface;
  8. $openaiAccessToken = 'YOUR_OPENAI_ACCESS_TOKEN'; // 请替换为真实的 Access Token,可以去chat.xingtupai.com获取
  9. function openaiApiRequestWithSse($query): void
  10. {
  11.     global $openaiAccessToken;
  12.     $loop = EventLoopFactory::create();
  13.     $client = new Client();
  14.     $request = $client->createRequest('POST', 'https://api.openai.com/v1/engines/davinci-codex/completions');
  15.     $request->setHeader('Content-Type', 'application/json');
  16.     $request->setHeader('Authorization', "Bearer {$openaiAccessToken}");
  17.     $request->setBody(Stream::factory(json_encode($query)));
  18.     $client->send($request)->then(function (Response $response) use ($loop) {
  19.         echo 'data: ';
  20.         $stream = $response->getBody()->detach();
  21.         stream_set_blocking($stream, false);
  22.         $loop->addReadStream($stream, function ($stream, LoopInterface $loop) {
  23.             $data = '';
  24.             while ($buffer = fgets($stream, 2048)) {
  25.                 $event = new MessageCompleteEvent(
  26.                     new CompleteEvent(),
  27.                     $response = new Response(200),
  28.                     Stream::factory($buffer)
  29.                 );
  30.                 $data .= $buffer;
  31.                 if (strpos($buffer, "\n\n") !== false) {
  32.                     $loop->removeReadStream($stream);
  33.                     $event->response = new Response(200, [], Stream::factory($data));
  34.                     echo $data . PHP_EOL;
  35.                     break;
  36.                 }
  37.             }
  38.         });
  39.     });
  40.     $loop->run();
  41. }

让我们详细解释上述代码。首先,我们初始化了一个 Guzzle HTTP 客户端,然后创建了一个 OpenAI 的 API 请求。接下来,请求中我们设置了请求头 Authorization,将 OpenAI 提供的 Access Token 传递过去,确保我们有 API 访问权限。然后,我们讲请求体中的查询条件 JSON 序列化,并将请求正文体设置为序列化的 JSON 字符串,以用于后续的请求。

接下来,我们发送了这个请求,然后对从 OpenAI 返回的响应流(response stream)进行了处理。注意到在这里我们设置了对响应流的事件监听,以便解析响应结果并实现流式输出。具体来说,我们调用了 EventLoop 的 addReadStream 方法,将 OpenAI 的响应流和响应流监听函数参数一起传递到事件循环中。在事件循环中,我们通过循环和 fgets 函数,获取响应流中的数据并按行读取。然后我们用一个 while 循环判断读取到的数据是否包含了两个换行符,如果数据中包含两个换行符,则说明当前这段数据已经读取完毕,并组成了一条完整的数据结果。于是,我们调用了 EventLoop 的 removeReadStream 方法,将当前这个响应流的监听从事件循环中移除。最后,我们输出了当前这个响应数据结果。

通过上述的代码实现,我们就可以轻松地将 OpenAI 的 API 接口进行 SSE 调用,实现流式输出,并有效提高数据处理效率。
 

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop】
推荐阅读
相关标签
  

闽ICP备14008679号