PHP怎么在AI模型响应后流式输出
PHP怎么在AI模型响应后流式输出?
目前市面上的AI模型基本上都是流式输出的,这样做的好处:
1. 好看;
2. 模型每秒输出的token受限,如果内容过长,不可能一下子全部输出,所以是以流的形式返回。
那么如果用PHP我们对接了AI模型,也想以流的形式返回给前端怎么办呢?
Home of Little Jelly
PHP怎么在AI模型响应后流式输出?
目前市面上的AI模型基本上都是流式输出的,这样做的好处:
1. 好看;
2. 模型每秒输出的token受限,如果内容过长,不可能一下子全部输出,所以是以流的形式返回。
那么如果用PHP我们对接了AI模型,也想以流的形式返回给前端怎么办呢?
智谱AI开放平台的SDK只提供了Python和Java版,其它语言比如PHP只能使用HTTP的方式去调用,这就需要自己去实现鉴权和请求的代码。
自己用PHP写了个小demo,先生成jwt token,再拿它发送会话请求。