当前位置:   article > 正文

Java从坚持到精通-SpringAI_ollama集成java

ollama集成java

1.加入坐标

2.项目配置

如上图,SpringAI需要api-key和base-url,都是需要科学上网才可以。

3.编写方法

直接注入OpenAIChatClient对象即可,高版本springboot已经自动装配了。

然后调用该方法的call方法,表示发送请求。

4.生成图片

以上是调用聊天模型,接下来讲调用生成图片模型。

只需注入OpenAIImageClient对象即可,然后调用call方法。

5.翻译声音转为文本

注入OpenAiAudioTranscriptionClient对象,然后调用call方法,参数中传入音频资源对象即可。

6.文字转语音

注入OpenAIAudioSpeechClient对象,调用call方法即可,会返回byte数组。

7.多模态-指定文本和图片返回AI说明

8.Ollama本地大模型与使用

下载安装好Ollama模型后,使用以下命令启动ollama模型。

注意:run后面是每个大模型的类型,这里用的阿里的千文,并指定版本,大小不一。

ollama端口默认占用11434

9.springboot集成ollama

1.添加ollama项目坐标

2.配置本地端口号及模型类型

3.编写代码

注入OllamaChatClient对象,然后调用call方法即可。

10.docker部署Open WebUI

11.docker部署Lobe Chat

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/正经夜光杯/article/detail/802414
推荐阅读
相关标签
  

闽ICP备14008679号