使用Ollama+Python本地环境搭建AI大模型

工作需要，最近研究在本地搭建AI问答平台的方法，设计到简单的文本问答、Word文档问答、Pdf文档问答、excel/csv文档问答以及图片问答。

搭建AI其实很简单，只需要去下载一个Ollama就可以了，在Ollama上可以使用很多的大模型，比如说Llama3、Qwen等。下载Ollama后，只需要打开cmd，然后输入命令ollama run model_name，就可以运行指定模型了。（如果没有pull模型的话，运行该命令会先去拉模型下来，然后再运行模型）model_name是指模型名称，不知道有什么模型的，可以去Ollama的官网查看。>>快捷入口<<

当然，仅仅这样的话无法完成项目需求，所以需要用代码来实现。之前使用了两种语言实现了文本问答，分别为Java以及Python。

但是后面因为要有文档问答，所以之后主要都是使用Python来调用Ollama框架来使用AI大模型了。

接下来记录一下Python要使用的库有哪些（主要是调用AI的库）：
langchain_community（可以使用很多模型框架）
pandasai（主要是用来分析csv以及excel）

一、简单AI问答

from langchain_community.llms import Ollama
text = "你是谁?"
llm = Ollama(model="qwen")
llm.invoke(text)
1
2
3
4

就是这么简单，几行代码就可以使用AI大模型了。

二、csv、excel数据文档问答

这里就用到了pandasai，这是一个用于数据分析的人工智能，有官网，看着官网文档操作可以解决很多问题。

from langchain_community.llms import Ollama
from pandasai import SmartDataframe
import pandas as pd
import operator
from pandasai.connectors import PandasConnector
def pandasai_chat(file, query):
    df_v = parse_file(file)
    ollama_llm = Ollama(model="llama3")
    df = pd.DataFrame(df_v[0])

    pandas_connector = PandasConnector({
   
        "original_df": df
    }, fiel
1
2
3
4
5
6
7
8
9
10
11
12
13