devbox
我家小花儿
这个屌丝很懒，什么也没留下！
关注作者
热门标签
热门文章
当前位置:   article > 正文

【大模型应用】Ollama本地大模型服务器及其C#客户端测试

作者：我家小花儿 | 2024-05-13 22:06:58

赞

踩

【大模型应用】Ollama本地大模型服务器及其C#客户端测试

前言

207a47b6f05f367b0e8cd9e339c6b6b4.png

在工业领域，本地开源大模型的潜在应用场景非常多样，一些不那么显而易见的可能包括：

  1. 智能柔性装配：大模型可以应用于生产线的智能化改造，通过理解和生成工业执行指令，实现柔性化的装配和生产。

  2. 工业企业智能中台：大模型可以作为企业智能中台的核心，整合分散的数据，提供辅助决策和运筹规划，从而提高整体运营效率。

  3. 质量检测与安全监测：结合视觉传感技术，大模型可以对指定区域或人员进行实时监测，快速发现异常信息，降低人工查验成本。

  4. 工业设计与研发：大模型可以基于海量数据和专家算法，为工业设计与研发提供解决方案，提高设计环节的效率。

  5. 数字孪生与机理仿真：大模型可以用于创建数字孪生模型，进行工艺流程的仿真，优化生产制造过程1。

  6. 工业互联网平台：大模型可以作为工业互联网平台的“大脑”，利用人机料法环测（人员、机器、原料、方法、环境、测量）的数据，提升工业智能化水平1。

  7. 节能降碳增效：大模型可以应用于工业生产中的节能降碳，通过优化工艺流程和提升生产效率，助力工厂降低能耗和提升良品率。

  8. 群体智能决策：结合知识图谱和机理模型，大模型可以为工业企业提供群体智能决策支持，解决智能化升级问题。

这些应用场景展示了大模型在工业领域的广泛适用性和潜在价值，随着技术的进步和应用的深入，未来可能会有更多创新的应用场景被开发出来。

开始测试

b7535ea0b4e79f804e5a70444d582afd.png

从ollama的安装目录双击ollama app.exe 开启服务器

1d5a530e2e9ee7eae12c0dc1cb367433.png

C#客户端

测试录屏

测试过程说明：

客户端打开后会自动连接本地Ollama服务器，初始化快捷键下拉列表框，查询Ollama服务器已pull的开源大模型填充ollama模型列表框。提示词也是从数据库中查询到的大模型名称对应的预设。 当然也可以手动输入，然后保存预设。通过快捷键执行大模型api调用，返回响应会放入剪切板，根据光标位置自动输入剪切板的内容。

在切换模型时由于Ollama要卸载已加载大模型，加载新的大模型，所以比较耗时。录屏视频未剪辑。

测试提示词及响应文本：

  1. 你好，你都可以做什么
  2. 声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/我家小花儿/article/detail/565903
    推荐阅读
    相关标签

Copyright © 2003-2013 www.wpsshop.cn 版权所有，并保留所有权利。