LLM2Json: 让 ERNIE Bot 稳定输出结构化生成结果

项目背景

当下，各种 LLM（Large Language Model）模型井喷式发展，其威力和能力已经不言而喻。但是，当开发者基于LLM做下游应用时，我们需要将LLM生成的结果与其他程序做数据交互，但大多数时候LLM直接生成的结果无论是格式还是内容上都存在太多不确定性因素，导致开发者需要对输出结果做大量的正则化处理才能被下游程序使用，甚至还经常出现键值对报错的问题。为此，我们做了这款名为 LLM2Json 的工具，帮助开发者构建高质量的输出Prompts和得到更好的JSON格式输出结果。

⚡LLM2Json⚡是一个易于使用的格式化大语言模型输出工具包，它的主要设计思想和部分实现代码参考 LangChain（但输出效果初步测试优于Langchain）。它可以通过自动构建prompts引导大语言模型输出符合JSON语法的返回数据，解决了大语言模型格式化输出、数据交互、前端开发等遇到的数据格式相关问题，使下游的应用程序、GPTs、Agents等开发更加方便快捷。

❓ Why JSON？
以下内容引自：https://www.json.org/json-zh.html

JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。 易于人阅读和编写。同时也易于机器解析和生成。 它基于JavaScript Programming Language, Standard ECMA-262 3rd Edition - December 1999的一个子集。 JSON采用完全独立于语言的文本格式，但是也使用了类似于C语言家族的习惯（包括C, C++, Java, JavaScript, Perl, Python等）。 这些特性使JSON成为理想的数据交换语言。

JSON建构于两种结构：
“名称/值”对的集合（A collection of name/value pairs）。不同的语言中，它被理解为对象（object），纪录（record），结构（struct），字典（dictionary），哈希表（hash table），有键列表（keyed list），或者关联数组 （associative array）。
值的有序列表（An ordered list of values）。在大部分语言中，它被理解为数组（array）。
这些都是常见的数据结构。事实上大部分现代计算机语言都以某种形式支持它们。这使得一种数据格式在同样基于这些结构的编程语言之间交换成为可能。