五八小说

手机浏览器扫描二维码访问

第268章 好多东西(第2页)

将表格转化为htl格式,将图片变为图片解释信息。

第二部分是知识库的构建。

向量知识库,能将各类数据(如文本、图像、音频等)转化为向量形式进行存储。

数据之间的相似性和关联性得以量化,不像平时你存储你的,我存储我的,向量数据库给予了一个统一的标准。

也正是因为统一了格式,利用相似度对比,检索更加高效。

构建知识库的流程首先是提取分割文本进行向量化的操作。

向量化的本质是将离散的符号信息,如词或句子,映射到连续的向量空间中,以便计算机能够处理。

向量化将高维数据转化为低维数据,保留了数据的关键特征又降低了数据的复杂度。

选择pipene存储向量数据,它支持查询,插入,删除等一些列操作。

选择weaviate作为向量搜索引擎,可以通过主题的分类检索,进行语义搜索、问答提取等等功能。

第三部分是chatbot的构建。

先前已经构建好了针对电力lca领域的专业大模型,但是缺少检验模型的手段,即缺少模型优化环节,本项目设置通过chatbot模式,通过与用户进行问答的形式,检验模型是否能调用电力行业lca领域向量数据库回答该领域专业性问题和时效性问题的有效性。

chatbot是模拟人类对话的一种形式,就我们平时能使到的chatgpt就是以chatbot的形式来呈现的,而chatbot在这里的功能实现主要是为了体现检索功能,大致可分为知识库检索功能和在线搜索。

那么就产生了三种检索模式。

,!

仅基于大语言模型,连接知识库搜索,和在线搜索。

前端部分我采用strealit来完成,ui设计如图所示。

这边是功能按钮,中间是对话框。

先前有讲到了,我们来检测针对专业领域的大模型的标准就是检测是否有能力回答专业领域的问题,并针对结果进行优化。

这里我向chatbot提出同一个问题。

只采用大语言模型,采用知识库与大语言模型结合,和联网搜索与大语言模型结合。

三种功能下获得的回答是完全不同的,后面两个检索功能均为大语言模型优化了生成回答的准确性,对大语言模型的专业领域知识做了补充和改善。

可以看到普通的大语言模型回答的是最简短的,采用了知识库的回答,将答案细分,扩充,并添加了新的内容,附上参考文献。

最后的联网搜索,将答案分为了几类,更加全面,但是每类回答点到即止。

最后就是向量知识库进行优化。

对于准确率低的查询,分析模型回应错误的原因。

如果是由于知识库中缺少相关信息,可以通过添加更多相关文档和数据来增强向量知识库的覆盖范围。

用户反馈是对输入的问题和产生的回答进行记录,方便针对性进行调整。

反馈可以直接用于指导向量知识库的更新和优化。

不断地测试来完善我的专业领域大模型。

最后一部分是我本次研究的总结。

首先创建了一个能被大语言模型直接调用的专业知识库,在电力lca这个专业性较高的领域填补了大语言模型的空白。

其次是采用rag技术,将知识库,联网与大语言模型相结合,增强了大语言模型在特定领域的可信度和实用性。

最后就是本次研究虽然是针对电力lca领域,但其背后的构架适用于各个领域,构建了一个完整的体系,可以进行修改,全方面的辅助大语言模型,应用广泛。

:()离语

热门小说推荐
步步升云

步步升云

要想从政呢,就要步步高,一步跟不上,步步跟不上,要有关键的人在关键的时刻替你说上关键的话,否则,这仕途也就猴拉稀了...

千里宦途

千里宦途

普通人只要有机会,也可以封侯拜相。看王子枫一个普通的小人物,如何抓住机会搅动风云。每个人都可能是千里马。...

升迁之路

升迁之路

阴错阳差中,仕途无望的宋立海认识了神秘女子,从此一步步走上了权力巅峰...

为夫体弱多病

为夫体弱多病

专栏古耽预收微臣诚惶诚恐求个收藏容棠看过一本书。书里的反派宿怀璟是天之骄子,美强惨的典型代表,复仇升级流高智商反派人设,可惜人物崩坏,不得善终。结果一朝穿越,容棠成了文中同名同姓早死的病秧...

官路扶摇

官路扶摇

前世被当副镇长的老婆离婚后,崔向东愤怒下铸成了大错,悔恨终生!几十年后,他却莫名重回到了这个最重要的时刻!他再次面对要和他离婚的副镇长老婆,这次,他会怎么做?...

极品对手

极品对手

他们都是草根出生,凭自己的努力走上仕途,但一个清廉,一个腐败,于是一见面就成了格格不入的对手...

每日热搜小说推荐