Skip to content

AGI Engines based LLMs| 基于大语言模型的AGI引擎

License

Notifications You must be signed in to change notification settings

springwings/ElasticAGI

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

27 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

ElasticAGI 介绍

ElasticAGI 是一个开源的、支持知识、能力动态扩展的,且基于LLMs的AGI引擎框架。

使用方式

硬件需求

量化等级 最低 GPU 显存(推理) 最低 GPU 显存(高效参数微调)
FP16(无量化) 13 GB 14 GB
INT8 8 GB 9 GB
INT4 6 GB 7 GB

环境安装

除了需要满足 chatglm 的安装环境外,还需要部署 ElasticFlow 与ElasticSearch搜索引擎。 ElasticSearch安装不再赘述。

软件要求

  • Python >= 3.8
  • ElasticFlow >= 5.6.2

部署步骤

    1. 下载ElasticFlow 5.6.1 jar包,并参考 elasticflow部署运行 进行部署。
    1. 拷贝ExampleDatas/config.properties 到 /opt/EF/config 文件夹下;
    1. 拷贝ExampleDatas/resource.xml 到 /opt/EF/datas 文件夹下,注意修改csv_folder该项的地址以及kges中的elasticsearch的地址;
    1. 拷贝ExampleDatas/files_es 文件夹到 /opt/EF/datas/INSTANCES 文件夹下;
    1. 拷贝ExampleDatas/kg 知识数据文件夹到 /opt/EF/ 文件夹下;
    1. 启动ElasticFlow
    1. 修改web_demo2.py中的ef_path变量为ElasticFlow主机地址,启动web_demo2.py。

说明

知识更新参照 kg 知识数据文件夹中的范例往下添加即可,系统会在线自动更新系统整体知识,注意其中 id字段不能重复,content字段为知识的主体内容

变更

  • 增加领域自动判断决策
  • 增加回答信息控制

计划

  • 增加插件能力向AGI方向靠拢

Citing ElasticAGI

@article{agtabular,
  title={ElasticAGI: 一个开源的、支持知识、能力动态扩展的,且基于LLMs的AGI引擎框架},
  author={chengwen}, 
  year={2023}
}

About

AGI Engines based LLMs| 基于大语言模型的AGI引擎

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages