New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

【chatchat-v0.2.10版本-lite启动-知识库匹配问题】请问下使用了lite方案，LLM和embedding模型都选择的qwen-turbo，启动和LLM问答正常，但是使用知识库问答，在使用了text-embedding-v1模型一直匹配不到知识库内容，使用本地模型和本地嵌入模型都是正常的。这是为啥呢 #4357

Open

TonyHmx opened this issue Jun 28, 2024 · 2 comments

TonyHmx commented Jun 28, 2024

          请问下使用了lite方案，LLM和embedding模型都选择的qwen-turbo，启动和LLM问答正常，但是使用知识库问答，在使用了text-embedding-v1模型一直匹配不到知识库内容，这是为啥呢

Originally posted by @TonyHmx in #3100 (comment)

The text was updated successfully, but these errors were encountered:

Author

TonyHmx commented Jun 28, 2024

1.models配置是正常的

2.

TonyHmx changed the title 【chatchat-v0.2.10版本-lite启动-知识库匹配问题】请问下使用了lite方案，LLM和embedding模型都选择的qwen-turbo，启动和LLM问答正常，但是使用知识库问答，在使用了text-embedding-v1模型一直匹配不到知识库内容，这是为啥呢【chatchat-v0.2.10版本-lite启动-知识库匹配问题】请问下使用了lite方案，LLM和embedding模型都选择的qwen-turbo，启动和LLM问答正常，但是使用知识库问答，在使用了text-embedding-v1模型一直匹配不到知识库内容，使用本地模型和本地嵌入模型都是正常的。这是为啥呢

Author

TonyHmx commented Jun 28, 2024

打日志看到qwen.py中的do_embeddings方法也获取到向量数据了。
不清楚为什么知识库问答一直无法匹配到，
知识库本身也是使用faiss+qwen_api的方式

求助~~~

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment