本地部署模型,想开发一个自用的llm对话界面,有哪些现成的代码仓可以参考使用吗

其实就是本地化LLM模型+自定义的web,需要一个llmweb对话的前端,因为有自定义的需求,找一个满足base功能的llm对话界面做二次开发。目前用的多且简单的有哪些吗 2 个帖子 - 2 位参与者 阅读完整话题...
本地部署模型,想开发一个自用的llm对话界面,有哪些现成的代码仓可以参考使用吗
本地部署模型,想开发一个自用的llm对话界面,有哪些现成的代码仓可以参考使用吗

其实就是本地化LLM模型+自定义的web,需要一个llmweb对话的前端,因为有自定义的需求,找一个满足base功能的llm对话界面做二次开发。目前用的多且简单的有哪些吗

2 个帖子 - 2 位参与者

阅读完整话题

来源: linux.do查看原文