[开源] 我做的手机部署大模型应用更新了,现在支持多模态

本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容: 我的帖子已经打上 开源推广 标签: 是 我的开源项目完整开源,无未开源部分: 是 我的开源项目已链接认可 LINUX DO 社区: 是 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是 以上选择我承诺是永久有效的,接受社...
[开源] 我做的手机部署大模型应用更新了,现在支持多模态
[开源] 我做的手机部署大模型应用更新了,现在支持多模态
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
  • 我的帖子已经打上 开源推广 标签:
  • 我的开源项目完整开源,无未开源部分:
  • 我的开源项目已链接认可 LINUX DO 社区:
  • 我帖子内的项目介绍,AI生成、润色内容部分已截图发出:
  • 以上选择我承诺是永久有效的,接受社区和佬友监督:

以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出


祝佬友们520快乐啊,不知道佬友们520怎么过,我反正是和codex过了(误)
这个项目之前发过一次,不过最近挺忙的,中间断断续续做了些功能,现在更新下

[开源]ServLlama,一键让你的手机变成LLM服务器,无需Termux!功能强大堪比Ollama 开发调优
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容: 我的帖子已经打上 开源推广 标签: 是 我的开源项目完整开源,无未开源部分: 是 我的开源项目已链接认可 LINUX DO 社区: 是 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是 以上选择我承诺是永久有效的,接受社区和佬友监督: 是 以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出 现在手机性…

这次更新主要是新增了多模态视觉支持,还有很多UI优化,不过吐槽下,目前llama.cpp的多模态功能对android平台cpu后端还是有些吃力,图像处理时间稍长,因此目前还算是实验功能。

106fedd0fd495724164f9e4c31cae30c
d2e5f3084275fcc6653400c04c811c29

目前还有很多功能想做,还有很多不完善的地方,希望大家过来点个star提点issue啊

项目链接:

github.com

GitHub - ArkaneFans/servllama: 1-Click LLM Server on Your Phone — no Termux...

1-Click LLM Server on Your Phone — no Termux needed! 无需Termux,一键让你的手机变成LLM服务器!

下载链接:

GitHub

Releases · ArkaneFans/servllama

1-Click LLM Server on Your Phone — no Termux needed! 无需Termux,一键让你的手机变成LLM服务器! - ArkaneFans/servllama

5 个帖子 - 3 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文