最近在思考不支持工具调用的模型api和支持工具的模型api有什么差别,以及如何兼容是否有好的开源框架,方便自己包装一层做前置封装。或者是否有更好的中转站框架项目内置工具化支持?本人目前使用的是axonhub,还有cpa都有用。
现在就是想问下各位老友,部分公益站模型不支持工具,如何让他支持,还有看到有的公益站站长分组写着兼容工具,我想知道是怎么兼容的?(我看到的是newapi站点,这个newapi是否有这次兼容工具的插件或者是模块)
我问了豆包说是有个Toolify的开源项目可以包装模型请求,是请求提支持tools tools_choice字段,以及修改响应体中的工具调用结构自己工具的role角色等等,不清楚老友是否都明白我问什么
以下是我咨询豆包的对话,老友可以看看,应该会有所收获
https://www.doubao.com/thread/a362fa04b2e6e
9 个帖子 - 4 位参与者