One-API接入ChatGLM2-6B-int4的OpenAI服务接口
参考：https://doc.fastgpt.in/docs/development/one-api/
基于docker进行部署即可，只需要一条命令
- 类型：OpenAI，这个是固定的
- 名称：chatglm2，这个随意
- 模型：chatglm2，这个通过“输入自定义模型名称”来输入，这个名称是后面FastGPT里面会显示的名称
- 代理：本地ChatGLM2-6B-int4的接口服务地址
点击令牌-> 添加新的令牌
在docker-compose.yml修改 FastGPT 的环境变量(第52行)
在config.json中加入ChatGLM2
启动容器
测试
在FastGPT创建的应用里面，选择外部使用 -> API访问
新建API密钥管理，名称随意，拷贝这个密钥
智能微秘书接入FastGPT中的ChatGLM2-6B-int4
问题总结
- 问题：chatglm的openAPI报错
解决：参考https://github.com/THUDM/ChatGLM2-6B/issues/483
将openai_api.py文件中3处替换为
以上就是本篇文章【全部本地化！ChatGLM+oneapi+fastgpt+微秘+微信 部署实操】的全部内容了，欢迎阅览 ！ 文章地址：http://keair.bhha.com.cn/news/4788.html 文章 相关文章 动态 同类文章 热门文章 栏目首页 网站地图 返回首页 康宝晨移动站 http://keair.bhha.com.cn/mobile/ , 查看更多
全部本地化！ChatGLM+oneapi+fastgpt+微秘+微信 部署实操
2024-12-23 16:35
最新文章
Tap Translate Screen翻译器手机版手机在线翻译「Tap Translate Screen翻译器手机版」
Tap Translate Screen翻译器手机版app是一款实用的翻译工具应用，可以帮助用户实时翻译屏幕上的文字，支持多种语言的互译，在线
今天起，手机充电请调整一下！手机多少电量充电合适「今天起，手机充电请调整一下！」
901公司招聘计划手机电量还剩多少，对许多人而言都是一个关键的问题。人们对手机充电的强烈需求，也让市面上催生出许多噱头产品
在手机上怎么炒股票，同花顺可以炒股吗手机炒股「在手机上怎么炒股票，同花顺可以炒股吗」
您好，很高兴为您解答问题。同花顺可以炒股，现在很多人通过手机炒股，因为它方便快捷，可以随时随地跟踪行情和进行交易。以下是
4月14日美股盘前要闻
钛媒体App 4月14日消息，美股盘前要闻：1. 美国股指期货集体上涨，截至目前，道指期货涨1.08%，标普500指数期货涨1.59%，纳斯达
警惕“高阶智驾”陷阱！诱导“解放双手”，最高可判处死刑
近期，因驾驶人错误使用辅助驾驶导致的交通事故时有发生，引起社会关注讨论。部分驾驶人对辅助驾驶的认知不到位，误以为“辅助驾
中房协将于4月21日-22日召开“中小房企稳健发展经验交流会”
观点网讯：4月8日，中国房地产业协会宣布，为深入探讨中小房企、本土房企稳健经营经验，促进企业间相互学习、交流借鉴，中国房地
奈雪的茶2024年营收近50亿元
新京报讯（记者王子扬）3月27日，新茶饮企业发布2024年年报显示，2024年全年营收近50亿元。截至2024年12月31日，奈雪的茶全国门
荣耀首款8000mAh电池手机今日开售 起售价仅1699元
【CNMO科技消息】据荣耀手机官方消息，4月18日上午10点08分，荣耀Power正式开售，这是今年荣耀旗下首款8000mAh超大电池手机
假面骑士雷杰多腰带模拟器假面骑士游戏手机版「假面骑士雷杰多腰带模拟器」
假面骑士雷杰多腰带模拟器是一款极具挑战性的游戏，能让玩家获得更多的腰带，还能让玩家利用角色的技能来进行战斗，可尝试快速变
星际争霸2破解补丁星际争霸手机版下载「星际争霸2破解补丁」
星际争霸2破解补丁是款很实用的游戏补丁工具。玩家们使用这款补丁之后就可以免费激活星际争霸2这款游戏的各种文件，没有任何的限
相关文章
相关动态