ColossalChat是由Colossal-AI推出的免费开源版ChatGPT聊天机器人替代品,目前其GitHub项目已斩获26K星标。
作为当今领先的开源大型人工智能模型解决方案,Colossal AI是第一个基于LLaMA预训练模型开源完整RLHF机制的公司,该机制包括监督数据收集、监督微调、奖励模型训练和强化学习微调,并共享ColossalChat——与最初的ChatGPT技术解决方案非常相似的开源项目。
该开源项目包括以下内容:
- Demo演示:一个交互式演示,无需注册或加入等待名单即可在线试用
- 训练代码:开源完整的RLHF训练代码,包括70亿和130亿的模型。
- 数据集:开源104K中英文双语数据集。
- 推理:仅需要4GB GPU内存便可进行70亿参数模型的4-bit量化推理。
- 模型权重:在单个服务器上只需少量计算能力即可实现快速复制。
©️版权声明:本站展示所有网站均来自56分类目录网络转载或由站长自行提供收录,其原创性以及文中陈述文字和内容未经本网站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网站不作任何保证或承诺,不承担任何保证责任,请读者仅作参考,并请自行核实相关内容。如果以上内容侵犯您的版权或者非授权发布和其它问题请联系本站删除,谢谢。
