• 注册
  • 查看作者
  • 360公司开源7B参数大模型“360智脑7B参数升级版”,支持中英文和长文本输入,推动AI技术发展

    AI导读
    360公司近日宣布开源其自主研发的"360智脑7B参数升级版"大语言模型,该模型具备7B参数量并支持中英文混合训练。核心亮点包括:首创360K超长文本处理能力,可解析约50万字长文本;采用多阶段训练提升逻辑推理能力,基于3.4万亿Tokens的混合语料库(含代码数据);提供4K至360K三种上下文窗口选择。开源内容涵盖基础模型、对话优化模型及完整工具链,遵循Apache 2.0协议支持商业应用(需邮件授权),为开发者提供从微调到部署的全流程支持,显著降低大模型技术应用门槛。

    360公司近日正式开源了其自研的7B参数大模型“360智脑7B参数升级版”(360Zhinao2-7B),并已上线GitHub开源社区,供开发者免费使用和商用。此次开源包含基础模型和强化对齐的聊天模型,以及微调训练代码、推理代码等全套工具集,开发者可以“开箱即用”。

    以下是360智脑7B参数升级版的主要特点和功能:

    1. 多阶段训练方式:该模型采用了全新的多阶段训练方式,显著提升了中英文通用能力和数学逻辑推理能力。

    2. 多种上下文长度支持:模型支持4K、32K、360K三种不同长度的上下文输入,其中360K长度可支持约50万字的长文本输入,这在开源大模型中极为罕见。

    3. 丰富的语料库:360智脑7B参数模型使用了3.4万亿Tokens的语料库进行训练,语料主要以中文、英文和代码为主。

    4. 开源许可证:本仓库源码遵循Apache 2.0开源许可证,支持商用。若需将本模型及衍生模型用于商业用途,请通过邮箱(g-zhinao-opensource@360.cn)联系进行申请。

    5. 推理和部署工具:开源内容还包括微调训练代码和推理部署代码等工具链,方便开发者进行模型的应用和开发。

    360智脑7B参数升级版的开源,为开发者提供了强大的工具和资源,推动了人工智能技术的发展和应用。

    智创聚合API
    上海
  • 0
  • 0
  • 0
  • 113
  • 请登录之后再进行评论

    登录

    推荐圈子

  • 圈子版务
    圈子版务
    关注我们,获取最新平台动态。
  • 智创聚合API
    智创聚合API
    国内最大的聚合API平台,支持OpenAI、阿里、智谱、360、讯飞、百度等国内外大语言模型。https://s.lconai.com/
  • Midjourney中国社区
    Midjourney中国社区
    Midjourney是一款由Midjourney有限公司开发的数字艺术工具软件,具有生成虚拟世界的强大能力,可根据用户输入的文字或语音在虚拟世界中生成对应场景,使用户能够探索和创造自己的数字艺术作品。
  • Midjourney接口服务
    Midjourney接口服务
    目前接口已经支持码多多AI系统、小狐狸AI系统,如需其它接口请联系微信客服:lonconst
  • 智狐AI-MAX系统
    智狐AI-MAX系统
    智狐AI-MAX系统,企业级AI知识库,可以进行AI对话、AI应用,拥有强大的第三方对接能力。适用企业智能客服、企业智能文档、专家顾问助理等多种企业级商业场景,具有较大的商业使用价值。 如需购买请联系客服微信:lonconst
  • 智狐AI系统售前交流
    智狐AI系统售前交流
    创新型AI对话与绘画系统(非官方) 如需购买请联系微信客服:lonconst
  • 任务
  • 单栏布局 侧栏位置: