6月30日,百度正式开源了其最新的文心大模型4.5系列,包含了多达10款模型,其中包括47B 和3B 激活参数的混合专家模型(MoE)以及0.3B 参数的稠密型模型。这次开源不仅让开发者能够免费使用这些强大的模型,还提供了预训练权重和推理代码,方便开发者进行各种应用。
而在此次发布中,英特尔也展现了其强大的技术支持。借助 OpenVINO 工具套件,英特尔在文心大模型的发布当天就完成了对这些端侧模型的适配,并成功在其酷睿 Ultra 平台上进行了端侧部署。OpenVINO 是英特尔自主研发的开源工具,旨在优化和加速深度学习模型的推理性能,实现跨平台部署,并充分利用英特尔的硬件资源。
值得一提的是,自2021年以来,百度的飞桨团队与英特尔的 OpenVINO 团队进行了深入合作,双方针对多个模型进行了适配工作,包括 PaddleOCR、PaddleSeg 和 PaddleDetection 等。这样的合作使得开发者可以直接利用飞桨模型,通过 OpenVINO 进行推理和部署,甚至可以通过 OpenVINO 的模型优化器将模型转换为 IR 格式,进一步提升部署效果。
文心大模型4.5的发布标志着百度在多模态理解、文本生成和逻辑推理等领域的又一次重大突破。这一系列模型的性能甚至在多项测试中超越了 GPT4.5,并且 API 调用的成本仅为后者的1%。这无疑为希望将 AI 技术应用于各类产品和服务的开发者提供了一个具有吸引力的选择。
英特尔和百度的这次合作,不仅展示了技术的前沿进展,也为 AI 的未来应用开辟了更广阔的道路。随着更多开发者参与到这些开源模型的使用中,我们可以期待在不久的将来,会有更多令人兴奋的创新和应用诞生。
发评论,每天都得现金奖励!超多礼品等你来拿
登录 在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则