“天宫2.0”教育部大模型发布

摘要: “天宫AI”是国内首个面向C端用户免费开放的MoE架构大型语言模型应用。北京时间2月6日,昆仑万维正式发布新版教育部大语言模型“天宫2.0”和新版“天宫AI智能助手”APP。 这...

“天宫AI”是国内首个面向C端用户免费开放的MoE架构大型语言模型应用

北京时间2月6日,昆仑万维正式发布新版教育部大语言模型“天宫2.0”和新版“天宫AI智能助手”APP。 这是国内首个搭载的MoE架构,并且免费向所有C端用户开放。 千亿参数大语言模型的AI应用。 用户即日起可在各移动应用市场下载“天宫AI智能助手”APP,体验昆仑万维“天宫2.0”教育部大模型的卓越性能。

“天宫2.0”是昆仑万维自去年4月发布双千亿级语言模型“天宫”以来最大规模的版本升级。 采用业界顶尖的MoE专家混合模型架构,处理复杂任务的能力更强。 该模型响应速度更快,训练和推理更高效,并且更具可扩展性。

本次更新全面升级AI搜索、对话、阅读、创作的回答质量和响应速度。 配备强大的多模态能力,支持图文对话、文本文字图形等多模态应用,支持高达100K的超长上下文窗口。 (汉字超过15万个),并新增了AI画画、数据分析、AI陪伴、AI算命、热点百科等多种新兴玩法,让AI更智能、更实用、更有趣,成为每个人生活的一部分。日常生活。 全能人工智能助手。

昆仑万维致力于人工智能模型和算法的创新与发展,持续探索通用人工智能技术前沿。 除了双千亿级大语言模型“天宫”和教育部专家混合大模型“天宫2.0”之外,昆仑万维还围绕“天宫2.0”推出了百亿级开源大语言模型系列“天宫2.0”。 “天宫”系列大型机型。 “Skywork-13B”、AI Agent开发平台“SkyAgents”、多模态大语言模型“Skywork-MM”等前沿AI产品,并逐步打造了AI大模型、AI搜索、AI音乐、AI Story、 AI游戏等AI业务矩阵是国内模型技术和工程能力最强、布局最全面的大型人工智能模型公司之一。

教育部:全球顶尖大模型核心技术路径

MoE(Mixture-of-Experts)是目前大语言模型赛道最先进、研发最前沿的底层架构。 是全球领先的大型模型核心技术路径之一。

自2023年6月起,昆仑万维不断对MoE架构技术前沿进行研发和探索,成功发布了首个国产MoE架构并向所有C端用户免费开放的大语言模型AI千亿参数应用——“天宫AI智能助手”APP。

“天宫AI智能助手”采用昆仑万维“天宫2.0”教育部大模型作为核心技术引擎。 其技术原理是将复杂的大模型任务分解为多个更小、更细分的子任务。 子任务全部由垂直领域的专家模型处理,使得昆仑万维的“天宫2.0”不仅大幅提升了模型训练和推理的性能和效率,而且实现了多个垂直领域知识的融合,使得模型更好地全面理解和处理不同应用场景下的复杂问题,为用户提供更准确、更全面的解答解决方案。

同时,昆仑万维技术团队通过一系列针对性的MoE技术研究,经过大量投入,最终解决了困扰整个MoE行业的模型不收敛、对特定任务泛化效果差等核心性能问题。研发和培训资源。 ,显着提升“天宫2.0”的模型性能。

模型性能更强、更快、架构更灵活

“天宫2.0”的技术领先体现在其核心MoE架构的突出优势。 MoE架构主要由门控模型/路由器和一组专家模型组成。 当数据输入到门控模型/路由器时,系统将根据任务类型将每个令牌分配给一个或多个。 每个专家模型都可以集中处理这部分数据,从而实现模型性能的整体提升。

与传统大模型架构相比,“天宫2.0”具有以下优势:

1、处理复杂任务的能力更强

“天宫2.0”教育部模型集成了多种专家模型。 每个专家模型都可以针对不同的数据分布和构建模式进行构建,从而显着提高大模型在各个细分领域的专业能力。 整体模型融合了各自专家模型的输出结果,使得“天宫2.0”在处理复杂任务和多模态任务时能够实现显着的性能提升。

2、更快、更高效

由于MoE模型在推理计算过程中仅激活少数特定的专家模型,与相同参数规模的密集模型相比,“天宫2.0”MoE模型表现出极高的稀疏性,使其推理计算更加高效。 这让用户获得更快的AI响应速度。

3、灵活多样、扩展性更强

一方面,模型的稀疏性使得“天宫2.0”能够在不增加计算量的情况下显着扩大模型规模,在相同计算资源下获得更强的模型性能; 另一方面,通过增加专家模型的数量,调整专家模型的权重比例,“天宫2.0”可以大大丰富模​​型的可扩展性,构建更加灵活、多样化的新时代大型模型,且可扩展。

“天宫AI智能助手”APP全面升级

“天宫AI智能助手”APP基于昆仑万维自主研发的“天宫”系列大机型。 是一款集搜索、聊天、书写、画画于一体的AI智能助手。 拥有强大的自然语言处理和智能交互能力,可实现个性化AI搜索、智能问答、AI绘画、聊天交互、文本生成、代码编写、语言翻译等应用场景,并拥有丰富的知识储备。

伴随着“天宫2.0”大机型的重大升级,“天宫AI智能助手”也迎来了全面的版本更新。

1、强大的多模态能力

“天宫AI智能助手”采用的多模态大模型基于一体化发展策略。 它在基础模型的基础上进行了深度开发和优化,引入了多分辨率视觉编码器和强大的语言基础模型。 这使其能够支持任何尺寸的图像输入和复杂的用户命令。

在强大的多模态大模型能力加持下,新版“天宫AI智能助手”具备出色的视觉理解、推理和指令跟随能力,可满足图文对话、图文对话等多种用户需求。文本创作、知识问答。 同时,得益于模型出色的理解能力,新版“天宫AI智能助手”生成的图像在内容丰富度、细腻度和图像质量方面都表现出色。

同时,在强大的多模态能力的支持下,“天宫AI智能助手”还可以生成图文并茂的答案,让用户询问“螺蛳粉怎么做?” 以及《吉他上《稻香》如何弹奏?》、《2024年春节放假安排?》 此类问题可以用图像/视频的方式呈现,让AI答题结果更加直观、内容更加丰富。

2.支持100K超长上下文窗口

“天宫AI智能助手”的超长上下文窗口技术基于100K原生文本训练,可支持高达100K(超过15万汉字)的文本对话,通过扩展技术可支持200K超长文档理解。 在InfiniteBench评测中,“天宫”系列大型模型多项指标均排名全球第一,10项指标平均得分为47.5分,超越Claude2,接近GPT4-128k的52.6分。

在超长上下文模型的“大海捞针”测试中,研究人员会将特定信息插入到海量文档集中,然后针对文档集提出问题,希望模型能够从“海量文档集”中找到正确的关键信息。文献海洋”来验证模型提取长期信息的能力。 在“大海捞针”测试中,“天宫”模型取得了100%正确的结果。

3. 搜索更准确,写得更好,读得更快

新版“天宫AI智能助手”拥有更强大的关键词和语义分析能力,更精准识别用户任务需求。 在AI搜索、对话、阅读、创作等不同应用场景中,能够为用户的不同需求提供更精准的信息。 ,更具体的解答和后续建议。 同时,新版“天宫AI智能助手”进一步提升了AI搜索质量、安全能力、答案丰富度。

例如,在“天宫AI智能助手”中,用户可以利用“AI阅读”功能快速提炼和总结文档内容,针对文档内容细节提出问题,得到快速、准确、具体的解答。

4.丰富有趣的AI Agent

新版本的“天宫AI智能助手”新增了AI绘画、数据分析、AI陪伴、AI算命、热点百科等多种官方AI Agent,让“天宫AI智能助手”可以搜索、在聊天、写作的同时,我加入了更多有趣、实用的新兴玩法,不断探索AIGC技术的应用边界,成为大家日常生活中不可或缺的全能AI助手。

2月8日起,昆仑万维主办的“乔辉龙年”AI绘画大赛也将在“天工AI智能助手”APP上线。 用户可以使用APP中的“AI绘画”功能进行绘画并提交图片。 前往活动专区即有机会赢取高达10万元现金大奖。

这是国内首个面向所有C端用户免费开放、奖金规模数十万的AI绘画大赛。 得益于“天宫”系列大机型卓越的多模态技术能力,高水平的文本意图识别,保证用户能够充分发挥创造力,绘制内容丰富、细节精致、先进的个性化AIGC图像。美学。

昆仑万维始终秉承“实现通用人工智能,让每个人更好地塑造和表达自己”的公司使命,不断降低大模型技术在各行各业的应用和学习门槛,共同探索大模型技术在各行各业的应用和学习门槛。未知的世界,让我们一起创造科技的未来。

浮窗式百度分享代码,请勿使用文字或图标

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏