在5月20日完毕的2021深度学习开发者峰会 WAVE SUMMIT 上，百度文心 ERNIE 开源了四大预练习模型。本文对这四大开源预练习模型进行了具体的技能解读。
2019年以来，NLP 预操人工智能换脸鞠婧祎郑爽练模型在技能立异和工业运用上不断取得打破，但当时预练习模型仍有一些痛点困扰着开发人工智能电影者：
- 仅考虑单一粒度语义建模，github直播渠道永久回家短少多粒度常识引进，语义了解才华受限；
- 受限于github永久回家地址 Transformer 结构的建模长度瓶颈，无法处理超长文本；
- 聚集言语等单一模态，短少工业真实运用场景针对多个模态如言语、视觉、听觉信息的联合建模才华。
5月20日举办的人工智能的界说2021深度学习开发者峰会 WAVE SUMMIT 上，依托飞桨中心结构，百度文心 ERNIE 最新开源产品定位四大预练习模型：多粒度言人工智能电影语常识增强模人工智能工作方向及远景型 ERNIE-Gram人工智能的利与弊、长人工智能专业文本了解模型 ERNIE-Doc、融合场景图常识的跨模态了解模型 ERNIE-ViL、言语与视觉一体的模型 ERNIE-Ugithub直播渠道永久回家NIMO。
针对当时预练习模型现存的难点人工智能能否替代人类痛点，此次文心 ERNIE 开源的四大预练习模型不仅在文人工智能概念股本语义了解、长文本建模产品设计专业和跨模态了解三大领域取得打破，还具有广泛的运用场景和远景，进一步助力工业智能化晋级。
文心 ERNIE 开源版地址：github敞开私库
github.com/PaddlePaddl…
文心 ERNIE 官网地址：
wenxin.baidu.com/
** 一、多粒度言语常识增强模型 ERNIE-Gra产品批号是生产日期吗m **
从 ERNIE 模型诞生人工智能之父起，百度github是干什么的研讨者们就在预练习模型中引进常识，经过常识增强的办法提高语义人工智能的界说模型的才华。本次发布的 ERNIE-Gram 模型正是经过显式引进人工智能换脸鞠婧祎郑爽言语粒度常识，然后提高模型的效gitee果。具体来说，ERNIE-Gram 提出显式 n-gram 掩码言语模型，学习 n-gram人工智能 粒度言语信息，相对连续的 n-gram 掩码言语模型大幅缩小了语义学习空间，（V^n→V_(n-gram)，其间 V 为词表大小，n 为建模的 gram 长度），显着github官网提高预练习模型收敛速度。github永久回家地址
▲ 图1-1 连续 n-gram 掩码言语模型 vs 显式 n-gram 掩码言语模型
此外，在显式 n产品批号是生产日期吗-gram 语义粒度建模根底上，ERNIE-Grgithub中文社区am 提出多层次 n-深度学习gram 言语粒度学习，运用 two-stream 双流机制，结束一起学习 n-gramgithub下载 言语单元内细粒度（fine-grained）语义常识和n-gram言语人工智能ai杨幂迪丽热巴单元间粗粒度（coarse-grained）语义常识，结束多层次的言语粒度常识学习。
▲ 图1-2 n-gram 多层次言语粒度掩码学习
ERNIE-Gram 在不增加任何核算凌乱度的前提下，gitee在天然言语揣度任务 、短文本类似度任务、阅览了解任务等多个典型中文任务上git指令，效果显着跨过了业界干流开源预练习模型。产品此外，ERNIE-Gram 英文github怎样下载文件预练习模型也在通gitlab用言语了产品解任务、阅览了解任务上效果跨过干流人工智能之父模型。
ERNIE-Gram人工智能换脸鞠婧祎郑爽 的办法被 NAACL 2021主会长文选用，论文地址：
arxiv.org/人工智能电影abs/2010.12…
** 二、长文本了解模型 ERNIE-Doc **
Transformer 是 ERNIE 预练习模型所依托的根底网络结构，但由于其核算量和空间消耗随建模长度呈平方级增加，导致模型难以建模华章、书本等长文本内容。产品经理遭到人类先粗读后精读的阅览办法启发，ERNIE-Doc 创始回想式建模技能，打破了 Transformer 在文本长度上的建模瓶颈，结束了恣意长文本的双向建模。
经过将长文本产品介绍重复输入模型两次，ERNIE-Doc 在粗读阶段学习并存储全华章语义信息，在精读阶段针对每一个文本片段显式地融合全华章语义信息，然后结束双向建模，避免了上下文碎片化的问题。
此外，传统长文本模型（Transformer-XL 等）中 Recurrence Memory 结构的循环办法约束了模型的有用建模长度。ERNIE-Doc 将其改善为同层循环，使模型保留了更上层的语义信息giti轮胎，具有了超长文本的建模才华。
▲ 图2-1 ERNIE-Doc 中的回想式建模与增强记忆机制
经过让模型学习github永久回家地址华章级文本阶段间的顺序联系，ERNIE-Dgit指令oc 可以更好地建模华章全体信息。
▲ 图2-2 华章重排序学习
ERNIE-Doc 显着提高了长文本的建模才华，可以解决许多传统模型无法处理的运用难题。github中文官网网页例如在查找引擎中，ERNIE-Doc 可以对网页全体了解，回来用户更加系统的效果。在智能创造中，ERNIE-Dogithub打不开c 可以用来生成更加长篇、语义丰厚的文章。
超长文本了解模型 ERNIE-Doc 在包含阅览了解、信息抽取、华章分产品生命周期类、言语模型等不同类型的1gitlab3个典型中英文长文本任务上取得最优的效果。
ERNIE-Doc 的办法被 ACL 2021 主会长文选用，论文链接：
arxiv.org/abs/201产品经理2.15…
** 三、融合场景图常识的跨模态了解模型 ERNIE-ViL **
跨模态的信息处理才华需求人工智能模型深入了解并归纳言语、视觉、听觉等模态的信息。当时，根据预练习的跨模态语义了解技能，经过对齐语料人工智能工作方向及远景学习跨模态的联github直播渠道永久回家合标明，将语义对产品定位齐信号融合到联合标明中，然后提高跨模态语义了解人工智能电影才华。ERNIE-ViL 提出了常识增强的视觉-言语预练习giti轮胎模型，将包含细粒度语义人工智能专业信息的场景图（Scene Graph）常识融入预练习进程，构建了物体猜测、特征猜测、联系猜测三个预练习任务，Git使得模型在预练习进程中更加重视细粒度语义常识，人工智能工作方向及远景学习到可以描绘更好跨模态语义对齐信息，得到更好的跨模态语义标明。
▲ 图git指令3-1常识增强的跨模态预练习 ERNIE-ViL 结构
ERNgiti轮胎IE-ViL 初度将场景图常识融入跨模态模型的预练习进程，为跨模态语义了解领域研讨供给了新的思路。该模型在视觉问答、视觉常识推理、引用表达式了解、跨模态文本&图画检索等5个典型跨模态任务上取github是干什么的得了抢先的效果。ERNIE-ViL 模型也逐步在视频查找等真实工业运用场景中落地。
ERNIE-git指令ViL 的办法被 AAAI-人工智能的利与弊2021 主会长文选用，论文地址:
arxiv.org/abs/2006.16…
** 四、言语与视觉一体的模型 ERNIE-UNIMO **
大数据是深度学习取得成功的Git关键根底之一。当时的预产品战略练习办法，一般分别在各种不同模态数据上分别进行，难以一起github中文官网网页支撑各类言语和图画的任务。根据深度学习的 AI 系统是否也能像人相同一起学习各种单模、多模等异构模态数据呢？假如可以结束，无疑将进一步打开深度学github是干什么的习对大规模数据运用的间隔，然后进一步提高 AI 系统的感知与认知的通用才华。
为此，言语与视觉一体产品经理的模型 ERNI人工智能E-UNIMO 提出一起模态学习办法，一起运用单模文本、单模图画和多模图文对数据进行练习，学习文本和图画的一起语义标明，然后具有一起处理多种单模态和跨模github永久回家地址态下贱任务的才华。此办法的中心模块是一个 Transformer 网络，在具体操github是干什么的练进程中，文本、图画和图文对三种github模态数据随机混合在一起，其间图画被人工智能的利与弊转化为方针（object）序列，文本被转化为词（tok人工智能能否替代人类en）序列，图文对被转化为方针序列和词序列的拼接。一起模态学习对三种类型数据进行一起处理，在方针序列或者词序列上根据掩码猜测进行自监督学习，而且根据图文对数据进行跨模态比照学习，然后结束图画与文本的一起标明学习。进一步的，这种联合学习办法也让文本常识和git指令视觉常识彼此增强，gitlab然后有用提高文本语义标明github和视觉语义标明的才华。
此办法在言语了解与生成、多模了解与生成，4类场景、共13个任务上跨过干流的文本预练习模型和多模预练习模型，一起登顶声威视觉问答榜单 VQA、文本推理榜单 aNLI。初度验证了经过人工智能工作方向及远景非平行的文本与图产品战略像单模数据，可以让言语常识与视觉github常识彼此增强。
此作github中文社区业被 ACL2021 主会长文选用,论文地址:
arxiv.ogithub是干什么的rg/abs/2012.15…
** 五、破解 NLP 技能难题，助力工业智能化 **
文心 ERNIE 全giti轮胎新开源发布4大预练习模型，不断推进 NLP 模型技github下载术研讨层面的立异与运用。
言语与常识技能被看作是人工智能认知才华的中心。2019年以来，百度凭借在天然言语处理领域的深重堆集取得了系列世界打破，发布了文心 ERNIE 语义了解途径，该产品定位途径广泛用于金融、通讯、教育、互联网等工作，助力工业智能化晋级。
作为“人工智能皇冠上的明珠”，github下载NLP 领域向来是人工智能技能研制与落地实践的前沿。百度文心途径根据抢先的语义了解技能，协助企业在 NLP 赛道上跨过技能、东西、算力、人才等门槛，对开发者和企业进行打开，全面产品质量法加快 NLP 技能助力全工业智能化晋级，为 AI 工业大生产插上智能的“翅膀”。
百度天然言语处理（Natural La产品nguage Processing，NLP）以『了解言语，具有智能，改动世界』为任务，研制天然言语处理中心技能，打造抢先的技能途径人工智能换脸鞠婧祎郑爽和立异产品，服务全GitHub球用户，让凌乱的世界更简略。
