3 月 3 日消息,在全球自然语言处理领域顶级赛事GLUE Benchmark中,阿里巴巴达摩院以平均分90. 3 分的成绩夺冠,刷新自然语言理解技术世界纪录,与阿里同场竞技的还有来自Google、微软、Facebook、斯坦福大学等企业和高校的团队。
自然语言理解技术的目的是让机器理解人类语言,在人工智能研究者的努力下,人类为机器研发的“基础语言模型”正不断演进。
Google于 2018 年底推出的BERT模型是业界广泛使用的自然语言预训练模型,达摩院NLP团队在BERT的基础上提出优化模型StructBERT,能让机器更好地掌握人类语法,加深对自然语言的理解。
使用StructBERT模型好比给机器内置一个“语法识别器”,使机器在面对语序错乱或不符合语法习惯的词句时,仍能准确理解并给出正确的表达和回应,大大提高机器对词语、句子以及语言整体的理解力。其相关成果论文已被国际人工智能领域顶级会议ICLR- 2020 收录。
据悉,这一技术已广泛使用于阿里旗下阿里小蜜、蚂蚁金服、优酷等业务。阿里达摩院的语言模型和阅读理解技术也被用于行业赋能,推进AI技术在医疗、电力、金融等行业的落地。