口音识别难倒AI:“人机交互”的未来还有多远?

  • 来源: 云自推软文平台 文:薛刚   2020-11-05/17:38
  • 让机器“听懂”人类语言,是“语音识别”技术自诞生起,就一直致力的目标。

    自20世纪中叶以来,经过近70年的发展,特别是随着深度学习技术的引入,自动语音识别已取得突破性进展——在标准口音、常见词汇、安静环境的应用场景下,机器已然具备接近人类的“听觉”能力。

    然而,一旦面临口音、方言等情境,AI便显得有些“力不从心”,哪怕你一字一句尽力向智能设备发出清晰的指令,得到的回答仍可能是:“对不起,我好像不明白你在说什么……”

    语音识别技术发展的终极目标,是实现自然、顺畅的“人机交互”,正如同人与人的交互。如何解决横亘在当下的这道难题,抵达人类畅想的智能未来,已成为全球智能语音技术公司共同面对的挑战。

    全世界的AI,都栽在了“口音”上?

    口音、方言等问题,困扰着几乎全世界所有的智能语音助手。

    2018年,《华盛顿邮报》曾与Globalme、Pulse Labs两家语言研究公司合作,研究智能音箱的口音识别问题,结果显示,谷歌智能音箱Google Home更容易“听懂”美国西岸口音,对南部口音的识别准确率则要低3%;而亚马逊Echo搭载的语音助手Alexa,识别东岸口音的准确率要比中西部口音高2%。

    更大的问题还在于对非本土口音的识别。研究显示,对于非英语母语者,比如以西班牙语或汉语作为第一语言的人所说的英文,不论是Google Home还是Amazon Echo,其识别准确率都要比美国本土口音低30%,而拉丁裔和华裔是美国的两大移民族群。

    这项研究结果引起了人们对智能语音助手“地域歧视”问题的广泛关注。实际上,不只是Google Home和Amazon Echo,市场上主流的智能语音设备,在应对方言、口音等非标准语言场景时,表现都差强人意。

    在中国市场,这个问题同样凸显。

    所谓“十里不同音,百里不同俗”。作为一个幅员辽阔的多民族国家,我国56个民族使用的语言分属五大语系,共有80种以上语言。其中,汉语的使用人数最多,分为标准语(普通话)和方言。

    根据教育部2019年发布的《中国语言文字概况》,汉语方言通常分为十大方言,各方言区内,又分布着若干次方言和许多种土语。部分方言之间差异很大,无法通话。为了消除语言隔阂,国家在全社会大力推广普通话。然而,来自天南海北的人们,又赋予普通话五花八门的口音。

    带有鲜明地域特色的口音,虽然对于人们的日常交流无伤大雅,有时还带来些“塑料普通话”的乐趣,但你的智能语音助手就乐不起来了,甚至在它听来,你说的极有可能是另一门语言……

    与此同时,用户也很恼火:“难道普通话不过一级乙等,我就不配拥有智能音箱?!”

    口音、方言识别,到底难在哪儿?

    从理论上来说,只要有足够的数据供机器进行训练,那么让AI识别任何一种语言或口音,都不是问题。

    以人机交互为目的的语音识别,是一个把声学信号转化为文本信息的过程。目前主流的语音识别框架主要由三个部分组成:声学模型(AM)、语言模型(LM)和解码器。可以形象地理解为:声学模型负责找到对应的拼音,语言模型负责找到对应的句子。

    要得到一个出色的语音识别模型,需要有大量标注数据的训练,简单来说:首先,要进行语音内容的采集;其次,需要人工对这些语音进行标注,将语音内容转写成文本,让算法能够识别它;之后,算法再将识别后的文本内容与对应的音频进行逻辑关联。经过这样大量、反复的学习训练之后,机器就能实现语音识别了。

    “对于方言、口音的识别来说,最难的部分是在于语音数据的采集。”百度智能云数据众包项目专家曹静文表示。

    2019年9月,百度数据众包团队曾执行过一个藏语方言语音采集的项目。客户为了提升藏语方言的识别和翻译准确率,与百度团队合作,招募870位藏民,整体采集87万条藏语语音,覆盖安多、康巴、卫藏等三个藏语方言区。

    藏语与汉语同属汉藏语系,但与汉语这样资源丰富的语言不同,藏语属于低资源语言,目前全世界约有800万人使用藏语,训练数据稀少。

    曹静文介绍,藏区采集工作面临安全风险大、质检难度高等挑战。整个项目过程涉及诸多环节,从按需定制采集方案,到采集布点、人员招募、培训、隐私授权,再到对采集流程、进度和项目风险进行把控,最后经过多轮质检,在数据核验通过后,才能最终交付确认。

    百度团队在第一时间联系到当地的资源布点,并派遣项目经理前往西藏、青海等地指导采集。最终该项目用时一个半月,实际交付数据92万条,验收合格率高于95%,满足交付要求。

    “这个过程往往成本高昂、流程繁琐,还存在诸多门槛。”曹静文表示。

    应对“数据稀缺”,众包模式受青睐

    语料库的质量越高,语言模型越丰富,语音识别的准确率就越高。如何获取大量训练数据,就成为AI在口音、方言及低资源语言的识别上,面临的关键问题。

    全球各大AI巨头和前沿的科技公司,都在积极致力于解决这个问题。

    一方面,对于投入市场的智能语音产品来说,随着越来越多拥有不同口音的用户与其进行交流,训练数据持续积累,语音助手的识别能力会不断提升。另一方面,在自身语音数据集的扩充上,一些公司也在尝试采取各种“众包模式”。

    “众包”是一种分布式的问题解决和生产模式,企业通过互联网,以自由自愿的形式,将工作分配给外部的大众群体。

    比如,谷歌、亚马逊等科技巨头,以游戏的形式鼓励用户使用不同地区的方言进行交谈;国内智能语音企业科大讯飞推出“方言保护计划”,鼓励用户“留下乡音”,共建“中国方言库”;一些机构和企业呼吁齐力“献声”,打破巨头公司的数据垄断,建立开源开放的语音数据集等。

    这些方式实际上都是以众包模式,获取大量的语音训练数据。

    “众包模式的优势在于,可以低成本、高效率地整合资源。”曹静文表示。

    2019年底,百度数据众包团队承接了一项海外英文语音采集项目。某手机厂商为了提升海外各国英文唤醒词的识别率,需要采集海外不同地域用户的英文语音,包括亚太地区口音、英式口音、美式口音、印式口音及阿拉伯口音,需招募2000人,总数据量为20万条。

    “这个项目的难点在于,要求采集的用户口音遍布多国,交付时间短,且对用户的性别、年龄段要求严格。”曹静文说,“但我们通过百度覆盖全国及全球22个国家的资源池,在短时间内招募到了全球多种口音用户参与采集。”

    项目执行期间,恰逢春节假期和突发的新冠疫情,百度团队通过国内线上和国外线下的采集方式,执行布点覆盖9个国家,用时45天,按照客户要求完成了全部数据交付。

    实践证明,众包模式的确是完善语音数据库的一条有效路径。

    但光有数据库的支持还不够。要提高某种语言的识别准确率,还需要对该语言的文化、语素、音素等有相当的研究。因此,要实现方言、口音的准确识别,也需要方言学者、音韵学者等专业人士的深度参与。

    此外,另一个现实情况是,一些方言和低资源语言,很难提供充足的数据资源以供采集。这种情况下,探索如何通过迁移学习,用较少数据量得到一个好的声学模型,就成为当前一个热门且极具价值的研究方向。

    ---------------------------------------------------------

    免责声明:

    1.本文援引自互联网,旨在传递更多网络信息,仅代表作者本人观点,与本网站无关。

    2.本文仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证。


    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多