研究方向
应用前景
跨媒体、多技能AI的发展,对于人工智能技术突破现有局限,以及它的落地和普及都具有非常重要的意义。具备多种技能的系统可以胜任更多的应用场景,协同、高效地完成复杂任务,让高智能机器人的出现成为可能。当前一代的人工智能驱动的机器人主要使用视觉数据来引导并与周围环境进行交互,这在有限的环境中完成简单的任务十分灵活,但是在更为复杂的场景中将失灵。多技能AI将给未来的技术带来灵活性和安全性,筛选简历的算法不会将性别和种族等无关的特征视为能力的标志,自动驾驶汽车不会在陌生的环境中迷失方向,不会在黑暗或下雪的天气中失控。它的发展将直接赋能医疗,教育,航天等其他领域,推动智能时代的进程。由于具备的深远影响力以及广泛的应用前景和发展前景,多技能人工技能被MIT Technology Review评选为2021年“全球十大突破技术”之一。
研究内容
相比于传统单任务AI,多技能人工智能必将成为未来的主流趋势,拥有广阔的应用前景和发展空间。当前,大规模预训练模型的研究因其对算力、标注数据等方面的极高需求,基本被大型企业垄断,且我国企业推出的模型尚处于跟跑阶段,并未形成理论方法上的创新与优势。针对上述瓶颈,拟从以下三个方面开展研究:
跨媒体大规模预训练模型构建:首先搭建高效的跨媒体大模型基础架构,利用海量样本自动学习大量语言文字和图像数据,记忆和理解人类丰富的先验知识。进一步利用无(自)监督技术,解决大模型训练对于标注数据高度依赖问题,尽可能使用更少的特定领域数据,完成大模型精细训练与垂直应用,融合专业领域信息,让模型同时掌握常识和专业知识。
硬件优化和模型紧致压缩:综合利用神经网络的统计特性和计算任务先验知识,探索神经网络结构自动搜索、动态神经网络等新技术路线,解决目前跨模态多技能模型算力需求大、研发成本过高的问题,打破龙头企业对多模态大模型的垄断。
在线学习和协同进化算法:拟研究高效的大规模预训练模型更新算法,使大模型可以基于少量的新数据,以较低开销增量更新经验,适配新任务,动态改正错误,不断的在自我学习中进化。同时拟结合多任务协同互补的特性,通过多任务互监督使大模型在具体垂直应用中获得更强大的性能。
友情链接
福建省科学技术厅
厦门市科学技术局
厦门大学