人工智能系统的软件需求建模方法研究

As Artificial Intelligent systems develop more and more rapidly, their quality causes attention of all society. Since these systems are able to evolve automatically during execution by their inductive reasoning ability, traditional software modeling methods are not able to describe their requirements, system quality is therefore hard to guarantee. This project aims at proposing a systematic requirements modeling method for Artificial Intelligent systems with self-learning feature under big data environment. This method separates basic behaviors and learning behaviors of the system, builds hierarchical requirements model by relating and describing these behaviors on an abstract level. Our research mainly includes: extract behavior-related and property-related features from training data sets, give a feature-based description method; explore the deterministic elements in the basic behaviors of all kinds of Artificial Intelligent systems, extract essential elements and behaviors modes from the function framework of each kind of basic behaviors, obtain an abstract description method for basic behaviors by integrating the essential elements; achieve abstract description of learning behavior by conducting discretization of learning process, description of learning point based on basic model and construction of safety properties. This project enriches the theories of requirements modeling and trustworthy techniques for Artificial Intelligent systems, making a significant contribution to quality assurance for Artificial Intelligent systems.

人工智能系统的飞速发展引发了社会各界对其开发质量的关注。由于此类系统具备归纳推理能力，能够在运行过程中进行自主进化，其需求描述已无法通过传统软件建模方法实现，系统开发质量很难得到保障。本研究课题针对人工智能系统在大数据环境下的自主学习特性，提出一个系统化的需求建模方法。该方法通过区分、关联及抽象描述基本行为与学习行为，形成系统的层次化需求模型。主要研究内容包括：抽取训练数据集的行为相关与性质相关特征，给出训练数据集的特征化描述方法；探寻各类人工智能系统基本行为的决定因素，为每一类基本行为抽取相关功能框架的本质元素及行为模式，融合本质元素以获得基本行为的抽象描述方法；通过学习过程的离散化、基本模型基础上的学习节点描述以及安全性质构建，实现学习行为的抽象描述。该课题对人工智能系统需求建模及可信技术做出有益的理论探索，对人工智能系统质量保障具有重要意义和应用价值。

新一代人工智能系统以自主进化为标志性特征，其难以确定的预期行为、持续变化的系统功能以及复杂庞大的数据集都给传统需求分析方法提出了巨大挑战。为了应对以上挑战，本课题提出一种面向人工智能系统的需求分析方法，通过层次化的建模框架对系统基本行为与学习行为进行系统化描述，结合特征化机制与性质模板实现对数据集的需求刻画，并在此基础上给出系统行为应满足的关系性质。具体而言，主要研究内容如下：1）一种面向人工智能系统的层次化建模框架，其中底层为元模型层，由元快照模型和元数据模型组成；中间层采用蜕变关系的思想描述快照系统行为；顶层通过描述数据集引导下的快照系统转换展现学习行为。2）一种形式化特征建模方法，它在领域分析阶段对初始特征模型的所有叶子特征进行形式化建模。在此建模过程中，通过一致性检查方法对特征模型与特征规格说明的一致性进行验证并通过修改特征模型结构解决不一致性问题。3）基于特征模型的数据集需求分析方法，其双层架构包括用于描述机器学习系统learning context的下层与由property-based specifications组成的上层。4）基于特征模型与形式化规格说明的系统建模方法，它通过对给定的特征集合进行相关模型的融合来获得目标系统模型，在确定模型融合顺序后对相应模型进行有序融合。5）数据集需求分析与形式化建模系统及特征化形式化建模工具的研发。为了验证以上方法及支撑工具的有效性，我们将其应用于4个案例系统的实际建模过程。数据表明，支撑工具生成的系统模型能够覆盖选定特征的所有需求，并从数据集、系统行为等方面为开发人员提供了有效指导。本课题给出的方法能从一定程度上应对自主进化系统行为的描述问题，为进一步形成系统化建模方法与产品质量验证体系提供了基础。