人工智能可信赖性与可信赖算法研究

摘要

不可信赖的算法和系统不是人工智能的初衷，准确率较高的不可信赖系统如果有相当水平的专家的协同作业，有可能提高工作效率；但在完全自动化的条件下或者在与其配合工作的人不是非常可信赖的情况下，不可信赖系统则将丧失使用与存在价值．相反，可信赖系统却能够出色地工作，达到并长期保持制作它的群体专家的水平．可信赖系统不仅在效率方面而且将在质量方面体现人工智能的优越性和不可替代性，因此将是推动知识经济的发动机．已经证明，一个不可信赖的算法，最终必然破坏系统中其他可信赖算法的可信赖性，应该予以扬弃．实现可信赖算法和系统的工作量和难度都大大增加．可信赖算法本质上只适用于可界定、可判定的类．实现基于类与ＯＯＰ理论的若干可界定领域的可信赖算法与系统在实践上有确切的用途．已经证明，若干可信赖算法的集成仍然是可信赖的；因此通过不断地继承和集成能够逼近最终的目标．