针对黑盒机器学习模型的规则确定

摘要

本公开内容的各实施例涉及针对黑盒机器学习模型的规则确定。描述了针对黑盒机器学习模型(BBMLM)的规则确定。这些规则由解释系统确定以描述BBMLM的操作以将对BBMLM的输入与BBMLM的观察到的输出相关联，并且不需要知道由BBMLM在操作中使用以进行这些关联的逻辑。为了确定这些规则，解释系统最初生成代理黑盒模型以仅基于指示输入和观察到的输出的数据来模仿BBMLM的行为，因为被实际使用的逻辑对系统不可用。解释系统通过使用遗传算法组合基于代理黑盒模型的输出而被标识的条件来生成描述BBMLM的操作的规则。这些规则被输出作为if‑then语句，if‑then语句被配置有被形成作为条件的列表的if部分和具有关联的观察到的输出的指示的then部分。