知道不足才能进步 通用电气想要教会人工智能“谦逊”

　　【CNMO新闻】通用电气认为，人工智能应该具备一定程度的“谦逊”，算法将意识到需要去了解它们不知道的东西。

　　通用电气研究公司表示，它一直在其风电场和燃气轮机的数字化双胞胎项目中部署试用“谦逊人工智能”。该计划旨在将谦逊人工智能注入GE的数字化双胞胎产品和服务。

通用电气

　　“谦逊人工智能”指的是在遇到算法无法识别的情况时，具备默认切换到已知安全操作模式的能力。在安全模式下操作时，谦逊人工智能可以通过收集更多操作数据、人类工程师的输入、与其他资产的关联以及运行其他模拟和场景来学习新情况。

　　通用电气全球研究公司软件研究副总裁Colin Parris表示，该公司的“谦逊人工智能”正在风电场进行试点。Parris表示：“我们希望在算法中引入业务风险的概念，并提供模型失败的早期预警和预测。”

　　Parris解释说，人工智能背后的主要思想是：模型将了解他们的能力以及擅长的领域。如果模型看到的是其认知区之外的东西，比如温度范围，那么该模型将足够“谦逊”，知道自己不擅长这方面。他说：“人工智能应该‘谦虚’地知道这不在其能力范围之内，并转向标准操作。”归根结底，“谦逊人工智能”的目的是能够以更低的商业风险提供更高的价值。