综合时讯

当前位置/ 首页/ 综合时讯/ 正文

神经符号概念学习器是如何工作的

导读 为了解决 CLEVR 场景,NSCL 首先使用卷积神经网络 (CNN) 来处理图像并创建对象列表及其特征,例如颜色、位置和大小。这是基于规则的 ...

为了解决 CLEVR 场景,NSCL 首先使用卷积神经网络 (CNN) 来处理图像并创建对象列表及其特征,例如颜色、位置和大小。这是基于规则的 AI 模型可以轻松处理的图像符号表示。

第二个 NLP 神经网络处理问题并将其解析为可以在对象列表上运行的经典编程函数列表。结果是一个基于规则的程序,可以用符号 AI 术语表达和解决问题。

乍一看,NSCL 似乎是简单地将神经网络和符号 AI 部分拼接在一起的结果,但 Cox 解释说,这两个组件更加交织在一起。AI 模型通过强化学习进行训练,强化学习是机器学习的一个分支,它根据运行环境的规则通过反复试验而发展。由于神经网络的目标是创建问题的符号表示和结构化程序,它学习的东西与仅由神经网络组成的模型有根本的不同。

“从一个问题到一个可以回答问题的程序的质量实际上取决于让系统成为一个统一的、混合的人工智能模型,所有这些模型都可以一起工作,”考克斯说。“如果我们做对了,我们将看到符号系统从本质上改变神经网络的学习内容,而神经网络从本质上改变符号系统的工作方式。”

混合 AI 的另一个品质是可解释性。端到端深度学习模型可以解决令人着迷的问题,但准确性和复杂性的代价是不知道 AI 中究竟发生了什么。但混合 AI 模型输出的编程指令可以逐步跟踪和调试,让开发人员和工程师清楚地了解 AI 是如何(或不是)解决问题的。

“在这里你可以看到这个程序,你可以逐步完成它,看看它做了什么。如果它得到了错误的答案,您可以看到它为什么得到错误的答案以及它误入歧途的地方。如果它得到正确的答案,您可以验证它是否出于正确的原因这样做。您可以了解和审核结果,”Cox 解释道。

混合AI能够解决什么样的问题?根据 Cox 的说法,我们可以在目前使用神经网络的大多数应用程序中使用它们。但我们也可以在不使用神经网络的环境中使用人工智能模型,例如 NSCL,因为我们没有足够的数据并且我们担心对抗性攻击或可解释性问题。

“关于未来混合人工智能系统最令人兴奋的事情是,我们开始将人工智能应用到我们今天无法梦想仅通过神经网络应用它的地方,”考克斯说。

免责声明:本文由用户上传,如有侵权请联系删除!