于西雅图的生物科学研究机构艾伦研究所
Posted: Sun Mar 02, 2025 5:48 am
为人工智能赋予常识
早在 20 世纪 70 和 80 年代,研究人员就一直在尝试开发机器常识。但当时的技术还无法应对这一挑战。
20 世纪 90 年代,当人工智能发展的基础尚未奠定时,潜在的安全问题促使社会学家阿米泰·埃齐奥尼 (Amitai Etzioni) 开始研究机器理解。埃齐奥尼在 1994 年与他人合作撰写的一篇论文中提到,人工智能安全问题的根本原因是机器不理解伤害的概念。这种理解需要了解个人的需求、信仰和偏好。
如今,人工智能已经取得了长足的发展,推动了智能家居、机器人和虚拟助手等现实世界系统的发展。随着对人工智能的依赖性不断增加,发展人工智能的常识变得势在必行。得益于不断的突破,这一目标更加可行。机器学习更加先进,而研究人员正在简化其数据输入流程,帮助人工智能扩展其能力。
以下是培养人工智能常识的其他重要步骤:
周期
自 1984 年以来,逻辑专家一直在研究 Cyc,这是一个百科全 爱沙尼亚 Whatsapp 移动数据库 书系统,其中包含基于世界运作方式的常识性规则。公认的真理与其他真理相结合,形成决定可接受行为的逻辑。例如,Cyc 被输入公理“湿滑路面易滑”和“胎面磨损的轮胎在湿滑路面上的抓地力较差”。结合起来,就形成了推论“使用旧轮胎会增加水滑的风险”。
不过,一些研究人员认为 Cyc 的方法过时且费力。在这个自动化时代,机器学习技术在 Siri 和谷歌翻译等服务中占据主导地位,这些服务可以在海量数据中识别模式。另一个最近的例子是生成式预训练 Transformer 3 (GPT-3),它可以从网络上搜索文本。通过识别语言配置,它可以创建听起来像人类的写作。
然而,其他专家指出,尽管 Cyc 的开发过程繁琐,但数十年来积累的规则不容小觑。其结果是一款功能强大的软件,可以实时分析复杂的人类表情。
机器常识(MCS)
MCS 于 2019 年启动,是总部位与美国国防高级研究计划局 (DARPA) 之间的合作项目。这项耗资 7000 万美元的计划采用双管齐下的方法。第一项是基于体验的学习,其中人工智能在虚拟环境中解决问题。
科学家与发展心理学家合作,帮助人工智能像婴儿一样学习——操纵物体、在空间中导航和识别物体。另一种策略是通过浏览网络来培养常识,建立日常知识的数据库。这个数据库可以回答与常见经验相关的问题。
雷神
THOR 是“互动之家”的缩写,是 MCS 的产品。由于该项目需要一个让人工智能从经验中学习的虚拟实验室,艾伦研究所的研究人员开发了 THOR。根据其网站,THOR 融合了符合现实物理的互动元素和背景。例如,虚拟球在掉落时会模仿其实际的物理属性,如质量和弹跳高度。可以命令关门、打开和关闭灯以及在微波炉中加热食物。该环境还允许不同类型的角色执行各种任务以展示协作。
Glide 框架
如上所述,这个由麻省理工学院发起的框架使用大型语言模型。其中之一是 GPT-3,其任务是生成数百万条可信的日常陈述,说明动机、结果和原因。人工审阅者发现,该系统生成的陈述 83% 的时间都体现了常识。Glide 还收集了一个短视频数据库,用于训练 AI 基于图像的推理。
早在 20 世纪 70 和 80 年代,研究人员就一直在尝试开发机器常识。但当时的技术还无法应对这一挑战。
20 世纪 90 年代,当人工智能发展的基础尚未奠定时,潜在的安全问题促使社会学家阿米泰·埃齐奥尼 (Amitai Etzioni) 开始研究机器理解。埃齐奥尼在 1994 年与他人合作撰写的一篇论文中提到,人工智能安全问题的根本原因是机器不理解伤害的概念。这种理解需要了解个人的需求、信仰和偏好。
如今,人工智能已经取得了长足的发展,推动了智能家居、机器人和虚拟助手等现实世界系统的发展。随着对人工智能的依赖性不断增加,发展人工智能的常识变得势在必行。得益于不断的突破,这一目标更加可行。机器学习更加先进,而研究人员正在简化其数据输入流程,帮助人工智能扩展其能力。
以下是培养人工智能常识的其他重要步骤:
周期
自 1984 年以来,逻辑专家一直在研究 Cyc,这是一个百科全 爱沙尼亚 Whatsapp 移动数据库 书系统,其中包含基于世界运作方式的常识性规则。公认的真理与其他真理相结合,形成决定可接受行为的逻辑。例如,Cyc 被输入公理“湿滑路面易滑”和“胎面磨损的轮胎在湿滑路面上的抓地力较差”。结合起来,就形成了推论“使用旧轮胎会增加水滑的风险”。
不过,一些研究人员认为 Cyc 的方法过时且费力。在这个自动化时代,机器学习技术在 Siri 和谷歌翻译等服务中占据主导地位,这些服务可以在海量数据中识别模式。另一个最近的例子是生成式预训练 Transformer 3 (GPT-3),它可以从网络上搜索文本。通过识别语言配置,它可以创建听起来像人类的写作。
然而,其他专家指出,尽管 Cyc 的开发过程繁琐,但数十年来积累的规则不容小觑。其结果是一款功能强大的软件,可以实时分析复杂的人类表情。
机器常识(MCS)
MCS 于 2019 年启动,是总部位与美国国防高级研究计划局 (DARPA) 之间的合作项目。这项耗资 7000 万美元的计划采用双管齐下的方法。第一项是基于体验的学习,其中人工智能在虚拟环境中解决问题。
科学家与发展心理学家合作,帮助人工智能像婴儿一样学习——操纵物体、在空间中导航和识别物体。另一种策略是通过浏览网络来培养常识,建立日常知识的数据库。这个数据库可以回答与常见经验相关的问题。
雷神
THOR 是“互动之家”的缩写,是 MCS 的产品。由于该项目需要一个让人工智能从经验中学习的虚拟实验室,艾伦研究所的研究人员开发了 THOR。根据其网站,THOR 融合了符合现实物理的互动元素和背景。例如,虚拟球在掉落时会模仿其实际的物理属性,如质量和弹跳高度。可以命令关门、打开和关闭灯以及在微波炉中加热食物。该环境还允许不同类型的角色执行各种任务以展示协作。
Glide 框架
如上所述,这个由麻省理工学院发起的框架使用大型语言模型。其中之一是 GPT-3,其任务是生成数百万条可信的日常陈述,说明动机、结果和原因。人工审阅者发现,该系统生成的陈述 83% 的时间都体现了常识。Glide 还收集了一个短视频数据库,用于训练 AI 基于图像的推理。