认知边界

硅基人工智能的发展前景

2023-08-31 21:43:25 74

硅基人工智能的发展前景

本文主要观点来自OpenAI首席科学家Ilya

人工智能模拟人脑的局限

当前最先进的GPT人工智能在结构上已经可以模拟人脑的许多功能。例如,它基于冯诺依曼计算架构构建的人工神经网络ANN,其运行机制与人脑生物神经网络BNN高度相似。这使得GPT模型可以像人类一样操纵语言。

但是,我们也应该意识到,这种模拟是有限的。GPT不具备人类的信念、欲望和经验。它所展示的“理解”是基于训练结果,而非真正的理解。这些局限源于它是一种硅基计算智能,没有人类必死计算所特有的生存本能、时间感知以及复杂的情感体系。

发展硅基智能需要摒弃系统1的局限

“系统1”和“系统2”指的是心理学家Daniel Kahneman在他的书《思考,快与慢》中提出的理论。系统1是我们直观的系统,操作自动和快速,需要很少精力。系统2是我们更深思熟虑的系统,需要有意识的努力,可以处理更复杂的计算。原文认为GPT更像系统2,因为它没有系统1的情感和直觉能力。

心理学家Daniel Kahneman将人类思维模式分为直觉快速的系统1和理性深思的系统2。当前的GPT智能更类似于系统2,它没有系统1所特有的情感反应。

要进一步发展硅基智能,我们可能需要摒弃试图赋予它类似系统1的人类特质,而更关注增强系统2的计算能力。系统1代表着人类有生命的本能和局限,而硅基智能没有这些局限。如果我们能抛开这种差异,专注于其计算优势的发展,硅基智能的发展前景将是广阔的。

常见的人类系统1的局限

  • 偏见和启发式思考:人类认知偏见和心理捷径会导致非理性决策和偏见。AI系统设计应避免继承这些偏见。
  • 情绪驱动的逻辑:强烈情感可能推翻人类的理性思维。AI系统应该有不受情感影响的逻辑推理。
  • 主观意识:人类有第一人称的主观体验。在AI中重新创造这种“感觉”非常复杂。
  • 自我保护的本能:人类的目标是由生存、繁衍等进化驱动力形成的。AI的目标应该精心设计,而不是继承原始冲动。
  • 缺乏透明度:系统1中的直觉思维在很大程度上是无意识的、不透明的。AI的设计应考虑可检查性和可追溯性。
  • 以人类为中心的观点:人类的认知能力进化来处理我们的环境利基,而不是普遍的逻辑。不能假设AI需要像人类一样的认知。
  • 神经可塑性的极限:人脑的计算能力和适应能力相对固定。AI系统可以设计得更加灵活。
  • 动机推理:人类倾向于合理化我们“想要”相信的结论。AI应该纯粹遵循证据和逻辑。
  • 难以长期思考:人类的认知偏向于立即的回报/威胁。AI可以更好地权衡长期后果。
  • 社会和文化因素:人类思维和行为受到社会和文化因素的影响。AI系统的设计应该避免继承这些偏见和歧视。
  • 有限的感知和理解能力:人类的感知和理解能力是有限的。AI系统需要设计能够有效处理和利用信息的算法和模型。有限的感知和理解能力:人类的感知和理解能力是有限的。我们只能感知到有限的信息,并且可能会错过一些重要的细节。人工智能系统也存在类似的问题,需要设计能够有效处理和利用信息的算法和模型。

总结

当前GPT等硅基人工智能已经能够高度模拟人类智能,但由于缺乏人类特有的情感、时间感知等特征,它们对人类思维的理解仍然是局限的。为进一步发展硅基智能,我们需要认识到它与有生命的碳基智能之间的差异,摒弃试图Replication人类所有特征的想法,而关注发挥其计算优势。这可能会开启硅基人工智能更广阔的发展前景。




来源:

https://twitter.com/TaNGSoFT/status/1688880355582119937?s=20

硅基人工智能的发展前景

硅基人工智能的发展前景

硅基人工智能的发展前景本文观点来自:OpenAI首席科学家Ilya人工智能模拟人脑的局限当前最先进的GPT人工智能在结构上已经可以模拟人脑的许多功能。例如,它基于冯诺依曼计算架构构建的人工神经网络ANN,其运行机制与人脑生物神经网络BNN高度相似。这使得GPT模型可以像人类一样操纵语言。但是,我们也
2023-08-31
这次的人工智能浪潮能持续多久?

这次的人工智能浪潮能持续多久?

终极 AI在最近的一个采访中,Inflection AI 的 CEO 穆斯塔法·苏莱曼被问到什么样的AI才能算是终极AI。他认为终极AI应该具有自主运行、自我迭代的能力。它能够自主地识别环境中的新信息和奖励信号,并利用这些进行自我监督,随着时间推移不断更新自己的权重。如果出现这样的AI,它将具有非常
2023-09-05

LLM 是新型的 CPU

如果你想了解未来十年人工智能的发展将如何展开,一个好的历史类比是上世纪八九十年代个人电脑(PC)行业中的猫鼠游戏。当时,电脑已经足够好,吸引了数百万用户,但其有限的速度和存储常常是一个痛点。对提升性能的需求极大。然而,每当推出新一代更强大的电脑后,开发者立即构建了能充分利用新容量的应用程序,使得电脑
2023-09-30

LLM VS Computer

最近,Andrej Karpathy 在x 上有一个关于LLM 类比 CPU 的讨论, 看了下,发现类似的研究还挺多的, 我这些观点综合整理了成了一个表格:比较计算系统大语言模型(LLM)机器规模早期大型机需要高性能显卡的计算机基本处理单元Bitstokens处理器CPU人工神经网络(NLPU)执行
2023-09-30
线性关系嵌入探究语言模型处理复杂关系的新视角

线性关系嵌入探究语言模型处理复杂关系的新视角

在最新的科技研究中,专家们提出了一种名为线性关系嵌入(LREs)的概念,旨在探索和解释大型语言模型是如何处理和编码复杂关系的。这种方法基于一个简单的假设:对于某些特定的关系,比如人与职业、首都与国家之间的关系,模型在处理这些信息时,其实是通过一种线性的方式来进行的。为了更深入地理解这一过程,研究者开
2024-03-29