关于智人和 AI 的负反馈
dog250 2024-10-15 15:31:01 阅读 59
“夫物芸芸,各复归其根。归根曰静,静曰复命。复命曰常,知常曰明。”《道德经》名句感悟。
总体而言这是递进循环论的核心,联系我想到的一个简单负反馈:为什么年轻脑梗患者逐年增多?
大意是人的优良基因会促进医疗技术的发展,而医疗技术的发展会保留更多的不良基因使其不被自然选择淘汰并产生后代,而携带劣质基因个体的比例增加会阻碍科技的进步,当科学停滞,劣质基因个体存活率降低,最终达到一个平衡,即人不会一直进化,智力会反噬自身。
最近看了篇公众号推送的文章,大意是如今 AI 生成的内容铺天盖地污染了整个互联网,由于 AI 的效率远超人类,无论是文字写手,还是视频教学,都面临 AI 压力。一些号主利用这个机会注册大量矩阵号,依靠 AIGC 获得大量流量,大大挤压了人类内容输出的空间。
这里也有个负反馈,如果没有人类产生新的内容,AI 的训练数据便只来自 AI 的输出,这就陷入了 AI 的输出输入 AI 自身的咬尾蛇模式,最终江郎才尽,内容耗尽,AI 反噬自身。而我对纯逻辑推理能力产生新内容的效率甚至可能性持悲观态度。
人类所有内容的基础是对物理世界的感知,你无法通过语言描述让一个先天失明的盲人理解苹果的样子,即使他有触觉和听觉,他对物体的理解也是片面的。我们自以为是的语言只是在描述勾勒面而非具象,而逻辑的作用在于建立勾勒面之间的关联,便于我们理解因果,但这远非世界的本质。天之苍苍,其正色邪?换句话说,语言和推理只是理解世界的路标,它们是心智的模型描述,但不是心智本身。
基于语言和推理的数据训练 AI 无法获得世界的具象,只能获得描述,但具身智能可以打破这个负反馈,让 AI 产生具象反馈并描述自己对世界的理解,建立世界观,这就产生了新的内容,这个蜕变就像智人曾经的蜕变一样,人自此成为智人,这应该就是所谓奇点。
这是我前几个月写的一篇文字:对人工智能的浅见
具身智能足以应对第一个负反馈,人类基因反馈便在具身智能之外,任何基因都可被定向选择和淘汰,其过程就像人类驯化狗和猫一样。随着具身智能的飞升,他们自己也会进入第一个负反馈,开启另一个循环。内部在递进,远观则循环。
浙江温州皮鞋湿,下雨进水不会胖。
声明
本文内容仅代表作者观点,或转载于其他网站,本站不以此文作为商业用途
如有涉及侵权,请联系本站进行删除
转载本站原创文章,请注明来源及作者。