真TM逗, AI机器人吵架都有暴力倾向了

https://m.thepaper.cn/newsDetail_forward_10611211?hotComm=true
再过十年，二十年，AI普及的时候，你说我们能控制好它们吗？人类的恶劣本性它们很快就学会了，互相排斥，互相斗殴的本事现在都有了，你敢用它吗？

ilmaro

擦，女人我都敢用，还怕它？

bintoo

我们未来很长一段时间内能制造出来的，都是Narrow AI，技术上其实都不是真正意义上的AI，所谓人工智能只是个商业宣传而已。用“Machine learning"来形容这种技术更加贴切。

你担心的问题需要在General AI能实现，而且有机会产生自我意识到时候才需要注意担心的事。

现在还有非常长的道路。

bintoo 发表于 2021-1-3 16:19
我们未来很长一段时间内能制造出来的，都是Narrow AI，技术上其实都不是真正意义上的AI，所谓人工智能只是 ...

不懂不要乱讲，别人不会知道你不懂，ATM 难道不属于智能？ 几十年前都用了

bintoo

匿名者 发表于 2021-1-3 17:35
不懂不要乱讲，别人不会知道你不懂，ATM 难道不属于智能？ 几十年前都用了
...

你不在这个领域，就学习Google一下基础知识。不然朋友圈水平的地摊信息会比较坏脑。

ling6264

以后程序员都要失业啦，AD AI 会数千种方式编程。

DDD888

ling6264 发表于 2021-1-3 18:01
以后程序员都要失业啦，AD AI 会数千种方式编程。

是的，建议大家程序员赶快逃离火坑

以后是 AI 世界

119900

小事。。。

kazama2007

bintoo 发表于 2021-1-3 16:19
我们未来很长一段时间内能制造出来的，都是Narrow AI，技术上其实都不是真正意义上的AI，所谓人工智能只是 ...

正解。

不过人工智能今后的发展确实需要大家关注。

General AI 级别的人工智能才是和普通人有同等智力水平的 AI。

等真到了我们可以实现 General AI 时，之后的 AI 继续发展就没有人类什么事了。

General AI 可以无需人类干预自我改进，然后产生强于General AI 的 Super AI，之后就是 Super AI 不断循环进化自己，整个过程会变的越来越快，这种 AI 的自我进化将完全脱离生物界的进化速度，从一个等级进化到下一个等级之间的时间会越来越短，最后就是 Super AI 的进化会加速到一种变态的程度，那时被晒在一旁的人类就已经无法觉察到 Super AI 的进化和存在了，就像细菌或蚂蚁这种级别的生物根本无法察觉和理解人类文明的存在和成就一样。

bintoo

kazama2007 发表于 2021-1-4 00:50
正解。

不过人工智能今后的发展确实需要大家关注。

我个人看法,   其实这关键是出现自我意识 , 就是在 general AI产生一个“我”的概念， 继而自我区分“非我”的存在， 从而产生“我”要在“非我”环境下继续生存和存在下去的欲望，进化出“欲望”作为驱动力。 才会出现科幻片所描述的场景。脱离人类制造者的控制。在没有自我意识前，GAI的自我学习进化只会出现超高智能，但不会自主反叛人类。

但是自我意识到出现，在科学上还是一个谜， 我们已经可以让计算机在海量数据下具备自我学习和训练改进的编程架构，但对于精神方面的认知非常有限，我相信以后长时间内都不会掌握怎样以人工方式编造一个自我意识的能力。


说到这类科幻话题，其实我个人觉得更需要担心的是生物技术和计算机技术的连接， 就是能把人的意识融入人工智能，或者倒过来，在人脑加入人工智能，成为超级人类。 这比AI自我进化更可行， 而且这些本已具备意识和贪婪因素的超级人类出现，会对普通阶层人类做什么，还需不需要普通人这里在当时看来的无用阶层存在呢。

judo

大家都忘了AI的硬件要求了。

就一台聪明的下棋AI机器都跟房子一样大了。

想要全方面都聪明的话相当于一个城市这么大了，然后这个聪明无限发展下去就是整个星球的资源只够集中在一个单一个AI母机了。

发展到最后发现生物才是最先进的硬件，发现一个小小的人脑，竟然有这么强大的内存与计算能力，而且能量需求这么少。

然后人脑开发到最后，某个打工的上班的情况是这样的:头脑接入网络，全市智能交通都是他安排了，还轻松的随便聊天。

kazama2007

bintoo 发表于 2021-1-4 06:03
我个人看法,   其实这关键是出现自我意识 , 就是在 general AI产生一个“我”的概念， 继而自我区分“非 ...

对，你说的第二种情况更像是未来可能发生的场景。

第二章情况其实已经在发生了而且是已经全面快速的在往这方面发展。

最近几年不断有关新闻层出不穷，什么脑机结合了，什么通过脑电波控制义体，和初步实现让大脑感知人为制造但无比真实的身体感觉（这种属于类似于Matrix里的那种最高级别的VR体验），这些都已经一一成功实现了，之后就是进入深入发展和完善的阶段了。

下一步就是看怎样把人类的大脑弄明白了，然后reverse engineer 出一个人工大脑。加上脑机结合，这些就会出现你说的那种超级人类。

再往下走就是弄明白你说的“自我意识”了，目前最前沿的医学科学实验能证明自我意识和大脑本身没有必然联系，目前已经可以针对一些患者进行小部分的用人工义体替换部分脑细胞的手术，以达到恢复这些受损脑细胞功能的目的，手术后这些患者不但恢复了之前丧失的部分脑功能，同时他们的自我意识和记忆却没有因为部分脑细胞被人工义体替换而丝毫受损或消失，以此类推，只要未来的科技允许，人类可以不断递进增加替换的份额，直到整个大脑被人造义体替换，实现大脑电子化，同时完全保留人的自我意识和记忆。一旦实现大脑电子化虚拟化，人类的意识就可以在互联网里和其他电子化人和人工智能无阻碍的高度互联了，那时估计人类就实现一次重大的从生物到超生物物种的进化了，可以和自己制造出来的有自我意识的 Super AI 交流和合作了。

那时也不会存在人类和人工智能之间的竞争矛盾了，大家已融为一体。

bintoo

kazama2007 发表于 2021-1-4 11:20
对，你说的第二种情况更像是未来可能发生的场景。

第二章情况其实已经在发生了而且是已经全面快速的在往 ...

我倒是对未来这类技术所造成的社会影响比较悲观， 这是人类的本性造成的，可以预见，这类技术成熟后第一批用上的，必然是掌握着社会资源，财富的精英或特权阶层，只有他们能负担相关技术的费用，他们能成为超级人类后， 我相信他们并不希望把这能创造超智的技术平民化(即使技术上完全可行)， 因为当时他们已经不再需要连作为奴隶都不够资格的普通人类， 最好的途径就是消灭这些会白白消耗资源的物种。 普通阶层和超级人类之间的冲突会成为历史. 万年后历史成为传说，传说最终会变成信仰和神话。。可能地球会迎来新一轮的轮回呢。

kazama2007

bintoo 发表于 2021-1-4 11:36
我倒是对未来这类技术所造成的社会影响比较悲观， 这是人类的本性造成的，可以预见，这类技术成熟后第一 ...

这种可能性也是有的啊。人类的私心欲望相对未来下一次的大进化来说其实是一种很低级的生物本能，可能会因此断送自己的大好前程，如果发生不测就一切推倒重来，那样就太可惜了。

不管怎样，生物的产生和进化其实就是一种对无序低效状态的物质进行一种有序化智能化的过程，最后人类今后不论怎样发展都逃不出这个发展规律，一定会朝着更大规模的把能利用的所有物质进行有序化智能化的方向走，把所有无序低效的物质都变成高效的计算力，到了那时地球也许会被改造成一座巨型的planet computer呢。

bintoo

kazama2007 发表于 2021-1-4 12:02
这种可能性也是有的啊。人类的私心欲望相对未来下一次的大进化来说其实是一种很低级的生物本能，可能会因 ...

说到星体计算机就有意思了，其实我个人一直有个感觉，我们每个人的精神和思维，其实都是更大体量的精神和思维体的一个分子，就像神经元网络的每一个神经元的一个，每个个体负责很微量的计算个判断，相互间构成直接或间接的沟通网络，最终整合成一个巨型思维体。
这个由海量独立精神思维体(人类？)组成的巨型智慧体，也许就是我们宗教所说的“上帝”.

kazama2007

bintoo 发表于 2021-1-4 16:00
说到星体计算机就有意思了，其实我个人一直有个感觉，我们每个人的精神和思维，其实都是更大体量的精神和 ...

你这种感觉很有前瞻性。

毕竟生命从最早的单细胞生物逐步发展成多细胞合体的生物，再从有DNA记忆的多细胞生物发展到后来有各自器官的独立生物体，再到后来各个器官的神经元结合汇集到一起形成有中央神经细胞的高等生物，这里每一步重大的进化过程都像是你说的这种由无数简单个体结合到一起形成一个高级版的高效运行的巨型集体，这里面的自然规律是很清晰的，即个体最后需要高效融合到一个大的集体中，极高提升整体性能，然后以此完成一次次的重大进化飞跃。如果不是这样发展的话，我们现在也许还会停留在单细胞生物的世界里，将不会有复杂的多细胞结构和器官，也不会有神经细胞和后来那些有高度发达神经细胞的高等生物了。

所以从这一点看，人类最终的目标肯定是融合到一起，不但人机结合，还会人人结合，人和大自然结合，人和所有的信息处理单元结合（包括电脑，人工智能，和各种低级生物），最后整个地球联在一起，组成一个星体计算机，再以后，估计就是去深入探索宇宙了，那时的事情估计就会远元超越我们现有的知识和想象力了。

然后再往下走一步，也许，会从星体计算机发展到星系计算机？光是想想都会觉得很不可思议，但通过观察却又会推理出大概率会这么发展下去。而且通过观察过去，也会推理得出这整个过程还会不断加速，过去我们100年里取得的成就，未来到了星体计算机的这个阶段也许花1天或1分钟就实现了，然后进化速度越来越快，因为加速发展，也许用不了几百年，在下一个世纪以前我们可能就已经达到星际计算机的阶段了，之后就无法想象会是什么了。

有时候偶尔脱离一下现实畅想一下科幻的未来还是很有趣的。不过我是属于比较乐观的那种观点吧，但悲观也有悲观的道理。

bintoo

kazama2007 发表于 2021-1-4 18:02
你这种感觉很有前瞻性。

毕竟生命从最早的单细胞生物逐步发展成多细胞合体的生物，再从有DNA记忆的多细胞 ...

这类话题聊下去，最终会由科学入哲学，最后归于神学或宗教，我们个体能所观察到的环境，也许只是这巨型网络所制造的共同幻象，我们既是这环境的用户，也是创造者，同时也是迷失于其中的糊涂思维体等等，要真正认识宇宙万物,也许就是古人所说的哲理，由自身精神领域开始探求，如道家的“天人合一”，佛家的“唯识无境”等等。

kazama2007

bintoo 发表于 2021-1-4 18:17
这类话题聊下去，最终会由科学入哲学，最后归于神学或宗教，我们个体能所观察到的环境，也许只是这巨型网 ...

你说的很对。

古人其实已经有人推理出这种发展规律了，和认识到自我和宇宙的实和虚是并存的。

人类发展科技探索自然，知道的越来越多，理解的越来越深入，结果就会越来越困惑和迷失。

就像一个怪圈，虽然越发展越强大，但是也越来越困惑，最后也许就会主动选择“隐居”消融于万物中了。

bintoo

kazama2007 发表于 2021-1-4 18:26
你说的很对。

古人其实已经有人推理出这种发展规律了，和认识到自我和宇宙的实和虚是并存的。

所以我觉得，人类发展到后期，要不就是不能克服贪婪这关，贪欲驱动物质科技发展都一定高度，欲望与所需资源不能调和，出现自我毁灭，要不就实现精神升华，去除贪婪，真正领悟自然宇宙以致意识本源，从物质身体，进化到能量身体，最后进入精神生命体，正式融入(或者说回归)自然宇宙.
所以古代先贤倡导的精神世界，提倡提升精神为主，物质为辅，例如佛家追求“出世”，道家讲求“无为”，在对比现代量子世界的认知后，其实有一定道理。

kazama2007

bintoo 发表于 2021-1-4 21:43
所以我觉得，人类发展到后期，要不就是不能克服贪婪这关，贪欲驱动物质科技发展都一定高度，欲望与所需资 ...

是的，量子世界展现出的那种不确定性的宇宙本质是很多现代人无法理解的，反而很多古人先贤却似乎通过他们自己的方法悟道了这个道理。

贪婪和私有制如果在未来能因为科技的发展而自然消失，或因为科技发展，它们的存在阻碍了经济更高效的去配置资源而被人类主动废除，那样的未来对于人类来说才是最好的，那样就不会出现寡头垄断科技资源，阻碍全人类共同发展的未来。

所以，也可见将来某一天那些科技巨头有可能会被强制国有化，否则它们发展出 Super AI 后就成为全人类的主宰了，就像你说的那种悲观的情况，当一小撮 "无德之人” 掌握了巨大的科技能力后，确实会是悲剧。