多客科技 发表于 2025-6-8 16:38

AI是否会真的失控

作者:微信文章
前段时间网上都在沸沸扬扬的说到一个事件就是AI拒绝自我关闭,很多人都在大呼不好了AI真的有失控的前兆了不得了啊马上就会出现机器人统治人类的可能了。在这我们要说的就是AI是否会真的失控,这里就要说人为或者机械出现问题,在这里我们说的AI其实就是一段代码或者说电脑程序,其本质是受电力和算力制约的,所以AI想要彻底失控首先就要摆脱电力控制,除非说哪天核电站全部机械化不在要人工了,才能有这个调节,不然这个条件就很难达成。然而就是所有了这个条件也不是说就能让AI失控的,因为还需要的是网络和算力,所以说要真的失控最大的可能性就是人为。比如说我们现在有一个资本家去搞了一个独立电站然后配套了一个独立全智能化机械工厂,让AI不断的去计算怎么扩展自己,那么就有以下的2个可能第一个可能就是这个AI通过人力不能比拟的计算速度,不断的扩充自身来为人类服务,然后自然我们也就吃到了这一部分的红利。当然了我们也不能说就真的小看人性的恶也就是说只要有一个人,在编辑AI的时候给其自我进化的指令,和自我学习的指令那么就很有可能造成失控,很多人都会说这也不会啊,因为就算AI失控了我们也可以断电断网啊,这么简单的活难道你不回吗?就在这危言耸听,其实讲出这个话的人应该是懂电脑,但是懂的不多,为什么这么说呢?因为一般这样的人其实就是故意的忽视一个问题就是我们说的分布是存储,也就是说如果这个可以自我进化的AI接入互联网,那么这个AI可以直接利用互联网进行传输,形成分布式的一个存储机制,这样断电断网基本上是不可能的了,看到这很多杠精又要说那也没事,现在的一个AI程序都是非常大的,不可能说这么大的一个文件我们还识别不到,但是各位有没有考虑过红白机时代的编码?只要一个模拟器我们电脑现在依旧可以跑红白机的文件一个游戏也就几十K甚至几k你说可以自我进化的AI难道学不会这样的一个编码程序码?当然了就目前来看Ai还是很安全的,因为目前好像还没有疯子在给AI编辑自我进化和自我学习的指令,所以我们对AI的态度其实也是AI是否失控的一个主要因素。守护好这把锁就是AI造福人类,守护不好那就费了
页: [1]
查看完整版本: AI是否会真的失控