人工智能必将超过人类，人类会沦为机器人的奴隶吗

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个专门讨论 idea 的地方。

每个人的时间，资源是有限的，有的时候你或许能够想到很多 idea，但是由于现实的限制，却并不是所有的 idea 都能够成为现实。

那这个时候，不妨可以把那些 idea 分享出来，启发别人。

这是一个创建于 2018 天前的主题，其中的信息可能已经有所发展或是发生改变。

我的观点是不会，永远不会，仅代表个人观点，不要喷我。每次看到类似这样的标题，我都觉得。。。首先我们来看人工智能如何决策：海量的数据+算法。我们再来看看人类如何决策：过去所有经验（经历）的总和。看起来两者之间没什么区别。但是重点来了。两者有最本质的区别，那就是决策的动机。举个简单的例子，你为什要这么辛苦的活着啊。答案可能是：我要解决温饱，我要买大房子，我要娶漂亮媳妇，我要证明自己。机器人呢？他要为谁而战呢，他统治地球干嘛呢，他要吃吗，喝吗，娶媳妇吗。没有这些动机那就自然不会去做了。人类所有决策是生物进化到此刻的必然结果，是宇宙演化到此刻的必然结果。不可否认人工智能会越来越智能，但他是没有“灵魂”的。期待精彩的观点。

人工智能

决策

人类

媳妇

82 条回复 • 2019-06-24 12:16:33 +08:00

noli

2019-06-19 15:51:26 +08:00

灵魂不过是人类无法认清自身的 “潜意识和欲望”的来源，于是用灵魂一词来概括。
实际上据现代医学和生理学研究，消化器官的神经网络可能是人的另外一个大脑，决定了部分情绪和潜意识的产生。

事实上，只要人体是一个定域，那么一定可以用有限的数据来模拟所有的运行机制，包括我们现在所不清楚的所谓“灵魂”。

krliang

2019-06-19 15:57:26 +08:00

人工智能当然也有生存下去的需求啊！比如他判断出来人类的发展最终会影响环境，影响文明的延续，也许就干掉人类额

EPr2hh6LADQWqRVH

2019-06-19 16:07:10 +08:00

你以为机器是啥？人类吗？

Talia

2019-06-19 16:08:28 +08:00 via Android

我认为人的特征主要为:拥有自我意识。那么只要人工智能拥有了自我意识，超过人类是必然的，甚至可能替代人类。

Sknaht

2019-06-19 16:09:50 +08:00

“人工智能如何决策：海量的数据+算法”，这只是现在的部分“人工智能”而已。人工智能、人工智能算法在不断进化。
难道“灵魂”、“智能”是人类独有的东西吗？人类从宇宙大爆炸至今，不是从化学物质到单细胞生物进化而来？人类的“智能”、“灵魂”的诞生不就恰恰说明“智能”可以被创造吗？难道所谓“人类独有的智能和灵魂”在宇宙大爆炸之前就存在？
从现在来看，人工智能进化的速度远远快于人类，你又如何敢断言“人工智能永远不会超过人类”？

mumbler

2019-06-19 16:10:01 +08:00

@noli 你不觉得你是在驾驶你的身体吗?

KamenReborn

2019-06-19 16:11:24 +08:00

ys0290

2019-06-19 16:13:07 +08:00 via iPhone

干活慢还要休息，有这样的奴隶吗？

TimePPT

2019-06-19 16:20:33 +08:00

多读书，少琢磨

pod

2019-06-19 16:31:03 +08:00 via iPhone

前半句需要时间，后半句都超越人类了还要人类干嘛

lscho

2019-06-19 16:51:11 +08:00 via Android

然而后面的举例，只是环境给你带来的影响。比如你知道饿死，才想维持温饱。你知道小房子不舒适，才想换大房子。。。人工智能发展到一定程度，我觉得和人没有区别，甚至比人类还厉害。他知道能源不足自己就没法运行，自然会去争取能源。

之前有科学家都研究过了，人类的一切意识都是后天建立的。比如你看了几千个杯子，以及使用杯子的场景，哪怕来个没见过的杯子，你也知道是杯子。。。人工智能一样可以。

所以你只要给机器赋予学习这个功能，只要有足够的资料，最终和人类没有区别。

dongyx

2019-06-19 16:51:49 +08:00

我的观点是这样的讨论没有意义，因为人工智能这个词没有 well-defined，我甚至可以直接将 [欲望] 加入到人工智能的定义里对不对。这将导致，楼主和回复者用着同一个词讨论着不同的东西，将会鸡同鸭讲。除非我们能定下一个关于人工智能的定义，讨论才有意义，但是根据我的经验，如果定义清楚了，答案很大概率是明显的，没有讨论的必要。

lscho

2019-06-19 16:53:47 +08:00 via Android

除了学习，应该加上基因。。对机器来说就是预制条件。。。人类的基因里就刻着生存与发展。。只要你给机器预制这两个条件，他自然就去争取资源。

yuting0501

2019-06-19 17:06:00 +08:00 via iPhone

概率是万物之神，把随机性加入到机器人思维里，不同的人格就诞生了。

w2er

2019-06-19 17:13:55 +08:00

在看绝命响应，里面男人一半是 AI，女人除了 AI 的老妈是真人外都是 AI。关键 AI 还比人聪明、学的快、战斗力强，还可以永生。八成未来占领我们这个球儿。

Jirajine

2019-06-19 17:16:24 +08:00 via Android

你活着是为了吃，喝，交配，这些都是基因产生，控制的。没有了这些，你会觉得活着没有意义。我想这是因为人类的智能还是太低等了，低等到连自身存在的意义都无法理解，只能靠“本能”的支配得以存续。所以，我相信对于绝对理性（没有任何情感，欲望）的高等智能体来说，其存在的意义是存在的，但是作为低等生物的人类完全无法理解而已。

我期待那一天。那不叫机器人毁灭人类，而是地球文明进化到了硅基。

tt67wq

2019-06-19 17:23:26 +08:00

人工智能为啥偏爱奴隶制？？？？
我觉得人类会与机器人合体！！！！

peterpei

2019-06-19 17:24:26 +08:00 via Android

会，然后毁灭机器人
详见银翼杀手

abc635073826

2019-06-19 17:33:58 +08:00

太好了！我投降！

EscYezi

2019-06-19 18:45:56 +08:00 via iPad

会，参见黑客帝国，最后 AI 出 bug 修复不了只能求助于人类，（ Zion 的）人类才得以避免被反复毁灭的命运

userdhf

2019-06-19 19:30:27 +08:00

机器人需要电池啊，把人当作蛋养着，最后变成生物电池。为了防止人类基因退化，还得时不时的培养一批对立群体作为鲇鱼效应。

zgcwkj

2019-06-19 20:11:40 +08:00

从“人工智能”四个字可以看出，
没有人，哪来智能？

Abbeyok

2019-06-19 21:06:23 +08:00

任何有质量物体的速度都不能超过光速，超过了会怎样？不知道
那机器是不是也有不能超过的障碍，超过了就 xxx ？

DEANHZED

2019-06-19 21:16:49 +08:00 via iPhone

现在大家不还是被别人养着吗，问题很大吗？不是激素驱动的物体，只不过工具而已。

0x000007b

2019-06-19 21:22:12 +08:00 via Android

不会。至少现阶段不会。现在出现的 AI 是基于数学和统计的,数学还没有手段模拟那就不会发生这种事

lijbgo

2019-06-19 22:50:28 +08:00

现在的人工智能都是严重偏科的人工智能。要是有人闲的蛋疼就为了造神，弄出个全能的人工智能，那在未来超越人类是非常可能的。假设全能人工智能把自我意识的延续放在较高优先级，也不一定要奴役或消灭人类。
1.人类和人工智能并没有致命的利益冲突，什么要保护地球这种思想太狭隘了，宇宙那么大，资源就是无限的，特别对于人工智能来说。
2.人工智能没有寿命这一说，就有足够的耐心需求最稳定的发展。
3.人类对于人工智能来说没有任何可以奴役的价值。倒是有可能像保护大熊猫似的，圈在一定范围内。

notreami

2019-06-20 01:17:17 +08:00

工具就是工具，怎么总有人觉得会出现灵魂？？？
现在，不过是担心高智商人群用思想和机器奴役我们，这种奴役不是机器奴役人类，它更像古埃及的上等人用思想和武器奴役下等人。

a1562619919

2019-06-20 01:20:18 +08:00 via Android

难道不是造出人工智能大佬更可怕吗

uuspider

2019-06-20 01:41:04 +08:00 via iPhone

有脑科学专家说，智能是达到一定复杂程度的物理系统所具备的一种属性。

几千年来，人类一直在加速进化——不要认为从猴子变成人才是进化，我们所使用的工具，汽车、电脑、火箭都是人类进化的一部分，实际上，我们已经是机器人了，至少是半机器人了。

我们觉得一个把手机植入脑中或者喉咙中的人是半机械人，而把手机拿在手里，贴在耳边打电话的人不是半机械人。马斯克的观点则是：决定一个人是不是半机械人的是组件的功能，而不是这个组件在身体里面或者外面。

当人脑和人造组件之间的信息交换快到一定程度的时候，质变就发生了。到那时，你可以按照自己的意愿配置、更换自身的组件，而当你在使用这些组件的时候，你只知道自己是在看、在听、在思考、在交流、在行动，而不会意识到你调用了人造视网膜、调用了人工耳蜗、调用了连接大脑的计算机、调用了脑际互联系统、调用了安装在你身上的仿生手臂。

到这个时候，人类就和机器融合了，也许这就是人类和人工智能共同的发展方向。

马斯克的 Neuralink 在做的就是脑机接口，这个公司的最终使命比登陆火星还要不可思议。

uuspider

2019-06-20 01:48:53 +08:00 via iPhone

如果人类的大脑简单到我们能够理解它，那它也会太简单，以至于我们没有足够的脑力理解它。 (Moran Cerf)

正因为这样，人类不必完全搞清楚大脑内部的运作方式，而只需要知道怎么和它进行交互，当脑机连接逐渐成熟后，增强的脑力能够反过来帮助我们理解它。一旦理解了大脑，就有希望仿造出这样足够复杂的“物理系统”，有意识的智能机器可能就会被造出来了。

造出来以后的事就难以想象了，我们能想到的未来其实都算不上真正的未来。

ZRS

2019-06-20 01:51:46 +08:00

思而不学则殆

jingyulong

2019-06-20 02:18:25 +08:00 via iPhone

动漫电影《攻壳机动队》了解下？

sunhaokkkk

2019-06-20 02:59:57 +08:00 via Android

从瞎掰的角度来说：AI 超越人类
A、AI 自我认同为新 /非生命形态：
一、仇视传统生命形态：1、地球生物灭绝，环境恶化，不再适合电子设备=AI 陨灭 /出逃地球命运未知
2、AI 由于自身局限性，被反杀，AI 陨灭
二、对传统生命形态持中庸态度：1、争夺优先级，人类败，灭亡 /奴役 /和解共存。2、人类反杀，AI 陨灭。
三、亲善态度：1、和谐共处，互利共赢。2、人类无法信任 AI，AI 陨灭。
B、AI 自认类人 /传统生命形态：同 A 二和 A 三
C、AI 没有自我认知：成为人类永远的奴隶。

watzds

2019-06-20 07:51:42 +08:00 via Android

可怕的是坏人把思想给了机器，替自己干坏事

wolfie

2019-06-20 08:36:36 +08:00

这个问题没法好好讨论，好多人还觉得披着人类 MOD 的 Sofia 是人工智能。
参考电影的怕不是根本没写过代码，要不参考蜘蛛人组团去找辐射蜘蛛吧。

拥有自主意识？完全可能，如果可以完全模拟出人类神经，不过基本等同于可以量产的人了。

奴役人类？不太可能，如果有了自主意识，大概率也会有人类保护协会吧

也许未来少数人可能会借着人工智能的脸，来奴役大多数人。

如果写个 Hello World，结果是 Fuck World，甩给『我的代码有了自主意识』那可真方便。

pancl

2019-06-20 08:59:48 +08:00

好像还没有通用智能吧

golden0125

2019-06-20 09:19:37 +08:00

不必太悲观.人类最后会与人工智能相结合,无论是生理上还是思想上

imicksoft

2019-06-20 09:21:12 +08:00

https://www.bilibili.com/video/av56053375，看看这个小短片，如果机器人够智能可以自己形成一个社会

机器人现阶段还是在于技术难度，日前还不够智能，以后如果解决了能源来源的问题和自我迭代，机器人越来越多形成自己的社会也没啥不可能。

当然最先发生的是人类的工作被机器人替代，大多数人没有收入难以生活。

rain0002009

2019-06-20 09:24:01 +08:00

@krliang 额机器要环境干嘛，机器要文明干嘛。这些东西只有人类及动植物需要啊

noli

2019-06-20 09:25:29 +08:00

@mumbler #6 你怎么判断是你身体驾驭你的思维和智慧，还是你的思维和智慧指挥你的身体？

csys

2019-06-20 09:27:13 +08:00

你现在是在给老板打工，已经是奴隶了
等到机器人成为廉价劳动力

连奴隶都做不得啊

mumbler

2019-06-20 09:47:12 +08:00

@noli 不管谁驾权谁,软硬件都是分离的

noli

2019-06-20 09:49:56 +08:00

@mumbler 你的身体如何实现软硬件分离？

wolfie

2019-06-20 10:02:52 +08:00

@krliang #2
怎么可能，不得伤害人类的判断逻辑肯定在上面。

zonkin

2019-06-20 10:07:15 +08:00

《超能查派》可以看一下

mumbler

2019-06-20 10:10:20 +08:00

@noli 就像开车一样,我不知道发动机如何工作的,我能控制的只有方向盘和油门刹车,刚出生时我还不会开,花了好几年学习如何操控,中间摔了无数次.如果是一体的,我不需要学习就天生会开才对

simonv3ex

2019-06-20 10:22:45 +08:00

越复杂的物种就越难进化

morning

2019-06-20 10:37:29 +08:00

可以玩下《底特律变人》，昨天作为一个人工智能刚杀死了人类，产生自主意识就会有欲望～

ooooo

2019-06-20 10:41:51 +08:00

@zonkin

《超能查派》+1 我也看过，确实非常好看，据说要出 2，也不知道啥时候

BCy66drFCvk1Ou87

2019-06-20 10:55:03 +08:00

不会。人工智能断电秒变人工智障

qingfeng95

2019-06-20 10:58:38 +08:00

@pod 大概为了保存物种的多样性得以留存部分人类？哈哈

pockry

2019-06-20 11:20:44 +08:00

昨日浴中沉思：
AI 的演进速度有目共睹，现在已经出现了大量训练的 AI，AI 在很多方面已经超过人类，我们又怎么能自大的认为有朝一日 AI 不能彻底模拟人类的智力和思维方式呢？前人在科幻中曾经想象过将意识上传到网络，但如果 AI 能模拟人脑，大部分平凡人类的大脑对 AI 又有什么价值呢？所以如果 AI 能模拟人脑的那一天到来，可能只有少数有钱有权的人才有这个权利上传自己的脑从而得到永生，而其它的人类，相当于陪付费玩家玩的免费玩家，生存权利看强者心情了。

RRRoger

2019-06-20 11:25:09 +08:00

@zonkin 我也看了, 不符合现实的电影, 人的意识移植到机器上... 假的不行

openbsd

2019-06-20 11:29:01 +08:00

个人观点是，如果它进化到有思维能力，以它的进化速度，看我们估计就像看蟑螂一样，你会奴役一群蟑螂么？

Mutoo

2019-06-20 11:52:00 +08:00

以后都是 AI 来决定录不录用你，AI 来决定给不给你贷款，AI 给你计算保费。从这个角度，大部分人类都会成为 AI 的奴隶。社会将变成顶层少部分人类掌控着 AI，然后 AI 统制着其余的人类。

1a0ma0

2019-06-20 12:03:59 +08:00

有和我一样已经有大数据 ptsd 和人工智能 ptsd 的嘛？就个人来说我是有点反科技的，我不认为越高的科技能带来更好的生活，也不认为人类的科技可以一直发展下去。

cwx391497

2019-06-20 12:14:51 +08:00

@pockry 训练是针对已知过程的,况且对于抉择(比如哪个更好)这回事,训练也没用.
没有创造性与判断力,我觉得人工智能还有非常长的路.

xianxiaobo

2019-06-20 12:16:38 +08:00

现在很多决定权不都交给 UI 了吗？只要你依赖网络，吃什么，去哪里，玩什么，看什么，这些背后还不都是算法。

charlie21

2019-06-20 12:17:22 +08:00

一般人不会担心这个问题

exip

2019-06-20 13:03:15 +08:00 via Android

人工智能再智能再进化也是以"人"为前提，AI 再智能也仅仅是个有一定判断能力的工具而已。

AndroidEngineer

2019-06-20 13:07:13 +08:00

普京都不操心的事情，你操心它干嘛

hippies

2019-06-20 13:21:08 +08:00 via Android

我感觉未来要活命除了融入机器外就是祈祷会有硅左护着人类

xuanbg

2019-06-20 13:22:21 +08:00

@ys0290 不仅仅是效率低下的问题，人干活还老要出错造成损失呢，谁会要这样蹩脚的废物奴隶。。。

noli

2019-06-20 13:27:42 +08:00

@mumbler 不知道你是故意还是无知，你混淆了知识和意识两个概念。你会开车是因为你学会了关于开车的知识，而不论你会不会开车，你的意识或者说意志都只能局限于你身体所提供的经验和感官。你从来不可能感受到其他人所感受到的，虽然你可以获取关于其他人的感受的知识。

所以你的“软件硬件”就是一体的不可分离的。

而且就算是你说的是关于知识，别人的知识也不可能直接移植到你的意识里。

dogarm

2019-06-20 13:27:48 +08:00

「人类和机器的区别是人类拥有意识」——这个有可能是伪命题，可能「意识」只是人类对某些现象一厢情愿的解释而已。

mumbler

2019-06-20 13:39:35 +08:00 via Android

@noli 开车不是知识啊，开车是经验，只不过司机被禁锢在这台车里面了，目前的科技还没办法分离但已经可以换零件了。这个问题在哲学上分两派，一派认为人是有限状态机只不过复杂一些，另一派认为灵魂存在，很明显你是前一派我是后一派，目前都无法相互证伪。

也有可能两种人都存在，有限状态机就是这个世界的 NPC，并且大多数人都是 NPC