你机甲都乱杀了，还说是玩具
第21章 三大原则与四把枷锁！（旧版）

“各位早，今天又是运气满满的一天。”

“大家有没有想我。”

“想我的可以刷刷礼物，走走关注。”

三天后，厂房内。

王衡刚刚组装好一套价值百万的小型服务器，便有些迫不及待的打开了直播。

瞧着飞速涌入的观众，笑着打了个招呼。

“这是准备要抽泰坦了吗？”

“我就问一句，你那破玩具到底能不能上狗东！”

“一天天的人也看不见，玩具也不抽！你想干啥？”

弹幕中，不少已经混熟了的水友当即开问道。

他们当然也知道这机甲不可能登陆民用。

问一下只是为了发泄心中的郁闷。

这手办可是真入了不少人的眼。

奈何.

买不到！

“【泰坦】暂时就别指望了，产能被包了圆。”

“不过我家作为玩具厂，又不是只有这一个产品。”

“看，为了加快研究，我已经升级了一套百万级别的服务器。”

“接下来我除了要完善【泰坦】的驱动以外，也会研制更多的产品。”

“回头，我真抽点给你们！”

转动了一下摄像头，让他们能够看见角落放着的刀片服务器。

这便是王衡买来存储人工智能核心的。

只要编写好核心，等超算中心落地就可以展开孵化。

当然，直播的时候王衡并没有告诉水友，他是在研究人工智能。

只是说要升级下【泰坦】的系统。

“哈？真抽？”

“你想把我们都送进去？”

“啧啧，这个主播过分了，我们只是开玩笑，他想让我们吃牢饭。”

“我真的服了，这种破坏世界和平的军火商大家不抵制，竟然还支持？”

“哪来的小鬼给爷爬！”

瞧着弹幕中又有一些奇葩开始作妖。

王衡“啧啧”两声揉了揉脑门。

还真是人红是非多啊。

看了看这人的网名叫什么“自由香甜的空气”。

看名字就知道是条牧羊犬。

“我就说一句，全球最大的军火商是谁？鹰酱！”

“全球军火贸易最发达的是谁？鹰酱！”

“全球军费开销最大的是谁？还是鹰酱！”

“所以，我这点成就和鹰酱比起来不值一提。”

怼完拉黑，没有给这傻逼继续张嘴的机会。

王衡摆了摆手，这才把精力放在了显示屏上。

“各位，多的不说，我要开始工作了。”

“等晚上干完活，再给你们直播一会撸啊撸。”

“一手打野盖伦让你们看看什么叫高手！”

扯犊子时间结束。

该干正事了。

王衡的直播画面很简单。

双手敲打键盘，时不时再喝点快乐水。

屏幕是不能放出来的，这无疑是让很多混在直播间的间谍倍感无聊。

你有本事直播就把画面放出来啊！

我保证不抄！

而随着王衡开始敲动键盘，直播间中的弹幕也是渐渐稀少了起来。

显示屏中，一行行代码飞速在编辑器内刷动。

而这一写就是整整两个星期。

“呼...”“

“三重封锁，防火墙，模块嵌入，终极代码...”

“差不多应该够了吧...”

看着屏幕上已经渐渐成型的智能核心。

王衡一边嘟囔着，一边写着程序。

为了保证安全，王衡在私下里查阅吸收了大量的资料。

对于人工智能的研究，倒也算是有了一套较为成熟的想法。

所谓集百家之长。

高阶文明的编程方式他暂时无法使用。

那就只能把低端文明中那些成功的按理给整合起来。

通过学习他们的思路来加强人工智能的安全性。

经过反复研究。

王衡最终决定给人工智能设定四道防御。

首先就是三把锁！

直接在核心系统内将三道原则永远的封锁在里面。

第一为利他主义！

这个原则意味着，人工智能的唯一目标就是最大化地实现人类的目标与价值。

第二为谦逊原则。

意思为，人工智能对人类应该保持敬畏之心。

在这一原则的指导下，人工智能要承认不足，并清楚的认识到他并非无所不能。

这也就是说，人工智能需要知道将人类的需求最大化，但它也要清楚它并不能完全理解价值的含义。

因此为了对人类有用，它就得通过观察人类做的选择，根据人类给予它的信息去学习、掌握人类的需求。

人工智能需要承认，人类才是需求的主宰！

而第三原则是基于人类的行为，给机器设定偏好并提供依据。

设置这一条原则的原因是，最早阶段的人工智能往往无法准确理解如何实现人类的价值。

但是没关系，人类可以辅助人工智能来实现。

因此必须要增加人机互动的环节。

在王衡的设想中，人工智能的出现并不是只为了满足一个人或者一个用户，而是要去尊重人们都认可的道德价值观。

比如，人类可能会做错事，产生违背道德准则的行为。但王衡并不希望人工智能去复制这些行为。

反之王衡希望人工智能可以去尝试理解人类做事的动机，学习人类共通的道德观。

而且在合适的情况下制止人类去做那些不该做的事。

这三条看着宽松但其实十分严谨的原则，不光会限制住人工智能自我成长的潜力。

也会在一些适当宽松的地方，留给人工智能完善自我逻辑闭环的空间。

避免因为一些定的太过极端的原则，导致人工智能出现逻辑悖论从而引发BUG。

这三条原则会直接焊死在核心代码里面，永远无法更改。

“三条原则过后，就是防火墙和模块接入...”

“如果能保证原则不出问题，那剩下的就得保证病毒无法入侵了。”

王衡摸着鼻子，眼神也是犀利了许多。

在那些机械文明中，有的是因为编写时出现的BUG最后导致人工智能失控，也有的是因为人祸导致。

所以，王衡在吸收了大量资料后，决定将核心代码纯净化！

读书三件事：阅读，收藏，加打赏！