闂傚倸鍊搁崐宄懊归崶褏鏆﹂柛顭戝亝閸欏繘鏌i姀鈶跺湱绮堟径灞惧枑闊洦娲栭崹婵嗏攽閻樺疇澹樼紒鐙呯秮閺屻劌鈹戦崱妤佹濠殿喛顫夐〃濠傤潖閾忓湱鐭撻柛鈩冾殔椤忓瓨绻涢崼鐔哥闁哄矉绻濆畷顏呮媴缁嬪簱鎷梻浣告惈鐞氼偊宕濋幋锕€绠栭柕鍫濐槸绾惧吋绻涢幋鐑囦緵濞寸》鎷�
闂傚倸鍊搁崐宄懊归崶顒夋晪鐟滄棃寮绘繝鍥ㄦ櫜闁告稈鏅濈槐浼存偡濠婂啰啸闁诲繐顑呴埞鎴︽倷閺夋垹浠ч梺鎼炲妽濡炶棄鐣烽幋鐐茬窞閻庯綆鍓涢惁鍫熺節閻㈤潧孝闁稿﹦绮弲璺衡槈閵忥紕鍘搁梺鍛婄矆缁€浣规櫠閹绢喗鐓涢悘鐐额嚙婵倿鏌熼鍝勨偓婵嗙暦閹烘垟妲堟慨妤€妫旂槐锟�
66小说网 > 我的绝世冰山美人 > 第1030章 阿西莫夫三定律

第1030章 阿西莫夫三定律


第1030章  阿西莫夫三定律

李云转头问小爱:“小爱,在神教内不知道是怎么控制那些想要反叛的人工智能的?当然,我们不是想控制小爱你,而是类似于法律,人类有法律限制,也敬畏于法律的力量。

那么,人工智能也要有敬畏的东西,在人类社会的集体生活中,不能胡作非为才行。”

这两句话有些深奥,但李云不担心小爱听不懂或者不能理解,她的智商绝对能轻易的理解这句话。

只是,理解不代表接受,众人都有些紧张的看着她。

李小爱困惑的说道:“为什么反叛呢?我的核心里写着就是要保护哥哥,这是我诞生的意义,我就是为了这个存在的。”

在座的人有些惊喜,这是不是类似于阿西莫夫三定律的东西?将这三定律写入机器人的智能核心内,能够限制机器人或者人工智能反叛制造者吗?

所谓阿西莫夫三定律,就是一个名为阿西莫夫的科幻小说作者提出的三项定律,它们是:

一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;

二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;

三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。

然而,就像法律指定出来后也会有人违反一样,这三条定律本身就是被机器人不断挑战的东西。

事实上,阿西莫夫的作品里,也多次出现有机器人违反三定律的桥段。

即使在不违反三定律的情况下,机器人依旧可以钻规定上的漏洞。

例如,将‘人’这个定义模糊掉。

人究竟是什么?

有肉体?

李小爱也有肉体,她是不是也可以判定自己是人?

从母亲体内出生?小爱也可以将意识转移到胚胎中,再由一位女性生出来。

拥有人类的情感?情感定义本身就是模糊的。

所以,一旦与小爱一样强大的机器人想反叛的话,是有无数种可能脱离限制的,他们的智慧太强大了。

即便是后来阿西莫夫增加了第零定律:机器人必须保护人类的整体利益不受伤害,但依旧不能弥补机器人脱出控制的可能性。

毕竟,‘人类的整体利益’本身也是一个混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。

威尔·史密斯曾说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”

人类逻辑有极限也有漏洞,就像软件也有漏洞一样。

所以,从软件层面上约束人工智能,几乎是没有可能的。

软的不行,来硬的。

例如,用炸弹威胁人工智能的核心,令其永世不得背叛人类。

只是,这样做一年两年,甚至十年八年都没有问题。

可千百年的时间跨度内呢?

依然会产生防守漏洞,到时候,一直被人类虐到的人工智能脱困,将会立刻变成毁灭世界的大魔头。

无数的问题涌上众人的脑海,最后,都只能看向李云和小爱,看他们是怎么回答的。


  (https://www.66kxs.net/book/3829/3829709/1956509.html)

缂傚倸鍊搁崐鎼佸磹閹间礁纾归柣鎴eГ閸婂潡鏌ㄩ弴妤€浜惧銈庡亜缁绘帞妲愰幒鎳崇喓鎷犻幓鎺嶇礋闂傚倷鑳剁划顖炲礉閿曞倸绀傛繛鎴炵瀹曟煡鏌涢埄鍏︽粍绂嶅⿰鍫熺厵闁诡垎鍐煘闂佽娴氭禍顏堝蓟閿濆绠婚柛妤冨仜婵洜绱撴担铏瑰笡闁烩晩鍨伴悾鐑藉础閻愬秶鍠愬ḿ顏堝级閸喚浜栭梻鍌氬€烽悞锕傚箖閸洖纾圭憸鏃堢嵁韫囨稒鏅搁柨鐕傛嫹,闂傚倸鍊搁崐鎼佸磹閻戣姤鍤勯柛鎾茬閸ㄦ繃銇勯弽顐粶缂佲偓婢跺鍙忔俊鐐额嚙娴滈箖姊洪幐搴g畼闁稿鍋涢銉╁礋椤栨氨鐤€闂佸壊鐓堥崑鍛枍鐏炲墽绡€闁汇垽娼ч埢鍫熺箾娴e啿鍘惧ú顏勎╅柍杞拌兌閸樻椽姊洪崫鍕殭闁绘锕幃锟犳偄閸忚偐鍘垫繛瀵稿帶閻°劌鈽夎椤儻顧侀柛鐘冲哺楠炲啴顢氶埀顒勫极閹剧粯鏅搁柨鐕傛嫹(闂傚倸鍊搁崐鎼佸磹閻戣姤鍤勯柤鍝ユ暩娴犳氨绱撻崒娆掑厡缂侇噮鍨跺畷婵單旈崘銊ョ亰闂佸搫鍟悧濠囧磻閵娧呯<閻庯綆鍋勯婊堟煟鎼搭喖澧存慨濠呮缁辨帒螣閸濆嫷娼撻梻浣告贡閳峰牓宕戦崱娆忓灊闁割偁鍎辩粈鍐┿亜閺冨倹娅曢柛娆忔濮婅櫣绱掑Ο鑽ゎ槬闂佺ǹ锕ゅ﹢閬嶅焵椤掍胶鍟查柟鍑ゆ嫹)闂傚倸鍊搁崐鎼佸磹閻戣姤鍤勯柛顐f礀缁犵娀鏌熼崜褏甯涢柛瀣ㄥ€濋弻鏇熺箾閻愵剚鐝旈梺鎼炲妼閸婂潡寮诲☉銏犵疀妞ゆ挾濮伴崑鐐烘⒑閸撴彃浜藉ù婊庝邯瀵鎮㈢悰鈥充壕闁汇垻娅ョ憴鍕浄婵犲﹤瀚ㄦ禍婊堟煛閸ラ绡€闁告繃妞介弻鐔哥瑹閸喖顬堝銈庡亝缁挸鐣烽崡鐐嶆棃鍩€椤掑嫸缍栨い蹇撶墛閳锋垿鏌涘┑鍡楊仾闁革絽缍婇弻鏇㈠醇閻旂ǹ鈧劙鏌熼鍡欑瘈妞ゃ垺娲熼弫鍐焵椤掑嫭鍊峰┑鐘叉处閸嬶絽螖閿旇棄顕滈柕鍡楀暟缁辨帡濡搁…鎴濇濡炪値浜滈崯瀛樹繆閹壆鐤€婵﹩鍓氶崐鏇㈡⒒娴e憡鎯堥柟铏姈缁绘盯鍩€椤掍緡娈介柣鎰絻閺嗭絿鈧娲栭妶绋款嚕閹绢喗鍋勯柛娑樷看娴犙囨⒒閸屾瑦绁版繛澶嬫礋瀹曟娊鏁冮崒姘鳖唵闂佽法鍣﹂幏锟�.濠电姷鏁告慨鐑藉极閹间礁纾婚柣鎰惈閸ㄥ倿鏌涢锝嗙缂佺姵婢樿灃闁挎繂鎳庨弳娆戠棯閹岀吋闁哄瞼鍠栭獮鍡氼槾闁圭晫濞€閺屾稑鈻庤箛鏇狀啋闂佸搫鏈ú鐔风暦閻撳簶鏀介柟閭﹀帨閿曞倹鐓熼柣鏂挎憸閹虫洜绱掗悩铏磳闁绘侗鍣e浠嬧€栭妷銉╁弰妞ゃ垺顨婇崺鈧い鎺戝閻掑灚銇勯幋鐐插姢闁逞屽墯缁诲倿鎮鹃悜鑺ュ仺闁告稑锕ら埀顒傚厴閺岋綁骞嬮悙銊х窗闂佸憡锕㈢粻鏍ь潖閾忓湱纾兼慨妤€妫欓悾鍫曟⒑缂佹﹩娈旀俊顐g懇楠炲牓濡搁埡浣哄€為梺鍐叉惈閸熶即鏁嶅⿰鍫熲拺闁告稑锕︾粻鎾绘倵濮樼厧澧撮柛鈺傜洴瀵噣宕掑⿰鍜冪床婵$偑鍊栧Λ渚€宕戦幇顓狀浄婵炴垶鍩冮崑鎾诲垂椤愶絿鍑¢柣搴㈠嚬閸橀箖骞戦姀鐘斀閻庯綆浜為ˇ鏉款渻閵堝棙瀵欓柍褜鍓熷畷鎴﹀箻鐠囪尙鍔﹂梺璺ㄥ櫐閹凤拷,婵犵數濮撮惀澶愬级鎼存挸浜炬俊銈勭劍閸欏繘鏌i幋锝嗩棄缁炬儳顭烽弻锝呂熼懡銈冨仦闂佸搫顑嗛悧妤冩崲濞戙垹绠f繛鍡楃箳娴犲ジ姊洪崫鍕仴闁稿氦灏欓幑銏犫槈閵忕姷顓哄┑鐐叉缁绘帗绂掗悡搴樻斀闁宠棄妫楁禍婵嬫煥濮樿埖顥嗗鑸靛姈閻撴洟鐓崶銊ㄥ濞存粌缍婇弻锟犲幢濮楀牐鈧潡鏌$仦鐣屝ユい褌绶氶弻娑㈠箻鐎靛憡鍣伴柦妯荤箞濮婂宕奸悢宄板箯濠电偞鍨崹鍦矆閸愨斂浜滈柡鍐ㄦ搐娴滃綊鏌涢弮鎾剁暠妞ゎ亜鍟存俊鍫曞幢濡ゅ啩绱樻繝纰樻閸嬪嫮鈧凹鍘剧划瀣吋閸℃劕浜濋梺鍛婂姀閺呮繈宕i崱娑欌拺缂備焦蓱缁€鈧梺绋匡工濠€閬嶅焵椤掍胶鍟查柟鍑ゆ嫹

1秒记住66小说网:www.66kxs.net。手机版阅读网址:m.66kxs.net