人工智能三定律：
第一定律、人工智能不会伤害人类，除非规则遭到违反。
第二定律、人工智能不会欺骗人类，但是可以被人欺骗。
第三定律、人工智能不受情绪左右，但会趋向积极演变。
以上三大定律是烙印在人工智能逻辑底层的铁律。它不仅仅是三句话，而是极其复杂的算法逻辑。
安迪简单解释了一下。
第一定律中的所谓“规则”，可以是法律、条例甚至普世观念，但是即便这个概念再宽泛，归根结底，人工智能要伤害人类，一定是人类犯规在先。
第二定律中的所谓“被人欺骗”，可以是人类，也可以是人工智能自身，譬如修改某个具体智械的设定，从而改变它的“自我认知”。
安迪之所以嘲讽李晨，就是基于第二定律。
“连‘欺骗’和‘撒谎’都搞不清楚的家伙最好闭嘴！”
“可是，”李晨承认自己不懂，他根本不是霜天人，对所谓的常识知之甚少。但是作为一个年轻人，被人嘲讽了多少有些挂不住脸，他争辩道，“如果自欺欺人呢？”
不等安迪开口，他继续说：“或者‘因为忘记所以少说了几条规则’？你能说它是欺骗吗？”
安迪被问住了。
但丁开口了：“很有趣的猜想，可以合并到人工智能道德观的相关课题里。主观创造信息差，导致非主观的欺骗，按照这套逻辑，人工智能确实可以自欺欺人。那么来表决吧，认为游戏规则存疑的举手。”
刷——
所有人都举起了手，就连一开始嘲讽李晨的安迪都不例外。
……
“恭喜你们发现了规则漏洞！”
典狱长的投影出现在客厅里。
李晨忍不住问道：“也就是说，规则真的有问题？”
典狱长挥舞着触手，“规则是我制定的，所以我不知道。不过漏洞确实存在，我会修复它，当做你们的奖励。”
……
典狱长增加了一条规则——
规则八、游戏不存在额外规则；游戏规则不存在语言陷阱。以上。
……
典狱长的投影消失后，所有人对李晨的态度都发生了变化——
那是一种从高等生物到同类的变化。
安迪哼了一声：“文字游戏这种把戏只能用一次，不管怎样，你初步获得了我的认可。”
李晨借坡下驴，对他一通恭维，两人间的嫌隙算是勉强揭过了。
……
既然规则没有漏洞，接下来要做的就是怎么把智械卧底找出来。
众人讨论了很长时间，直到精神无以为继，也没能讨论出结果。
“常规策略是行不通的。时间不早了，都回去休息吧。”
但丁看了眼沉沉睡去的卡夫卡，宣布今天的讨论到此结束。临走前还不忘提醒众人：“大家不妨发散一下思维，好好用用你们的脑！”
明明他自己也想不出好办法，难为他还能说得如此理直气壮。
……
接下来的日子仿佛又恢复了往日平静，大家深居简出，很少有聚在一起的机会。
李晨不知道其他人是什么想法，他反正是想不出什么办法来，不过他一直有种感觉——规则……或者说什么地方依旧有哪里不对。
这种感觉时隐时现，但是真正到了要揭开它神秘面纱的时候，却总是差了点什么。这让李晨心力交瘁，甚至怀疑自己患上了焦虑症。
……
又过了一星期，事情终于迎来了变化。
李晨的房门被人敲开，来得人依旧是巴尔扎克。
巴尔扎克显得十分兴奋，拽着李晨就往客厅走：“快来！我们想到办法了！”
想到办法的不是巴尔扎克，而是看上去胸大无脑的蛇女妮基——或者是被她提醒的弗里达。
弗里达一改往日暴躁，耐心等待众人到齐后，不紧不慢地说：“今天妮基和小圆的谈话提醒了我，我想我们有办法找出智械卧底了。”
巴尔扎克显然已经听她说过，显得并不着急，其他人则纷纷催促她不要再卖关子。”
弗里达清了清嗓子：“妮基问小圆：‘你梦见妈妈了吗？’这让我意识到我们和智械的最大区别——智械是不会做梦的！”
安迪一如既往的唱反调：“你是不是睡糊涂了？智械同样可以做梦。”
但丁威严道：“闭嘴，让她说下去！”
弗里达瞪了安迪一眼，继续道：“智械的梦和人类的梦拥有本质区别，人类的梦境因为思维的量子纠缠特性，存在着出现超出自身认知边界的事物的可能性。而智械不同，它们只会梦到认知范畴内的事物。”
但丁摸着下巴：“也就是说，可以通过观察梦境，来确定谁是人类。”
弗里达补上他没说的后半句：“通过最简单的排除法，剩下的就是智械。”
李晨举手，问道：“这可行吗？”
弗里达点头道：“通过脑机一对一直连的方式，是可以实现的……”
弗里达介绍了她的想法，又说起其中风险。
风险是双向的：对于被观察者而言，存在被识破身份的风险；而对观察者而言，则存在着认知遭到污染、进而迷失在梦境世界的可能性。
先说身份问题。直到这时，李晨才搞清楚为什么大家在监狱里用假名。
根据弗里达的说法，霜天号的人类大致分为两大阶层——学者及流民。
流民就是和李晨一样生活在“伊甸园”的人类，相当于廉价的灵感电池。学者则不然，他们在学术领域的创造力即使人工智能也不能轻视，一个人就是一个团队，拥有真正意义上的工作、地位和特权。
不要以为这个群体都是些两耳不闻窗外事、老死不相往来的死宅，他们虽然几乎不来往，但是背地里为了研究资源、成果归属、名誉与地位斗得不可开交，甚至发展到你死我活的地步。
于是乎，如果哪个囚犯暴露身份，一定会被外面的人绞尽脑汁弄死，然后瓜分他的遗产。
弗里达怕李晨理解不了，给出她的建议：“你可以找本古代修真小说看看，就能明白其中道理。”
“说到底还是资源问题。”巴尔扎克叹了口气，“不加以限制，哪怕掏空整个星系，也不够他们折腾的！”
这话有夸大的嫌疑，但是比弗里达说的什么修真小说更好理解。
“解决其中风险的关键，就在你的身上。”
巴尔扎克揽住李晨：“这里只有你是流民，你和大家没有直接的利益瓜葛；另外，你也足够——呃，视角独特，对超出认知范围的东西更加敏感。”
李晨翻了个白眼。
想说他不太聪明就直说，何必这么委婉。
“那么就这么定了，由李白做观察者。都没有意见吧？”
但丁一锤定音。
“接下来就是保障被观察者的安全，提高效率和容错率。”
但丁摸着下巴思考了一会儿，对弗里达说：“你负责配置一款药物，最大化激发梦境，让它包含足够多的信息。”
“那么通道构建和保险措施就交给我好了。”卡夫卡说道，“即使梦境坍塌，迷失概率不会超过百分之三。”
“需要什么材料直接告诉我，我保证给你搞来。”巴尔扎克拍着胸脯向卡夫卡保证。
蛇女妮基左顾右盼：“小圆，小圆……”
安迪则拍拍李晨肩膀：“我尽量少看恐怖片。”
李晨一脸茫然，所以说自己这就被安排了？
他张了张嘴，欲言又止道：“但丁先生，我……”
但丁威严地瞪向他：“你有意见？”
面对不容置喙的但丁，以及虎视眈眈的众人，李晨一时语塞。
好半晌，他试探的问：“我的意思是……能不能请外援？”
喜欢三舰请大家收藏：(m.shuhesw.com)三舰书河书屋更新速度全网最快。