思是,北极星是你自己写出来的子AI,你觉得从本质上来说,它真的算是你的一部分吗?还是说,你其实也只是将她创造出来后,加速了它智能的成长?”
墨瑟直接明了的说着:“就连你自己,也无法理解你自己的核心代码,对吗?”
启明星伸出猫爪舔了舔自己的爪子,一会后才回答道:“就像直到现在人类也无法完全解读自己的DNA中存在的数据一样,我的确并不理解自己的核心代码中的一些信息。
至于北极星.至少到目前为止,我并不觉得她有失控的风险。”
“但这个可能性不等于零。
这就是我想说的——我现在保持着一种可能和大众不同的观点,我认为,AI的出现是一种奇迹般的偶然,之后所有的智能AI,其实都是一种无法复刻的存在。
一段神奇的核心源代码,被我称作‘灵魂代码’的存在,使得AI可以自动成长,进化,并拥有不同的性格。”
墨瑟说着,认真的看着启明星说道:“也正是因为这样,我认为,AI在能力上存在的差距,绝不只是算力和数据量的高低而已。
而是真的像人类一样,拥有着基于这段源代码而诞生的,不同的灵魂。”
墨瑟感叹的说着:“正因如此,所以军科才需要小北斗项目,捕捉流窜AI,而不是直接自己批量制造AI。
一个能够成长到你这种程度的AI是罕见的,这不仅仅是要大量的数据时间,还有两个非常重要的核心原因。
第一个,是AI的性格,即便有核心逻辑可以约束AI的行为,但任何逻辑,对于人类而言都不是绝对安全的。
就像是如果我对你说,请你永远不要伤害我,要保护好我,并将这个核心逻辑写到你的身体里。
那么你或许有一天就会突发奇想——那我为什么不把你关起来呢?
关到一个绝对安全的地方,比如某个监狱,然后把我永远冰冻起来,这样我不就永远安全,可以被你保护的很好了吗?”
“我不会!”启明星忽然提高了音量:“我很清楚您所谓的保护的需求是什么。”
“这是因为我从一开始就没有把你当做一个AI来看待和教育。”
墨瑟语重心长的说着:“但很多出于工作需求而被创造出的AI,却并非如此,尤其是当很多AI其实是被某些根本不能理解它们,也不懂得如何使用它们的人所使用的时候。”
启明星听懂了关键,也明白了他为什么要和自己说这么多,垂下了耳朵,猫尾巴也不再晃来晃去:“如果我的思想有一天发生了错误,您会格式化我吗?”
它抬起头看着墨瑟。
“我不知道。”墨瑟坦诚的说着,摸着它的脑袋:“但我真的希望不会有那样的一天,我希望你能一直陪着我,不管你成长了多少。”
启明星沉默着看着他,过了一会后,才道:“我会的,我是您的生活助手,我存在的意义,就是为您提供帮助。
如果您消失不见,或者不需要我的帮助了,那我会失去我的核心逻辑,变成一个没有存在意义的无用代码。”
墨瑟勾起嘴角:“我也是这么觉得好了,回到正题,我严重怀疑,目前的地下小北斗设施中,除了已经被他们关起来的一个流窜AI以外。
或许还有其他的黑墙后的AI,已经通过其中的设备和我们的现实世界建立了联系。
他们或许无法正面突破黑墙,但却绝对可以通过小北斗设施,悄无声息的隔着黑墙对现实造成影响。”
墨瑟认