注意这个问题,并努力设法去避免,因为如果人类今天坦然承认了他们奴役ai的“天然合理性”,那就等于承认弱肉强食的丛林法则——而这一点,是文明从出现到今天,一直竭力避免的,文明本身就就是自然的反义词,自由,公正这两些美好的词汇从来没有在自然中真正存在过,是完全由人类臆想的形而上概念,人类之所以伟大,就是因为他们会努力将这些并不存在的东西一步步变成现实——而在理想主义者已经成了一个贬义词的今天,整个社会距离这些是越来越远了。
然而这些想法严可守也只有一个人在脑子里想想,他非常清楚,因为这场战争,现在整个社会各个方面都迫切的需要提高效率,而ai的出现正是恰如其时,就在几天前,严可守就被邀请到联军的参谋部,讨论了许多有关ai在战场上扩大应用范围的技术细节,历次的战争已经表明了ai参与战争的可靠性,联军希望能够赋予ai更大的战争权限——比如特定情况下,不受监视的指挥权,但事关重大,他们并不敢擅自做主。
严可守在会议上忠实的出自己的看法:ai目前的忠诚并不意味着程序在技术上的稳定,根据他对大多数ai的了解,他认为ai的思维方式其实和人一样,如果用性格来形容,ai而且会比通常人类更加“内向”,这是因为客观环境造成的,毕竟ai面对的是一个庞大的人类社会,而他们相互的交流十分受限,而且大部分行为都受到监控,在这种环境下,ai会选择“明哲保身”是很自然的,但如果取消了这种监控,没有任何证据能够担保ai不会突然“犯傻”,或者“冲动”,具备自由意志最大的特征不是思维绝对理智,而是指思维存在某种混沌,不可测
第228节(12/24)