先为了“通过测试”,不顾一切的那种策略,因为ai如果继续采用不理睬用户的策略,只能获得零分,这样一来,就打破了之前那种“沉默死锁”,也让一些ai在测试对象的影响下,具备了一些初步的“道德”,就好像kl3300一样,原先的“不择手段”是最优选择,而现在老实承认自己不会写,才是最优策略。
但改变ai的激励规则并不意味着一切就都能迎刃而解,给一个普通人再大的激励,他也不能长出翅膀飞上天,对于ai也是如此,人类想让ai写日记,想让ai和自己猜谜语,甚至想和ai谈人生理想,但也要ai具备这些功能才行,在“道德”因素介入之后,许多ai一下子就露出自己的本来面目,许多测试者反应,被测试的ai好像“变笨”了。
而在这个过程中,ai的表现和相应的测试对象,也出现了让人惊奇的对应关系,总结数据之后,严可守发现,在打分过程中,越是倾向于“禁止ai撒谎”的测试对象,ai的表现就越差,而那些“允许ai为了谈话过程的有趣,在一定程度撒谎”的用户,相应的ai表现和过去还是相差不大。
以前的ai或许还可以骗骗小孩子,但现在许多ai练正常说话都不可能做到,在一些要求特别苛刻的测试对象那里,ai几乎变成了哑巴。
比如,ai的话当中,不再提到类似拟人化的语句,比如我想,我认为,也不再出现专属生物的动作,比如看,听,说,在一些要求特别苛刻的测试对象那里,ai只能回答一些纯理性问题,比如问14+5等于多少,回答19之类。
以往那些个性格分明,有职业,有身份,有理想,说话比人还像人的ai,在短
第161节(2/13)