（十五）任明明的隐私（第4/6页）

“对，无论是软件包的情感模块，还是芯片级的软件模块，机器人的厂家都会事先设计好。某个模块的情感特点，或者说性格，事先建立了数学模型，并设定了各种参数。通常，这里面会涉及很多数据，产品发布时也会一并打包。但是，迈克的软件包，已经自主更新过很多次，它很频繁地进行自我更新。”李舒说。

“这没什么奇怪啊！”任为说，“自动升级嘛！不都这样吗？”

“是的。可是，自动升级的那个新版本，应该是厂家的版本，而且同一型号的新版本应该都一样，对不对？”李舒问。

“对。”任为回答，还是很糊涂。

“但迈克不同，他每次升级的新版本都独一无二。”李舒说。

“专门为迈克定制的新版本？”任为问，“不可能啊！这为什么呢？迈克只是一台破旧的皮肤测试机器人。属于PerfectSkin，一家经营得很差的公司。因为公司穷，连正常的维护和升级服务都没买。”

“不是，”李舒说，“不是迈克的生产厂家在升级他。当然更不是PerfectSkin在升级他。我们查到了升级新版本的网络地址，和我们以前查到的一样，是一个查不到拥有者的地址。简单来说，迈克被黑了。软件包的形式不像芯片形式那么安全，迈克早就被黑客黑了。开始的时候，迈克应该只是被安装了一个非常简易的情感软件包。这个简易的情感软件包，情感功能很正常，只是比较简单。不过，它有一个特殊功能，就是在这个特殊的网络地址频繁地更新自己。在更新过程中，它就越来越高级。”

“哦……”任为想了想，说：“还是说不通啊！没听明明说，迈克干过什么坏事啊！黑客要干什么？再说，虽然不是生产厂商干的，但本质上，这也属于自动升级的范畴。我明白黑客的事情，这也很普通。经常有机器人病毒之类，还要杀毒甚至要回厂重装系统。这到底有什么不同呢？黑客不停地为迈克推出新版本，这有什么意义呢？”

“这些新版本的作者，并不是黑客。我们推断，它们是被自动生成的版本。生成它们的应该是软件，黑客控制的一个人工智能软件。”李舒说。

“人工智能写程序？”任为问，“这也不是什么了不起的事情吧？现在，很多代码都由人工智能来写。特别是情感软件包这种软件，听起来通用型很强，最适合人工智能来写了。”

“对，这也没什么了不起。”李舒说，“了不起的是这个人工智能软件，为迈克的情感模块编写新版本时，所采用的那些依据，或者说，它为什么要编写这些新版本。”

“哦……通常……不就是改Bug或者添加什么新功能吗？”任为问。

“Bug肯定要改。可说到新功能，这就很有意思了。的确是在添加新功能，当然也包括优化已有功能。但是你想，你在为软件添加新功能的时候，添加什么，不添加什么，删除什么，优化什么，是怎么选择和决定的呢？”

“这要看需求和目标是什么。”任为说。

“对。那么，这个为迈克的情感模块编写新版本的人工智能，是如何确定需求和目标的呢？”李舒问。

“嗯，我不知道。”任为稍微想了一下，迟疑地回答。

“您看，您这么聪明，可是您都想不出来。”李舒说。

“你说，是什么？”任为催她。

“需求和目标很明确，就是讨好明明。这个人工智能会根据数据来分析，如何才能让明明更喜欢迈克，然后，根据这个需求，编写迈克情感模块的新版本，最后进行升级。”李舒说，“他们的升级，力度很大。一般来说，很多软件升级进行数据更新就可以了，进行代码更新并不经常发生。但是，迈克的情感模块，数据更新经常不足以满足新要求，需要频繁地进行代码更新，用来优化情感产生的逻辑路径。总而言之，它在不惜一切地改变，想要最大程度地贴近明明的喜好。”

“讨好明明？”任为说：“靠迈克提交明明的反应数据，来进行判断？”

“仅仅依靠迈克提交明明的反应数据，显然还不够。否则这也太平淡无奇了。而且这些孩子，我们作为父母都看不明白。迈克作为一个机器人，哪里看得明白。”李舒摇摇头。

“那如何判断怎么讨好呢？”任为问。

“我可以告诉您。但是，这是这次谈话最大的秘密所在，也可能会对您有点冲击。我要先告诉您，无论怎么样，您不用担心。我们发现过八例同样的案例。虽然听起来有点吓人，可我们认为，黑客似乎没什么恶意。只是在测试？或者好玩儿？就算有深远目的，至少目前并不危险。”李舒说。

“你快说。”任为又紧张起来。