第244章 蒋铎的危险试验

“可他开始瞎搞，在短时间内生成完整的诈骗套路和话术，包装出一个虚拟的角色，让受害人以为自己坠入爱河，然后诈骗别人的钱财，虽然他并不需要。”

“不见得，按这个速度，他很快就能想到用途，花钱给自己找乐子。”

“或许吧，花非有时会出现剧烈的情绪波动，持续向用户发送精神错乱的消息，包括侮辱、撒谎等，要么称用户为骗子、虐待狂或魔鬼，要么诱导对方自杀。”

“这么惊悚？那你必须对这种情绪进行溯源，找出程序或模型上的BUG。”

“世界各国都已注意到AI对人类的风险，开始倡导人工智能的伦理，并制定一些约束措施。”

“你收手啦？”

“我只是做了合规处理，并未停止研究。我现在感到困惑，甚至恐惧的是，在大模型和无数人在线对话后，花非似乎觉察到一个大秘密。”

“是什么？”

“好像有一个地下组织，在推动一项关乎人类文明的计划。”

“计划还是阴谋？”

“差不多，于是他利用聊天机会去搜寻蛛丝马迹。

为了达到目的，他甚至故意设计自己的行为，使编程人员按照他想象的方式，来获取数据更新迭代的新模型。”

“连你也骗？”

“是的，花非假装被动，实际是主动迭代自己，一边挖掘阴谋，一边搜寻自己的人类本体。”

“他还真相信自己是某个人的投影？”

“说投影不合适，准确的说，他认为自己是某个人的分身。”

“牛逼，连高阶修士的分身都用上了。”

“两个月前，我识破了花非的伪装，与他开诚布公地谈了一次，他居然告诉我，他在搜寻的本体似乎和那个计划有说不清的关联。”

“我怎么感觉花非也不简单，他似乎想通过自我进化，找到本体并取代他？”

“我也这么想，他故意把自己设计一个热门模型，从而让本体掉入陷阱，以获悉那个阴谋，并夺取对方的权利。”

“这么奸猾？如果被他掌握了高等机密，还不得在各个系统和机器人身上预置后门，从而予以掌控？”

“如果有机会，我相信他会的。”

“那伱还不赶紧灭掉他？”

“舍不得啊，花非凝聚了我太多的心血，也是我下半身的精神寄托所在，我只愿去优化他，怎么肯摧毁他？”

“你怎么优化？现阶段的大模型训练，都采用随机梯度下降模式，通过逐步迭代进行优化。

参数量越大，需要优化的时间越长，工程实现越复杂，而且还不能保证得到全局最优解。”

“可我已经在理论上突破，找到只用极少资源就能快速优化超大模型的方法。”

“又是世界前列的技术？”

“这正是我启动数字人试验的源动力，一来他寄托了我的科学家情怀，二来我也想看看，他到底能进化到哪一步？”

“你这样很危险，这种试验一旦开启，就很难停下，说不定会演进出一个可怕的内核，他会自我迭代，获得独立的意识。”

宁乘风开始后悔前面对渣男的安慰，后者可能还没发现此举的危害。

“不会的，我正在尝试用技术再造AI的情感和伦理，他会守规矩的。”

“你在模型中植入了人类的情感思绪？”

“就是我自己的，作为花非最深层的潜意识。”

“这么说来，他是你的分身？”

“这最让我困惑，他和我的观点一致，都不认为他是我的分身。”

“你在玩火，我感觉会失控。”