查看全文
薇 22 岁那年。我的 BP 还有很多不完善的地方，但他们很看好。」
「给你资料制作模拟林薇行为的 AI 算法是哪一年？」
「我想想，你们结婚那年，也就是我们第一代产品的 BETA 阶段，不完美的阶段，但是一个 AI 的项目从原型到研发到真正上线测试，四年其实算、非常非常快了……」
「那么我们结婚那年……林薇都还好好的，他们为什么……」
「这我就不清楚了，其实他们两位算是我老板和客户，也是我的恩人。为客户守密是我的信条。我已经说得太多了，我的朋友。我很尊敬他们，我也很尊重你。」
「疑点太多了……如果跟我结婚的林薇已经是个 AI……那么真正的她去哪儿了？」
我茫然喃喃自语，随即对 Miles 提了一个要求。
「我想参观一下你的最新产品——我知道，你的实验室不会在产线厂房，说不定就在这别墅里面？」
Mlies 做了一个无奈的「知我者非你莫属」的表情。
没有鬼气森森如劣质娃娃加工厂的诡异，也没有酷炫硬核如赛博朋克。
Miles 的实验室很随意，半成品的模型设计很有大理石雕塑的感觉——让我想起文艺复兴那些大师的人体雕塑。
「这是私人订制款，要求不锁定核心频率的……」Miles 自嘲地摇摇头，
「很完美不是吗？连毛孔，体温，呼吸都可以拟真，而且不再是预设性格模组。」
「现在的算法和算力，加上用户提供的海量学习资料，真的可以达到『乱真』的地步，但是……」
「我来猜猜……一定有某个类似自毁或者紧急关机的装置，避免 AI 在负面情绪算法的影响下出现大的行为偏差，如果真的产生攻击行为也会被马上制止。」
我随手拿起一张设计手稿，这家伙的书桌还是一如既往的凌乱。
「保险是必要的，你一如既往的聪明，我的朋友。这就是为什么这么多年我们还一直很聊得来的原因。」Miles 打了个响指。
我坐在椅子上慢慢往后倒，让自己沉入灯光照不到的阴影中，我忽然有了一种奇怪的感觉，Miles 这句话是假面，他隐藏了很多。
看着他坐在椅子上依然挺拔自信宛如一位王者的身姿，我忽然有了一个想法。
「那我来大胆假设一下，你设定的开关是：AI 如果确认自己是 AI，将会触发不可逆的自毁程序……」
Miles 脸色发白，站了起来，「不！别说了！停下！」
「一个自我认知是『人』的 AI，已经接受了这个预设身份，也在人类社会中融洽地生存，然而忽然有一天，他发现自己的认知和三观都覆灭了，他不过是一件产品，一个类似冰箱洗衣机的家电产品……」
Miles 双手掩面，从指缝中呻吟着说：「……别再说了……朋友，停下！算我求你……」
骄傲如他居然会说