评论:机器人“意外拥抱”女生没那么“可爱”

近日,一网友发布陕西某高校运动会上的一幕,引发关注。视频显示,一台原本在表演舞蹈的机器人,中途突然转身,抱住了身旁一同跳舞的女生。现场工作人员赶忙上前干预,才将机器人拉开。对于机器人为何会做出如此反应,网友们展开了讨论。有网友好奇,“机器人是不是有了独立意识?”也有网友质疑,“是不是机器人操控者做出的举动?”“是不是预先安排好的环节?”
校方回应称,企业方的解释是“现场无人机太多,导致信号干扰,机器人运行异常,出现意外的可爱瞬间”。这个解释听起来似乎合情合理,却经不起推敲。无人机信号干扰,为何偏偏干扰出了“拥抱”动作?干扰为何没有让机器人手舞足蹈地乱撞,没有让它突然倒地,而是精准地完成了一个社交意义上的“亲密行为”?信号干扰或许可以解释“异常”,但解释不了“异常的方向”。正如网友所言,“无人机表示不背这个锅。”
更值得警惕的是,如果一次信号干扰就能让机器人做出未经授权的肢体接触,那么下一次干扰,会不会让它挥拳暴击?这不是杞人忧天。机器人毕竟是机械,它的手臂里没有血肉,只有电机和金属骨架。一旦程序失控,一个简单的“拥抱”动作,可能瞬间变成挤压;一个舞蹈动作的偏差,可能变成猛烈撞击。在开放场景中,人与机器人近距离互动,安全冗余是否足够?现场有没有急停装置,工作人员的反应速度能否快过机器的误动作?从视频看,女生被抱住后,明显有些惊慌,试图挣脱,而几位工作人员上前拉扯了好几秒才将机器人分开。这几秒钟,如果机器人执行的是攻击性指令,后果不堪设想。
事件发生后,有人调侃这是“机器人的觉醒”,也有人担忧“机器人被别有用心的人利用”。后一种担忧绝非多余。试想,如果这台机器人的控制系统被恶意篡改,或者其接收的信号被劫持,那么它在众目睽睽之下做出的,可能就不是一个“可爱的拥抱”,而是蓄意的伤害。在无人机可以轻易造成信号干扰的环境下,这种风险是真实存在的。更令人不安的是,机器人的行为逻辑本质上是由代码和算法决定的。谁写代码,谁就定义了机器人的“价值观”。如果开发者有意或无意地将某些带有指向的行为模式写入程序,那么机器人就会在毫无意识的情况下,成为某些偏见的执行者。我们无法追问机器人的动机,但我们有理由追问开发者和使用者的责任。
重庆师范大学智能与认知实验室(重庆市重点实验室)副主任高桓提出了一个“真正值得关注”的问题:“为什么机器人在出现异常动作后仍能接触到真人?”这点出了问题的核心。技术故障几乎是不可避免的,但安全设计的冗余,就是为了在故障发生时保护人。如果现场设置了足够的安全距离,如果有可靠的物理隔离或急停机制,如果工作人员能在异常发生的毫秒级时间内切断动力,那么这位女生根本不会成为“意外可爱瞬间”的主角。所谓的“可爱”,不过是风险没有兑现成伤害时的庆幸罢了。
这次事件,本质上是一次技术事故,却被包装成了“花絮”。这种轻描淡写的姿态,恰恰是最危险的。每一次“意外”,都是一次免费的压力测试。我们应该欢迎这类事故在可控范围内多发生一些,让问题充分暴露,而不是被“可爱”“暖心”这类词汇消解掉严肃性。无人机干扰导致程序故障,这个解释本身,就暴露了两个薄弱环节:一是机器人的抗干扰能力堪忧,二是在复杂电磁环境下的应急预案缺失。如果在校园演出这样相对简单的场景中都无法避免事故,那么未来机器人进入家庭、商场、医院等更复杂的环境,后果将难以预料。
说到底,机器人没有“爱美之心”,但它的故障路径,却折射出设计者和使用者的认知盲区。为什么拥抱的是女生?或许只是因为女生恰好在那个位置。技术可以试错,但人的安全不容试错。与其在每一次“意外”发生后庆幸无人受伤,不如在每一次“意外”中认真解剖其背后的技术缺陷和安全漏洞。唯有如此,当它们真正走进我们的生活时,才不会把“意外”变成“伤害”。(文/宾语)

编辑: 陈锐

微信
QQ
朋友圈