宝腾首席执行官安迪·颜 (Andy Yen) 取消了该公司颇具争议的计划,即“重新采访”员工,了解他们的人工智能使用情况,以决定谁保住他们的工作,并在周五的全体会议上告诉员工,重新采访“已经达到了他们的目的”。这一逆转发生在 404 Media 发布了一项针对这家隐私公司积极内部人工智能推动的调查的一天后,许多员工仍然不相信这会带来真正的改变。
Proton Mail 背后的瑞士公司 Proton 因 404 Media 上周报道称计划重新面试员工的人工智能使用情况而招致强烈批评,结果与继续就业挂钩。 AI Buzz Wire 在首次报道时报道了最初的重新采访计划,作为 我们正在进行的 AI 行业报道 的一部分。这份新报告基于与八名现任员工和一名前任员工的对话,以及 Slack 聊天、会议音频和 Proton 首席技术官巴特勒 (Bart Butler) 撰写的内部人工智能宣言,描述了一家公司推动人工智能采用的速度超出了其安全人员的预期——至少部分是由收入目标驱动的。
##“那是废话和失败者的想法”
调查中被引用最多的言论来自日元本人。当 Proton 安全 Slack 频道的一名员工敦促该公司在发布新编写的代码之前至少花几天时间进行渗透测试时,Yen 在 8 月底回复道:“那是胡说八道和失败者的想法。当然,快速和安全是可能的。别再想了(事实并非如此)。”
巴特勒在内部发布的人工智能宣言直言不讳地告诉工程师:“你的旧工作已经消失了。”他写道,未能拥抱人工智能对“任务本身的成功构成了生存威胁”——这种语言与 Proton 作为用户隐私谨慎管理者的公众形象发生了严重冲突。
Yen 告诉员工的话
在周五的全体会议上,日元开场就承认了这一点:“就我个人而言,我想承认自己存在沟通失败,有很多事情可能可以而且应该以不同的方式进行沟通,”他在 404 Media 上说道。但他在道歉的同时还承诺继续推动:“展望未来,我仍将继续推动。”
关于重新采访,颜说,领导层在过去两天聚集在一起,并与质子基金会董事会进行了交谈,该基金会的受托人包括颜、网络发明者蒂姆·伯纳斯-李爵士、卡丽莎·维利兹教授、陆定超和安东尼奥·甘巴德拉。 “他们正在密切关注局势,”严说。结论是:“我们决定实际上取消重新采访。”他的理由是:“我认为,实际上,以一种无意的方式,他们实际上已经达到了目的”——也就是说,员工现在正在谈论和学习人工智能。
巴特勒对这一失误的态度更为直接。他说:“有效、务实地使用人工智能并不意味着我们放弃了安全性、良好的架构或健全的软件工程原则。”他补充说,日元在与员工沟通的方式上“需要而且他已经承诺做得更好”。在会议晚些时候,他回应一名员工的评论时说:“我们搞砸了,我们知道我们搞砸了。”
员工看到“损害控制”
据 404 Media 报道,Proton 员工的反应不一。一名员工指出,“有些人对事情的进展感到高兴。另一些人则认为这不会改变任何事情,因为安迪(Yen)不会有任何后果”,并补充说,他们“更希望领导团队承担真正的责任”。这位员工指出,日元的多数股权对董事会的行动构成了结构性限制。
其他人指出了与取消同时发生的事情:领导层表示,重新面试中要衡量的事情将成为绩效评估的一部分。 “他们明确表示方向没有改变,”一名员工表示。 “作为一名 Proton 用户,这并不能让我放心。作为一名员工,尽管我们许多人提出了担忧,但直到此事公开后,重新采访才被取消。我认为这不仅仅是沟通问题和成长的烦恼。”
“现在,一切似乎都与损害控制一致,”该员工补充道。据 404 Media 报道,调查结果发布后 24 小时内,Proton 之外的许多用户在社交媒体上呼吁 Yen 辞职。
接下来会发生什么
日元告诉员工,“组织变革”即将到来,下个月的重组重点是“跨团队重新分配人才”,并坚称“人工智能不会导致工作岗位流失”。现在,这种保证将根据人工智能使用指标预计将纳入绩效评估的现实进行检验,而员工担心重新面试会强制执行这种机制。
这一事件已成为自上而下的人工智能指令局限性的案例研究。 Proton 的业务建立在信任承诺的基础上,过去一周的情况表明,积极的内部人工智能推动(无论出于商业动机)如何迅速地使这一承诺面临压力。取消重新采访、重组和承诺更礼貌地“推动”是否会恢复它完全是另一个问题。
