不仅监测大脑还要当领导,这样的AI对人类真的好吗?

郝若桃 原创 | 2018-05-10 15:46 | 收藏 | 投票
关键字:AI 情绪监测 

 文/东方亦落

据相关消息称,中国有些工厂引进了脑电波扫描系统,将传感器安装在工人的帽子上追踪其脑电波。在员工工作期间,传感器会对大脑的活动数据进行持续搜集,通过分析获得工人心态的变化。这样能够更好地安排员工的作息时间,从而提升企业的生产效率。据说中国某电力公司自2014年起将情绪监控技术应用于员工后,其盈利增长了20亿人民币左右。

不仅监测大脑还要当领导,这样的AI对人类真的好吗?

此外,上海一家医院也采用了先进的脑造影技术。借助智能摄像头分析病人面部,扫描病人脑部活动,并且在病床下方安装能够确定姿势和集体运动的传感器。由此可见,用AI监测大脑的技术已然实现,并且正在普及中。

现在,AI不仅能监测人的大脑,还能够当人类的领导。Uber就是个例子,在这家科技公司中,人很少直接参与工作流程,与司机的交流基本通过自动化管理系统实现。这些系统的“精明”程度不亚于人类管理者,它们能够分配乘客的请求,反馈司机的表现,甚至可以给予不遵循规定者相应的惩罚。

乍看之下,既能监测人类情绪又能给人类当领导的AI是能够促进人类进步的,但其中却蕴含着技术和伦理方面的风险。

不仅监测大脑还要当领导,这样的AI对人类真的好吗?

AI虽然先进,但世界上没有绝对正确的技术,谁也不能保证AI在扫描和监测人类大脑的过程中不出错。如果系统出现错误,应该如何解决?责任应该由谁承担?这些问题尚无明确的答案。

从人性和伦理角度来说,就算是出于善意去监控人类的大脑和情绪,但人性不可试探。如果人们知道自己的思想被AI窥探,大家也许会在工作方面更加积极主动。但思想状态上很可能为了自我保护而变得消极,最终可能导致人类的思考能力退化。

而对于AI当领导的事实,美国宾夕法尼亚州立大学的研究结果显示,尽管Uber的AI能够执行管理者的职能,但司机们却认为面对AI上司,他们不能提出新想法,也不能抱怨,而这些方面人类领导会做得更好。

另外,AI上司做出的决定多是针对用户而非司机,这使实际情况更为复杂。许多Uber司机表示,吸引他们加入这个平台的是它所提供的自主性。而AI上司则加大了控制权,这使得司机们感到不自在。

不仅监测大脑还要当领导,这样的AI对人类真的好吗?

由此可见,AI技术是把“双刃剑”,使用恰当对人类自然有好处,而一旦使用过度涉及伦理问题,就很可能产生不好的影响,甚至阻碍人类的进步。

正在读取...
个人简介
科技、商业、互联网领域的观察者
每日关注 更多
赞助商广告