科学探索|最危险的新兴技术是什么？最危险的新兴技术是什么？|

北京时间3月3日，据国外媒体报道，在喜欢以末日思维思考的人看来，技术必将给文明带来灾难。诚然，我们也许永远看不到通过CRISPR基因编辑技术出生的婴儿、失去控制的自动驾驶汽车、或者想杀害人类的人工智能。

文章图片

资料图
但随着技术加速进步，万一这一天真的到来，事态可能远超我们的想象。但与此同时，有一个问题值得思考：最危险的新兴技术是什么？让我们看看专家们对此怎么说吧。
泽菲尔·蒂乔特（福特汉姆大学法学副教授）
办公室监控。这种技术会造成严重的信息不对称，让雇主可以像对待实验室小白鼠一样监视自己的员工，使本就恶劣的上下级关系进一步恶化。雇主们深知如何以不健康的方式刺激员工工作，也知道如何用更少的工资榨取更多的价值。这让他们可以排除异己，还能通过区别对待离间员工。这种技术如今在职场中已经随处可见，假如不加以制止，很快就会泛滥成灾。
迈克尔·利特曼（布朗大学计算机科学教授）
在2021 AI100报告中，有一章描述了人工智能当前对我们最紧迫的威胁有哪些。这支包含17人的专家团队认为，虽然人工智能系统在现实世界中的应用可以造福人类，但随着其应用范围的扩大，误用、过度使用、以及滥用的风险也将激增。
【科学探索|最危险的新兴技术是什么？】专家团队对人工智能最大的担忧在于所谓的“技术解决主义”，即“认为像人工智能这样的技术可以用来解决任何问题”的心态。许多人都认为，人工智能所做的决策客观中立、不偏不倚，但这些决策结果可能得到不恰当的应用，也可能基于历史偏见、甚至明晃晃的歧视。如果数据或数据解读算法不够透明，公众就可能被蒙在鼓里，根本不清楚这些决策会对自己的生活造成怎样的影响。
人工智能系统目前已经被用来在网上发布虚假信息了，因此很可能对民主造成威胁，被用作散播法西斯主义的工具。另外，如果对人工智能中的人为因素考虑不够充分，就会导致人们在“不信任人工智能系统”和“过度依赖这些系统”之间来回摇摆。人工智能算法也在涉及器官分配、疫苗等医疗问题的决策制定中起到了一定作用，很可能导致生死攸关的后果。
如果在出现问题时，对系统效果负责的个人或组织可以负起主要责任，人工智能的危险性或许能得到缓解。将所有利益相关方牵涉进来，虽然会大大减慢人工智能解决困难问题的速度，但却是不可或缺的一步，因为技术滥用的负面后果实在过于严重。技术专家也应当像医疗行业一样，坚决遵守“不伤害”原则。
戴维·沙姆韦·琼斯（哈佛大学流行病学教授）
至于谁能担得起“最危险的新兴技术”这一头衔，候选人显然有很多。例如，CRISPR等基因编辑技术的效果不一定有支持者们宣称的那样强大，反而有可能造成严重破坏。此外，社交媒体也展现出了造成大范围伤害的威力。但最令我担心的，还是人脸识别技术在监控领域的大规模应用。从很多方面来说，这项技术都是一项重要的社会资产。例如，人脸识别可以提高交易效率，登机时无需出示身份证或登机牌，在商店买东西时也可以直接刷脸付账。人脸识别也可以加强社会治安，更容易找到和逮捕犯罪分子。
所以这种技术危险在哪里呢？首先，我们的一举一动都将不再隐私，总有人能知道我们在哪、我们去过哪里。就算这些个人信息没有被滥用，隐私感和匿名感的丧失也会让人感觉不适。此外还有信息滥用问题，并且这种风险是真实存在的。任何有途径拿到这些信息的人都有可能将其用于不法目的。从心理扭曲的追求者到政府部门，都有可能对我们去的地方和见的人进行监视，甚至预测我们的下一步行动。并且我还怀疑，这种技术的危害也许远超我们的想象。