9月17日消息,据外电报道,甲骨文创始人拉里·埃里森在甲骨文财务分析师会议上表示,他预计人工智能有一天将为大规模执法监控网络提供动力。“我们将进行监督。”他说。“每一位警察都将随时受到监督,如果有问题,人工智能会报告该问题并向相关人员报告。公民将保持良好的行为举止,因为我们会不断记录和报告发生的一切。”
埃里森认为,人工智能驱动的持续监控可以大大减少犯罪。但证据并不一定支持他的说法。
《华盛顿邮报》指出,美国警方的数据在历史上存在偏见,将其输入人工智能模型可能会导致其认为这些地区存在更多的犯罪活动,从而形成种族和社会经济偏见的反馈循环。
2019 年,洛杉矶警察局暂停了其犯罪预测项目,因为一项审计显示该项目导致黑人和拉丁裔受到更多监视。
虽然埃里森试图从正面描绘他对普遍公共监控的预测,但他的言论提出了有关隐私、公民自由以及在无处不在的人工智能监控世界中滥用的可能性等重大问题。
埃里森的构想与乔治-奥威尔先知先觉的小说《1984》中所描绘的警世世界颇有几分相似。在奥威尔的小说中,大洋洲的极权政府利用无处不在的 "电视屏幕 "对公民进行无时无刻的监控,创造了一个隐私不复存在、独立思考几乎不可能的社会。
但是,奥威尔的名言 "老大哥在看着你 "在埃里森的技术驱动场景中将被赋予新的含义,人工智能系统,而不是人类监视者,将成为时刻警惕的权威之眼。自动化系统一度被认为是科幻小说中的特例,但现在已经成为现实。