在最近于梵蒂冈城举行的“数字时代科技公益大会”上，教皇敦促Facebook高管、风险投资人和政府监管机构警惕人工智能和其他技术的影响。他说：“如果人类所谓的技术进步成为共同利益的敌人，这将导致一种不幸的回归，人类将回到一种由最强者法则支配的野蛮状态。”
今年夏天，JoyBuolamwini与民主党众议员AlexandriaOcasio-Cortez一起在国会作证，多次审计发现面部识别技术对白人男性效果最好，对有色人种女性效果最差。
这两个事件的共同点是它们都讨论了AI伦理中的权力动态的关系。
关于人工智能伦理的争论可以在不提及“权力”一词的情况下展开，但“权力”往往隐藏在议题之下。事实上，它很少是直接的焦点，但它必须是。人工智能中的权力就像地心引力一样，有一种无形的力量，它影响着人工智能中所有对伦理的思考。
权力影响了那些用例相关的方法、需要优先考虑的问题，以及工具、产品和服务的服务对象。
它是关于公司和国家如何制定政策管理技术使用的辩论的基础。
它存在于有关民主化、公平和负责任的人工智能的对话中——谷歌CEO桑达尔·皮查伊将人工智能研究人员请进了他的办公室；顶级机器学习实践者被视为现代哲学家之王；埃隆·马斯克等人讲述着人工智能技术可能在未来几十年对人类造成的恐怖影响……
消费者或许会觉得数据保护毫无希望，或者工程师知道某些事情在道德上有问题，但却找不到追索权。
一般来说，初创公司可能会把道德标准当作一个不错的附加条件，但不是必须具备的。想要第一个进入市场，并在最后期限前完成产品发布的工程师可能会嘲笑把宝贵的时间放在考虑道德规范上的想法。首席执行官和政客们可能只会嘴上说道德，但最终只会发出同情的信号，或进行道德清洗。
人工智能被称为21世纪最大的人权挑战之一。这不仅仅是做正确的事情或尽可能制造最好的人工智能系统，这是关于谁掌握权力以及人工智能如何影响它所涉及的一切力量的平衡。
这些权力动态将定义商业、社会、政府、世界各地个人的生活、隐私的未来，甚至我们未来的权利。几乎每个人工智能产品经理都喜欢说，事情才刚刚开始，但在人工智能时代，如果不能解决不平衡的权力动态，可能会产生危险的后果。
劳动力市场和新镀金时代
深度学习、云计算、像GPU这样的处理器，以及更快地训练神经网络所需的计算能力——这些技术已经成为大型科技公司的基石——推动了今天的复兴。
第四次工业革命与历史性的收入不平等和新镀金时代同时到来。就像19世纪铁路大亨利用农民急于将作物推向市场的心态一样，拥有专有数据集的科技公司利用人工智能进一步巩固自己的市场地位和垄断地位。
当数据比石油更有价值时，拥有有价值数据的公司则具有巨大优势，最有可能巩固财富或行业领导者的地位。这当然适用于像苹果、Facebook、谷歌、IBM和微软这样的大牌公司，但也适用于传统企业。
与此同时，科技巨头并购速度加快，并进一步巩固实力，进而巩固了其他趋势，因为研发几乎完全属于大型企业。
根据斯坦福大学人类中心人工智能研究所（HAI）最近的一份报告，人工智能的不断增长可能会导致社会的巨大失衡。
“人工智能的潜在金融优势非常大，和AI贫富之间的鸿沟太深了，就我们所知，全球经济平衡可以通过一系列灾难性的构造发生变化,”HAI的一个提案呼吁美国政府在未来10年投资亿美元在教育、研究和创业领域。
该提案的共同作者是前谷歌云首席人工智能科学家李飞飞博士。她说：“如果指导得当，人工智能时代可能会为所有人带来一个繁荣的时代。”
普华永道估计，到年，人工智能将为全球经济贡献15.7万亿美元。然而，如果我们不负责任地利用它，将导致财富和权力更集中在少数迎接这个新时代的精英人士身上，而全球大多数人将陷入贫困，丧失使命感。”
麻省理工学院（MIT）数字经济项目（InitiativeontheDigitalEconomy）主任ErikBrynjolfsson研究了人工智能对未来工作的影响，Brynjolfsson在谈到未来几年可能被取代的适合机器学习的工作数量时表示：“如果你从整体经济的角度看，就会发现一个潮流即将到来。机器智能可以用来重新设计和增加工作场所的任务，但它最常被用来取代工作。”
布鲁金斯学会（BrookingsInstitution）的分析以及卡耐基梅隆大学的Brynjolfsson和TomMitchell的研究显示，自动化对失业的影响预计会因城市和州而异，此外就业不稳定或失业预计将对低收入家庭和有色人种造成不成比例的影响。麦肯锡最近的一份报告称，自动化将导致非洲裔美国男性的失业人数最多。
此前，美国的收入中位数自年以来一直停滞不前。Brynjolfsson将中位数收入增长与生产率增长的关系称为“大脱钩”。
他说：“在20世纪的大部分时间里，这些角色是相互关联的——更多的生产、更多的财富、更高的生产率——与普通人的富裕程度密切相关，但最近这些角色出现了分歧。蛋糕越来越大，我们创造了更多的财富，但这些财富聚集在少数人手中。
Brynjolfsson认为，人工智能社区的挑战已经使美国国防部高级研究计划局（DARPA）的自动驾驶汽车挑战赛（autonomousvehiclechallenge）和计算机视觉的ImageNet等最先进的人工智能领域实现了飞跃，但企业和人工智能社区应该开始将注意力转向共享繁荣。
“很多人可能会被甩在后面，事实上，很多人已经被甩了。这就是为什么我认为现在最紧迫的挑战不仅仅是更好的技术，尽管我完全支持，而是创造共同繁荣。”
科技巨头和权力之路
随着人工智能的普及，另一个主要的趋势是，在美国历史上第一次，大部分的劳动力是有色人种。根据美国人口普查局的预测，到年，美国大多数城市，乃至整个国家，将不再拥有占人口多数的种族。
这些人口结构的变化使得人工智能公司内部缺乏多样性的问题更加突出。至关重要的是，在决策系统的创建中缺乏种族和性别多样性——AINow研究所所长KateCrawford称其为“白人问题”。
图片来源：谷歌多样性报告-技术劳动力代表的性别和种族统计
据《连线》和ElementAI在年的一项分析显示，在大型人工智能会议上发表的研究中，女性只占18%，而Facebook和谷歌的研究人员中，女性只占15%和10%。两家公司的发言人表示，谷歌和Facebook不提供人工智能研究多样性数据。
AINow研究所今年4月发布的一份报告详细描述了“负责技术研究的工程专业人群与部署人工智能系统的极为多样化的人群之间的鲜明文化差异”。该组织将其称为“人工智能问责差距”。
该报告还承认了人工智能系统中隐藏的人力资源，比如Facebook或YouTube内容所需的数万名版主，或者哥伦比亚的Kiwibot司机，他们正在旧金山湾区加州大学伯克利分校附近远程驾驶Kiwibot送货机器人。
图片来源：Facebook多样性数据-按种族划分的Facebook技术劳动力
报告称：“那些开发人工智能并从中获利的企业，与那些最有可能受到其负面影响的企业之间的差距正在拉大，而不是缩小。”报告指出，人工智能行业缺乏政府监管，权力集中在少数几家企业手中。
SafiyaNoble博士和SarahRoberts在今年8月加州大学洛杉矶分校发表的一篇论文中，记录了科技行业缺乏多样性的影响。他们认为，我们现在正在见证“数字技术统治的崛起”，实际上是一个储存资源的权力系统，它可能会根据种族身份、性别或阶级来判断一个人的价值。
“即使在联邦法律下，美国公司也无法‘自我调节’和‘创新’来结束种族歧视。在现代数字技术精英中，精英主义和智力优势的神话被用作种族和性别的象征，不成比例地从有色人种、尤其是非洲裔美国人、拉丁裔和印第安人那里整合资源，”报告写道。“对精英神话的投资压制了对种族主义和歧视的质疑，即使数字精英的产品中充满了种族、阶级和性别标记。”
尽管人们都在谈论如何解决科技行业的多元化问题，但科技行业的很多方面都只取得了渐进式的进展，对拉丁裔或黑人创业者的资助仍然落后于白人创业者。为了解决科技行业在多样性和包容性倡议方面普遍缺乏进展的问题，一对数据与社会研究员建议科技公司和人工智能公司采用种族扫盲。
其中之一，MutaleNkonde，是《算法问责法》的合著者，该法案于今年早些时候在国会两院提出，要求联邦贸易委员会（FTC）对算法偏见进行评估，并允许该机构根据公司规模开出罚单。
她也是人工智能的执行董事，也是哈佛大学伯克曼·克莱因互联网和社会中心研究员。她现在正在评估人工智能和错误信息在年大选中如何被用来针对非洲裔美国人。参议院情报委员会（SenateIntelligence