欧洲人工智能监管：保持人工智能人性化的尝试

• 作者：
• 作者姓名

  量子运行远见
• 2022 年 6 月 13 日

洞察总结

欧盟委员会 (EC) 正在大力制定人工智能 (AI) 道德标准，重点关注防止监控和消费者数据等领域的滥用。 此举引发了科技行业的争论，并可能导致与美国采取统一方针，以扩大全球影响力。 然而，这些法规也可能产生意想不到的后果，例如限制市场竞争并影响科技行业的就业机会。

欧洲人工智能监管背景

欧盟委员会一直积极致力于制定保护数据隐私和在线权利的政策。 最近，这一焦点已扩展到包括人工智能技术的道德使用。 欧盟委员会担心人工智能在从消费者数据收集到监控等各个领域可能被滥用。 通过这样做，委员会的目标是制定人工智能道德标准，不仅在欧盟内部，而且有可能成为世界其他地区的典范。

2021 年 XNUMX 月，欧盟委员会迈出了重要一步，发布了一套旨在监控人工智能应用的规则。 这些规则旨在防止政府或组织利用人工智能进行监视、延续偏见或镇压行动。 具体来说，这些法规禁止可能对个人身体或心理造成伤害的人工智能系统。 例如，通过隐藏信息操纵人们行为的人工智能系统是不允许的，利用人们身体或精神弱点的系统也是不允许的。

除此之外，欧盟委员会还针对其认为的“高风险”人工智能系统制定了更严格的政策。 这些人工智能应用程序用于对公共安全和福祉有重大影响的领域，例如医疗设备、安全设备和执法工具。 该政策概述了更严格的审核要求、审批流程以及部署这些系统后的持续监控。 生物识别、关键基础设施和教育等行业也属于这一范畴。 不遵守这些规定的公司可能会面临高达 32 万美元或全球年收入 6% 的巨额罚款。

破坏性影响

科技行业对欧盟的人工智能监管框架表示担忧，认为此类规则可能会阻碍技术进步。 批评人士指出，框架中对“高风险”人工智能系统的定义并不明确。 例如，使用人工智能进行社交媒体算法或定向广告的大型科技公司并不被归类为“高风险”，尽管这些应用程序与错误信息和两极分化等各种社会问题有关。 欧盟委员会对此反驳称，每个欧盟国家的国家监管机构将对高风险申请的构成拥有最终决定权，但这种做法可能会导致成员国之间的不一致。

欧盟 (EU) 并非孤立行动； 它旨在与美国合作建立人工智能道德的全球标准。 美国参议院于 2021 年 XNUMX 月发布的《战略竞争法案》还呼吁开展国际合作，对抗“数字威权主义”，这暗指中国利用生物识别技术进行大规模监控等做法。 这种跨大西洋伙伴关系可以为全球人工智能道德定下基调，但它也引发了如何在全球范围内执行此类标准的问题。 对数据隐私和个人权利持不同看法的国家（例如中国和俄罗斯）是否会遵守这些准则，或者这是否会造成人工智能道德的支离破碎？

如果这些法规在 2020 年代中后期成为法律，可能会对欧盟的科技行业和劳动力产生连锁反应。 在欧盟运营的公司可能会选择在全球范围内应用这些监管变化，使其整个运营符合新标准。 然而，一些组织可能会发现这些法规过于繁重，并选择完全退出欧盟市场。 这两种情况都会对欧盟科技行业的就业产生影响。 例如，公司的大规模退出可能会导致失业，而全球与欧盟标准的一致可能会使欧盟的技术角色更加专业化，并可能更有价值。

对欧洲加强人工智能监管的影响

欧盟越来越希望监管人工智能，其更广泛的影响可能包括：

• 欧盟和美国为人工智能公司达成了相互认证协议，从而形成了一套统一的道德标准，公司无论身在何处都必须遵守。
• 私营公司和公共部门之间加强合作以确保遵守新法规，推动了人工智能审计专业领域的发展。
• 发展中国家的国家和企业可以获得符合西方国家制定的人工智能道德标准的数字服务，从而有可能提高这些服务的质量和安全性。
• 商业模式的转变，优先考虑道德人工智能实践，吸引了越来越关注数据隐私和道德技术使用的消费者。
• 政府更有信心在医疗保健和交通等公共服务中采用人工智能，因为他们知道这些技术符合严格的道德标准。
• 增加对以道德人工智能为重点的教育项目的投资，培养精通人工智能能力和道德考虑的新一代技术人员。
• 由于监管合规成本高昂，小型科技初创企业面临进入壁垒，可能会抑制竞争并导致市场整合。

需要考虑的问题

• 您是否认为政府应该规范人工智能技术及其部署方式？
• 科技行业内加强监管会如何影响该行业公司的运营方式？