如何让AI实现信任价值？

将AI风险降至最低的第一步是在管理层以及企业计划部署的AI系统设计者、架构师和开发人员中提高对风险的认识。

然后，企业必须承诺从第一天起就积极地将信任设计到AI系统的各个方面。这种信任应该扩展到AI系统的战略目的、数据收集和管理的完整性、模型训练的治理以及用于监控系统和算法性能的技术的严谨性。

采用一套核心原则来指导与AI相关的设计、决策、投资和未来创新，将有助于企业在这些技术的发展过程中培养必要的自信和自律。

请谨记，无论是企业使用AI的方式还是AI运行后的演进和学习方式，AI都在不断变化。这种持续的创新令人振奋，无疑会产生巨大的新潜能和影响，但传统的治理原则根本不足以应对AI的高风险以及其快速演进的步伐。这些双重挑战需要一种更严谨的方法来管理企业利用AI的方式，以及在当下和未来都能获得最佳结果。

在我们与客户、监管机构和学术界的持续对话中，以及我们开发AI计划早期使用和风险评估的经验中，我们观察到三个核心原则，这些原则有助在建立和保持信任的情况下指导AI创新：

1. 针对性设计：设计和构建系统，将机器人、智能和自主能力的适当平衡进行有针对性的整合，推进明确的业务目标，同时考虑环境、约束、准备和风险。
2. 敏捷治理：追踪社会、监管、声誉和伦理领域的新兴问题，为管理系统完整性、使用、架构和嵌入式组件，数据溯源和管理、模型训练和监控的流程提供信息。
3. 审慎监督：不断微调、管理和监控系统，以实现性能可靠性，识别并纠正偏见，提高透明度和包容性。

为什么这些原则特定于AI？因为每个原则中包含的限定词：针对性、敏捷和审慎。这些特征契合AI的独特性，应对其可能带来的最大挑战。

例如，在以往“只有人类能做到”的领域使用AI正在对传统的设计过程构成挑战。毕竟，AI的意义在于纳入，实际上是模仿人类决策框架，包括关于人类一直应用（和交替使用）的法律、伦理、社会规范和企业价值观的考虑。这些独特的期望要求企业采用针对性更强的设计方法，发挥AI自主性优势，同时降低风险。

同样，随着AI技术和应用的飞速发展，治理必须足够敏捷，才能顺应其不断扩展的功能和潜在影响。最后，虽然所有创新都需要在监控和监督下蓬勃发展，但所涉及的绝对风险，以及AI持续、动态的“学习”性质（这意味着它在实施后会继续变化），企业需要较以往更加审慎。

以这些指导原则为核心，企业可以有针对性地根据一系列条件或标准评估每个AI项目。根据这些条件（超出了评估传统技术所使用的条件）评估每个AI项目，为考量AI更广泛的场景和潜在影响的过程提供了急需的规程。

评估AI风险：

让我们看一下可用于评估AI计划风险敞口的四个条件：

1. 伦理 — AI系统需要遵守伦理和社会规范，包括企业价值观。这包括人类在设计、开发和操作AI时的行为，以及AI作为虚拟代理的行为。与其他任何条件相比，这个条件更是引入了以往非传统技术的主流考虑因素，包括道德行为、尊重、公平、偏见和透明度。
2. 社会责任 — AI系统的潜在社会影响应予以认真考虑，包括它对经济、人类身心健康和自然环境的影响。例如，潜在影响可能包括劳动力短缺、技能再培训、歧视和环境影响。
3. 问责制和“可解释性” — AI系统应该权责分明。此外，AI操作员应该能够解释AI系统的决策框架及其工作原理。这不仅仅是提高了透明度；这关乎展示对AI系统的清晰把握，包括AI将如何使用和解释数据、它将使用数据做出什么决策、它可能如何演变以及它在不同子组中的决策一致性。这不仅有助于遵守法律、法规和社会规范，还指出了基本保障措施方面的潜在差距。
4. 可靠性 — 当然，AI系统应该是可靠的并且按预期执行。这包括测试AI系统的功能和决策框架，以检测意外结果、系统退化或操作转移 — 不仅是在初始训练或建模期间，也贯穿于其持续的“学习”和进化过程。
   

在开始之前花些时间根据这些标准评估拟议的AI计划可以帮助标记潜在的缺陷，进而在潜在风险出现之前加以缓释。