医疗保健领域中，如何平衡人工智能的利益与安全和隐私风险

基于风险的方法建议提供商在高风险领域投入更多精力，而在低风险领域投入较少精力。同时，企业的内部审计和合规投资应与面临的关键风险保持一致，以最大化风险回报。

五大风险领域

医疗保健组织面临着五个最高的风险领域，内部审计和合规领导人在规划2024年时应对这些领域进行评估，并确保将其纳入考虑范围内。

• AI和新技术
• 竞争
• 网络安全和数据隐私
• 财务业绩
• 劳动力

风险领域是指可能妨碍医疗保健组织在关键领域达成目标的能力。这些领域包括患者护理、合规、运营、战略增长和财务业绩。

各个风险领域都严重破坏了医疗保健提供商组织的核心能力。而且，这些风险领域的影响可能会扩散到整个企业，进一步加大其他领域的风险。

AI在医疗保健领域的影响越来越大

基于GenAI模型的AI工具有望为医疗机构带来重大好处。这些工具可以改善医疗实践和卫生系统的效率，并提供更好的医疗服务。

尽管智能技术在医疗行业已经使用多年，但随着不断开发新的应用案例，AI和其他工具在整个行业中越来越受到接受。医疗保健提供者可以通过自动化各个流程的不同方面，实现更快、更准确的诊断和治疗决策，提高效率，改善结果，并增强患者的消费者体验，比如预约安排。

为了释放这些好处，医疗保健提供商组织需要采取措施来缓解一系列风险。首先，他们需要确保存储和保护大量的受保护健康信息的数据。这意味着他们需要建立安全的存储系统，采用加密技术来保护数据的机密性。此外，他们还需要制定严格的访问控制策略，确保只有授权人员能够访问这些敏感信息。 其次，保护AI模型的训练数据免受恶意行为者的影响也是至关重要的。为了防止不良数据的引入，医疗保健提供商组织需要实施有效的数据验证和筛选机制。这包括对数据来源的审查，确保数据的准确性和可靠性。此外，他们还需要监控数据的使用情况，及时

AI工具的好处

除了AI和新技术的众多好处外，医疗保健组织还需要认识到一些安全和隐私风险。随着企业获取和存储更多的健康信息和敏感患者数据，这些组织成为更有价值的目标，相关数据泄露的风险也会增加。

在衡量AI工具对财务业绩整体影响的成本时，我们必须权衡其效率与实施AI以及培训员工正确使用这些工具的成本。

只有当组织能够解决招聘具有管理这些工具及其随之而来的风险的正确技能的员工并培训员工使用这些工具的员工挑战时，AI工具的好处才能实现。AI自动化还可能增加人员流失率，因为没有使用这些工具所需技能的员工会离开组织，从而增加法律、声誉和文化风险。

根据每个医疗机构目前的能力、市场的特点和其他因素，我们确定的最大风险会以不同的方式影响到每个医疗机构。作为医疗保健领导者，你必须评估这些风险对组织的影响，然后制定内部审计和合规计划，将有限的资源分配给组织最具影响力的风险领域。