小米科技|开发持续监控系统性能的机制,是确保AI产品的安全性的保障

小米科技|开发持续监控系统性能的机制,是确保AI产品的安全性的保障

文章图片

小米科技|开发持续监控系统性能的机制,是确保AI产品的安全性的保障

文章图片

小米科技|开发持续监控系统性能的机制,是确保AI产品的安全性的保障

文章图片


使用本地组织的数据和患者重新训练ML算法并验证AI应用程序 , 在训练和验证期间没有包含足够有意义和代表性的数据是ML中的一个常见问题 。 卫生组织需要了解此类限制 , 并在部署ML模型时提供充分、平衡、多样化和具有代表性的人口数据 , 以重新训练和验证ML模型 。 决策者需要意识到 , 大多数人工智能技术都不是“开箱即用”的产品 , 您可以简单地将其插入数字系统中使其工作 。

小规模的现场试点测试是验证任何AI应用程序的好方法 。 确定安全使用AI技术的背景和协议确保患者的安全、隐私和福祉需要进行危害分析 , 评估潜在假阳性和假阴性的后果 , 并制定危害预防协议 。 对于可能导致严重后果的关键临床过程 , 需要双重安全机制 。 在这种情况下 , 医生是打电话的人 , 使用数据生成的见解作为参考 。 此外 , 对于任何要部署的人工智能产品 , 都需要进行现场试点实施和验证 。

最后 , 重要的是收集现实世界的证据并开发一种机制来持续监控系统性能 , 从而持续确保部署的AI产品的安全性和有效性 。 在所有这些过程中 , 制定政策和协议以确保人工智能使用的隐私、安全和道德非常重要 。 然而 , 我们必须在患者隐私和数据共享之间 , 以及监管和创新之间保持平衡 。 人工智能专业人员需要处理大量真实的患者数据 , 以确保ML模型的准确性和安全性 , 因此患者需要知道 , 只有更自由地共享数据 , AI才能进步 , 而这可以通过安全的环境 。
【小米科技|开发持续监控系统性能的机制,是确保AI产品的安全性的保障】
与此同时 , 卫生组织需要确保他们的人工智能方法合法、合乎道德和稳健 , 对他们对患者数据的处理表现出完全透明 。 建立绩效标准来衡量人工智能的成功评估人工智能方法需要时间 , 但它将使卫生组织能够发现问题并在为时已晚之前解决问题 。 在实施之前 , 必须定义绩效评估指标 , 然后在开发和实施的不同阶段(例如 , 试点测试、规模实施和验证)相应地衡量人工智能的成功 。

此类绩效指标应反映贵组织的价值观、优先事项和愿景 。 有很多方法可以评估人工智能技术 。 一般来说 , 评估中要考虑的事项应包括提高临床有效性(质量、效率和安全性)、扩大对患者的访问和扩大服务、改善患者体验和结果、优化操作流程、提高员工对工作环境的满意度 , 以及降低成本 , 增加收入 。

医疗管理论坛开发全国人工智能驱动的数字医疗生态系统鉴于开发提高医疗保健有效性、可及性和可负担性所需的各种类型的人工智能技术所涉及的高复杂性和成本 , 每个国家都需要制定国家人工智能战略 , 以建立一个全国性的人工智能驱动的数字医疗生态系统 , 使医疗机构和患者都受益 。

目前 , 大部分资金用于开发基于电子健康记录数据的机器学习 , 主要是为了卫生专业人员的利益 。 由于只有通过卫生专业人员和患者的共同努力才能实现全面健康 , 因此患者需要具有人工智能驱动的工具来自我监测和自我管理慢性病 。

相关经验推荐