维护人工智能在医疗保健中的伦理:三种最佳实践

这篇文章是基于医疗分析峰会(有20虚拟)的报告汤姆Lawry，微软人工智能、健康与生命科学国家主任，题为“人工智能在健康中的伦理:创造惠及每个人的价值”。

人工智能人工智能(AI)已经渗透到许多行业，医疗行业也不甘落后。然而，尽管人工智能在医疗保健领域有巨大的潜力，但分析领导者必须做出某些考虑，以确保人工智能仍然符合伦理，并惠及所有患者群体。

人工智能擅长处理涉及模式、识别和相关性的任务。然而，有一个人的因素是任何分析应用程序都无法复制的——人的技能，比如推理、想象和同理心。虽然人工智能可以提高保健服务在美国，医疗保健仍然需要人类监督，以确保为最多的人带来最大的好处。分析型领导者可以通过首先理解AI中的伦理原则，并采用最佳实践来支持这些原则，从而最好地利用AI。

三个原则驱动的人工智能医疗伦理最佳实践

负责任的分析管理将决定人工智能如何影响医疗生态系统。分析领导者可以通过实施支持以下原则的最佳实践来确保他们的AI是公平和道德的:

• 在不破坏人们尊严的前提下最大化效率。
• 防范偏见。
• 要有责任，这样人类才能消除意外伤害。
• 是透明的。
• 确保智能隐私。
• 帮助人类。

三个最佳实践帮助医疗AI用户满足上述医疗AI伦理原则:

#1:建立责任和责任

与互联网的早期相似，医疗行业的人工智能之旅才刚刚开始。互联网最初没有隐私法、律师或管理机构来管理和执行它的使用。直到互联网成为主流，专家和政策才出现。

同样，人工智能的影响轨迹已经超越了立法者和监管机构，使得伦理原则的应用在行业赶上来的时候变得更加关键。在没有人工智能指导方针和监管监督的情况下行医可能会对患者或卫生系统造成意外伤害。相同的联邦法律限制医疗信息的发布需要适用于人工智能和支持它的数据。此外，医疗人工智能用户应该考虑隐私法没有涵盖但人工智能经常引用的方面，如基因检测。

2 .理解ai驱动系统的局限性和准确性

虽然人工智能的使用旨在减轻医护人员的工作量和改善患者护理，但如果工作人员不完全了解其局限性或准确性，它可能会导致不公平或伤害。特别是，医疗保健人工智能用户需要知道何时将相关性从因果关系中分离出来，并认识到差异何时可能影响算法的输出。

例如，当医疗系统使用普通AI时算法为了预测哪些病人可能需要后续治疗，该研究发现，82%的病人是白人，而黑人只有18%。该算法假设更高的医疗支出与更糟糕的健康状况相关。而且，由于美国白人似乎比黑人在医疗保健上花费更多，即使在同等情况下，该算法也将白人归为“病得更重”。在调整了算法，将财政支出作为相关值后，比率调整为53%的白人和43%的黑人。

在这个例子中，算法的开发人员已经修复了它，组织已经在数百万患者中使用了它的预测输出。然而，它的初始设计显示了差异是如何无意识地进入人工智能的。因此，有道德的人工智能需要一定程度的人类推理和理解，以确保有利于全人类的公平结果。

3 .建立对人工智能建议的透明度和理解

如果医护人员看不清病因预测能力在美国，撤销人工智能推荐的能力变得越来越具有挑战性。系统如何计算推荐的透明度允许为了所有人的利益对算法进行调整。

此外，医疗人工智能用户应该总是考虑到偏见的来源。例如，人工智能的数据通常只关注患者的数据。然而，由于缺乏来自服务不足人口的数据，结果可能会出现偏差。而且，持续学习的人工智能系统——那些随着数据的输入而变得更智能、更精细的系统——可能需要定期进行主观的人类评估，以确保它们的输出仍能提供预期的临床结果。

确保通向现在和未来人工智能的道德之路

随着人工智能使用的增加，它将在一定程度上影响到所有医护人员和患者。通过了解算法的计算方式、支持算法的数据以及结果对患者护理的意义，医疗专业人员可以负责任地与AI合作。在法规和保障措施到位之前，医疗专业人员有责任确保人工智能为所有人提供公平、负责、透明和道德的结果。通过遵循这些原则驱动的最佳实践，确保对人工智能驱动系统的理解和透明度，将有助于提高质量和增强护理提供。

更多的阅读

你想了解更多关于这个话题吗?以下是我们建议的一些文章:

1. 人工智能辅助决策:医疗保健的下一个前沿
2. 人工智能在医疗保健领域:更快找到正确答案
3. 医疗保健中的人工智能:一个变革管理问题
4. 人工智能如何克服医疗数据安全挑战并提高患者信任
5. 机器学习工具解锁非结构化健康数据中最关键的见解

---

幻灯片

你想使用或分享这些概念吗?下载突出重点的演示文稿。

按此下载幻灯片

维护人工智能在医疗保健中的伦理:三种最佳实践从世界杯葡萄牙vs加纳即时走地