如果这些群体没有被给予适当的考虑的话，这反过来也将影响到AI系统所构建出的预测模型。AI预测模型会被那些能用上这种AI系统的特权群体所上传的健康数据所不断的固化，从而只能有效反馈出富人的“健康状况”，并最终构建出一个会完全排斥“边缘人群”的健康与疾病的整体认知模型。
鉴于目前美国存在的医保财政的乱象，这样的忧患确实是值得人们投入更多关注，就像这样的乱象在过去影响到医疗技术的整合一样，它也必然会在未来影响到AI医疗系统的布置和效用，
基于这样的考虑，人们在推动AI医疗系统不断发展的同时，也在不断努力地去降低AI医疗系统造价，而这也将促使那些利益相关者(比如政客、保险公司、健康机构、制药企业、雇主和其他人)把他们的注码，寄托于大规模的健康数据收集和AI系统的研制上，以此来帮助他们更好地维护他们在模型研发和医保护理上的经济利益。
然而，将这些信息技术和AI系统整合到医院和其它医疗健康体系所需要的关键培训、资源和那些正在进行当中的必要维护，并不总是能够得到支持，或者说并不总是能处于“不差钱”的状况。而这种情况其实已经导致了技术资源和技术能力的分配不均。
训练AI所需的数据收集和病患观察将如何影响到个人隐私?
AI系统对数据量的极度依赖和对病例观察的需求也自然而然地催生出了对病人隐私、秘密和安全保护等等急迫的问题。
目前，对AI医疗系统高性能期许的实现依赖于通过各式各样的设备、平台和互联网来源源不断地获取到海量的病患数据，而这一过程也不可避免地会涉及到某些人或机构会在利益的驱使下，做出出格的监视行为。、
与此同时，像同态加密(Homomorphic encryption)、差分隐私(differential privacy)和随机隐私(stochastic privacy)这样的技术带给了我们应对这些乱象现象的新的希望，它们可以让AI系统实现在不“查阅”数据的情况下，直接地去“调用”它们。虽然就目前来说，这些新技术仍处于研发的初步阶段，连一个通用应用程序都还没有被开发出来，但它展现出能令人鼓舞的应用前景。
除此之外，随着近期美国政府对循证医学(Evidence ?based medicine)的推广和《平价医保法案》(Affordable Care Act)已由原先的按服务收费转变至按治疗行为收费的这一变化，监管行为背后所涉及到的经济利益问题和对敏感健康数据消费的问题，都在不断地加剧恶化当中。
至于那些保险公司，在AI系统入局的情况下，其所需面对的对验证交叉补贴方案合理性的呼声的压力也在与日俱增。
举个例子，尽管美国政府在2008年就颁布了《基因资讯平等法》(Genetic Information Nondiscrimination Act)，但出于对保险分层管理的需求，保险公司对能获取到遗传危险率信息的兴趣也在日益增长。事实上，差别定价目前已经成为了数据分析供应商的一项业内通用做法，而这反过来也进一步地巩固和加剧了目前的不平等现象。
此外，“智能设备”和其它能让AI系统获取到所需数据的联网传感器也已让追踪和监视变得无处不在，而这也将目前的那些隐私保护政策的覆盖范围不断地拓宽，像《医疗健康可携性和责任法案》(Health Insurance Portability and Accountability Act)就是在这一考虑下的产物。
随着AI系统被越来越多地融入到健康和电子消费产品上，病人因细分数据而被重新定义，或是由代理数据来预测出他们的身份、所患疾病和其它健康信息的风险，正不断地升高。
除此之外，那些驱动这些数据收集设备的软件也常常是为私人所持有，而不是开源的(不受外部审查审计的约束)。虽然，美国政府最近签署的法令对《数字千禧年著作权法案》(Digital Millennium Copyright Act)中的相关条例进行了免除，让审查外部医疗设施的代码成为可能，但更为重要的或许是审查那些内部医疗设施，然而这种行为并未被这一豁免权所囊括到。
总的来说，相关业内专家们都已经对在物联网设备上，布置联网技术所潜在的重大安全隐患做过警告了，在这些警告中，有很多就是专门针对医疗设备安全问题的。
AI将如何影响患者和医疗保险供应商?
那些已被实现或是有望被实现的AI技术，对健康护理系统的构建有着深远的意义，对需要照顾的病患，或是那些虚弱体质的人也意义非凡。