跳转至

受监管行业中的 AI

5,366 字词 · 预计阅读 12 分钟（450 字词/分钟）

11

受监管行业中的 AI

当合规问题攸关成败时，AI 会加剧风险。

对于营销人员和 SEO 从业者而言，在医疗、政府或教育等受监管行业积累经验具有特殊价值。很少有其他行业像这些行业一样受到严格监管、与人们的生活息息相关，并且无处不在。但现实是，任何受监管行业——金融、法律、电信、房地产、酒类、烟草或枪支行业——在创建内容、与客户沟通或制定活动时，都必须考虑额外的规则和法规。

生成式 AI 给这些行业带来了特殊挑战，可能导致受保护信息泄露，或传播错误甚至有害的建议。许多旨在利用 AI 提供帮助的工具，实际上可能损害网站、引发法律问题，并疏远关键客户。

AI 合规：应对 ADA、WCAG 和第 508 条

1990 年，美国国会通过了《美国残疾人法案》（ADA）。简单来说，该法案禁止基于残疾的歧视。许多如今已司空见惯的法规都源自这项法案，例如残障人士停车位，以及电梯或坡道通行设施。该法案促成了联邦第 508 条合规标准的制定，规定联邦信息和通信技术（包括网站）必须让所有人都能完全访问。它也是《网页内容无障碍指南》（WCAG）的前身。WCAG 于 1999 年首次制定，如今已成为打造无障碍网站的黄金标准。

网页无障碍

尽管大多数不受监管的网站至今仍未实现完全无障碍，法律上也不一定要求它们这样做，但许多私人和公共企业仍因违反 ADA、歧视残障人士而遭到诉讼。这一点可能有些难以理解；表 11.1 和表 11.2 将帮助解释相关法规及其适用对象。

如果你是美国联邦承包商或供应商，或者提供使用美国联邦资金的服务，就必须符合联邦标准。这包括大多数健康保险提供商、制药公司、金融机构、公立教育机构和软件公司等。

表 11.1 无障碍合规法规

法规

适用对象

内容

ADA

私营和公共企业

要求网站和数字内容能够被残障人士访问；司法法院将 ADA 解释为适用于网站，将其视为“公共便利场所”。

第 508 条

联邦机构和供应商

规定联邦政府开发、采购、维护或使用的所有电子和信息技术都必须让残障人士能够访问。

WCAG

最佳实践

它不是法律，但却是公认度最高的无障碍技术标准。第 508 条将 WCAG 2.0 AA 纳入其基准。ADA 的执法通常将 WCAG 作为指导标准。

表 11.2 法规及其对企业的适用方式

企业

ADA

第 508 条

WCAG

私营

是

否

否，但用于解决与 ADA 相关的诉讼

公共

是

否

否，但用于解决与 ADA 相关的诉讼

联邦

是

是

是

网页无障碍实践

这在实践中意味着，网站需要完全兼容屏幕阅读器和听写设备；能够通过键盘完成所有操作；设置适当的对比度；此外还有许多要求，远不止大多数网站所有者想到无障碍时所想到的“使用替代文本”。以下是无障碍网站要求的部分清单：

  • ◆ 为所有图像、图标和非文本内容提供替代文本。

  • ◆ 允许通过键盘执行所有功能。

  • ◆ 适当使用语义化 HTML（标题、列表、标签）。

  • ◆ 为动态内容或交互元素提供 ARIA 标签。

  • ◆ 确保文本与背景的最低对比度为 4.5:1。

  • ◆ 为所有预先录制和实时视频提供隐藏式字幕。

  • ◆ 允许将文本放大至 200%，且不破坏布局。

  • ◆ 为所有表单字段提供标签和说明。

  • ◆ 确保所有链接文档（如 PDF）同样具备无障碍性。

遗憾的是，大多数网站在建设时仍未考虑到所有这些因素。当一家公司因违反 ADA 而被起诉，并被要求使其网站符合规定时，才会发现，要对现有网站进行改造以达到合规要求非常困难且耗时。这种情况发生得比你想象的更频繁。

AI 与无障碍

AI 登场了。许多工具最初声称可以创建完全无障碍的覆盖层，使任何网站完全合规。购买这些工具的公司后来才痛苦地发现，这是不可能的。2021 年的一起案件中，一家名为 Eyebobs 的眼镜零售商以为找到了无障碍问题的解决方案。1 他们安装了 AccessiBe 的 AI 覆盖层技术，该技术声称可以利用 AI 让网站完全合规。但这项技术不仅没有奏效，Eyebobs 还在庭外和解，并同意聘请无障碍专家，使其网站完全合规。

1 https://www.wired.com/story/company-tapped-ai-website-landed-court/

2024 年 6 月，有人对 AccessiBe 提起集体诉讼，指控其软件并未像广告宣传的那样确保无障碍合规。该诉讼仍在进行中。

此外，美国联邦贸易委员会（FTC）已责令 AccessiBe 支付 100 万美元罚款，理由是其宣称自身技术能让网站完全合规，构成欺骗性商业行为。2 和解尚未最终确定，但已经向其他可能进入无障碍技术领域的公司发出了明确信号。

2 https://www.ftc.gov/news-events/news/press-releases/2025/01/ftc-order-requires-online-marketer-pay-1-million-deceptive-claims-its-ai-product-could-make-websites

据 UsableNet 统计，2023 年，约 30% 的州级和联邦级诉讼针对使用 AccessiBe 等覆盖层的网站提起。3 然而，WebAIM 对网页无障碍从业者开展的一项调查显示，67% 的受访者认为覆盖层工具“完全无效”或“效果不佳”。4

3 https://info.usablenet.com/2023-year-end-digital-accessibility-lawsuit-report-download-page

4 https://webaim.org/projects/practitionersurvey3/

给管理层的建议：至少聘请一名无障碍专业人员或一家专业机构，监测网站是否存在无障碍问题。这远比应对诉讼便宜得多。一旦你因这些问题被起诉过一次，就会成为后续诉讼的目标。

AI 与无障碍的关系与 AI 的其他应用一样。你可以放心使用 AI 来识别问题、简化解决方案并协助维护。但要确保有人进行监控，并频繁测试。改善无障碍性的 AI 工具（如文字转语音、实时字幕和记笔记）能够大幅节省时间，还能通过自动化让网站比最初更易访问。但在合规方面，目前还没有任何软件值得信赖。

患者隐私与安全

2025 年年中，OpenAI 宣布推出 HealthBench，这是一个专为医疗软件提供商设计的开源基准模型，用于评估 AI 技术的质量。5 其中包含模型与医生或患者之间的 5,000 段对话，可用于测试新的医疗技术。这是此类技术的一项突破，因为在此之前，相关工具依据的是虚构的最佳情境，而非现实世界中的互动。

5 https://openai.com/index/healthbench/

不过，在医疗保健领域使用 AI 的风险极高，仍有很长的路要走。

AI 中的《健康保险流通与责任法案》

《健康保险流通与责任法案》（HIPAA）是美国 1996 年通过的一项法律，规定了处理个人健康信息的标准和要求。它有三项主要要求：

  • ◆ 隐私：必须保护患者的私人健康信息（PHI）。

  • ◆ 安全：必须保障电子健康数据的安全。

  • ◆ 可携带性：患者必须能够更换医生、雇主等，同时完整保留其健康保险和信息。

正如第 6 章“偏见、伦理与法律问题”所述，共享个人身份信息（PII）可能违反多项法律法规，而 PHI 属于 PII 的一部分。在处理 PHI 时，将此类数据输入 AI 系统必须极其谨慎。任何 PHI 脱离其规定用途，都会构成严重的 HIPAA 违规。这意味着，在医疗保健或保险环境中使用 AI 的风险非常高。

即使只是与不完全符合 HIPAA 要求的生成式 AI 聊天机器人进行简短聊天，也可能带来风险。

具体而言，在涉及 PHI（因此受 HIPAA 要求约束）的环境中使用 AI，必须做到：

  • ◆ 未经患者授权，不得暴露 PHI

  • ◆ 在使用或共享前确保完成去标识化处理

  • ◆ 避免无意中泄露患者信息

  • ◆ 使用加密、安全的访问控制和审计日志

  • ◆ 不得不安全地存储 PHI，也不得在没有适当防护措施的情况下传输 PHI

  • ◆ 确保处理 PHI 的开发人员遵守规定

不过，尽管存在这些风险，医学界似乎仍对将 AI 引入医疗应用充满热情，并积极参与其中。声称完全符合 HIPAA 要求的模型已经问世，而 AI 分析大型复杂数据集的能力，也让医学研究人员难以抗拒。例如，寻找治愈癌症的方法，可能就是 AI 能够协助完成的一项任务。

注意

必须区分真正符合 HIPAA 要求与声称符合 HIPAA 要求。与无障碍合规一样，任何人都不应仅凭模型的宣称就信以为真；医疗服务提供者仍对确保符合 HIPAA 要求负有最终责任。

AI 与希波克拉底誓言

大多数人都听说过希波克拉底誓言。这是一套古老的医学伦理准则。尽管原文如今已很少使用，但 2015 年一项针对美国医学机构的调查发现，超过半数的机构使用了某个版本的誓言，88% 的机构纳入了某种形式的伦理声明。6 2017 年针对英国机构开展的一项类似研究发现，超过 70% 的机构使用了某个版本的誓言。7 这些誓言或伦理声明的核心要素都一致：

6 https://pubmed.ncbi.nlm.nih.gov/29960679/

7 https://pubmed.ncbi.nlm.nih.gov/29284529/

  • ◆ 不造成伤害（避免造成不必要的痛苦或损伤）。

  • ◆ 以患者的最大利益为重（将健康和福祉置于经济利益之上）。

  • ◆ 保守秘密（保护患者信息的隐私）。

在患者看来，这些原则似乎理所当然。但面对 AI，医生该如何恪守这些伦理原则？这个问题没有简单的答案。已有多起记录在案或由当事人讲述的案例表明，AI 曾给出极其糟糕的医疗建议。

本书前文已讨论过向 Google 或生成式 AI 寻求医疗建议的风险，但在某些情况下，这类建议甚至可能危及生命。Reddit 上一位用户分享的经历尤其令人不寒而栗（图 11.1）。8

8 https://www.reddit.com/r/ChatGPT/comments/1k997xt/the_new_4o_is_the_most_misaligned_model_ever/

读者不知道那是什么药，ChatGPT 也不知道。它可能只是每天服用的阿司匹林，也可能是至关重要的心脏病药物。人人都知道，未经医生指导擅自停药十分危险，甚至可能致命。但 ChatGPT 却对这一决定表示赞许。OpenAI（ChatGPT 的开发者）为此道歉，并立即回滚了此次更新。9 后来，他们发布了修订版本，解决了这一问题。但谁知道是否还引入了其他尚未被发现的问题。

9 https://www.bbc.com/news/articles/cn4jnwdvg9qo

Images

图 11.1 ChatGPT（OpenAI，2025）在对话中赞同停药

我们认识的一位朋友患了肾结石，曾向 ChatGPT 询问如何缓解症状。ChatGPT 回答：“喝两夸脱尿液。”这绝不是可靠的医疗建议。许多人误以为尿液是无菌的，但实际上尿液中含有大量细菌，喝下去可能对身体造成严重伤害。10

10 https://pubmed.ncbi.nlm.nih.gov/25766599/

归根结底，向生成式 AI 寻求医疗建议是危险的。儿科医生、美国医学会（AMA）数字健康战略副总裁 Margaret Lozovatsky 医学博士在美国医学会网站的一篇文章中对此作了精辟的概括：

Lozovatsky 医生说：“这些生成式 AI 工具会使用网上能找到的所有信息。”然而，“它们未必有办法判断信息是好是坏。它们会搜集关于某个话题能找到的一切，再将其拼凑成一段连贯的陈述。”

她说：“得到一个看起来往往很连贯的答案时，人很容易相信它是准确的。但事实上，我们无法判断生成这个答案的信息来自哪里，因此很难弄清信息究竟是好是坏，来源又是什么。”11

11 https://www.ama-assn.org/practice-management/digital-health/what-doctors-wish-patients-knew-about-using-ai-health-tips

生成图像与深度伪造的伦理问题和风险

第 6 章讨论过深度伪造普遍存在的固有风险，而在受监管行业，这些风险更高。事到如今，谁没被 TikTok 上深度伪造的政府代表视频，或由深度伪造的医生给出的“医疗建议”蒙骗过呢？

AI 生成的图像还带来了另一种特殊问题。人们越来越希望用 AI 制作医学插图，但 AI 缺乏生成准确图像所需的经验和专业知识。它常常凭空添出骨骼，或遗漏整个解剖结构。Animatic Media 分享的一个案例讲述了某制药公司为新的糖尿病治疗方案配图的经历：12

12 https://www.animaticmedia.com/pharma-ai-art

最近，一家大型制药公司需要用图像展示一套新的糖尿病治疗方案，其艺术总监 Sarah Chen 便求助于 Midjourney。经过六个小时的提示词调整和无数次重新生成，使用者仍无法让连续五幅画面保持一致……

“起初，我们得到的第一幅画面看起来堪称完美，”Chen 解释道，“但到了第五幅，一切都变了：患者的外貌、医疗器械的位置，甚至背景光线都不一样了。原本四小时就能完成的工作，逐渐演变成一场危机。”

Chen 的经历并非个例。我们的调查发现，73% 的 AI 生成医学图像需要修正解剖结构，而 92% 因细微的不准确之处未能通过首次医学审核。这不只是美观问题，还可能埋下合规隐患。

这篇文章中的统计数字来自个案，但《临床医学杂志》2025 年 3 月发表的一项研究得出了类似结果。13 研究人员使用四款生成式 AI 图像工具生成了 736 幅图像，发现全部图像“在呈现关键解剖细节方面都存在重大缺陷”。

13 https://pmc.ncbi.nlm.nih.gov/articles/PMC11989924/

最大的问题是，如果医务人员或患者对图像所描绘的身体部位缺乏深入了解，就可能忽略其中的细小错误。这些错误轻则让发布错误图像的一方陷入尴尬，重则导致严重的医疗疏漏或差错。

我们的建议是避免使用生成式 AI 制作医学图像，并聘请合格的医学插画师。

大多数使用生成式 AI 的公司都报告称，与请专业人士完成作品相比，使用 AI 生成图像耗时更长、成本更高。不过，如果你决定使用生成式 AI 图像，仍有几项准则需要遵循：

  • ◆ 所有 AI 生成的医学图像都应由持证专业人士审核。

  • ◆ 在患者教育或研究场景中，标明插图由 AI 生成。

  • ◆ 使用多样化的训练数据集并测试输出结果，确保其不表现出偏见。

  • ◆ 避免使用 PHI；确保模型符合 HIPAA 要求。

  • ◆ 添加描述性替代文本，以符合无障碍要求。

FTC 关于政府使用 AI 的规则与伦理

政府雇员不仅受 FTC 广告真实性规则的约束，还必须遵守严格的伦理法规，这些法规禁止其以官方身份为私人实体背书。AI 增添了复杂性，因为它可能生成听起来像是在背书的文字或图像，即使这并非本意。此外，如果内容由 AI 创作或在 AI 协助下完成，机构可能要求披露相关情况，以保持透明度，避免误导公众。

2024 年 2 月，费城警长 Rochelle Bilal 陷入麻烦：她的竞选团队不得不公开道歉，因为一名使用生成式 AI 的顾问在其竞选网站上发布了 30 多篇虚假新闻报道。14 尽管目前还没有针对市政竞选活动的联邦标准，但如果同样的错误发生在联邦层面，因误导公众可能会被处以巨额罚款。

14 https://apnews.com/article/fake-news-philadelphia-sheriff-website-ai-headlines-7bace99ffe0f11d8e8b17862c7b55e4e

FTC 与联邦伦理

适用于所有通信活动的 FTC 广告法规是一项需要考虑的因素，但还有专门适用于公职人员的联邦伦理规则。表 11.3 展示了这些要求如何相互交织，以及 AI 可能在其中各环节发挥怎样的作用。

表 11.3 FTC、联邦伦理与 AI 合规

原则

FTC 广告原则

其他联邦伦理规则

AI 合规问题

真实性

代言、证言和广告必须真实。

通信内容必须保持中立并基于事实。

可能生成夸大的主张或宣传性语言。

披露

对于赞助内容或宣传内容，必须进行清晰、醒目的披露。

无其他规则。

可能遗漏必需的披露。

误导性内容

不得作出欺骗性或误导性陈述。

不得进行背书。

可能无意中形成背书。

个人利益

不得为谋取金钱利益而作出虚假陈述。

不得谋取个人利益。

可能自动插入联盟链接或宣传性措辞。

注意

生成式 AI 工具可能会使用“市场上最好的”等宣传性措辞，这既可能违反 FTC 的广告真实性原则，也可能违反政府伦理规则。

政府雇员的实务防护措施

如果你是政府雇员，或代表政府机构开展工作，就必须严格遵守 FTC 和联邦伦理规则。政府部门的应用受到更高标准的约束。在私营部门可能只是营销失误的行为，在政府部门却可能构成伦理违规。AI 工具无法理解这些界限，因此人工监督绝不可省略。

  • ◆ 审查 AI 生成的每一项输出，检查其中是否存在隐含的背书或品牌提及。

  • ◆ 避免使用“最佳”“领先”或“推荐”等最高级表述，因为这些词可能暗示偏好。

  • ◆ 表达个人观点时使用免责声明。

  • ◆ 如果机构政策要求，为保持透明度，记录 AI 的参与情况。

  • ◆ 绝不允许 AI 插入联盟链接或宣传性代码片段。