跳转至

偏见、伦理与法律风险

10,214 字词 · 预计阅读 23 分钟（450 字词/分钟）

6

偏见、伦理与法律风险

营销人员喜欢快速行动，但忽略 AI 政策，可能会让品牌因负面事件而一夜爆红。

经营企业处处都有风险。不使用 AI，你可能会落后；但不负责任地使用 AI，则会留下防护漏洞，让企业面临法律责任和潜在的品牌损害。这些后果可能影响企业利润，因此，务必主动堵住漏洞，避免酿成重大事故。你或许可以把这一章分享给营销部门以外的同事，因为我们为所有使用 AI 的人都提供了可付诸行动的建议。降低风险的最佳方式，是制定一套切实可行、及时更新的政策。

令人担忧的是，在 Marketing AI Institute 的 2025 年调查中，55% 的受访者表示，所在组织没有制定 AI 政策来指导 AI 生成的文本、图像、视频、音频或代码的使用。另有 8% 的受访者不知道是否存在这样的政策。我们认为，实际缺乏 AI 政策的比例可能更高，因为参与 AI 营销调查的人，更有可能已经在使用或引入 AI。无论如何，虽然如此多的公司缺乏 AI 政策非常令人担忧，但如果你的公司还没有制定，也不必觉得只有你们如此。

不过，在制定 AI 政策来弥补防护漏洞之前，你需要先了解必须处理的关键问题，例如偏见、伦理考量和法律风险。

偏见问题

认为 AI 存在偏见，或许有些奇怪。它不是人，所以应该公正无偏，对吧？

理论上，是的。但由于 AI 依赖输入的数据，数据中的任何不准确或不公正之处，都会反映在 AI 的输出中。种族、性别、年龄或社会经济地位，都是常见的可能导致 AI 偏见的特征。对内容营销人员来说，这些输出可能是客户画像、社交媒体帖子、聊天机器人对话，也可能出现在任何应用 AI 的地方。质量不佳的输出可能略有偏差，或带有侮辱性。灾难性的输出则可能严重失实，或具有煽动性，带来巨大的责任风险。

为了更好地理解 AI 中为何会出现偏见，以及如何在内容营销中尽量减少偏见，让我们来看看几个主要原因和示例。

数据输入

一般而言，AI 从两类来源接收数据输入：公开来源和私有来源。

公开来源包括网站、新闻媒体、研究和科学资料库、政府数据库、社交媒体、消费者评价网站以及搜索引擎。如今网络上的内容是否百分之百准确、及时，没有主观倾向或煽情成分？当然不是。

私有来源包括公司的 CRM（客户关系管理）数据、研究资料、员工数据、调查结果、客户支持沟通记录和分析数据等。这些数据是否百分之百可靠、及时，不存在不公平的代表性问题，在不同数据源之间保持一致，并且可以在不侵犯任何客户数据或隐私权的情况下安全用于营销？很可能并非如此。

也别忘了 AI 幻觉。正如我们在第 1 章“AI 对营销人员的影响”中所述，在大型语言模型（LLM）中，当输入数据不完整时，AI 可能生成看似连贯、实则不符合事实，甚至完全凭空捏造的输出，这就是所谓的幻觉。AI 会尝试填补输入中的信息空白。例如，如果一家服装品牌要求 AI 为一款适合极寒天气的新夹克撰写产品描述，而 AI 根据公开数据，在描述中加入“保证在低至 −50°F 的环境中保持温暖”，那么，这一说法对于专为北极气候设计并经过测试的某款夹克而言或许成立，但对这款夹克并不成立。这种幻觉会带来问题：如果消费者发现这一宣传不实，品牌可能会遭受声誉损失、销量下滑，甚至面临诉讼。

反馈循环

内容营销人员需要留意反馈循环。它是指将 AI 的输出用作后续任务的输入，并不断重复这一步骤的过程。虽然这种循环让 AI 能够持续学习和迭代，但也可能让偏见或错误不断加深。

偏见可能被带入反馈循环，也可能在循环中产生，即使最初输入的数据准确无误。如第 1 章所述，监督学习和无监督学习都可能出现这种情况，但在后者中更为常见。输入数据可能不完整，或覆盖范围过于狭窄。AI 会依据现有信息作出决策，因而可能忽略全局。或者，如果外部环境发生变化（例如经济衰退或趋势改变），原始输入数据的相关性就会降低。除非经过专门训练，否则 AI 不会考虑外部环境因素；而人类在大多数情况下会自然地将这些因素纳入考量。

伦理问题

不要跳过这一节。你可能很想略过，但了解 AI 伦理问题，能让你在公司层面及营销领域的 AI 战略中纳入这些考量。这些知识也能帮助你改善客户体验。

虽然 AI 的透明度以及环境和人力成本等问题很可能由高管层面处理，但处理方式会直接影响内容营销人员。

给高管的建议：为营销团队提供明确的计划和预先准备好的回应，让他们有能力应对这些问题。

透明度

这一问题从内部和外部两个方面影响内容营销人员。

对内，透明度是指员工对 AI 使用情况的了解。他们知道公司的政策是什么吗？AI 在营销中，尤其是在内容营销中，扮演什么角色？内容营销团队接受了哪些培训，以应对生成式 AI 中的偏见、伦理和法律问题？内部透明度很重要，因为它有助于营销人员有效使用 AI，并在潜在风险出现时及时识别。

对外，客户数据的收集和使用必须保持透明，尤其是这些数据可能被用于训练 AI，以执行个性化营销等任务时。客户因此担忧隐私和数据安全，是完全合理的（本章后文将讨论这一点）。内容营销人员还需要关注围绕 AI 生成内容及未向消费者披露这一事实的法律讨论和相关行动。了解未来法律可能的发展方向，有助于公司从现在起就主动应对。

2024 年，欧盟推出《欧盟人工智能法案》（EU AI Act），该法案自 2025 年起开始实施，适用于在欧盟境内提供或部署 AI 系统的机构，以及任何对欧盟民众产生影响的组织。2《欧盟人工智能法案》不仅要求生成式 AI 系统的提供者确保 AI 输出可被识别为人工生成或经过操纵的内容，还要求用户（例如内容营销人员）对此进行披露（但如果 AI 生成的内容经过人工审核和编辑，并由人承担编辑责任，则无需披露）。

2 https://ec.europa.eu/commission/presscorner/detail/en/qanda_21_1683

在美国，我们很快也会看到披露 AI 生成内容成为强制要求。美国联邦贸易委员会（FTC）法案已经禁止不公平或欺骗性营销；FTC 和消费者都对欺骗性的 AI 驱动内容表示担忧，例如深度伪造内容。这类内容通常以文本、音频或视频形式呈现，看起来很真实，实际却并非如此。事实上，美国国会一直在推动《禁止未经授权使用仿冒内容和肖像法案》（NO FAKES Act），3旨在保护个人及个人创作者，防止他人未经许可在 AI 应用中使用其肖像或受版权保护的作品。

3 https://www.congress.gov/bill/118th-congress/senate-bill/4875

过去十多年里，我们也已经看到透明度法规在数字营销的其他领域逐步落实。搜索引擎必须在搜索结果中区分付费内容和自然内容；如今，对于按点击付费（PPC）展示的广告，通常会标注“赞助”或“广告”。联盟营销人员在推广产品或服务时，必须披露自己与品牌之间的关系；如今，网红也必须这样做。品牌在展示与联盟营销人员或网红合作创作的内容时，也必须披露彼此的关系。

在 AI 生成内容营销中，透明度至关重要。

如果向客户披露任何 AI 生成的内容会给你的品牌或企业带来问题，那就不要使用这类内容。以下是几个可以参考的示例：

  • ◆ 不应使用 AI 生成客户评价或推荐语。

  • ◆ 在没有人工监督的情况下，使用 AI 生成常见问题解答、产品描述或购买指南应格外谨慎。这些内容一旦不准确，就可能误导消费者或造成潜在伤害，同样也可能让公司面临诉讼。

  • ◆ 你可以使用 AI，将现有购买指南改编为博客、电子邮件和社交媒体内容（前提是该购买指南的审批流程已有商品管理、营销和法务团队参与）。

如果必须标注所有 AI 生成的内容，就要考虑这会对内容指标产生什么影响。内容表现很重要。不要让 AI 削弱内容的真实性和权威性，因为二者都是赢得客户信任、进而促成交易的必要条件。

环境成本

大多数高管没有考虑使用 AI 的环境成本，但他们应该考虑。这些成本既会影响品牌，也会影响企业经营。

先来看看对品牌的影响。任何倡导可持续发展的品牌都应仔细阅读这一节。运行 AI 系统会带来巨大的环境成本。如果高管对公司使用 AI 所产生的成本一无所知，这可能会成为营销团队的噩梦，尤其是当他们围绕品牌的可持续发展价值观或使命创作内容时。

我们曾在营销团队工作，不得不艰难应对堆积如山的网络声誉问题，从消费者差评到产品相关诉讼，不一而足。这些问题让内容营销和 SEO 难上加难。务必确保你的 AI 委员会核算使用 AI 的环境影响和成本，并将结果告知营销团队。为了更好地讲述品牌故事，营销团队还可以了解公司的以下情况：

  • ◆ 能够减少浪费、能源消耗或排放的 AI 应用

  • ◆ 选择由可再生能源供电的 AI 模型或数据中心

  • ◆ 减少对 AI 过度依赖的举措

  • ◆ AI 之外的新可持续发展项目或合作

你可能会问：“为什么会产生环境成本？具体有哪些？”运行 AI 应用需要数据中心，而这些数据中心对土地、能源和水等宝贵资源的需求十分庞大。

  • ◆ 土地：AI 数据中心规模巨大。作为对比，一栋普通商业建筑的面积为 20,000 至 100,000 平方英尺（约 1858 至 9290 平方米），一座体育场的面积可达 100 万平方英尺（约 92,903 平方米）。AI 数据中心可能比这还大。目前，美国境内最大的 AI 和数据处理设施是 Meta 位于俄勒冈州的 Prineville 数据中心，面积达 460 万平方英尺4（约 427,353 平方米）。到 2028 年，韩国将建成一座新的 AI 数据中心，容量达 3 吉瓦（是 Prineville 的三倍多）。5这些规模庞大的数据中心会加剧城市蔓延，并扰乱当地生态系统和野生动物栖息地。

    4 https://www.datacenterdynamics.com/en/analysis/in-search-of-the-worlds-largest-data-center/

    5 https://datacentremagazine.com/data-centres/a-3gw-pledge-plans-for-the-largest-ai-data-centre-explained

  • ◆ 能源：数据中心消耗大量能源。国际能源署在《2024 年电力报告》中预测，到 2026 年，数据中心可能占全球用电量的 2–3%。6据 Statista 统计，Google 数据中心（其中包括 AI 应用）的能源消耗，相当于约 100 万户美国家庭的能源用量。7尽管 Google 是全球最大的可再生能源企业采购方之一，8AI 的能源消耗仍然是一个令人严重关切的问题。数据中心产生的大量热量同样令人担忧：这些热量会加剧气候变暖，而为防止数据中心过热，又需要消耗大量水。

    6 https://iea.blob.core.windows.net/assets/6b2fd954-2017-408e-bf08-952fdd62118a/Electricity2024-Analysisandforecastto2026.pdf

    7 https://www.statista.com/statistics/788540/energy-consumption-of-google/

    8 https://www.statista.com/statistics/790371/us-ppas-capacity-by-institution/

  • ◆ 水：AI 数据中心消耗大量淡水。根据 2023 年发表的一篇题为《让 AI 不再那么“口渴”：揭示并应对 AI 模型隐秘的水足迹》的研究论文，预计到 2027 年，全球 AI 的用水需求将达到 42–66 亿立方米（1.1–1.7 万亿加仑），9超过英国目前年用水量的一半。考虑到全球约半数人口在一年中已经面临严重缺水，AI 对水的需求令人担忧。10

9 Li, P., Yang, J., Islam, M.A., & Ren, S. (2023). “让 AI 不再那么‘口渴’：揭示并应对 AI 模型隐秘的水足迹。” ArXiv, abs/2304.03271.

10 https://www.unesco.org/reports/wwdr/en/2024/s

对 AI 资源的担忧正在引发全球一些城市对数据中心建设的反弹。例如，自 2021 年以来，都柏林的新数据中心建设一直受到阻止，因为爱尔兰正努力实现具有法律约束力的气候目标。12马来西亚南部的柔佛州一直拒绝数据中心的申请，担心当地水和能源等资源承受压力。13在美国，亚特兰大市议会禁止在特定区域新建数据中心，并将环境影响列为担忧因素之一。14

12 https://www.ft.com/content/9ab958bf-41dc-4d38-81e1-b311c9e57332

13 https://www.straitstimes.com/asia/se-asia/johor-rejects-nearly-30-per-cent-of-data-centre-applications-to-protect-local-resources

14 https://www.gpb.org/news/2024/09/04/atlanta-city-council-bans-data-centers-along-beltline

地方政府对此感到担忧，这一点应当给企业高管敲响警钟。他们需要思考：这些 AI 成本由谁来承担？

目前，建设 AI 数据中心的成本由大型科技公司承担。然而，即使企业付费使用 AI 工具，也要记住，AI 工具需要访问数据中心。因此，你为使用工具支付的任何费用，很可能并未包含 AI 真正的环境成本，而这些成本可能会在未来显现。高管不仅应考虑使用资源密集型 AI 可能对品牌造成的影响，还需要意识到未来可能产生的费用。营销团队今天节省的成本，明天可能会变成更高的支出。

“我们现在正面临一场生存危机。这场危机叫作气候变化，而 AI 正在切实让情况变得更糟。”15

15 https://www.npr.org/2024/07/12/g-s1-9545/ai-brings-soaring-emissions-for-google-and-microsoft-a-major-contributor-to-climate-change

——Alex Hanna，分布式人工智能研究所研究主任

人的影响

员工担心 AI 会对自己的工作产生影响，这是可以理解的。我们也有同样的担忧。作为营销人员，过去几年我们亲身经历了严峻的就业市场，身边的一些同事也有同感。新冠肺炎疫情首先扰乱了就业市场，如今 AI 又带来了冲击。

Resume Builder 于 2023 年 11 月对 750 名使用 AI 的企业领导者开展了一项调查，16 结果显示，高达 37% 的受访者表示 AI 已取代部分员工，44% 的人预计 2024 年会出现裁员。AI 正在影响 2025 年的裁员情况，我们还注意到，将多个营销岗位合并到一个职位名称下、同时要求具备 AI 经验的招聘信息数量令人不安地增加。AI 是一种工具，不是魔法棒。它让人类能够专注于战略，同时利用 AI 取代繁琐的任务。

16 https://www.resumebuilder.com/1-in-3-companies-will-replace-employees-with-ai-in-2024/

给高管的建议：要从 AI 中获利，就要保护人类。我们的建议不是让你们把员工挡在 AI 之外，而是帮助他们应对使用 AI 所带来的挑战，尤其是在我们所处的这一历史转型时期。

所有雇主都应制定并传达公司的 AI 使用政策，我们将在下一节介绍这一点。在使用 AI 的企业中，高管可以倡导员工接受教育，确保 AI 技术顺利融入工作。根据本书开头提到的 Marketing AI Institute 报告，采用 AI 的最大障碍是缺乏教育和培训（62% 的受访者如此认为）。AI 培训计划能帮助员工采用并适应 AI。雇主提供的心理健康支持也有助于完成这一转型。心理健康问题之所以重要，是因为快速采用 AI 可能导致压力、焦虑和工作不安全感。提供培训和支持不仅能帮助员工适应，还能打造一支参与度更高、生产力更强的团队。

AI 正在改变我们的工作方式。我们仍处于 AI 时代的早期阶段，许多公司正在采用这些技术，但它们带来的益处（以及风险）尚未得到充分理解或实现。营销领域的 AI 蛮荒时期，很像搜索营销的早期阶段：当时，SEO 和按点击付费（PPC）技术、数据及策略都在快速发展，营销人员也在不断学习并制定最佳实践。在我们共同借助 AI 成长的过程中，对自己和他人多一些耐心，将会大有帮助。

在探索将 AI 融入营销的方式时，了解围绕其使用的法律环境非常重要。

法律问题

希望你没有跳过本章关于偏见和伦理的部分。如果不在 AI 政策中妥善处理，那些不太显眼的问题可能会演变成法律噩梦。本节将介绍一些营销人员多年来一直在应对的法律挑战。这些挑战早在 AI 出现之前就已存在，但如今又重新成为令人担忧的问题。

提示

每一家使用 AI 的公司都应成立 AI 委员会，由来自法务、财务、人力资源、技术、营销及其他关键部门的高管组成。该委员会应重点负责公司的 AI 战略、政策和风险管理，并监督各部门的 AI 战略。

数据保护与隐私

内容营销建立在信任之上。信任能够提升互动和品牌声誉，推动业务增长。对于 AI 内容营销而言，信任同样重要，因为它依赖海量数据来做出更好的决策。然而，未能保护客户数据可能导致隐私泄露和消费者信心丧失，最终使公司面临法律后果。

虽然我们不会在这里详细展开，但你的公司应该已经遵守一些法律，例如《通用数据保护条例》（GDPR——欧洲）或《个人信息保护与电子文件法》（PIPEDA——加拿大）。此外，还有州级法律，包括《加州消费者隐私法》（CCPA）/《加州隐私权法》（CPRA）；行业特定法律，包括《健康保险可携性与责任法案》（HIPAA——美国）；以及针对特定受众的法律，包括《儿童在线隐私保护法》（COPPA——美国）。总的来说，监管指南规定了企业必须如何收集和管理个人信息。

数据保护应成为 AI 委员会的首要任务，因为 AI 放大了原本就存在的透明度、同意和安全等挑战。营销人员需要了解客户数据的使用方式，包括一般用途，以及他们在岗位中使用的具体 AI 工具如何使用这些数据。例如，如果某个 AI 工具没有正确配置，无法尊重用户的退出选择，或者在个性化电子邮件中使用了机密数据，随后又未经审计便大规模发送电子邮件营销活动，那么就可能违反 GDPR 或 CCPA 等数据保护法律。

提示

绝不要将机密数据交给公共 AI 工具。三星电子发现，员工曾将公司的敏感代码上传到 ChatGPT，之后这些信息被公开提供。17 两名员工分享了源代码，希望对其进行改进；另一名员工分享了一段录制的会议内容，将其转换为演示文稿笔记。这些信息后来在 ChatGPT 上公开。

17 https://finance.yahoo.com/news/samsung-bans-generative-ai-staff-004831399.html

知识产权

这个主题完全可以单独写成一章，但我们会尽力为品牌和营销人员总结其中的要点。

大多数国家都有知识产权（IP）法律，用于保护个人和组织创作的作品，例如艺术、音乐、文学作品和软件。一般来说，如果企业营销人员希望使用受版权保护的作品（如文字或图形），就必须正确注明出处，并获得作品作者的使用许可。在这些情况下，必须将作品归属于其作者，这一点很明确。问题在于，AI 模型通常使用包含受版权保护作品的大型数据集进行训练，而这些作品可能并未获得知识产权所有者的许可。美国的一些案例让我们得以了解，法院开始如何处理使用受版权保护材料训练 AI 的问题。

提示

你的雇主可能已经拥有版权许可，授权在特定营销渠道中以特定方式使用某些材料。请向经理询问许可条款，以确定哪些内容属于许可范围，哪些不属于。“合理使用”法规可能允许有限使用受版权保护的材料，但你应咨询法务团队，以确保合规。

在美国，近期和正在进行的几项法律行动表明，在涉及使用生成式 AI 的争议中，版权持有者正得到越来越多的支持：

  • ◆ 美国版权局正在分三部分发布《版权与人工智能报告》，以提供进一步指导。第 1 部分于 2024 年夏季发布，涵盖数字复刻问题。第 2 部分于 2025 年 1 月发布，讨论 AI 创作作品是否具备版权资格。第 3 部分的发布日期尚未公布，但将讨论使用他人拥有版权的作品训练 AI 模型所产生的法律影响。

  • ◆ 2025 年 2 月，特拉华州一家美国地区法院重申了其 2023 年的裁决，支持一名版权持有者的主张。该持有者指控竞争对手使用其知识产权训练 AI 工具，构成版权侵权18（“Thomson Reuters 诉 ROSS Intelligence”）。

    18 https://www.ded.uscourts.gov/sites/ded/files/opinions/20-613_5.pdf

  • ◆ 截至本文撰写之时，已有数起针对主要 AI 企业的诉讼尚未结案，指控它们使用受版权保护的材料训练 AI 模型。

这对品牌和内容营销人员意味着什么？

围绕 AI 和版权日益加强的法律审查，既带来风险，也带来一线希望。对于在营销中未负责任地使用 AI 的公司而言，这是一种风险，因为侵犯版权可能导致诉讼或罚款，尤其是对资金雄厚的品牌。要在内容营销中应对版权问题，你应制定明智的工作流程，正确标注内容出处，并开展 AI 审计（见第 7 章“营销运营与自动化”）。

版权保护方面不断加大的法律压力也带来明显的积极一面：你的品牌知识产权应得到保护。原创性对于真实性和权威性至关重要。维护你的商标和版权，是持续具备资格的必要条件。

目前看来，在美国，完全由 AI 创作的作品没有资格获得版权保护。请据此调整你的内容营销策略。第 7 章将介绍具体做法。

AI 使用政策

显然，AI 会带来重大风险。你的公司越晚制定政策，这些风险就会越大。随着越来越多的员工和承包商使用 AI 工具，出错和滥用的可能性也会增加。不要惊慌。制定并传达 AI 使用政策，能为你的团队提供必要的规范和边界，让他们既负责任又高效地使用 AI 工具。如果要把本书中的一条建议付诸实践，就请制定公司 AI 使用政策。你的法务团队会感谢你。

公司需要三类 AI 使用政策：公司 AI 使用政策、部门专属 AI 使用政策，以及第三方 AI 使用政策。

公司 AI 使用政策——公司 AI 使用政策是整个组织负责任使用 AI 的总体框架。这项政策由 AI 委员会负责制定，应涵盖我们讨论过的偏见、伦理和法律问题。附录 A“工具与资源”中列出了公司 AI 使用政策模板的链接，可作为起点，但务必咨询你的律师，以采用具体且最新的措辞，并确保符合州和地方的法律，因为这一法律领域正在快速变化。

部门专属 AI 使用政策——部门 AI 使用政策应根据该团队（例如营销团队）的需求、风险和法规，对公司的总体框架进行调整。该政策应涵盖营销部门内部使用 AI 的具体场景、风险管理、审批流程、培训和报告要求。

作为营销人员，我们建议你查看 Jasper 提供的 AI 政策模板，20 我们已将其放在下面的侧栏中，以帮助你制定营销部门的 AI 使用政策。再次提醒，在实施任何政策之前，务必先咨询你的律师。

20 https://www.jasper.ai/ai-policy-template

第三方 AI 使用政策——对于与代理机构、合作伙伴、联盟成员、自由职业承包商以及公司合作的任何其他外部个人或组织，所有相关协议都应纳入第三方 AI 使用政策。不要只是把相关措辞写进协议；应采用验证流程，说明让第三方所有参与公司账户工作的团队成员审阅并理解这项政策的重要性。这样可以提高 AI 技术得到负责任、安全使用并符合公司所承担的法律法规要求的可能性；如果第三方犯下重大错误，也能为你提供一定的法律支持。

政策沟通

你可能听过这样一句话：“政策的成效取决于执行。”仅仅制定 AI 政策还不够。如果你希望员工了解并遵守这些政策，就必须有效地传达。请考虑最适合公司的沟通形式和时机；人力资源团队和法务团队是这项工作的优秀合作伙伴。对于拥有学习与发展团队的企业，以下频率和学习形式可能会很有效：

  • ◆ 员工入职期间一次：员工手册、在线课程

  • ◆ 每年一次：同一门在线课程（根据需要更新）、全员会议

  • ◆ 按需：发送关于新合规规则的电子邮件

对于营销团队，我们建议在部门会议上审查团队的 AI 政策。季度业务回顾（QBR）会议可能是理想时机。对于每个营销职能——电子邮件、付费媒体、社交媒体和 SEO——都可以将 AI 政策作为工作流程幻灯片的一部分进行审查（工作流程将在第 7 章介绍）。这是一个绝佳的教育机会，适用于营销团队的所有成员，因为并非每位营销人员都在使用 AI 工具，也未必采用相同的 AI 工作流程。在整合 AI 工具之前及整合过程中，也是审查营销团队部门专属 AI 政策的重要时机。