在未充分考虑潜在安全风险的情况下，将生成式人工智能（GenAI）引入业务流程的趋势正在迅速增长。随着越来越多的员工在工作中使用 AI，泄露公司和客户机密数据的可能性也在增加。
然而，负责任地使用 AI 并不需要以牺牲效率或创新为代价。强调以安全为先的方式实施 AI，不仅能提升公共和私营机构的整体效率，还能帮助它们保持竞争优势。
数据泄露与不断演变的风险
根据 IBM 商业价值研究院的一项调查，“96% 的高管认为，在未来三年内，生成式 AI 的采用可能导致企业发生安全漏洞。” 通过一些行之有效的安全实践，例如建立安全边界、追踪数据流动、以及应用最小权限原则，可以最大程度地降低此类漏洞的风险。然而，随着 AI 的兴起，数据泄露的新方法也在不断演变。
通过数据记忆化，大语言模型（LLM）会记住其训练数据的一部分，并可能在未来的提示中显示。例如，GPT-J 模型至少记住了其训练数据的 1%。即使是匿名数据，也可能通过推断过程被恢复。推断是一种生成式 AI 工具通过多个数据点三角化来精确重构原始数据的过程。
2023 年，有报道称亚马逊员工无意间将敏感的公司数据共享给 ChatGPT，这些数据随后被泄露给外部用户。据专家估计，此次事件造成的损失达数百万美元。同年，三星也发生了类似的事件，导致其禁止在公司设备上使用生成式 AI 工具。一旦敏感或专有数据传递给第三方工具并嵌入模型权重中，就无法将其删除。因此，必须确保密码等高度敏感的信息绝不通过 AI 工具共享。
此外，生成式 AI 模型中偏见的引入也是一个严重问题。许多流行的生成式 AI 工具输出中暴露出有关种族、民族、性别、社会经济地位等方面的有害偏见。基于有偏见的数据训练的系统可能错误识别威胁、遗漏潜在威胁，甚至产生误报，从而威胁安全。因此，仔细审查和监控训练数据及 AI 增强决策过程中的偏见潜力至关重要。
以“安全为设计”理念打造 AI
无论是第三方工具还是内部项目，充分的研究和明确的计划都能显著降低风险。在制定 AI 实施指南时，第一步是将业务需求与现有工具相匹配，牢记某些模型更适合特定任务。
从零开始实施“安全为设计”（Secure by Design）策略可以为 AI 实施提供长远保障。这一原则确保在整个 AI 产品生命周期中，安全始终被优先考虑。“安全为设计”方法通过多层防御机制应对网络威胁。
在规划阶段，安全团队的意见对于“安全为设计”方法至关重要。同时，供应商的可信度也非常重要。评估供应商的可信度并仔细审查合同，包括对供应商条款和条件的定期更新监控，是必不可少的。此外，还需要对数据质量进行评估，例如准确性、相关性和完整性。专注于安全的 AI 采用和集成能够降低合规问题和昂贵补救措施的风险。
数据治理的重要性
数据治理框架有助于在 AI 政策、实施和监控方面建立部门之间的工作关系。它们还能减少罚款和数据泄露的可能性，确保品牌安全。
然而，安全团队并不是唯一需要参与安全、高效和透明的 AI 实施的群体。良好的数据治理实践需要包括多个利益相关方，例如法律、财务和人力资源（HR）代表。这些最佳实践归结为允许员工管理和监控数据跨企业流动的政策，包括为具体部门提供明确的指导，以便参与决策过程。持续的员工培训在企业的各个层面也发挥着重要作用。数据治理需要不断的重新评估，避免“一劳永逸”的心态。
法律和监管合规要求进一步凸显了良好数据治理的价值。随着法律的不断演变，遵守这些框架可以确保 AI 投资建立在稳定的基础上。专家建议，认真对待创建或改进政策的公司可以参考 NIST 网络安全框架 2.0 等数据治理框架。安全 AI 联盟（CoSAI）、云安全联盟（CSA）和美国国家标准与技术研究院（NIST）也提供了额外的资源和数据治理指南。
构建更安全的 AI
有远见的商业领袖在采用这项快速变化的技术时，能够理解良好数据治理的重要性。实施“SAFER”策略以及采取常识性的 AI 和安全方法将有助于保护公司资产，维护客户信息的隐私。以下是实践 SAFER AI 策略的方法：
考虑共享信息的敏感性。 员工共享的任何信息都有可能公开。竞争对手是否可能获得这些信息？共享信息是否可能引发网络攻击或诉讼？
评估在 AI 管道中共享数据的企业成本。 利用 AI 的优势是否值得承担相关风险？
将业务需求与适合任务的 AI 模型匹配。 通过良好的数据治理来沟通和监控结果。
仅在绝对必要时使用 AI 服务。 确保 AI 是解决问题的最佳方法。
避免分享来自电子邮件、电子表格和服务器日志的信息。 擦除所有个人信息并移除标识符。
从一开始就将安全置于首位，在工具和风险不断发展的情况下具有优势。随着用户越来越多地通过监管框架、国际合作以及安全为先的用例实践最佳方案，更安全的 AI 指日可待。随着这些工具继续融入当今数字生活的方方面面，可靠且安全的 AI 将使企业和客户都受益。
