商业与技术洞察公司Gartner预测，到2028年，50%的企业网络安全事件响应工作将聚焦于涉及定制化人工智能（AI）应用的安全事件。
Gartner研究副总裁Christopher Mixter表示：“AI正在快速发展，但许多工具在尚未充分测试的情况下便被仓促部署，尤其是定制化AI应用。这些系统复杂多变，长期安全防护难度很高。而多数安全团队仍缺乏明确的AI相关事件处理流程，这将导致耗费更多时间和精力去解决问题。
Gartner建议安全领导者尽早介入定制化AI应用项目，通过预留充足的时间、规划资源配置及合理管理预期建立完善的安全控制体系。
Gartner建议网络安全领导者在未来两年将以下预测纳入安全战略考量。
到2028年，超过50%的企业将采用AI安全平台，以保障第三方AI服务的使用安全，并保护其定制化AI应用。
AI安全平台为组织提供了一种统一方式，用于管理与快速AI采用相关的新型风险，例如提示词注入、数据滥用等。通过集中可视化与控制能力，这些平台将帮助首席信息安全官（CISO）执行使用策略、监控AI活动，并在第三方及定制化AI应用之间实施一致的安全防护措施。安全负责人需要评估AI安全平台，以确保其能够同时保障这两类应用的安全。
到2030年末，33%的IT工作将用于修复AI数据债务以保障AI安全。
多数企业的数据尚未适配AI，安全防护薄弱且结构混乱的数据已成为AI应用的主要障碍。针对此问题，网络安全领导者正在扩展数据防泄露系统，以监控并限制由生成式AI和代理式AI数据访问事件和请求引发的数据流。Gartner建议其协同数据分析和AI领导者制定结构化的数据发现、评估和访问控制修复方案。
到2027年末，依赖人工方式开展AI合规流程将使75%的受监管组织面临风险，可能被处以超过其全球营收5%的罚款。
尽管全球在监管路径上存在差异，但各类AI监管正趋于一致，即普遍要求建立系统化的风险管理方法。即使首席信息安全官（CISO）能够提前满足、持续跟上安全、隐私及网络风险管理相关法规与标准，围绕AI安全的新规仍会对既有体系带来新的不确定性。为提高应对成效，Gartner建议建立网络治理、风险与合规（GRC）体系，并通过技术手段推动合规落地。
到2027年，30%的企业将要求对自身的云安全控制体系拥有全面主权以应对持续地缘政治动荡。
地缘政治动荡与本地法规正在导致难以承受的数据风险，迫使众多企业将主权纳入其网络弹性策略的核心。伴随地缘回迁要求的增加，将促使企业调整云端服务供应商的选择策略并重新规划优先事项。网络安全领导者必须积极参与企业主权要求的确定工作，包括本地法规中的要求。
到2028年，70%的首席信息安全官（CISO）将使用身份可见性和智能技术减少身份和访问管理（IAM）攻击面，降低证书泄露风险。
企业已难以应对人类与机器身份的快速增长及复杂性，使得身份成为了主要攻击面。孤立的身份和访问管理（IAM）工具导致可见性缺口，加剧配置错误风险。Gartner建议通过整合统一的AI驱动身份可见性与智能平台消除这些盲区，从而提升检测与修复能力。
Gartner——全球权威的AI评估与洞察提供者
Gartner是企业C级高管与技术提供商实施AI战略，实现核心业务优先事项的过程中，不可或缺的合作伙伴。Gartner洞察的独立性与客观性，为客户决策提供信心保障，助力其充分挖掘AI潜力。众多C级高管客户正通过Gartner专有的AskGartner AI工具，确定如何在其业务中运用AI。凭借逾2500名商业与技术专家、6000份书面洞察以及1000余个AI应用场景与案例研究，Gartner已成为全球AI领域的权威机构。更多信息请访问此处。
