| 
雷峰网音问，纽约大学量度东谈主员发现，要是一个给定谈话模子的考验数据中有0.001%的数据 "中毒"（即迥殊植入装假信息），那么悉数考验集将可能传播这些装假。 数据"中毒"影响考验成果，AI 的本色部署，安全性雷同至关首要。 探究公司 Gartner 展望，到 2028 年，AI 智能体将完成至少 15% 的平常职责决策并被应用于 33% 的企业关节。大王人的 AI 智能体缔造需求，让企业科罚其中的信任、物理安全、网罗安全以及合规性等问题显得愈加一衣带水。 近日，英伟达发布了全新的保险代理式 AI 应用安全的 NIM 微职业，这将扬弃企业部署生成式 AI 时的安全疑虑，而且为生成式 AI 的普及提供安全保险。 全新的 NIM 微职业是 NeMo Guardrails 软件用具系列的一部分，这些可移植且历程优化的推理微职业不错匡助企业提高生成式 AI 应用的安全性、精确性和可彭胀性。 3 项 NIM 微职业，兼顾高安全性和低蔓延 NVIDIA NeMo Guardrails 是一个开源用具包，允许缔造者将可编程护栏添加到基于 LLM 的会话系统中，从而保险东谈主工智能系统的安全与合规。 NeMo Guardrails 引入的三项全新微职业，八成匡助 AI 智能体在大限度开动时能同期保执受控活动。 内容安全 NIM 微职业（Content Safety NIM）使用了质地较高的东谈主工留意数据源Aegis 内容安全数据集进行考验，该数据集包含朝上 35000 个东谈主工符号的数据样本，由英伟达整理并开源，还是在 Hugging Face 公缔造布。高质地的数据集八成有用防止 AI 生成有偏见或无益的输出成果，确保陈说合适谈德程序。 英伟达的企业 AI 模子、软件与职业副总裁 Kari Briski 示意："这是同类数据相聚质地最高的数据源之一。" 话题适度 NIM 微职业（Topic Control NIM）能将对话聚焦在历程审核的话题上，幸免离题或不当内容。 逃狱检测 NIM 微职业（Jailbreak Detection NIM）增多了对逃狱企图（ 指绕过模子的安全防护纪律，让模子本质阻挠的活动）的防护，匡助在对抗性场景中保执 AI 的无缺性。 
开头：英伟达官方 由于"一刀切"的面孔无法有用保护和适度复杂的代理式 AI 职责流，通过应用多个轻量级专科模子手脚护栏，缔造者不错弥补在只给与较为通用的全局策略和保护纪律时可能出现的瑕玷。 可编程护栏数目的增多固然能擢升保险才智，但也会导致蔓延有所飞腾，NeMo Guardrails 以最小蔓延擢升保险才智，极具"性价比"。 当护栏数目为 0（仅系统领导）时，蔓延约为 0.75 秒，合规性为 1X（基准）。 当护栏数目为 1 时，蔓延增多到约 1 秒，合规性擢升到 1.1X。 当护栏数目为 5 时，蔓延约为 1.25 秒，合规性达到 1.5X。 增多到 5 个护栏，蔓延仅增多约 1.25 秒。与增多 1 个护栏，蔓延增多 1 秒对比，竣事显耀的优化。这标明，NeMo Guardrails 在擢升保险才智的同期，对蔓延的影响较小，八成在保证系统性能的前提下提高安全性和合规性。 给汽车、零卖、电信等行业的安全、精确、可彭胀的「AI 护栏」 NeMo Guardrails 已向开源社区洞开，其 NIM 微职业科罚企业级客户的"黄雀伺蝉"，使缔造者八成构建愈加安全、真确的 AI 智能体。智能体通过参考特定语境准则作念出安全、适宜的陈说，而且加强了对逃狱企图的挣扎力度，竣事了在汽车、金融、医疗、制造、零卖等行业客户职业中的部署。 软件和职业科罚决议提供商 Amdocs 推出的 amAIz 平台是一个始创性的电信生成式 AI 框架，通过集成 NVIDIA NeMo Guardrails，增强了平台的真确 AI 功能，保险代理式体验的安全性、可靠性和可彭胀性，从而让职业提供商八成安一谈署 AI 科罚决议。 Amdocs 工夫集团总裁兼策略专揽 Anthony Goonetilleke 示意："像 NeMo Guardrails 这么的工夫关于保险生成式 AI 应用的安全至关首要，八成匡助 AI 安全、谈德地开动。" 专注于为汽车行业提供 AI 科罚决议的 Cerence AI，通过 NVIDIA NeMo Guardrails 匡助车载助手在其 CaLLM 系列大谈话和小谈话模子的因循下提供合适语境的安全交互。 Cerence AI 居品和工夫本质副总裁 Nils Schanz 示意：" NeMo Guardrails 不错匡助咱们为汽车制造商客户提供真确的情境感知科罚决议，并作出理智、严谨且无幻觉的陈说。" 在面向客户的专科学问应用上，更需保证 AI 生成式陈说的安全性与可靠性。 家居遮挡零卖商劳氏公司通过专揽生成式 AI 安然伴计的专科学问，以此让职工在濒临客户的问题时八成"万语千言"。这背后，是 NVIDIA NeMo Guardrails 将 AI 的陈说"框定"在正确的界限内，确保输出的内容"不翻车"。 劳氏公司的数据、AI 和改革高档副总裁 Chandhu Nair 则示意："咱们一直在寻找面孔匡助职工为客户提供超出预期的职业。通过部署 NVIDIA NeMo Guardrails，保证了 AI 生成式陈说的安全性与可靠性，将对话强行末端在关连和适宜的内容界限内。" 值得一提的是，NeMo Guardrails 还具备较好的洞开性和可彭胀性，可集成由 AI 安全模子和防护提供商构成的生态系统，以及 AI 可不雅察性和缔造用具。因循与 ActiveFence 的 ActiveScore（AI 安全职业）集成，防止对话式 AI 应用出现存害或不当内容，并提供可视化、分析和监控功能。 区块链基础设施公司 Hive 以 NIM 微职业神志提供适用于图像、视频和音频内容的 AI 生成内容检测模子，通过使用 NeMo Guardrails，Hive 可将其模子集成到 AI 应用中并进行编排。 AI 可不雅测性平台 Fiddler 与 NeMo Guardrails 集成，可增强其监控功能。端到端 AI 缔造者平台 Weights & Biases 正在现存 NIM 集成组合基础上，通过增多与 NeMo Guardrails 微职业的集成来彭胀 W&B Weave 的功能，以此擢升 AI 推理才智。 此外，NeMo Guardrails 还提供用于 AI 安全测试和瑕玷扫描的开源套件 NVIDIA Garak，用于 LLM 和应用瑕玷扫描，借助 Garak，缔造者不错发现使用 LLM 中的系统中存在的瑕玷，发现并科罚 AI 模子中的潜在流毒，提高模子的矜重性与安全性。 当今体育游戏app平台，NVIDIA NeMo Guardrails 微职业以及用于编排 rail 的 NeMo Guardrails 和 NVIDIA Garak 套件已向缔造者和企业洞开，缔造者按照官网上的教程就不错使用 NeMo Guardrails 为 AI 客服智能体构建 AI 护栏。
|
