评测与安全

本章介绍模型和 RAG 系统的评测,以及 LLM 输入和输出的护栏。

本章所依赖的组件列在下方的 Components 中。使用 TrustyAI 进行偏差和漂移监控的内容在 监控 中介绍。

评估 LLM

使用 Ragas 评估 RAG

用于 LLM 安全的 AI Guardrails

NeMo Guardrails

组件