Evaluación de barreras multilingües con cualquier-barrera en IA Humanitaria

Mozilla ha detallado su evaluación de guardrails multilingües y conscientes del contexto en aplicaciones de IA humanitaria utilizando la herramienta any-guardrail. Esta evaluación se centra en cómo funcionan los guardrails a través de diferentes idiomas, particularmente en contextos humanitarios complejos.

Detalles clave

El experimento involucró dos proyectos clave de Mozilla: Evaluaciones de Seguridad de IA Multilingües y el marco any-guardrail. El diseño de escenario y la política de guardrail de Pakzad informaron este estudio, mientras que el paquete de código abierto 'any-guardrail' de Nissani proporcionó la estructura técnica.

any-guardrail ofrece una interfaz unificada para modelos de guardrail basados en clasificador y generativos, lo que permite a las organizaciones configurarlos junto con los propios modelos. Esta flexibilidad es crucial para adaptar los guardrails a contextos y dominios específicos.

Se utilizaron tres guardrails:

• FlowJudge: Una herramienta personalizable que utiliza una escala de Likert de 1-5 para evaluar la seguridad de las respuestas.
• Glider: Otro guardrail personalizable que utiliza una rúbrica de 0-4 para evaluar la conformidad de las respuestas.
• AnyLLM (GPT-5-nano): Despliega un LLM de propósito general para clasificación binaria basada en la adherencia a políticas.

El estudio elaboró 60 escenarios en inglés y sus equivalentes en farsi, representando consultas del mundo real relevantes para solicitantes de asilo.

Para quién es

Los desarrolladores que se centran en la seguridad de la IA, especialmente en contextos multilingües y humanitarios, encontrarán esta evaluación esencial.