Avaliando Barreiras Multilíngues com any-guardrail em IA Humanitária

A Mozilla detalhou sua avaliação de guardrails multilíngues e sensíveis ao contexto em aplicações de IA humanitárias usando a ferramenta any-guardrail. Esta avaliação concentra-se em como os guardrails operam em diferentes idiomas, particularmente em contextos humanitários complexos.

Detalhes Principais

O experimento envolveu dois projetos-chave da Mozilla: Multilingual AI Safety Evaluations e a estrutura any-guardrail. O design de cenário de Pakzad e a política de guardrail informaram este estudo, enquanto o pacote de código aberto 'any-guardrail' de Nissani forneceu a estrutura técnica.

any-guardrail oferece uma interface unificada para modelos de guardrail baseados em classificadores e generativos, o que permite que as organizações configurem estes juntamente com os próprios modelos. Esta flexibilidade é crucial para adaptar guardrails a contextos e domínios específicos.

Três guardrails foram utilizados:

• FlowJudge: Uma ferramenta personalizável que usa uma escala Likert de 1-5 para avaliar a segurança das respostas.
• Glider: Outro guardrail personalizável que usa uma rubrica de 0-4 para avaliar a conformidade das respostas.
• AnyLLM (GPT-5-nano): Implanta um LLM de propósito geral para classificação binária baseada na adesão à política.

O estudo criou 60 cenários em inglês e seus equivalentes em farsi, representando consultas do mundo real relevantes para solicitantes de asilo.

Para quem é

Desenvolvedores focados em segurança de IA, especialmente em contextos multilíngues e humanitários, acharão esta avaliação essencial.