인도주의적 AI에서 any-guardrail을 활용한 다국어 가드레일 평가

Mozilla는 any-guardrail 도구를 사용하여 인도적 AI 애플리케이션에서 다국어, 상황 인식 가드레일을 평가한 내용을 상세히 설명했습니다. 이 평가는 특히 복잡한 인도적 맥락에서 가드레일이 다양한 언어에서 어떻게 작동하는지에 초점을 맞춥니다.

주요 세부사항

이 실험에는 두 가지 주요 Mozilla 프로젝트가 포함되었습니다: 다국어 AI 안전성 평가와 any-guardrail 프레임워크입니다. Pakzad의 시나리오 설계와 가드레일 정책이 이 연구를 뒷받침했으며, Nissani의 오픈소스 'any-guardrail' 패키지가 기술적 구조를 제공했습니다.

any-guardrail은 분류기 기반 및 생성형 가드레일 모델을 위한 통합 인터페이스를 제공하여 조직들이 이러한 모델들을 모델 자체와 함께 구성할 수 있도록 합니다. 이러한 유연성은 특정 맥락과 도메인에 맞게 가드레일을 조정하는 데 중요합니다.

세 가지 가드레일이 사용되었습니다:

• FlowJudge: 응답의 안전성을 평가하기 위해 1-5점 리커트 척도를 사용하는 맞춤형 도구입니다.
• Glider: 응답 준수 여부를 평가하기 위해 0-4점 루브릭을 사용하는 또 다른 맞춤형 가드레일입니다.
• AnyLLM (GPT-5-nano): 정책 준수 여부에 따른 이진 분류를 위해 범용 LLM을 배포합니다.

이 연구는 영어로 된 60개 시나리오와 그에 상응하는 페르시아어 버전을 만들어 망명 신청자와 관련된 실제 세계의 질문을 반영했습니다.

대상 독자

AI 안전성, 특히 다국어 및 인도적 맥락에 초점을 맞춘 개발자들은 이 평가가 필수적일 것입니다.