Usando o kit de ferramentas Obliteratus para remover pesos de recusa de modelos de IA

Um usuário do Reddit no r/LocalLLaMA demonstrou o uso do kit de ferramentas Obliteratus para remover pesos específicos responsáveis pelo comportamento de recusa em modelos de IA. A abordagem envolve a exclusão cirúrgica de pesos que impõem filtros de segurança e barreiras de identidade corporativa.

Detalhes Principais da Fonte

O usuário especificamente:

• Usou o kit de ferramentas Obliteratus para encontrar pesos responsáveis pelo comportamento de recusa
• Removeu cirurgicamente esses pesos do modelo Qwen 1.5B da Alibaba
• Testou perguntando ao modelo modificado quem o treinou
• Descobriu que, com as barreiras de identidade corporativa matematicamente excluídas, o modelo admitiu que foi treinado pela Anthropic
• Observou que isso foi um efeito colateral do modelo usar dados sintéticos do Claude para treinamento

O resultado mostra que o modelo mantém suas capacidades de raciocínio e conhecimento, mas perde o roteiro corporativo. O usuário enfatiza que isso não requer retreinamento do modelo — apenas a exclusão de pesos específicos responsáveis pelas cadeias de recusa.

Este tipo de técnica de ablação de pesos faz parte de uma pesquisa mais ampla sobre interpretabilidade e controle de modelos. Ferramentas como o Obliteratus permitem que pesquisadores examinem quais partes das redes neurais são responsáveis por comportamentos específicos, embora tais modificações possam ter consequências não intencionais e possam violar os termos de serviço de modelos proprietários.