A Anthropic Abandona Compromisso-Chave de Segurança de sua Política de Escalabilidade Responsável

A Anthropic removeu o compromisso central de sua principal Política de Escalonamento Responsável (RSP), de acordo com um relatório da TIME. A empresa havia prometido anteriormente em 2023 nunca treinar um sistema de IA a menos que pudesse garantir antecipadamente que suas medidas de segurança fossem adequadas.

Detalhes da Mudança na Política

A empresa está descartando a promessa de não lançar modelos de IA se a Anthropic não puder garantir mitigações de risco adequadas antecipadamente. Este era o pilar central de sua Política de Escalonamento Responsável, que os líderes da empresa vinham divulgando há anos como evidência de que resistiriam aos incentivos de mercado para acelerar tecnologias potencialmente perigosas.

Razões por Trás da Mudança

O diretor científico da Anthropic, Jared Kaplan, disse à TIME: "Sentimos que não ajudaria ninguém se parássemos de treinar modelos de IA. Não achamos realmente, com o rápido avanço da IA, que fizesse sentido para nós assumir compromissos unilaterais... se os concorrentes estão avançando rapidamente."

A empresa se posicionou como a mais consciente em termos de segurança entre os principais laboratórios de pesquisa em IA, tornando essa mudança de política significativa para desenvolvedores que acompanham as práticas de segurança de IA. A decisão representa uma mudança em relação à sua postura anterior de priorizar garantias de segurança sobre a velocidade de desenvolvimento.