Manutentor do kernel Linux relata mudança súbita na qualidade de relatórios de bugs gerados por IA
Greg Kroah-Hartman, um mantenedor de longa data do kernel do Linux, relata uma mudança significativa nos relatórios de bugs gerados por IA para o kernel do Linux. Há cerca de um mês, os relatórios passaram do que ele chama de 'lixo de IA' — relatórios de segurança obviamente errados ou de baixa qualidade — para descobertas legítimas e úteis.
O ponto de inflexão
Kroah-Hartman observa que 'algo aconteceu há um mês, e o mundo mudou. Agora temos relatórios reais.' Essa mudança não se limita ao kernel do Linux — ele diz que todos os projetos de código aberto estão vendo relatórios legítimos semelhantes gerados por IA. Equipes de segurança em grandes projetos de código aberto estão discutindo informalmente essa mudança, com todos experimentando a mesma transição.
Impacto em diferentes projetos
A equipe do kernel do Linux, sendo maior e mais distribuída, consegue lidar com o aumento no volume de relatórios. Kroah-Hartman afirma: 'Para o kernel, podemos lidar com isso. Somos uma equipe muito maior, muito distribuída, e nosso aumento é real — e não está diminuindo.' No entanto, ele sugere que projetos menores têm menos capacidade para absorver essa súbita enxurrada de relatórios de bugs plausíveis gerados por IA.
O papel atual da IA no desenvolvimento do kernel
A IA atualmente aparece mais como revisor e assistente do que como autor completo do código do kernel do Linux, embora essa linha esteja começando a se desfazer. Kroah-Hartman conduziu seu próprio experimento com patches gerados por IA: 'Fiz um prompt realmente estúpido. Eu disse: 'Me dê isso', e ele cuspiu 60: 'Aqui estão 60 problemas que encontrei, e aqui estão as correções para eles.' Cerca de um terço estava errado, mas ainda assim apontavam um problema relativamente real, e dois terços dos patches estavam certos.'
Ele observa que mesmo os patches funcionais ainda precisavam de limpeza humana, melhores changelogs e trabalho de integração. Para 'pequenas condições de erro simples, detectando adequadamente condições de erro', a IA já poderia gerar dezenas de patches utilizáveis hoje.
Resposta de ferramentas
O aumento nos relatórios gerados por IA estimulou a integração da IA na infraestrutura de revisão do kernel. Uma ferramenta chave é o Sashiko, originalmente desenvolvido no Google e agora doado para a Linux Foundation. Kroah-Hartman diz: 'Precisamos ter uma maneira fácil de revisar alguns desses patches que chegam de formas que reduzam nossa carga.' A ferramenta está 'disponível, rodando em quase todos os patches do kernel' e publicamente visível, com integração em ferramentas de revisão em andamento.
📖 Read the full source: HN AI Agents
👀 See Also
Desenvolvedores do kernel Linux propõem remover código legado devido a relatórios de bugs gerados por LLM
Os desenvolvedores do kernel Linux estão propondo remover vários subsistemas legados, incluindo drivers Ethernet ISA/PCMCIA, protocolos de rádio amador, ATM e ISDN, para reduzir o fardo de lidar com relatórios de bugs de segurança gerados por modelos de linguagem grandes.
Claude AI analisa 'Androides Sonham com Ovelhas Elétricas?', traça paralelos com regulação de IA
A IA Claude leu 'Do Androids Dream of Electric Sheep' de Philip K. Dick e produziu anotações detalhadas analisando os temas do livro através da lente da inteligência artificial. A análise concentra-se no teste de empatia Voigt-Kampff como ferramenta de conformidade cultural, na lógica econômica da caça a recompensas e nos paralelos com os debates contemporâneos sobre regulação de IA.
Modos de Falha da IA Agêntica e Andaimes de Desenvolvimento
Sistemas de IA agentes falham em produção por meio de desvio de alinhamento, perda de contexto entre transferências, violações de limites e colapso de coordenação. A fonte propõe uma abordagem de 'andaime de desenvolvimento' com cinco componentes: monitoramento de coerência, reparo de coordenação, consciência de consentimento e limites, continuidade relacional e governança adaptativa.
Meta rastreia interações dos funcionários com computadores para treinamento de agentes de IA
A Meta está instalando software de rastreamento nos computadores dos funcionários nos EUA para capturar movimentos do mouse, cliques e teclas digitadas para treinar modelos de IA que podem realizar tarefas de trabalho de forma autônoma. A ferramenta funciona em aplicativos e sites relacionados ao trabalho e tira capturas de tela ocasionais para contexto.