Desenvolvedor testa a Apple Intelligence para tarefas de área de transferência no dispositivo
Um desenvolvedor no r/LocalLLaMA compartilhou sua experiência criando um gerenciador de área de transferência usando o framework Foundation Models da Apple Intelligence como um caso de teste para tarefas de IA no dispositivo.
Contexto e Motivação
O desenvolvedor observa que, embora ele normalmente use serviços em nuvem como OpenRouter ou Anthropic para trabalhos sérios devido à diferença entre modelos locais e modelos de ponta, ele não gosta de enviar todos os dados para APIs de terceiros para tarefas descartáveis. Ele vê modelos pequenos no dispositivo como ideais para tarefas como "resuma isso", "reescreva esta mensagem" ou "revise este comentário".
Implementação e Descobertas
- Criou um gerenciador de área de transferência em torno do framework Foundation Models da Apple Intelligence
- Primeiras impressões: razoável para tarefas cotidianas de trabalho
- Bom para resumos curtos e reescritas
- Falha em linguagem ambígua e tarefas detalhadas, como esperado
Perguntas do Desenvolvedor
O desenvolvedor levanta várias questões sobre a adoção da Apple Intelligence:
- Por que parece que a Apple estagnou em promover valor real da Apple Intelligence?
- Muito poucos aplicativos estão realmente aproveitando a IA da Apple de maneiras significativas?
- Alguém tem uma percepção real sobre se a adoção da Apple Intelligence está aumentando ou está apenas estagnando silenciosamente?
O desenvolvedor observa que a maioria dos exemplos que ele vê são os próprios recursos mal desenvolvidos da Apple, e o modelo no dispositivo já está lá e é um tanto capaz.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Sub-rotinas de IA: Automação Determinística de Navegador com Custo Zero de Tokens
Os Subrotinas de IA do rtrvr.ai permitem que você grave tarefas do navegador uma vez como ferramentas acionáveis que são reproduzidas dentro do contexto da página da web com autenticação propagada gratuitamente, eliminando custos de inferência de LLM e não-determinismo para tarefas repetitivas.
TideSurf: Ferramenta de compressão DOM reduz uso de tokens de agentes web em 30 vezes, acelera TTFT em 12 vezes
O TideSurf v0.3 converte o DOM renderizado para um formato compactado semelhante a markdown, reduzindo o consumo de tokens em 32x em páginas do GitHub em comparação com o DOM bruto, enquanto adiciona 18 ferramentas interativas para agentes de LLM.
Extensão Local AI do VS Code bloqueia geração de código inseguro durante salvamentos
Um desenvolvedor criou uma extensão do VS Code que executa o modelo llama3.1:8b-instruct-q4 localmente para interceptar salvamentos, mapear fluxos de execução de origem para destino e bloquear código inseguro gerado por IA, como vulnerabilidades de injeção de logs CWE-117.
SDK do Microsoft Teams Adiciona Adaptador de Servidor HTTP para Agentes de IA Existentes
O SDK do Microsoft Teams agora inclui um adaptador de servidor HTTP que permite que desenvolvedores conectem agentes de IA existentes ao Teams sem reescrever seu código. Ele funciona com cadeias LangChain, bots Slack e implantações Azure Foundry ao injetar um endpoint POST /api/messages em servidores Express existentes.