Conversation

Notices

1. Embed this notice
   Guilherme Dellagustin (dellagustin@bolha.us)'s status on Thursday, 24-Sep-2026 00:59:33 JST Guilherme Dellagustin

   • /mastodon/gutocarvalho

   @gutocarvalho você diz loucamente na máquina do usuário, ou data center / servidor privado de organizações de médio e grande porte?

   • Embed this notice
     gatinho suíno :freebsd_logo: (obbeel@bolha.us)'s status on Thursday, 24-Sep-2026 01:26:08 JST gatinho suíno :freebsd_logo:

     • /mastodon/gutocarvalho

     @gutocarvalho A largura de banda das comunicações intraplaca-mãe vai ser um problema.

     Não sei se você viu o novo PC da NVIDIA? Tá 50mil reais. GPU e CPU integrada com 128GB de RAM.

     O Qwen 34B é pra estar no nível do Sonnet 4, e então é possível rodar algo mais potente ainda que isso.

     O problema é que a GPU, a CPU e a Memória têm que estar cada vez mais perto pra aumentar a largura de banda.

     Ou seja, a tecnologia fica mais complexa, mais difícil de consertar e mais difícil de trocar.

     Tudo que a Apple quer. Se a Arm conquistar o mercado com a tecnologia integrada, vai ser bye bye à época de conserto e troca de peças de computador.

     Isso se não começarem a aparecer computadores aarm64 Android por padrão. O Inferno!

   • Embed this notice
     Rodrigo Reis (rodrigoreis@bolha.us)'s status on Thursday, 24-Sep-2026 03:49:31 JST Rodrigo Reis

     • /mastodon/gutocarvalho

     @gutocarvalho A Jetbrains já permite no seu CLI Junie em Macs rodar o modelo local invés de API , acho que vai ter espaço para modelos gigantes rodando na nuvem para tarefas específicas. Mas o mais provável é pequenos modelos rodando local e diversos tipos de modelos não só LLM rodando local .

     Acontece que tínhamos uma demanda comercial , quando ela morrer e a questão voltar a ser técnica as empresas vão explorar modelos menores , locais e distribuídos.