Erika Heidi ✨A minha idéia desde o começo era criar algo como o AltBot que eu pudesse usar pra qualquer rede, rodando localmente. Então comecei criando uma imagem de container pra rodar o llama.cpp e depois levei esse setup pra a Raspberry. Lá eu rodei uma imagem da Chainguard que já vem com o Docker daemon então é só clonar o repo, buildar a imagem e rodar o llama server com o modelo que quiser. O Qwen3-VL foi lançado mês passado, é bem novo!
GNU social JP is a social network, courtesy of GNU social JP管理人. It runs on GNU social, version 2.0.2-dev, available under the GNU Affero General Public License.
All GNU social JP content and data are available under the Creative Commons Attribution 3.0 license.