LLM 🦙 Llama.cpp Docker Compose セットアップガイド
WindowsでLlama.cppを簡単に動かすためのDocker Composeセットアップです。APIサーバーによる運用が可能です。WindowsのDocker環境✖llama.cpp ✖ Gemma3nでlogprobs出力できた！！...
ローカルLLM
LLM 
Google Colab LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)
はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
モバイルアプリ開発 iPhoneアプリ「Enchanted」でローカルLLMの「Ollama」を使い、Tailscaleで外出先からアクセスしてみよう！
はじめにローカルLLMが話題になっていますね。そんな中、iPhoneアプリの「Enchanted」を使って、ローカルLLMの「Ollama」を手軽に使う方法をご紹介します！さらに、VPNサービスの「Tailscale」を導入すれば、外出先か...