開発環境 HuggingFaceからGemma3nをダウンロードしてllama.cppで動かす(Google Colab📒ノートブック付) HuggingFaceからGemma3nの修正済みGGUFファイルをダウンロードして、llama.cppで実行する効率的な方法です。GraphGen JP ✖ gemma3n でファインチューニングしてみる7⃣無事に、Unsloth版のGe... 2025.07.12 開発環境LLMモデル利用チュートリアル
AI開発ツール ai-gradioでGroqを試してみた!高速なLLMをGradioで簡単に使用 はじめに最近、AI開発のエコシステムで注目を集めているGroqが、ai-gradioライブラリでサポートされるようになりました。今回は、このai-gradioを使ってGroqの高速なLLMを試してみたので、その経験を共有したいと思います。a... 2025.01.05 AI開発ツールLLM
大規模言語モデル GPUStack:オープンソースGPUクラスターマネージャーの完全ガイド はじめに人工知能(AI)と機械学習(ML)の急速な発展に伴い、大規模言語モデル(LLM)の需要が高まっています。しかし、これらのモデルを効率的に実行し管理することは、多くの組織にとって課題となっています。ここで登場するのが、GPUStack... 2024.07.28 大規模言語モデルAI開発ツール