AI・機械学習 【GoogleColab付】無料でできる Gemma3 270M のフルモデルファインチューニング
このガイドでは、Hugging Face TransformersとTRLを使用して、モバイルゲームのNPCデータセットでGemmaをファインチューニングする方法を説明します。以下の内容を学習します：開発環境のセットアップファインチューニン...
大規模言語モデル
AI・機械学習 
大規模言語モデル Google ColabでGPT Image Input fidelityを使った画像の生成と編集
このGoogle Colabクックブックでは、画像生成機能を持つ新しい大規模言語モデルであるGPT Imageの使い方を学びます。このノートブックはGoogle Colab環境で動作し、ブラウザ上で直接実行できます。このモデルは世界に関する...
大規模言語モデル OneDiffusion：多彩な拡散モデルによる画像生成・理解タスクへの対応（GoogleColab付）
はじめに本ノートブックでは、OneDiffusionと呼ばれる汎用的な大規模拡散モデルについて紹介します。このモデルは、多種多様な画像生成・画像理解タスクに双方向的（テキスト→画像、画像→記述、画像編集など）に対応することを目指して設計され...
機械学習 Unslothを使った高速なLlama 3.2ファインチューニング入門 (📒ノートブック付)
はじめにUnslothは、LLM（大規模言語モデル）のファインチューニングを大幅に高速化するライブラリーです。従来の手法と比較して約2倍の速度向上を実現し、メモリ使用量も削減できます。この記事では、Llama 3.2モデルを例に、Unslo...
大規模言語モデル vLLMとPagedAttentionについて語るスレ
はじめに大規模言語モデル（LLM）の世界で、効率的な推論は常に課題となっています。この記事では、その課題に革新的なソリューションを提供する「vLLM」と「PagedAttention」について詳しく解説します。これらの技術が、どのようにLL...
大規模言語モデル vLLMとPagedAttention：LLM推論の革新的技術
vLLMとPagedAttention：LLM推論の革新的技術はじめに大規模言語モデル（LLM）の世界で、効率的な推論は常に課題となっています。この記事では、その課題に革新的なソリューションを提供する「vLLM」と「PagedAttenti...
AI・機械学習 LiteLLMで無料Gemini+gpt-4o-mini+Haiku+sonnet3.5のParallel Function Callingを試す
はじめにこんにちは！今回は、LiteLLMライブラリを使って、GoogleのGemini Pro、OpenAIのgpt-4-o-mini、AnthropicのClaude 3.5 sonnet、Claude 3 haikuといった複数のモデ...
AI・機械学習 Gemma 2 2Bモデルの分散ファインチューニング: TPUを活用した効率的な学習方法（kaggleノート付）
はじめにこんにちは！今回は、Googleが新しくリリースしたGemma 2 2Bモデルを使って、TPU（Tensor Processing Unit）を活用した分散ファインチューニングを行う方法をご紹介します。この記事は、大規模言語モデル（...
AI開発ツール GPUStack：オープンソースGPUクラスターマネージャーの完全ガイド
はじめに人工知能（AI）と機械学習（ML）の急速な発展に伴い、大規模言語モデル（LLM）の需要が高まっています。しかし、これらのモデルを効率的に実行し管理することは、多くの組織にとって課題となっています。ここで登場するのが、GPUStack...
チュートリアル 【驚愕のコスパ】LLaMa 3.1 405B を 8B に変換！Google Colab で簡単実装
このガイドでは、高品質を維持しながらコストを大幅に削減できる、LLaMa 3.1 405B から LLaMa 3.1 8B への変換方法をステップバイステップで解説します。OctoAI inference を使用するため、OctoAI のア...