大規模言語モデル Unslothを使った高速なLlama 3.2ファインチューニング入門 (📒ノートブック付)
はじめにUnslothは、LLM（大規模言語モデル）のファインチューニングを大幅に高速化するライブラリーです。従来の手法と比較して約2倍の速度向上を実現し、メモリ使用量も削減できます。この記事では、Llama 3.2モデルを例に、Unslo...
Google Colab
大規模言語モデル 
Python開発 x.inferをGoogle Colabで試してみた！（Googleノートブック付）
はじめに最近、新しい画像認識モデルが次々とリリースされていますよね。例えばGPT-4V やClaude 3 など、画像認識の性能は日々進化しています。でも、こんな悩みはありませんか？🤔 新しいモデルを試したいけど、セットアップが面倒😅 異な...
AI開発 LlamaIndexのOpenAI Pydantic Program：構造化データ生成方法
はじめにOpenAIの新しいAPIを使用して、LlamaIndexを介して構造化データを生成する方法を紹介します。このガイドでは、ユーザーがPydanticオブジェクトを指定するだけで、簡単に構造化データを抽出できることを示します。主に以下...
ソフトウェア開発ツール LiteLLM x Parallel Function Calling: GeminiとGPT-4o-miniで複数ファイル一括変更(GoogleColab付)
gemini/gemini-1.5-proで複数の差分ファイルの一覧を作成してそれを元にgpt-4o-miniのParallel Function Callingでgitのパッチを実行することでマルチファイルのファイル変更を実現します。 無...
大規模言語モデル LiteLLMで無料Gemini+gpt-4o-mini+Haiku+sonnet3.5のParallel Function Callingを試す
はじめにこんにちは！今回は、LiteLLMライブラリを使って、GoogleのGemini Pro、OpenAIのgpt-4-o-mini、AnthropicのClaude 3.5 sonnet、Claude 3 haikuといった複数のモデ...
ブログ 2024年7月のアウトプットのふりかえり
2024年7月のアウトプットをふりかえるとアウトプットしたものなどをまとめてみました。Blog等2024/07/29OASIS Web UI: インストールから使用まで2024/07/28GPUStack：オープンソースGPUクラスターマネ...
チュートリアル LiteLLMでAnthropicのParallel Function Callingを試す
はじめにこんにちは！今回は、LiteLLMライブラリを使って、Anthropicの最新モデルであるClaude 3.5 sonnetのパラレル関数呼び出し（Parallel Function Calling）機能を試してみます。この記事は、...
AI開発 Richを使ってファンクションコーリングの結果を美しく表示する方法（Googleノート付）
はじめにこんにちは！今回は、PythonのRichライブラリを使って、AIモデルのファンクションコーリング結果を美しく表示する方法をご紹介します。初心者の方でも理解しやすいように、step by stepで解説していきますので、ぜひ最後まで...
チュートリアル Google ColabとUnslothを使ってLlama 3 (8B)をファインチューニングし、Ollamaにデプロイする方法
このチュートリアルでは、UnslothとGoogle Colabを使って無料でLlama-3をファインチューニングし、独自のチャットボットを作成する方法を段階的に説明します。作成したチャットボットは、Ollamaを使ってローカルコンピュータ...
言語モデル Codestral Mamba：実践ガイド
はじめにCodestral Mambaは、Mamba2アーキテクチャをベースにした革新的なコード生成モデルです。この記事では、Codestral Mambaの実践的な使用方法について、初心者の方にも分かりやすく解説していきます。環境設定まず...