ソフトウェア開発 LLM評価システム (LLMs as a Judge)：📒Goolgeノートブック付
はじめにこのノートブックでは、LLM（大規模言語モデル）の回答品質を自動的に評価するためのシステムを実装します。このシステムは、質問、模範解答、LLMの回答を比較し、4段階のスケールで評価を行います。目的LLMの回答品質を定量的に評価する評...
Google Colab
ソフトウェア開発 
大規模言語モデル Unslothを使った高速なLlama 3.2ファインチューニング入門 (📒ノートブック付)
はじめにUnslothは、LLM（大規模言語モデル）のファインチューニングを大幅に高速化するライブラリーです。従来の手法と比較して約2倍の速度向上を実現し、メモリ使用量も削減できます。この記事では、Llama 3.2モデルを例に、Unslo...
機械学習 x.inferをGoogle Colabで試してみた！（Googleノートブック付）
はじめに最近、新しい画像認識モデルが次々とリリースされていますよね。例えばGPT-4V やClaude 3 など、画像認識の性能は日々進化しています。でも、こんな悩みはありませんか？🤔 新しいモデルを試したいけど、セットアップが面倒😅 異な...
AI開発 LlamaIndexのOpenAI Pydantic Program：構造化データ生成方法
はじめにOpenAIの新しいAPIを使用して、LlamaIndexを介して構造化データを生成する方法を紹介します。このガイドでは、ユーザーがPydanticオブジェクトを指定するだけで、簡単に構造化データを抽出できることを示します。主に以下...
ソフトウェア開発ツール LiteLLM x Parallel Function Calling: GeminiとGPT-4o-miniで複数ファイル一括変更(GoogleColab付)
gemini/gemini-1.5-proで複数の差分ファイルの一覧を作成してそれを元にgpt-4o-miniのParallel Function Callingでgitのパッチを実行することでマルチファイルのファイル変更を実現します。 無...
AI・機械学習 LiteLLMで無料Gemini+gpt-4o-mini+Haiku+sonnet3.5のParallel Function Callingを試す
はじめにこんにちは！今回は、LiteLLMライブラリを使って、GoogleのGemini Pro、OpenAIのgpt-4-o-mini、AnthropicのClaude 3.5 sonnet、Claude 3 haikuといった複数のモデ...
ブログ 2024年7月のアウトプットのふりかえり
2024年7月のアウトプットをふりかえるとアウトプットしたものなどをまとめてみました。Blog等2024/07/29OASIS Web UI: インストールから使用まで2024/07/28GPUStack：オープンソースGPUクラスターマネ...
チュートリアル LiteLLMでAnthropicのParallel Function Callingを試す
はじめにこんにちは！今回は、LiteLLMライブラリを使って、Anthropicの最新モデルであるClaude 3.5 sonnetのパラレル関数呼び出し（Parallel Function Calling）機能を試してみます。この記事は、...
AI開発 Richを使ってファンクションコーリングの結果を美しく表示する方法（Googleノート付）
はじめにこんにちは！今回は、PythonのRichライブラリを使って、AIモデルのファンクションコーリング結果を美しく表示する方法をご紹介します。初心者の方でも理解しやすいように、step by stepで解説していきますので、ぜひ最後まで...
ローカル開発 Google ColabとUnslothを使ってLlama 3 (8B)をファインチューニングし、Ollamaにデプロイする方法
このチュートリアルでは、UnslothとGoogle Colabを使って無料でLlama-3をファインチューニングし、独自のチャットボットを作成する方法を段階的に説明します。作成したチャットボットは、Ollamaを使ってローカルコンピュータ...