LiteLLM

Python開発

WikipediaデータからLlama 3.1用Q&Aデータセット生成ツールの解説( Google Colabノートブック付)

はじめにこのツールは、Wikipediaの記事からLlama 3.1のファインチューニング用Q&Aデータセットを自動生成するためのものです。生成されたデータセットは、Llama 3.1の会話形式に準拠しており、高品質な学習データとして活用で...
機械学習

LLM評価システム (LLMs as a Judge):📒Goolgeノートブック付

はじめにこのノートブックでは、LLM(大規模言語モデル)の回答品質を自動的に評価するためのシステムを実装します。このシステムは、質問、模範解答、LLMの回答を比較し、4段階のスケールで評価を行います。目的LLMの回答品質を定量的に評価する評...
ローカル開発

LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)

はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
ソフトウェア開発ツール

LiteLLM x Parallel Function Calling: GeminiとGPT-4o-miniで複数ファイル一括変更(GoogleColab付)

gemini/gemini-1.5-proで複数の差分ファイルの一覧を作成してそれを元にgpt-4o-miniのParallel Function Callingでgitのパッチを実行することでマルチファイルのファイル変更を実現します。 無...
大規模言語モデル

LiteLLMで無料Gemini+gpt-4o-mini+Haiku+sonnet3.5のParallel Function Callingを試す

はじめにこんにちは!今回は、LiteLLMライブラリを使って、GoogleのGemini Pro、OpenAIのgpt-4-o-mini、AnthropicのClaude 3.5 sonnet、Claude 3 haikuといった複数のモデ...
チュートリアル

LiteLLMでAnthropicのParallel Function Callingを試す

はじめにこんにちは!今回は、LiteLLMライブラリを使って、Anthropicの最新モデルであるClaude 3.5 sonnetのパラレル関数呼び出し(Parallel Function Calling)機能を試してみます。この記事は、...
AI・機械学習

無料Gemini と LiteLLM で Tool Calling を使いこなそう!~初心者向け徹底解説~

はじめにGemini とは?Google AI Studio が提供する、最先端の大規模言語モデル (LLM) です。高度な言語処理能力を持ち、人間のような自然な文章生成、翻訳、要約など、様々なタスクをこなします。Gemini-Pro はそ...
チュートリアル

Google ColabでGemini APIを使用したFunction Callingの実装

はじめにこの記事では、Google ColabでGemini APIを使用してFunction Callingを実装する方法を学びます。Function Callingは、AIモデルが特定の関数を呼び出すことができる機能で、より柔軟で高度な...
AI API

AnthropicのFunction Calling機能マスターガイド:AIと外部システムの連携📒ノートブック付

はじめにこんにちは!この記事では、AnthropicのAIモデルを使用したFunction Calling(関数呼び出し)機能について、詳しく解説します。Function Callingは、AIモデルと外部システムやAPIを連携させる強力な...
AI・機械学習

LiteLLMのDockerセットアップ

LiteLLMは、OpenAI形式を使用してすべてのLLM APIを呼び出すことができるツールです。このガイドでは、初心者でも理解できるように、LiteLLMをDockerを使用してセットアップする方法を丁寧に説明します。こちらの記事もおす...