LiteLLM

エラー解決

LiteLLM管理画面のログインエラーを解決する方法

エラー内容LiteLLMの管理画面にログインしようとすると、以下のようなエラーが発生することがあります。{ "error": { "message": "Authentication Error, User not found, p...
Python開発

コンテキストアウェアリフレクティブ方式QAデータセット生成システムの実装(GoogleColab📒ノートブック付)

はじめにこのノートブックでは、LLMを使用して高品質なQAデータセットを生成するシステムを実装します。特徴は以下の通りです:コンテキストアウェアな質問生成リフレクティブな品質評価・改善自動的なデータセットのアップロード環境セットアップ!pi...
チャットボット開発

🤖 Socket Mode対応 Gemini SlackBot(📒Google Colabノートブック付)

このノートブックでは、SlackのSocket Modeを使用してGemini 1.5 Flash搭載のSlackボットを作成します。Google ColabでGeminiのSlack Bot作ってみた②Gemini-exp-1114 でや...
Python開発

WikipediaデータからLlama 3.1用Q&Aデータセット生成ツールの解説( Google Colabノートブック付)

はじめにこのツールは、Wikipediaの記事からLlama 3.1のファインチューニング用Q&Aデータセットを自動生成するためのものです。生成されたデータセットは、Llama 3.1の会話形式に準拠しており、高品質な学習データとして活用で...
機械学習

LLM評価システム (LLMs as a Judge):📒Goolgeノートブック付

はじめにこのノートブックでは、LLM(大規模言語モデル)の回答品質を自動的に評価するためのシステムを実装します。このシステムは、質問、模範解答、LLMの回答を比較し、4段階のスケールで評価を行います。目的LLMの回答品質を定量的に評価する評...
ローカル開発

LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)

はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
ソフトウェア開発ツール

LiteLLM x Parallel Function Calling: GeminiとGPT-4o-miniで複数ファイル一括変更(GoogleColab付)

gemini/gemini-1.5-proで複数の差分ファイルの一覧を作成してそれを元にgpt-4o-miniのParallel Function Callingでgitのパッチを実行することでマルチファイルのファイル変更を実現します。 無...
AI・機械学習

LiteLLMで無料Gemini+gpt-4o-mini+Haiku+sonnet3.5のParallel Function Callingを試す

はじめにこんにちは!今回は、LiteLLMライブラリを使って、GoogleのGemini Pro、OpenAIのgpt-4-o-mini、AnthropicのClaude 3.5 sonnet、Claude 3 haikuといった複数のモデ...
チュートリアル

LiteLLMでAnthropicのParallel Function Callingを試す

はじめにこんにちは!今回は、LiteLLMライブラリを使って、Anthropicの最新モデルであるClaude 3.5 sonnetのパラレル関数呼び出し(Parallel Function Calling)機能を試してみます。この記事は、...