LLM OpenHands CLIでカスタムOpenAI互換モデル（Litellm）を設定する方法
OpenHandsでは、OpenAI、Anthropic、その他のLLMプロバイダーだけでなく、カスタムのOpenAI互換APIエンドポイントも使用できます。この記事では、CLIの/settingsコマンドを使用してLitellmのカスタム...
LiteLLM
LLM 
AI開発ツール LiteLLM 最近の更新まとめ
概要LiteLLMは複数のLLMプロバイダーに対して統一されたインターフェースを提供するPythonライブラリであり、API呼び出しを標準化・簡素化することでLLM開発を容易にします。最近のリリースでは、API互換性の強化、パフォーマンス最...
エラー解決 LiteLLM管理画面のログインエラーを解決する方法
エラー内容LiteLLMの管理画面にログインしようとすると、以下のようなエラーが発生することがあります。{ "error": { "message": "Authentication Error, User not found, passe...
クラウドサービス Roo-Cline 開発効率化ガイド Part.5：LiteLLMサーバーでVertex AI Gemini 2.0を無料で使う 🚀
はじめに前回の記事では、Roo-Clineを使って既存のMCPサーバーを設定・リファクタリングする方法をご紹介しました。今回は、AMATERASUのLiteLLMサーバーを活用して、Google Cloud Platform (GCP)のV...
Python開発 コンテキストアウェアリフレクティブ方式QAデータセット生成システムの実装（GoogleColab📒ノートブック付）
はじめにこのノートブックでは、LLMを使用して高品質なQAデータセットを生成するシステムを実装します。特徴は以下の通りです：コンテキストアウェアな質問生成リフレクティブな品質評価・改善自動的なデータセットのアップロード環境セットアップ!pi...
AIアプリケーション開発 🤖 Socket Mode対応 Gemini SlackBot（📒Google Colabノートブック付）
このノートブックでは、SlackのSocket Modeを使用してGemini 1.5 Flash搭載のSlackボットを作成します。Google ColabでGeminiのSlack Bot作ってみた②Gemini-exp-1114 でや...
Python開発 WikipediaデータからLlama 3.1用Q&Aデータセット生成ツールの解説（ Google Colabノートブック付）
はじめにこのツールは、Wikipediaの記事からLlama 3.1のファインチューニング用Q&Aデータセットを自動生成するためのものです。生成されたデータセットは、Llama 3.1の会話形式に準拠しており、高品質な学習データとして活用で...
ソフトウェア開発 LLM評価システム (LLMs as a Judge)：📒Goolgeノートブック付
はじめにこのノートブックでは、LLM（大規模言語モデル）の回答品質を自動的に評価するためのシステムを実装します。このシステムは、質問、模範解答、LLMの回答を比較し、4段階のスケールで評価を行います。目的LLMの回答品質を定量的に評価する評...
Python開発 LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)
はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
ソフトウェア開発ツール LiteLLM x Parallel Function Calling: GeminiとGPT-4o-miniで複数ファイル一括変更(GoogleColab付)
gemini/gemini-1.5-proで複数の差分ファイルの一覧を作成してそれを元にgpt-4o-miniのParallel Function Callingでgitのパッチを実行することでマルチファイルのファイル変更を実現します。 無...