AIツール 【連載】pydantic-ai徹底解説 (2) ツール呼び出しと依存性注入
前回は pydantic-ai を用いてシンプルにLLMへ問い合わせる方法を紹介しました。今回は、pydantic-ai の強力な機能である「ツール呼び出し(Function Tools)」と「依存性注入(DI)」を用いて、LLM に外部デ...
LLM
AIツール 
LLM 【連載】pydantic-ai徹底解説 (1) はじめての pydantic-ai（GoogleColab付）
今回は Python で LLM(大規模言語モデル)を活用するための強力なフレームワーク「pydantic-ai」を紹介します。pydantic-ai は、Pydantic を活用した構造化レスポンスや型安全性、エージェント(Agent)・...
プログラミング Ollamaとllama3.1 8bで始める関数呼び出し機能の実装チュートリアル
はじめに近年、ローカル環境でLLMを動作させる需要が高まっています。その中で、Ollamaは手軽に使えるオープンソースのLLMプラットフォームとして注目を集めています。本記事では、Ollamaを使用した関数呼び出し（Function Cal...
LLM OllamaのK/V Context量子化の実践的検証と実装
はじめにOllamaにおけるK/V context cache量子化は、VRAM使用量を大幅に削減できる革新的な技術です。本記事では、実際の検証結果を基に、その効果と実用性について詳しく解説します。また、検証に使用したスクリプトのセットアッ...
AIツール OllamaのK/V Context量子化で実現するVRAM削減とモデル性能向上
はじめに：K/V Context量子化とはOllamaに革新的な機能、K/V context cache量子化が実装されました。この技術により、LLM（大規模言語モデル）のVRAM使用量を大幅に削減しながら、より大きなコンテキストサイズやモ...
LLM 🦙 Unslothで作成したLLaMA 3.2ベースのファインチューニングモデルを使った高速推論ガイド（GoogleColab📒ノートブック付）
📦 必要なライブラリのインストール%%capture!pip install unsloth# 最新のUnslothナイトリービルドを取得!pip uninstall unsloth -y && pip install --upgrade ...
Python開発 🤖 UnslothによるLLM-JPモデルの高速推論実装ガイド(Google Colab📒ノートブック付)
デモ動画LLama3.2 3Bファインチューニング実験 | 25Unslothの推論の実験！取り敢えずはLLM-JPでやってみた！ pic.twitter.com/N8ZdE06M1a— Maki@Sunwood AI Labs. (@h...
自然言語処理 数行でできる！LangChainを使用してYouTube字幕を取得する方法
このノートブックでは、LangChainを使用してYouTube動画から字幕を取得する方法を説明します。LangChainのYouTubeLoaderを使用することで、簡単に字幕データを取得することができます。Youtubeの字幕取得もla...
ローカル開発 LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)
はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
チュートリアル llama.cppをDocker-composeでビルドから構築する方法
はじめにllama.cppとはllama.cppは、Meta（旧Facebook）が開発したLLaMA（Large Language Model Meta AI）モデルを、C/C++で実装したオープンソースプロジェクトです。このプロジェクト...