Python開発 【連載】pydantic-ai徹底解説 (3) 構造化レスポンスとバリデーション（GoogleColab付）
前回はツール呼び出しや依存性注入を学びました。今回は pydantic-ai の特徴的機能である「構造化レスポンス」について詳しく見ていきます。構造化レスポンスとは通常のLLM応答は生テキストですが、pydantic-aiではPydanti...
Python
Python開発 
LLM Ollamaとllama3.1 8bで始める関数呼び出し機能の実装チュートリアル
はじめに近年、ローカル環境でLLMを動作させる需要が高まっています。その中で、Ollamaは手軽に使えるオープンソースのLLMプラットフォームとして注目を集めています。本記事では、Ollamaを使用した関数呼び出し（Function Cal...
ソフトウェア開発 マルチモデル K/V Context量子化 Ollamaベンチマークの コード解説
コードの全体構造ベンチマークツールは以下の主要なコンポーネントで構成されています：OllamaClientクラス：APIとの通信を管理ベンチマーク実行機能：複数モデルのテスト実行結果集計機能：モデル間の比較分析ロギング機能：詳細な実行ログの...
LLM OllamaのK/V Context量子化の実践的検証と実装
はじめにOllamaにおけるK/V context cache量子化は、VRAM使用量を大幅に削減できる革新的な技術です。本記事では、実際の検証結果を基に、その効果と実用性について詳しく解説します。また、検証に使用したスクリプトのセットアッ...
AI API Amazon Nova lite での動画処理 – Google Colab ガイド
Amazon Nova lite での動画処理 - Google Colab ガイドこのノートブックの後編では、Amazon Nova を使用した動画処理の実装方法と制限事項について説明します。Nova の動画理解機能は強力ですが、いくつか...
AI・機械学習 Amazon Nova lite で PDFの内容を分析する – Google Colab ガイド
このノートブックでは、Amazon Bedrock の Nova モデルを使用してPDFドキュメントの内容を分析する方法を説明します。Nova は Amazon の新世代基盤モデルで、高度な理解能力と業界をリードする価格性能比を提供します。...
AI開発ツール Replit Agentで自由なコーディングを実現する方法：制約を超えて開発を効率化しよう(自由になる呪文)
はじめにReplit Agentは、2024年9月に登場した革新的なAI開発支援ツールです。ブラウザベースの開発環境で、GPT-4o-mini、GPT-4o、Claude3.5SonnetV2などの最新のAIモデルを活用し、自然言語による開...
機械学習 🤖 UnslothによるLLM-JPモデルの高速推論実装ガイド(Google Colab📒ノートブック付)
デモ動画LLama3.2 3Bファインチューニング実験 | 25Unslothの推論の実験！取り敢えずはLLM-JPでやってみた！ pic.twitter.com/N8ZdE06M1a— Maki@Sunwood AI Labs. (@h...
データセット作成 コンテキストアウェアリフレクティブ方式QAデータセット生成システムの実装（GoogleColab📒ノートブック付）
はじめにこのノートブックでは、LLMを使用して高品質なQAデータセットを生成するシステムを実装します。特徴は以下の通りです：コンテキストアウェアな質問生成リフレクティブな品質評価・改善自動的なデータセットのアップロード環境セットアップ!pi...
Web開発 PythonでSupabaseのテーブルを作成し、Gradio 5のアプリを構築する方法
近年、SupabaseはオープンソースのFirebase代替として注目を集めており、Pythonコミュニティでもその利用が急増しています。本記事では、Pythonを使用してSupabaseのデータベースにテーブルを作成し、そのテーブルと連携...