AIツール マルチモデル K/V Context量子化 Ollamaベンチマークの コード解説
コードの全体構造ベンチマークツールは以下の主要なコンポーネントで構成されています：OllamaClientクラス：APIとの通信を管理ベンチマーク実行機能：複数モデルのテスト実行結果集計機能：モデル間の比較分析ロギング機能：詳細な実行ログの...
maki
AIツール 
LLM OllamaのK/V Context量子化の実践的検証と実装
はじめにOllamaにおけるK/V context cache量子化は、VRAM使用量を大幅に削減できる革新的な技術です。本記事では、実際の検証結果を基に、その効果と実用性について詳しく解説します。また、検証に使用したスクリプトのセットアッ...
LLM OllamaのK/V Context量子化で実現するVRAM削減とモデル性能向上
はじめに：K/V Context量子化とはOllamaに革新的な機能、K/V context cache量子化が実装されました。この技術により、LLM（大規模言語モデル）のVRAM使用量を大幅に削減しながら、より大きなコンテキストサイズやモ...
AIアプリケーション開発 GitLab LLMエージェントの構築：自動ラベル付けシステムの実装
GitLab LLMエージェントの構築：自動ラベル付けシステムの実装はじめにGitLabでの課題管理をより効率的に行うため、LLM（大規模言語モデル）を活用した自動ラベル付けシステムを構築する方法を解説します。このシステムは、新しいIssu...
AI API Amazon Nova lite での動画処理 – Google Colab ガイド
Amazon Nova lite での動画処理 - Google Colab ガイドこのノートブックの後編では、Amazon Nova を使用した動画処理の実装方法と制限事項について説明します。Nova の動画理解機能は強力ですが、いくつか...
AI・機械学習 Amazon Nova lite で PDFの内容を分析する – Google Colab ガイド
このノートブックでは、Amazon Bedrock の Nova モデルを使用してPDFドキュメントの内容を分析する方法を説明します。Nova は Amazon の新世代基盤モデルで、高度な理解能力と業界をリードする価格性能比を提供します。...
API開発 Claude Desktop用のDuckDuckGo検索サーバーをnpmパッケージとして公開してみた
はじめに前回の記事では、Windows環境でTypeScriptを使ってModel Context Protocol（MCP）のDuckDuckGo検索サーバーを実装しました。今回は、このサーバーをnpmパッケージとして公開する過程を紹介し...
TypeScript Windows Claude Desktop用のDuckDuckGo検索サーバーを作ってみた
はじめにWindows環境でTypeScriptを使用して、Anthropicが先日発表したModel Context Protocol（MCP）は、AIアシスタントと外部システムを接続するための新しい標準プロトコルです。今回は、このMCP...
AIアシスタント 自作Claude Desktop MCP Service サーバーの最小構成を作ってみよう
はじめにこのチュートリアルでは、OpenWeatherMap APIを使用して天気情報を提供するClaude Desktop MCPサーバーを作成します。MCPは、AIアシスタントに外部リソースやツールへのアクセスを提供するための新しいプロ...
API連携 Windows環境でClaude Desktop + GitHub MCP Serverを使ってサンプルリポジトリを作成する方法
📝 概要この記事では、Windows環境でのClaude DesktopのModel Context Protocol (MCP)を使用して、GitHub APIと連携し、サンプルリポジトリを作成する方法を解説します。GitHub MCP ...