大規模言語モデル

データサイエンス

Gemma 3がリリース!Kaggleノートブックで動かしてみよう

はじめにGoogle DeepMindから待望のGemma 3モデルがリリースされました!Gemmaは、Googleの最先端技術であるGeminiモデルと同じ研究から生まれた軽量なオープンモデルファミリーです。今回のGemma 3では、マル...
自然言語処理

マーダーミステリーで学ぶ!LangfuseとRagasによるRAGシステム構築【Example 01】

はじめに大規模言語モデル(LLM)を活用したアプリケーションは、ドキュメント検索や質問応答など、多種多様なユースケースで利用されています。しかし、LLM を用いたシステムでは出力のクオリティ(モデルがどの程度正確か、根拠は正しいか)プロセス...
AI開発

Upsonicサンプル:Upsonicを使用したAIニュース分析の実装解説

UpsonicとはUpsonicは、企業向けのLLM(大規模言語モデル)オーケストレーションフレームワークです。以下の特徴を持っています:📢 UpsonicというAIエージェントフレームワークについて詳しく解説していきます!1️⃣ Upso...
LLM

OllamaのK/V Context量子化で実現するVRAM削減とモデル性能向上

はじめに:K/V Context量子化とはOllamaに革新的な機能、K/V context cache量子化が実装されました。この技術により、LLM(大規模言語モデル)のVRAM使用量を大幅に削減しながら、より大きなコンテキストサイズやモ...
LLM

🦙 Unslothで作成したLLaMA 3.2ベースのファインチューニングモデルを使った高速推論ガイド(GoogleColab📒ノートブック付)

📦 必要なライブラリのインストール%%capture!pip install unsloth# 最新のUnslothナイトリービルドを取得!pip uninstall unsloth -y && pip install --upgrade ...
機械学習

🤖 UnslothによるLLM-JPモデルの高速推論実装ガイド(Google Colab📒ノートブック付)

デモ動画LLama3.2 3Bファインチューニング実験 | 25Unslothの推論の実験!取り敢えずはLLM-JPでやってみた! pic.twitter.com/N8ZdE06M1a— Maki@Sunwood AI Labs. (@h...
AI開発

Llama 3.2 Vision Finetuning Unsloth Radiography (📒Googgle colabノートブック付)

はじめにこのノートブックでは、医療画像分析のための大規模言語ビジョンモデル(Vision Language Model: VLM)のファインチューニングを行います。具体的には、Llama 3.2 11Bモデルを使用して、X線画像、CTスキャ...
データサイエンス

LLM評価システム (LLMs as a Judge):📒Goolgeノートブック付

はじめにこのノートブックでは、LLM(大規模言語モデル)の回答品質を自動的に評価するためのシステムを実装します。このシステムは、質問、模範解答、LLMの回答を比較し、4段階のスケールで評価を行います。目的LLMの回答品質を定量的に評価する評...
LLM

LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)

はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
AIエージェント開発

Anthropic Claude の Computer Use Demo を解剖する:仮想世界を操るAIエージェント

この記事では、Anthropic社の提供するcomputer-use-demo-jpリポジトリを徹底的に解剖し、その構造、機能、そしてコードの詳細まで踏み込んで解説します。Claude 3.5 Sonnetの"computer use"機能...