プログラミング LangChainのデバッグを極める：コールバックとロギングの実践的ガイド
🎯 この記事の目的この記事では、LangChainを使用する際の効果的なデバッグ方法について、実践的なコード例を交えて解説します。特にBaseCallbackHandlerを活用したデバッグ手法に焦点を当てます。langchain のRun...
LLM
プログラミング 
Python開発 数行でできる！GroqとGradioを使ったLLMアプリケーション開発入門（📒 GoogleColab ノートブック）
このノートブックでは、GroqのAPIを使用してGradioベースのチャットインターフェースを構築する方法を学びます。環境設定まず最初に、必要なライブラリをインストールします。!pip install groq-gradioAPIキーの設定...
AIアプリケーション開発 Company as Language (CaL): 自然言語からのAIエージェント組織の創出
はじめに：AIエージェント組織の新しいパラダイム私たちは今、AIの活用に関する新しい地平に立っています。単一のAIアシスタントではなく、複数のAIエージェントが有機的に協調する「会社」として機能させる。それが、Company as Lang...
オープンソース Bolt.new アプリケーションの構造と機能解説
はじめにこのドキュメントは、Bolt アプリケーションのコードベースの構造と各部の機能について解説します。Bolt は、StackBlitz の WebContainer API を活用し、ブラウザ上でフルスタック Web アプリケーション...
AIエージェント OpenAI Swarm : トリアージエージェントの実装
このプロジェクトは、ユーザーの入力を適切なエージェントに振り分けるトリアージエージェントを含むSwarmの実装例です。主に3つのエージェント（トリアージ、販売、返金）が相互に連携して動作します。プロジェクトの構成プロジェクトは以下のファイル...
Web開発 【MOA】社内向けAI Web UI構築ガイド：open webui + pipeline + langfuse
はじめに最近、企業内でAIを活用したいというニーズが高まっています。しかし、セキュリティやコスト管理の観点から、パブリックなAIサービスをそのまま利用するのは難しい場合があります。そこで今回は、MOA（Magic of AWS）プロジェクト...
AI・機械学習 LLMの効率化: Llama 3.1 8BからLlama-3.1-Minitron 4Bへのプルーニングと蒸留
はじめに：LLMの課題と小型化の重要性大規模言語モデル（LLM）は自然言語処理の分野で革命を起こしていますが、その巨大なサイズゆえに課題も抱えています。Llama 3.1 405BやNVIDIA Nemotron-4 340Bのような大規模...
大規模言語モデル vLLMとPagedAttentionについて語るスレ
はじめに大規模言語モデル（LLM）の世界で、効率的な推論は常に課題となっています。この記事では、その課題に革新的なソリューションを提供する「vLLM」と「PagedAttention」について詳しく解説します。これらの技術が、どのようにLL...
AWS Terraformと生成AIでAWSインフラ構成図を自動生成する方法
このガイドでは、Terraformの状態ファイルを解析して、AWSインフラストラクチャの構成図を自動生成する方法を説明します。TerraformのAWSの構成図を可視化してみる④DiagramsでPythonスクリプトをLLMに書かせてみた...
Streamlit Terraformで構築するAWS上のセッションマネージャーを用いたStreamlitアプリ開発環境
概要s02_streamlit_aws_deployerは、AWS上でStreamlitアプリケーションを自動的にデプロイし、スケジュールに基づいて管理するための高度なTerraformスクリプトです。このサンドボックス環境は、より複雑なA...