LLM

AIアプリケーション開発

Bolt.new アプリケーションの構造と機能解説

はじめにこのドキュメントは、Bolt アプリケーションのコードベースの構造と各部の機能について解説します。Bolt は、StackBlitz の WebContainer API を活用し、ブラウザ上でフルスタック Web アプリケーション...
AIエージェント

OpenAI Swarm : トリアージエージェントの実装

このプロジェクトは、ユーザーの入力を適切なエージェントに振り分けるトリアージエージェントを含むSwarmの実装例です。主に3つのエージェント(トリアージ、販売、返金)が相互に連携して動作します。プロジェクトの構成プロジェクトは以下のファイル...
Web開発

【MOA】社内向けAI Web UI構築ガイド:open webui + pipeline + langfuse

はじめに最近、企業内でAIを活用したいというニーズが高まっています。しかし、セキュリティやコスト管理の観点から、パブリックなAIサービスをそのまま利用するのは難しい場合があります。そこで今回は、MOA(Magic of AWS)プロジェクト...
AI・機械学習

LLMの効率化: Llama 3.1 8BからLlama-3.1-Minitron 4Bへのプルーニングと蒸留

はじめに:LLMの課題と小型化の重要性大規模言語モデル(LLM)は自然言語処理の分野で革命を起こしていますが、その巨大なサイズゆえに課題も抱えています。Llama 3.1 405BやNVIDIA Nemotron-4 340Bのような大規模...
AI・機械学習

vLLMとPagedAttentionについて語るスレ

はじめに大規模言語モデル(LLM)の世界で、効率的な推論は常に課題となっています。この記事では、その課題に革新的なソリューションを提供する「vLLM」と「PagedAttention」について詳しく解説します。これらの技術が、どのようにLL...
AWS

Terraformと生成AIでAWSインフラ構成図を自動生成する方法

このガイドでは、Terraformの状態ファイルを解析して、AWSインフラストラクチャの構成図を自動生成する方法を説明します。TerraformのAWSの構成図を可視化してみる④DiagramsでPythonスクリプトをLLMに書かせてみた...
AWS

Terraformで構築するAWS上のセッションマネージャーを用いたStreamlitアプリ開発環境

概要s02_streamlit_aws_deployerは、AWS上でStreamlitアプリケーションを自動的にデプロイし、スケジュールに基づいて管理するための高度なTerraformスクリプトです。このサンドボックス環境は、より複雑なA...
AIツール

HovercraftAPI v0.2.0: 3Dダイナミックトランジション

HovercraftAPIは、Markdownファイルから印象的なHovercraftプレゼンテーションを簡単に作成するためのPythonツールです。v0.2.0では、多くの画期的な新機能が追加され、プレゼンテーション作成の可能性が無限に広...
AI開発ツール

Claude-Engineer徹底解剖: AI駆動開発の舞台裏をMermaid図で完全解説

はじめにGitHubで公開されている革新的なAI搭載CLIツール「Claude-Engineer」。それは、Anthropic社の先進的な大規模言語モデル"Claude"のパワーを開発者の手に届ける、まさに"夢のツール"と言えるでしょう。し...
チュートリアル

LLaMA.cppをDockerで使う方法:初心者向け完全ガイド

はじめにこんにちは!今回は、LLaMA.cppをDockerで使用する方法について、初心者の方にも分かりやすく解説していきます。AI技術の進歩により、大規模言語モデル(LLM)を手軽に使えるようになりました。その中でもLLaMA.cppは、...