LLM

Python開発

数行でできる!GroqとGradioを使ったLLMアプリケーション開発入門(📒 GoogleColab ノートブック)

このノートブックでは、GroqのAPIを使用してGradioベースのチャットインターフェースを構築する方法を学びます。環境設定まず最初に、必要なライブラリをインストールします。!pip install groq-gradioAPIキーの設定...
AIアプリケーション開発

Company as Language (CaL): 自然言語からのAIエージェント組織の創出

はじめに:AIエージェント組織の新しいパラダイム私たちは今、AIの活用に関する新しい地平に立っています。単一のAIアシスタントではなく、複数のAIエージェントが有機的に協調する「会社」として機能させる。それが、Company as Lang...
AIアプリケーション開発

Bolt.new アプリケーションの構造と機能解説

はじめにこのドキュメントは、Bolt アプリケーションのコードベースの構造と各部の機能について解説します。Bolt は、StackBlitz の WebContainer API を活用し、ブラウザ上でフルスタック Web アプリケーション...
AIエージェント

OpenAI Swarm : トリアージエージェントの実装

このプロジェクトは、ユーザーの入力を適切なエージェントに振り分けるトリアージエージェントを含むSwarmの実装例です。主に3つのエージェント(トリアージ、販売、返金)が相互に連携して動作します。プロジェクトの構成プロジェクトは以下のファイル...
Web開発

【MOA】社内向けAI Web UI構築ガイド:open webui + pipeline + langfuse

はじめに最近、企業内でAIを活用したいというニーズが高まっています。しかし、セキュリティやコスト管理の観点から、パブリックなAIサービスをそのまま利用するのは難しい場合があります。そこで今回は、MOA(Magic of AWS)プロジェクト...
AI・機械学習

LLMの効率化: Llama 3.1 8BからLlama-3.1-Minitron 4Bへのプルーニングと蒸留

はじめに:LLMの課題と小型化の重要性大規模言語モデル(LLM)は自然言語処理の分野で革命を起こしていますが、その巨大なサイズゆえに課題も抱えています。Llama 3.1 405BやNVIDIA Nemotron-4 340Bのような大規模...
AI・機械学習

vLLMとPagedAttentionについて語るスレ

はじめに大規模言語モデル(LLM)の世界で、効率的な推論は常に課題となっています。この記事では、その課題に革新的なソリューションを提供する「vLLM」と「PagedAttention」について詳しく解説します。これらの技術が、どのようにLL...
AWS

Terraformと生成AIでAWSインフラ構成図を自動生成する方法

このガイドでは、Terraformの状態ファイルを解析して、AWSインフラストラクチャの構成図を自動生成する方法を説明します。TerraformのAWSの構成図を可視化してみる④DiagramsでPythonスクリプトをLLMに書かせてみた...
Streamlit

Terraformで構築するAWS上のセッションマネージャーを用いたStreamlitアプリ開発環境

概要s02_streamlit_aws_deployerは、AWS上でStreamlitアプリケーションを自動的にデプロイし、スケジュールに基づいて管理するための高度なTerraformスクリプトです。このサンドボックス環境は、より複雑なA...
AIツール

HovercraftAPI v0.2.0: 3Dダイナミックトランジション

HovercraftAPIは、Markdownファイルから印象的なHovercraftプレゼンテーションを簡単に作成するためのPythonツールです。v0.2.0では、多くの画期的な新機能が追加され、プレゼンテーション作成の可能性が無限に広...