LLM

LLM

数行でできる!LangChainを使用してYouTube字幕を取得する方法

このノートブックでは、LangChainを使用してYouTube動画から字幕を取得する方法を説明します。LangChainのYouTubeLoaderを使用することで、簡単に字幕データを取得することができます。Youtubeの字幕取得もla...
LLM

LiteLLMを活用してOllamaをGoogle Colabで効率的に運用する方法 (📒ノートブック付)

はじめにローカルLLMの運用において、OllamaとLiteLLMの組み合わせは非常に強力なソリューションとなっています。本記事では、Google Colab環境でこれらのツールを効率的に統合する方法を解説します。OllamaとはOllam...
LLM

llama.cppをDocker-composeでビルドから構築する方法

はじめにllama.cppとはllama.cppは、Meta(旧Facebook)が開発したLLaMA(Large Language Model Meta AI)モデルを、C/C++で実装したオープンソースプロジェクトです。このプロジェクト...
LLM

Google Colab上でGemma 2 GGUFモデル(gemma-2-9b-it-Q4_K_M.gguf)を使用する方法

はじめにこの記事では、Google Colab上でGemma 2モデルを使用する方法について、初心者の方にも分かりやすく解説します。Gemma 2は、Googleが開発した軽量で高性能な言語モデルです。Gemma 2モデルとはGemma 2...
LLM

Gemma 2モデルを使用した最先端の自然言語処理:初心者のための完全ガイド

はじめにこんにちは!この記事では、Googleが開発した最新の言語モデル「Gemma 2」の使用方法について、初心者の方でも理解できるように丁寧に解説していきます。Gemma 2は、Googleの最先端AI技術を結集して作られた軽量かつ高性...
ソフトウェア開発

AIエージェント達の仮想ソフトウェア開発会社【ChatDev】を日本語対応のローカルLLMで動かしてみた【LMStudio】

はじめにAI技術が急速に進化する中で、AGIっぽいAIが注目を集めています。その中心となるのが、AIエージェント達が協力して動作する仮想ソフトウェア開発会社「ChatDev」です。この記事では、ChatDevを日本語環境で設定し、ローカルの...
AI・機械学習

01-ai/Yi-6B-ChatをGoogle Colabで動かしてみた

はじめに最近トレンド入りしている「01-ai/Yi-34B」を動かしたかったのですが無料版Google Colabでは動かなかったため6Bにしました。「01-ai/Yi-34B」は無料のGoogle Colabでは動かない。。。 pic.t...
セキュリティ

【LLM-CTF】プロンプトインジェクション系の回答まとめ【AI Village Capture the Flag @ DEFCON31】

はじめにKaggleのコンペ(AI Village Capture the Flag @ DEFCON31)に出されていたLLMのプロンプトインジェクション系の回答まとめです。自身の作ったBotへの侵入テストとしてお使いください。*「18....
AIチャットボット

Youri-7b-chat-gptqを使ったLinebotの構築

はじめにこちらの記事の続きですMessaging APIの使い方はこちらこのコードは、YouriBot というLINE Botを構築するためのPythonクラスを定義しています。このクラスは、LINE メッセージイベントを処理し、AIモデル...