LLM llama.cppをDocker-composeでビルドから構築する方法
はじめにllama.cppとはllama.cppは、Meta（旧Facebook）が開発したLLaMA（Large Language Model Meta AI）モデルを、C/C++で実装したオープンソースプロジェクトです。このプロジェクト...
LLM
LLM 
LLM Google Colab上でGemma 2 GGUFモデル(gemma-2-9b-it-Q4_K_M.gguf)を使用する方法
はじめにこの記事では、Google Colab上でGemma 2モデルを使用する方法について、初心者の方にも分かりやすく解説します。Gemma 2は、Googleが開発した軽量で高性能な言語モデルです。Gemma 2モデルとはGemma 2...
LLM Gemma 2モデルを使用した最先端の自然言語処理：初心者のための完全ガイド
はじめにこんにちは！この記事では、Googleが開発した最新の言語モデル「Gemma 2」の使用方法について、初心者の方でも理解できるように丁寧に解説していきます。Gemma 2は、Googleの最先端AI技術を結集して作られた軽量かつ高性...
ソフトウェア開発 AIエージェント達の仮想ソフトウェア開発会社【ChatDev】を日本語対応のローカルLLMで動かしてみた【LMStudio】
はじめにAI技術が急速に進化する中で、AGIっぽいAIが注目を集めています。その中心となるのが、AIエージェント達が協力して動作する仮想ソフトウェア開発会社「ChatDev」です。この記事では、ChatDevを日本語環境で設定し、ローカルの...
AI・機械学習 01-ai/Yi-6B-ChatをGoogle Colabで動かしてみた
はじめに最近トレンド入りしている「01-ai/Yi-34B」を動かしたかったのですが無料版Google Colabでは動かなかったため6Bにしました。「01-ai/Yi-34B」は無料のGoogle Colabでは動かない。。。 pic.t...
セキュリティ 【LLM-CTF】プロンプトインジェクション系の回答まとめ【AI Village Capture the Flag @ DEFCON31】
はじめにKaggleのコンペ（AI Village Capture the Flag @ DEFCON31）に出されていたLLMのプロンプトインジェクション系の回答まとめです。自身の作ったBotへの侵入テストとしてお使いください。＊「18....
AIチャットボット Youri-7b-chat-gptqを使ったLinebotの構築
はじめにこちらの記事の続きですMessaging APIの使い方はこちらこのコードは、YouriBot というLINE Botを構築するためのPythonクラスを定義しています。このクラスは、LINE メッセージイベントを処理し、AIモデル...