LLM Local RAGをWindowsのOllama for Windows (Preview)で動かしてみた 最近、Windowsで動作するOllama for Windows (Preview)を使って、Local RAG(Retrieval Augmented Generation)を体験してみました。この記事では、そのプロセスと私の体験をステ... 2024.02.29 LLM
AI VS Code Continue と Geminiを使った 無料AIエディタ~使ってみた編①~ 導入(Introduction)Continue(コンティニュー)とは? Continueは、VS Code(VSコード)とJetBrains(ジェットブレインズ)向けのオープンソースの自動操縦機能(autopilot)です。これは、任意の... 2024.02.21 AI
LLM PCを初期化してからLLMのリモート開発環境(LLaMA-Factory)を構築するまで PCの初期化から始まり、LLM(大規模言語モデル)の開発環境を構築する過程は、初心者にとっても分かりやすいように段階を追って説明します。このプロセスには、必要なソフトウェアのインストールからSSH環境のリモート開発構築、そしてセキュリティ対... 2024.02.19 LLM
LLM Google Colab上でQLoRAを作成してGGUFに変換してみた はじめにこのコードは、Google Colab(無料版でOK)上でQLoRA (Quantized Low-Rank Adaptation)を使用して大規模言語モデルを訓練し、その後GGUF形式に変換するためのものです。それぞれの部分につい... 2024.01.13 LLM