LLM BitNetのリポジトリ日本語化
BitNetは、大規模言語モデルのための1ビットトランスフォーマーを拡張する新しい取り組みです。この記事では、BitNetの基本から最新の進展まで、初心者でも理解しやすいように解説します。論文「BitNet: Scaling 1-bit T...
CUDA
LLM 
AI実況 Deepgramでマイクからリアルタイム文字起こしをしてみた
Deepgramは、最先端の音声認識技術を提供するプラットフォームです。この記事では、Deepgramを使ってマイクからの音声をリアルタイムで文字に変換する方法を、初心者にも分かるように解説します。Pythonを使ったシンプルなスクリプトを...
AI実況 Faster WhisperをDockerでワンパン起動させてみた (CUDA12)
Faster Whisperを使用して、手早くかつ効率的に音声認識を行う方法について、Dockerを使った手順を初心者にもわかりやすく解説します。Dockerを用いることで、環境依存を減らし、どのようなマシンでも同じ条件でFaster Wh...
AI VS Code Continue と Geminiを使った 無料AIエディタ～使ってみた編①～
導入（Introduction）Continue（コンティニュー）とは？ Continueは、VS Code（VSコード）とJetBrains（ジェットブレインズ）向けのオープンソースの自動操縦機能（autopilot）です。これは、任意の...
LLM PCを初期化してからLLMのリモート開発環境（LLaMA-Factory）を構築するまで
PCの初期化から始まり、LLM(大規模言語モデル)の開発環境を構築する過程は、初心者にとっても分かりやすいように段階を追って説明します。このプロセスには、必要なソフトウェアのインストールからSSH環境のリモート開発構築、そしてセキュリティ対...
LLM Google Colab上でQLoRAを作成してGGUFに変換してみた
はじめにこのコードは、Google Colab（無料版でOK）上でQLoRA (Quantized Low-Rank Adaptation)を使用して大規模言語モデルを訓練し、その後GGUF形式に変換するためのものです。それぞれの部分につい...