モデル変換

AI開発

【驚愕のコスパ】LLaMa 3.1 405B を 8B に変換！Google Colab で簡単実装

このガイドでは、高品質を維持しながらコストを大幅に削減できる、LLaMa 3.1 405B から LLaMa 3.1 8B への変換方法をステップバイステップで解説します。OctoAI inference を使用するため、OctoAI のア...
2024.07.28
AI開発チュートリアル大規模言語モデル
AI・機械学習

Google Colab上でQLoRAを作成してGGUFに変換してみた

はじめにこのコードは、Google Colab（無料版でOK）上でQLoRA (Quantized Low-Rank Adaptation)を使用して大規模言語モデルを訓練し、その後GGUF形式に変換するためのものです。それぞれの部分につい...
2024.01.13
AI・機械学習チュートリアル大規模言語モデル