Google Colab

ファインチューニング

Google ColabとUnslothを使ってLlama 3 (8B)をファインチューニングし、Ollamaにデプロイする方法

このチュートリアルでは、UnslothとGoogle Colabを使って無料でLlama-3をファインチューニングし、独自のチャットボットを作成する方法を段階的に説明します。作成したチャットボットは、Ollamaを使ってローカルコンピュータ...
環境構築

Codestral Mamba:実践ガイド

はじめにCodestral Mambaは、Mamba2アーキテクチャをベースにした革新的なコード生成モデルです。この記事では、Codestral Mambaの実践的な使用方法について、初心者の方にも分かりやすく解説していきます。環境設定まず...
Python開発

Llama.cpp + WandBで始める日本語AI評価:Gemmaモデル(gemma-2-9b-it-Q4_K_M.gguf)のELYZA-tasks-100パフォーマンス分析

はじめにこんにちは!この記事では、Google Colab上でGemmaモデル(gemma-2-9b-it-Q4_K_M.gguf)を使用して、ELYZA-tasks-100データセットの評価を行う方法をご紹介します。この記事は、大規模言語...
AI開発

Llama.cpp + WandBで始める日本語AI評価:KARAKURI-LMモデル(karakuri-lm-8x7b-instruct-v0.1-Q4_K_M.gguf)のELYZA-tasks-100パフォーマンス分析

はじめにこんにちは!今回は、Google Colab上でkarakuri-lm-8x7b-instruct-v0.1-Q4_K_M.ggufモデルを使って、ELYZA-tasks-100データセットの評価を行う方法をご紹介します。この記事は...
AI・機械学習

Llama.cpp + WandBで始める日本語AI評価:karakuri-lm-8x7b-instruct-v0.1-ggufモデルのELYZA-tasks-100パフォーマンス分析

はじめにこんにちは!今回は、Google Colab上でkarakuri-lm-8x7b-instruct-v0.1-ggufモデルを使って、ELYZA-tasks-100データセットの評価を行う方法をご紹介します。この記事は、大規模言語モ...
日本語AI

Google ColabでKARAKURI LM 8x7B Instruct v0.1を動かす方法:初心者向け完全ガイド

はじめにこの記事では、国産LLM(大規模言語モデル)の最新版である「KARAKURI LM 8x7B Instruct v0.1」をGoogle Colab上で動かす方法を、初心者の方にも分かりやすく解説します。このモデルは、Functio...
AI・機械学習

GoogleColabで複数のリトリーバーの結果を組み合わせる方法(Fate/stay night編)

はじめに前回の記事「GoogleColabで複数のリトリーバーの結果を組み合わせる方法」では、EnsembleRetrieverを使用して複数のリトリーバーの結果をアンサンブルする基本的な方法について説明しました。本記事では、より応用的な使...
日本語AI

llama.cppで「Umievo-itr012-Gleipnir-7B」をサーバー起動する方法(GoogleColab)

はじめに本記事では、純粋なC/C++で実装された言語モデル推論ツールである「llama.cpp」を、Google Colab上でサーバーとして起動し、HTTPリクエストを送信して推論を行う方法を初心者向けに解説します。今回は、4つの強力な日...
データサイエンス

GoogleColabで複数のリトリーバーの結果を組み合わせる方法(ノート付)

GoogleColabで複数のリトリーバーの結果を組み合わせる方法はじめにEnsembleRetrieverとはEnsembleRetrieverは、複数の異なるリトリーバーの結果を組み合わせて、より高精度な検索結果を得るためのクラスです。...
AI・機械学習

GoogleColabとAPIキーを使ってNemotron-4-340B-Instructモデルを利用する方法(Google Colabノート付)

はじめにNemotron-4-340B-Instructは、NVIDIA社が開発した大規模言語モデル(LLM)です。このモデルは、英語でのチャットやタスク指向の対話に最適化されています。本記事では、GoogleColabを使ってAPIキーで...