大規模言語モデル

AI・機械学習

GoogleColabで複数のリトリーバーの結果を組み合わせる方法(Fate/stay night編)

はじめに前回の記事「GoogleColabで複数のリトリーバーの結果を組み合わせる方法」では、EnsembleRetrieverを使用して複数のリトリーバーの結果をアンサンブルする基本的な方法について説明しました。本記事では、より応用的な使...
AI・機械学習

llama.cppで「Umievo-itr012-Gleipnir-7B」をサーバー起動する方法(GoogleColab)

はじめに本記事では、純粋なC/C++で実装された言語モデル推論ツールである「llama.cpp」を、Google Colab上でサーバーとして起動し、HTTPリクエストを送信して推論を行う方法を初心者向けに解説します。今回は、4つの強力な日...
チュートリアル

GoogleColabとAPIキーを使ってNemotron-4-340B-Instructモデルを利用する方法(Google Colabノート付)

はじめにNemotron-4-340B-Instructは、NVIDIA社が開発した大規模言語モデル(LLM)です。このモデルは、英語でのチャットやタスク指向の対話に最適化されています。本記事では、GoogleColabを使ってAPIキーで...
AI・機械学習

VideoLLM-online: ストリーミング動画に対応した大規模言語モデル

はじめに近年、大規模言語モデル(LLM)は目覚ましい発展を遂げ、画像や動画を理解する能力を獲得しつつあります。しかし、従来のLLMは、予め用意された短い動画クリップを処理することを前提としているため、ストリーミング動画への対応には課題があり...