大規模言語モデル

AI開発

Big Tiger Gemma 27B v1:Gemmaの無修正バージョン

はじめに人工知能の世界で、新たな星が誕生しました。その名も「Big Tiger Gemma 27B v1」。この記事では、このモデルの特徴や使い方、そして私たちの生活にもたらす可能性について、詳しく解説していきます。Big Tiger Ge...
AI・機械学習

SpreadsheetLLM: 大規模言語モデルによる革新的なスプレッドシート処理

はじめにスプレッドシートは、ビジネスや個人の日常生活で広く使用されているデータ管理ツールです。しかし、その複雑な構造や大量のデータを効率的に処理することは、従来の手法では困難でした。本記事では、大規模言語モデル(LLM)を活用して、スプレッ...
ソフトウェア開発ツール

Docker ComposeでBedrock Engineerを使う方法:完全ガイド

はじめにこんにちは!今回は、最新のAI技術を活用したソフトウェア開発支援ツール「Bedrock Engineer」をDocker Composeを使って簡単に始める方法をご紹介します。このガイドでは、DockerやDocker Compos...
AI・機械学習

ローカルLLMでGraphRAGを実装して「クリスマスキャロル」を分析してみた

「クリスマスキャロル」の真のテーマは何だったのか?ローカル環境で構築した最強の質問応答AIで、その謎に迫ります!最近、ChatGPTをはじめとする大規模言語モデル(LLM)が注目を集めていますが、LLMは大量のテキストデータから学習するため...
LLM

llama.cppをDocker-composeでビルドから構築する方法

はじめにllama.cppとはllama.cppは、Meta(旧Facebook)が開発したLLaMA(Large Language Model Meta AI)モデルを、C/C++で実装したオープンソースプロジェクトです。このプロジェクト...
チュートリアル

LLaMA.cppをDockerで使う方法:初心者向け完全ガイド

はじめにこんにちは!今回は、LLaMA.cppをDockerで使用する方法について、初心者の方にも分かりやすく解説していきます。AI技術の進歩により、大規模言語モデル(LLM)を手軽に使えるようになりました。その中でもLLaMA.cppは、...
AIコードアシスタント

CodeExtractorクラス:LLM出力からのコード抽出と検証の完全ガイド

はじめに近年、ChatGPTやGPT-4などの大規模言語モデル(LLM)の登場により、プログラミングの世界は大きな変革を迎えています。LLMは驚異的な自然言語理解力とコード生成能力を持っていますが、その出力からコードを正確に抽出し、検証する...
データサイエンス

GraphRAG:LLMによるデータ分析の革新的手法

はじめに皆さん、こんにちは!今回は、最新の自然言語処理技術「GraphRAG」についてご紹介します。難しそうに聞こえるかもしれませんが、心配しないでください。できるだけわかりやすく、噛み砕いて説明していきますね。GraphRAGとは?Gra...
Python開発

Llama.cpp + WandBで始める日本語AI評価:Gemmaモデル(gemma-2-9b-it-Q4_K_M.gguf)のELYZA-tasks-100パフォーマンス分析

はじめにこんにちは!この記事では、Google Colab上でGemmaモデル(gemma-2-9b-it-Q4_K_M.gguf)を使用して、ELYZA-tasks-100データセットの評価を行う方法をご紹介します。この記事は、大規模言語...
AI・機械学習

AutoRound: 大規模言語モデルのための高度な量子化アルゴリズム

近年の大規模言語モデル (LLM) の進化は目覚ましいものですが、その性能と引き換えに、莫大な計算資源とメモリが必要となる点が課題となっています。AutoRoundは、この課題を解決するべく開発された、LLMのための高度な量子化アルゴリズム...