大規模言語モデル

AI・機械学習

Microsoft Research が開発した GraphRAG: 企業の非公開データ分析を革新する LLM 技術

近年の AI の進化は目覚ましく、特に大規模言語モデル (LLM) は目覚ましい発展を遂げています。しかし、LLM には、学習したデータの範囲を超えた問題を解決することが難しいという課題がありました。そこで、Microsoft Resear...
AI・機械学習

Hugging Face AccelerateによるFSDPとDeepSpeedの比較と使い分け方

はじめに近年、大規模言語モデルの学習には多くのGPUリソースが必要とされています。そこで登場したのが、Zero Redundancy Optimizer (Zero)アルゴリズムを実装したDeepSpeedとPyTorch FSDPの2つの...
自然言語処理

RecurrentGemma-9b: 革新的な自然言語処理モデルの登場

はじめに近年、自然言語処理(NLP)の分野では、大規模な言語モデルが目覚ましい進歩を遂げています。そんな中、Googleが開発したRecurrentGemmaモデルが注目を集めています。RecurrentGemmaは、従来のGemmaモデル...
AI・機械学習

進化的モデルマージでAIモデルをパワーアップ!mergekit-evolve(GoogleColab版)

進化的なモデルマージとは、複数の言語モデルを組み合わせて、特定の能力や特性を持つ新しいモデルを作成する手法です。従来の手法では、どのモデルをどのように組み合わせるかは手探りで進める必要がありましたが、進化的なモデルマージでは、目標とする特性...
AI・機械学習

Eraser 記法ガイド②

前回のガイドでは、Eraserの基本的な記法を説明しました。今回は、さらに高度な記法とより多くの例を紹介します。エンティティ関係図 (ERD)Eraserは、エンティティ関係図 (ERD) を作成するための記法も提供しています。ERDは、デ...
モバイルアプリ開発

iPhoneアプリ「Enchanted」でローカルLLMの「Ollama」を使い、Tailscaleで外出先からアクセスしてみよう!

はじめにローカルLLMが話題になっていますね。そんな中、iPhoneアプリの「Enchanted」を使って、ローカルLLMの「Ollama」を手軽に使う方法をご紹介します!さらに、VPNサービスの「Tailscale」を導入すれば、外出先か...
AI・機械学習

Dify v0.6.9 リリースノート

5日前に @takatost がリリースした最新のバージョン v0.6.9 では、ワークフロー機能の強化が行われました。ここではその主なアップデートを詳しくご紹介します。新機能☄️ ワークフローをツールとして公開作成したAIワークフローを再...
AI・機械学習

Chat Vectorで日本語LLMをチャットモデルに改造する方法(GoogleColab付)

はじめに最近、大規模言語モデル(LLM)の開発が急速に進んでいますが、データの制約により、多くのオープンソースLLMの性能は主に英語に限定されています。この問題に対処するため、Chat Vector論文では、簡単なモデルの算術演算を用いて事...
大規模言語モデル

Difyで異なったローカルLLMエージェントを使った会話

この記事では、DifyとOllamaを使用してローカルLLMを構築し、複数のLLMエージェントを設定してAIが社会に与える影響について議論を行ってもらいます。前提条件Ollamaをローカル環境で起動しておくこと:起動方法については、こちらを...