AI・機械学習 Googleが公開した新しいオープンLLM、Gemma 2へようこそ! Gemma 2とは?Googleは、最先端のオープンLLMファミリーに新たに加わったGemma 2をリリースしました。Hugging FaceはGoogleと協力し、Hugging Faceエコシステムへの最高の統合を確実にすることに興奮し... 2024.06.28 AI・機械学習
AI・機械学習 Hugging Face AccelerateによるFSDPとDeepSpeedの比較と使い分け方 はじめに近年、大規模言語モデルの学習には多くのGPUリソースが必要とされています。そこで登場したのが、Zero Redundancy Optimizer (Zero)アルゴリズムを実装したDeepSpeedとPyTorch FSDPの2つの... 2024.06.14 AI・機械学習大規模言語モデル