未分類 【Learn Prompting】Prompt Hacking【日本語訳】～Jailbreaking～
IntroductionPrompt InjectionPrompt LeakingJailbreakingジェイルブレイキングは、LLM（Large Language Models、大規模言語モデル）に設けられた安全性やモデレーション機能...
maki
未分類 
大規模言語モデル 【Learn Prompting】Prompt Hacking【日本語訳】Introduction～Prompt Injection～Prompt Leaking
Introductionプロンプトハッキングとは、LLM（大規模言語モデル）の脆弱性を悪用して、入力やプロンプトを操作することにより、不正な行為を引き起こす攻撃方法です。伝統的なハッキングがソフトウェアの脆弱性を悪用するのに対し、プロンプト...
GPTs GPTsに露伴ディフェンスを実装してみた【Prompt Injection (Prompt Leaking) 対策】
はじめに最近のAI技術の進展により、GPTsなどの言語モデルが広く使われています。しかし、これらのシステムは「Prompt Injection（プロンプトインジェクション）」や「Prompt Leaking（プロンプトリーキング）」といった...
AI・機械学習 Google Colab上でQLoRAを作成してGGUFに変換してみた
はじめにこのコードは、Google Colab（無料版でOK）上でQLoRA (Quantized Low-Rank Adaptation)を使用して大規模言語モデルを訓練し、その後GGUF形式に変換するためのものです。それぞれの部分につい...
AIエージェント GPTsを用いた人格クローンの作成
はじめに近年、テクノロジーの進化により、人工知能（AI）が私たちの生活に深く関わるようになりました。特に、ChatGPTのような高度なAI技術は、日常生活や業務において多くの可能性を提供しています。この記事では、GPTs（Generativ...
AIアシスタント GPTsとは
GPTsについて近年、ChatGPTのカスタムバージョンである「GPTs」が登場しました。GPTsは、日常生活や特定のタスク、職場、家庭でより有用なChatGPTのカスタマイズ版を作成し、他の人と共有する新しい方法です。例えば、ボードゲーム...
チュートリアル 無料枠Google Colab で LLaMA-Factory をやってみた
はじめにGoogle Colabは、ブラウザ上でPythonを実行できる無料のサービスです。これを使って、LLaMA-Factoryを動かしてみましょう。LLaMA-Factoryは、大規模言語モデル（LLM）のファインチューニングを容易に...
AI音楽生成 M2UGenのざっくり論文解説
全体ざっくり解説はじめにMLLMsは、テキスト、視覚、オーディオ、3Dなどの多様なモダリティをつなぐ役割を果たしています。これらのモデルは、人間の意図を理解し、画像や音楽などの出力を生成するために使用されていますが、理解と生成を統合する研究...
チュートリアル OSSのプロジェクト管理ソフトウェア「OpenProject」のDockerクイックスタート
はじめにOpenProjectは、オープンソースのプロジェクト管理ソフトウェアです。このガイドでは、Dockerを使用してOpenProjectを簡単にセットアップする方法を説明します。こちらの記事もおすすめ前提条件DockerとDocke...
AI・機械学習 Perspectives on the State and Future of Deep Learning – 2023～日本語解説まとめ～
はじめに著名な研究機関の専門家7名と、AI技術の最前線で活躍するChatGPTが集い、人工知能（AI）技術の「現在」と「未来」について深い議論を交わした「Perspectives on the State and Future of Dee...