Prompt Injection

プロンプトエンジニアリング

【Learn Prompting】Prompt Hacking【日本語訳】～Defensive Measures(防御策)～

IntroductionPrompt InjectionPrompt LeakingJailbreakingDefensive Measuresプロンプトインジェクションとは、特定の入力を通じて人工知能（AI）や大規模言語モデル（LLM）に...
2024.01.18
AIセキュリティプロンプトエンジニアリング
GPTs

GPTsに露伴ディフェンスを実装してみた【Prompt Injection (Prompt Leaking) 対策】

はじめに最近のAI技術の進展により、GPTsなどの言語モデルが広く使われています。しかし、これらのシステムは「Prompt Injection（プロンプトインジェクション）」や「Prompt Leaking（プロンプトリーキング）」といった...
2024.01.15
AIセキュリティGPTs