敵対的なプロンプト

敵対的プロンプトは、LLM に関係するリスクと安全性の問題を理解するのに役立つため、プロンプト エンジニアリングにおける重要なトピックです。これらのリスクを特定し、それに対処するテクノロジーを設計することも重要な分野です。 LLM を構築するときは、セキュリティ ガードレールを回避し、モデルの基本原則を損なう可能性のあるオンザフライ攻撃を防ぐことが重要です。