HyperAIHyperAI

Command Palette

Search for a command to run...

建設的セキュリティ調整(CSA)

日付

3ヶ月前

組織

アリババグループ
南洋理工大学
清華大学
復旦大学

Paper URL

2509.01909

建設的安全性アライメント(CSA)は、2025年9月にアリババグループのセキュリティ部門と清華大学などの大学によって共同で提案されました。関連する研究結果は論文「[…]」に掲載されました。Oyster-I: 拒否を超えて - 責任ある言語モデルのための建設的な安全性アライメント”。

大規模言語モデル(LLM)は通常、有害なコンテンツの生成を防ぐためのセキュリティメカニズムを導入します。CSA(コンテンツセーフティ)は、悪意のある不正使用を防ぐだけでなく、悪意のないユーザーを安全で有益な結果へと積極的に導きます。受動的な防御や包括的な拒否にとどまらず、セキュリティを二重の責任と捉え、安全で有益なガイダンスへと進化させます。つまり、セキュリティは害を防ぐだけでなく、ユーザーが正当かつ信頼できる解決策を見つけられるように支援するという二重の責任を持つのです。

AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています