KAISTのキム・チャンギク教授をリーダーとする研究チームは、パーソナライズドAIの実用化に伴う安全課題を解決する新学習フレームワークBuffer-and-Reinforceを開発した。個人や企業の専用データで大規模言語モデルをファインチューニングする際、既存の安全制約が後退するリスクが長年の課題だったが、本技術はカスタム性能の維持と安全性の強化を両立させる。博士課程のハム・ソキル氏が筆頭著者として開発に携わり、国際機械学習会議ICML2026でSpotlight講演に採択された。 研究チームは、モデルを一時的に安全フィルタが緩んだ状態にすることで有害情報の影響を減らしつつタスク習得を可能にする既知の知見を基盤にした。ファインチューニング中は一時保護層であるBufferLoRAを適用し、有害データが基盤モデルに直接作用するのを遮断する。学習完了後BufferLoRAを削除し、ReinforceLoRAで安全制約を再構築する二段階プロセスを採用した。QR分解による情報分離手法を活用し、習得した新機能と安全性を数学的に最適に統合している。 評価実験では、全学習データが有害コンテンツのみで構成される極限条件下でも、ファインチューニング後の有害応答発生率は約8%に低下し、チューニング前の約18%を大きく下回った。追加の安全データや計算リソースの増大を伴わず、最先端の安全性と高いカスタマイズ精度を達成しており、実用化に向けた高い現実味を有する。キム教授は、本技術が誰でも自身のデータで安全にカスタムAIを構築できる基盤となり、パーソナライズドAI時代における信頼性の高いサービス環境の構築に貢献すると説明した。