HyperAI

التضمينات الموضعية الدوارة (RoPE)

تم اقتراح RoPE من قبل Su Jianlin وآخرين. إنه ترميز موضع مطلق. فكرتها الأساسية هي تمكين النموذج من الاهتمام بالمواضع النسبية من خلال ترميز الموضع المطلق.