نقدم نموذجًا لبناء تمثيلات متجهية للكلمات من خلال تركيب الحروف باستخدام LSTM ثنائية الاتجاه. بالمقارنة مع نماذج التمثيل الكلامي التقليدية التي تحتوي على متجهات مستقلة لكل نوع من أنواع الكلمات، يتطلب نموذجنا فقط متجهًا واحدًا لكل نوع حرف ومجموعة ثابتة من المعلمات للنموذج التركيبي. رغم بساطة هذا النموذج، وأهم من ذلك طبيعة العلاقة العشوائية بين الشكل والوظيفة في اللغة، فإن تمثيلات الكلمات التي "تتركب" لدينا تحقق نتائج رائدة في مجال نمذجة اللغة وتحديد أجزاء الكلام. تكون الفوائد فوق النماذج التقليدية أكثر وضوحًا في اللغات ذات الغنى الإملائي (مثل اللغة التركية).