أولي أبو بكر الصديق إمرة جيش المسلمين لخالد بن الوليد ليواجهوا جيش الروم الذي بلغ مائتي واربعين ألف مقاتل‏,‏ فتوقف خالد بجيش المسلمين خاطبا‏:(‏ إن هذا يوم من أيام الله‏,‏ لاينبغي فيه الفخر ولا البغي‏,‏ اخلصوا جهادكم واريدوا الله بعملكم‏,‏ وتعالوا نتعاور الإمارة‏,‏ فيكون أحدنا اليوم أميرا والآخر غدا‏,‏ والآخر بعد غد‏,‏ حتي يتأمر كلكم‏).‏وقبل أن يخوض خالد القتال‏,‏ كان يشغل باله احتمال أن يهرب بعض افراد جيشه بالذات من هم حديثو عهد بالإسلام‏,‏من أجل هذا ولأول مرة دعا نساء المسلمين وسلمهن السيوف‏,‏ وأمرهن بالوقوف خلف صفوف المسلمين وقال لهن‏:(‏ من يولي هاربا‏,‏ فاقتلنه‏).‏وقبيل بدء القتال طلب قائد الروم أن يبرز إليه خالد‏,‏ وبرز إليه خالد‏,‏ في الفراغ الفاصل بين الجيشين‏,‏ وقال‏(‏ ماهان‏)‏ قائد الروم‏:(‏ قد علمنا أنه لم يخرجكم من بلادكم إلا الجهد والجوع فإن شئتم اعطيت كل واحد منكم عشرة دنانير وكسوة وطعاما‏,‏ وترجعون إلي بلادكم‏,‏ وفي العام القادم ابعث إليكم بمثلها‏!).‏وأدرك خالد ما في كلمات الرومي من سوء الأدب ورد قائلا‏:(‏ إنه لم يخرجنا من بلادنا الجوع كما ذكرت‏,‏ ولكننا قوم نشرب الدماء‏,‏وقد علمنا أنه لادم أشهي ولا أطيب من دم الروم‏,‏ فجئنا لذلك‏!).‏ وعاد بجواده إلي صفوف الجيش ورفع اللواء عاليا مؤذنا بالقتال‏:(‏ الله اكبر‏,‏ هبي رياح الجنة‏).‏ودار قتال قوي‏,‏ وبدا للروم من المسلمين مالم يكونوا يحتسبون‏,‏ ورسم المسلمون صورا تبهر الألباب من فدائيتهم وثباتهم‏,‏ فها هو خالد غلي رأس مائة من جنده ينقضون علي أربعين ألفا من الروم‏,‏ يصيح بهم‏:(‏ والذي نفسي بيده مابقي من الروم من الصبر والجلد إلا مارأيتم‏,‏ وأني لأرجو أن يمنحكم الله اكتافهم‏).‏وبالفعل انتصر المائة علي الأربعين ألفا‏.‏

وقد انبهر القادة الروم من عبقرية خالد في القتال‏,‏ مما حمل‏(‏ جرجه‏)‏ أحد قادتهم للحديث مع خالد‏,‏ حيث قال له‏:(‏ يا خالد اصدقني‏,‏ ولاتكذبني فإن الحر لا يكذب‏,‏ هل أنزل الله علي نبيكم سيفا من السماء فأعطاك إياه‏,‏ فلا تسله علي أحد إلا هزمته؟‏).‏ قال خالد‏:(‏ لا‏).‏ قال الرجل‏:(‏ فبم سميت سيف الله‏).‏ قال خالد‏:(‏ إن الله بعث فينا رسوله‏,‏ فمنا من صدقه ومنا من كذب‏,‏ وكنت فيمن كذب حتي أخذ الله قلوبنا إلي الإسلام‏,‏ وهدانا برسوله فبايعناه‏,‏ فدعا لي الرسول‏,‏ وقال لي‏:(‏ أنت سيف من سيوف الله‏)‏ فهكذا سميت سيف الله‏).‏ قال القائد الروماني‏:(‏ وإلام تدعون‏).‏ قال خالد‏:(‏ إلي توحيد الله وإلي الإسلام‏).‏ قال‏:(‏هل لمن يدخل الإسلام اليوم مثل مالكم من المثوبة والأجر؟‏)..‏

قال خالد‏:(‏ نعم وأفضل‏).‏ قال الرجل‏:(‏ كيف وقد سبقتموه‏).‏ قال خالد‏:(‏ لقد عشنا مع رسول الله ـ صلي الله عليه وسلم ـ ورأينا آياته ومعجزاته وحق لمن رأي مارأينا‏,‏ وسمع ماسمعنا أن يسلم في يسر‏,‏ أما أنتم يامن لم تروه ولم تسمعوه ثم آمنتم بالغيب‏,‏ فإن أجركم أجزل وأكبر إذا صدقتم الله سرائركم ونواياكم‏).‏وصاح القائد الروماني وقد دفع جواده إلي ناحية خالد ووقف بجواره‏:(‏ علمني الإسلام ياخالد‏!).‏ واسلم وصلي لله ركعتين لم يصل سواهما‏,‏ وقاتل جرحه الروماني في صفوف المسلمين مستميتا في طلب الشهادة حتي نالها وظهر بها‏.

‏وفي إثناء قيادة خالد ـ رضي الله عنه ـ معركة اليرموك التي هزمت فيها الإمبراطورية الرومانية توفي أبو بكر الصديق ـ رضي الله عنه ـ وتولي الخلافة بعده عمر ـ رضي الله عنه ـ وقد ولي عمر قيادة جيش اليرموك لأبي عبيدة بن الجراح أمين هذه الأمة وعزل خالد‏.‏ وصل الخطاب إلي أبي عبيدة فأخفاه حتي انتهت المعركة‏,‏ ثم أخبر خالد بالأمر فلم يغضب خالد ـ رضي الله عنه ـ بل تنازل في رضي وسرور‏,‏ لأنه كان يقاتل لله وحده لا يبغي من وراء جهاده أي أمر من أمور الدنيا‏.‏ وقد فعل عمر رضي الله ذلك لما رأي الناس بهروا ببطولات خالد ومهارته في القتال فخشي أن يظنوا أنهم ينصرون به‏.‏