لما انتهت حروب الردة واستقرت الأمور في الجزيرة العربية، بدأ أبو بكر بتوجيه الجيوش لفتح البلاد، فجيَّش لفتح العراق جيشين:
الجيش الأول بقيادة خالد بن الوليد، وكان يومئذ باليمامة، فكتب إليه يأمره بأن يغزو العراق من جنوبه الغربي، وقال له: «سر إلى العراق حتى تدخلها وابدأ بفرج الهند (يقصد مدينة الأبلة)»، وأمره بأن يأتي العراق من أعاليها، وأن يتألف الناس ويدعوهم إلى الإسلام، فإن أجابوا وإلا أخذ منهم الجزية، فإن امتنعوا عن ذلك قاتلهم، وأمره أن لا يُكره أحداً على المسير معه، ولا يستعين بمن ارتد عن الإسلام وإن كان عاد إليه، وأمره أن يستصحب كل امرئ مر به من المسلمين، وشرع أبو بكر في تجهيز السرايا والبعوث والجيوش إمداداً لخالد. كان تاريخ بعث خالد إلى العراق في شهر رجب وقيل في المحرم سنة 12هـ.
الجيش الثاني بقيادة عياض بن غنم، وكان بين النباج (قرية في منتصف الطريق بين مكة والبصرة) والحجاز، فكتب إليه بأن يغزو العراق من شماله الشرقي بادئاً بالمصيخ، وهي موضع على حدود الشام مما يلي العراق، وقال له: «سر حتى المصيخ وابدأ بها، ثم ادخل العراق من أعلاها حتى تلقى خالداً».
وكتب أبو بكر إلى خالد وعياض: «ثم يستبقان إلى الحيرة، فأيهما سبق إلى الحيرة أمير على صاحبه»، وقال: «إذا اجتمعتما إلى الحيرة وقد فضضتما مسالح فارس وأمنتما أن يؤتى المسلمون من خلفهم، فليكن أحدكما ردءاً للمسلمين ولصاحبه بالحيرة، وليقتحم الآخرُ على عدو الله وعدوكم من أهل فارس دارَهم ومستقرَّ عزهم: المدائن».
كان هدفُ الخليفة أبي بكر السيطرةَ على الحيرة لأهميتها العسكرية، فقد كانت قلب العراق وأقرب منطقة مهمة إلى المدائن عاصمة الإمبراطورية الفارسية، كما كانت مهمة للقوات الإسلامية في قتالها الروم في بلاد الشام.
كان المثنى بن حارثة قد قدم على أبي بكر وحثه على محاربة الفرس وقال له: «ابعثني على قومي»، ففعل أبو بكر ذلك، فشرع المثنى في الجهاد بالعراق، ثم بعث إلى أبي بكر يستمده فكتب إليه أبو بكر: «أما بعد، فإني قد بعثت إليك خالد بن الوليد إلى أرض العراق، فاستقبله بمن معك من قومك، ثم ساعده ووازره وكانفه، ولا تعصين له أمراً ولا تخالفن له رأياً، فإنه من الذين وصف الله تبارك وتعالى في كتابه: «محمدٌ رسولُ الله والذين معه أشداءُ على الكفار رحماءُ بينهم تراهم ركعاً سجداً»، فما أقام معك فهو الأمير، فإن شخص عنك فأنت على ما كنت عليه».
لم يلبث خالد أن قدم العراق ومعه ألفا رجل ممن قاتل المرتدين، وحشد ثمانية آلاف رجل من قبائل ربيعة، وكتب إلى ثلاثة من الأمراء في العراق قد اجتمعت لهم جيوش لغرض الجهاد فاستجابوا وضموا جيوشهم التي بلغ تعدادها مع جيش المثنى ثمانية آلاف، فأصبح جيش المسلمين ثمانية عشر ألفاً.
وقد اتفقوا على أن يكون مكان تجمع الجيوش الأبلة، وقبل أن يسير خالد إلى العراق كتب إلى هرمز صاحب ثغر الأبلة كتابَ إنذار يقول فيه: «أما بعد، فأسلم تسلم أو اعتقد لنفسك وقومك الذمة وأقرر بالجزية، وإلا فلا تلومن إلا نفسك، فقد جئتكم بقوم يحبون الموت كما تحبون الحياة».
وحين قارب خالد العدو جعل الجيش ثلاث فرق، وأمر أن تسلكَ كلُّ فرقة طريقاً، فجعل المثنى على فرقة المقدمة، ثم تلتها فرقة عليها عدي بن حاتم الطائي، وخرج خالد بعدهما وواعدهما الحضير، ليجتمعوا به ويصمدوا لعدوهم.