رغم أنه نشأ في المدينة الإسلامية العظيمة حاضرة الأندلس قرطبة؛ إلا أن بقي بن مخلد - رحمه الله - قرر أن يطلب العلم، ولكونه فقيرًا كان القرار الجريء أن يقطع هذه المسافة الشاسعة بين الأندلس وبغداد مشيًا على الأقدام، وفي بغداد التقى بيحيى بن معين ثم أحمد بن حنبل رحمهما الله، وله في ذلك مواقف.