Pada zaman Rasulullah SAW, umat Islam tidak menganut mana-mana mazhab kerana pada ketika itu tidak timbul kepentingan untuk umat Islam bermazhab. Kenapa pada zaman Rasulullah SAW umat Islam tidak perlu bermazhab ? Kenapa pada zaman kebelakangan sahaja umat Islam perlu bahkan “diwajibkan” memakai mazhab ?
Umat Islam tidak perlu bermazhab bahkan tidak ada jalan untuk munculnya mazhab adalah disebabkan segala permasalahan hukum yang timbul segera diselesaikan oleh Rasulullah SAW. Sedangkan pada zaman kebelakangan umat Islam perlu menyelesaikan permasalahan hukum yang timbul atau baru timbul dengan berpandukan kepada EMPAT SUMBER ASASI iaitu:
1) Al-Quran
2) As-Sunnah
3) Ijma’
4) Qias
Dalam pada itu masih terdapat juga ulama’ terkemuka yang enggan memakai ijma’ dan qias sebagai dasar di dalam mengistimbatkan hukum seperti Imam Daud bin Ali, tokoh mazhab Az-Zahiri atau Ahli Zahir.
Setelah berlalu zaman Rasulullah SAW, barulah umat Islam mengenal mazhab-mazhab kerana “tempat rujukan” untuk menyelesaikan segala masalah baru timbul telah tidak ada lagi. Ulama’-ulama’ Islam perlu merujuk kepada Al-Quran sebagai Dasar hukum pertama. Seterusnya tempat rujukan berpindah pula kepada Sunnah Rasulullah SAW, kemudian ijma’ dan qias.
Sejak bila umat Islam bermazhab ? Sebenarnya, setelah wafatnya Rasulullah SAW, mulalah umat Islam iaitu para sahabat Rasulullah SAW bermazhab. Mereka yang tidak ahli di dalam ilmu Al-Quran dan As-Sunnah telah berpegang kepada pendapat sahabat-sahabat yang masyhur alim dan bijak di dalam bidang agama seperti Sayyidina Umar Ibnul Khattab, Sayyidina Ali, Abdullah Ibnu Mas’ud, Abbdullah Ibnu Umar, Zaid bin Thabit, Ummul Mu’minin Siti Aisyah binti Abu Bakar As-Siddiq, Muaz bin Jabal dan lain-lain lagi. Mereka ini umpama “MUFTI” yang sangat terkemuka pada zaman sahabat.
Pada peringkat zaman tabien pula, semakin ramai ulama’-ulama’ yang mendirikan mazhab kerana umat Islam ketika itu semakin berkembang ke serata pelusuk negeri dan telah lahirnya ramai bijak pandai di dalam persoalan hukum.
Di antara mereka ialah Said bin Al-Musaiyyab, Asy-Sya’bi, Urwah bin Zubair, Al-Qasim bin Muhammad, Ubaidullah bin Abdullah bin Utbah bin Mas’ud, Mujahid bin Jabar, Ikrimah maula Ibnu Abbas, Ata’ bin Abi Rabah, Nafi’ maula Ibnu Umar dan ramai lagi.
Pada peringkat zaman tabi-tabien pula, umat Islam menumpukan kepada tokoh-tokoh ulama’ terkemuka untuk menyelesaikan masalah mereka seperti Sufyan bin Uyainah, Muslim bin Khalid, Waki’ bin Jarrah, Abdullah bin Al-Mubarak, Al-Lait bin Saad, Yazid bin Abi Habib, Imam Abu Hanifah, Imam Malik, Imam Asy-Syafie, Imam Ahmad bin Hanbal dan ramai lagi.
Bila muncul Imam Abu Hanifah di Kufah, umat Islam di negeri Iraq mula menumpukan perhatian mereka kepada imam muda ini. Begitu juga Imam Malik bin Anas, umat Islam mula beramai-ramai bertumpu untuk belajar kepadanya, sehingga pelajar-pelajar dari Mesir juga datang ke Madinah untuk belajar kepada Imam Malik seperti Abdullah bin Abdul Hakam. Begitu juga dengan penduduk Mekah dengan kemunculan Imam Asy-Syafie dan penduduk Baghdad dengan kemunculan Imam Ahmad bin Hanbal.