Perbankan syariah pertama kali muncul di Mesir tanpa menggunakan embel-embel Islam, karena adanya kekhawatiran rezim yang berkuasa saat itu akan melihatnya sebagai gerakan fundamentalis. Pemimpin perintis usaha ini Ahmad El Najjar, mengambil bentuk sebuah bank simpanan yang berbasis profit sharing (pembagian laba) di kota Mit Ghamr pada tahun 1963. Eksperimen ini berlangsung hingga tahun 1967, dan saat itu sudah berdiri 9 bank dengan konsep serupa di Mesir. Bank-bank ini, yang tidak memungut maupun menerima bunga, sebagian besar berinvestasi pada usaha-usaha perdagangan dan industri secara langsung dalam bentuk partnership dan membagi keuntungan yang didapat dengan para penabung. Masih di negara yang sama, pada tahun 1971, Nasir Social bank didirikan dan mendeklarasikan diri sebagai bank komersial bebas bunga. Walaupun dalam akta pendiriannya tidak disebutkan rujukan kepada agama maupun syariat Islam. Islamic Development Bank (IDB) kemudian berdiri pada tahun 1974 disponsori oleh negara-negara yang tergabung dalam Organisasi Konferensi Islam, walaupun utamanya bank tersebut adalah bank antar pemerintah yang bertujuan untuk menyediakan dana untuk proyek pembangunan di negara-negara anggotanya. IDB menyediakan jasa finansial berbasis fee dan profit sharing untuk negara-negara tersebut dan secara eksplisit menyatakan diri berdasar pada syariah Islam.
Dibelahan negara lain pada kurun 1970-an, sejumlah bank berbasis Islam kemudian muncul. Di Timur Tengah antara lain berdiri Dubai Islamic Bank (1975), Faisal Islamic Bank of Sudan (1977), Faisal Islamic Bank of Egypt (1977) serta Bahrain Islamic Bank (1979). Dia Asia-Pasifik, Phillipine Amanah Bank didirikan tahun 1973 berdasarkan dekrit presiden, dan di Malaysia tahun 1983 berdiri Muslim Pilgrims Savings Corporation yang bertujuan membantu mereka yang ingin menabung untuk menunaikan Ibadah Haji.
Di Indonesia pelopor perbankan syariah adalah Bank Muamalat Indonesia. Berdiri tahun 1991, bank ini diprakarsai oleh Majelis Ulama Indonesia (MUI) dan pemerintah serta dukungan dari Ikatan Cendekiawan Muslim Indonesia (ICMI) dan beberapa pengusaha muslim. Bank ini sempat terimbas oleh krisis moneter pada akhir tahun 90-an sehingga ekuitasnya hanya tersisa sepertiga dari modal awal. IDB kemudian memberikan suntikan dana kepada bank ini dan pada periode 1999-2002 dapat bangkit dan menghasilkan laba. Saat ini keberadaan bank syariah di Indonesia telah di atur dalam Undang-undang yaitu UU No. 10 tahun 1998 tentang Perubahan UU No. 7 tahun 1992 tentang Perbankan.
Hingga tahun 2007 terdapat 3 institusi bank syari’ah di Indonesia yaitu Bank Muamalat Indonesia, Bank Syariah Mandiri dan Bank Mega Syari’ah. Sementara itu bank umum yang telah memiliki unit usaha syari’ah adalah 19 bank diantaranya merupakan bank besar seperti Bank Negara Indonesia (Persero), Bank Rakyat Indonesia (Persero) dan Bank swasta nasional: Bank Tabungan Pensiunan Nasional (Tbk). Sistem syari’ah juga telah digunakan oleh Bank Perkreditan Rakyat, saat ini telah berkembang 104 BPR Syari’ah.
