Kalangan pesantren gigih melawan kolonialisme dengan membentuk organisasi pergerakan, seperti Nahdlatut Wathan (Kebangkitan Tanah Air) pada tahun 1916. Kemudian tahun 1918 didirikan Taswirul Afkar atau dikenal juga dengan Nahdlatul Fikri (Kebangkitan Pemikiran), sebagai wahana pendidikan sosial politik kaum dan keagamaan kaum santri. Selanjutnya didirikanlah Nahdlatut Tujjar, (Pergerakan Kaum Sudagar) yang dijadikan basis untuk memperbaiki perekonomian rakyat. Dengan adanya Nahdlatul Tujjar itu, maka Taswirul Afkar, selain tampil sebagi kelompok studi juga menjadi lembaga pendidikan yang berkembang sangat pesat dan memiliki cabang di beberapa kota.
Sementara itu, keterbelakangan, baik secara mental, maupun ekonomi yang dialami bangsa Indonesia, akibat penjajahan maupun akibat kungkungan tradisi, menggugah kesadaran kaum terpelajar untuk memperjuangkan martabat bangsa ini, melalui jalan pendidikan dan organisasi. Gerakan yang muncul 1908 tersebut dikenal dengan Kebangkitan Nasional. Semangat kebangkitan memang terus menyebar ke mana-mana--setelah rakyat pribumi sadar terhadap penderitaan dan ketertinggalannya dengan bangsa lain, sebagai jawabannya, muncullah berbagai organisai pendidikan dan pembebasan.
Ketika Raja Ibnu Saud hendak menerapkan asas tunggal yakni mazhab wahabi di Mekah, serta hendak menghancurkan semua peninggalan sejarah Islam maupun pra-Islam, yang selama ini banyak diziarahi karena dianggap bi'dah. Gagasan kaum wahabi tersebut mendapat sambutan hangat dari kaum modernis di Indonesia, baik kalangan Muhammadiyah di bawah pimpinan Ahmad Dahlan, maupun PSII di bahwah pimpinan H.O.S. Tjokroaminoto. Sebaliknya, kalangan pesantren yang selama ini membela keberagaman, menolak pembatasan bermadzhab dan penghancuran warisan peradaban tersebut.
Sikapnya yang berbeda, kalangan pesantren dikeluarkan dari anggota Kongres Al Islam di Yogyakarta 1925, akibatnya kalangan pesantren juga tidak dilibatkan sebagai delegasi dalam Mu'tamar 'Alam Islami (Kongres Islam Internasional) di Mekah yang akan mengesahkan keputusan tersebut.
Didorong oleh minatnya yang gigih untuk menciptakan kebebsan bermadzhab serta peduli terhadap pelestarian warisan peradaban, maka kalangan pesantren terpaksa membuat delegasi sendiri yang dinamai dengan Komite Hejaz, yang diketuai oleh KH. Wahab Hasbullah.
Atas desakan kalangan pesantren yang terhimpun dalam Komite Hejaz, dan tantangan dari segala penjuru umat Islam di dunia, Raja Ibnu Saud mengurungkan niatnya. Hasilnya hingga saat ini di Mekah bebas dilaksanakan ibadah sesuai dengan madzhab mereka masing-masing. Itulah peran internasional kalangan pesantren pertama, yang berhasil memperjuangkan kebebasan bermadzhab dan berhasil menyelamatkan peninggalan sejarah serta peradaban yang sangat berharga.
Berangkat dari komite dan berbagai organisasi yang bersifat embrional dan ad hoc, maka setelah itu dirasa perlu untuk membentuk organisasi yang lebih mencakup dan lebih sistematis, untuk mengantisipasi perkembangan zaman. Maka setelah berkordinasi dengan berbagai kiai, akhirnya muncul kesepakatan untuk membentuk organisasi yang bernama Nahdlatul Ulama (Kebangkitan Ulama) pada 16 Rajab 1344 H (31 Januari 1926). Organisasi ini dipimpin oleh KH. Hasyim Asy'ari sebagi Rais Akbar.
Untuk menegaskan prisip dasar orgasnisai ini, maka KH. Hasyim Asy'ari merumuskan Kitab Qanun Asasi (prinsip dasar), kemudian juga merumuskan kitab I'tiqad Ahlussunnah Wal Jamaah. Kedua kitab tersebut kemudian diejawantahkan dalam Khittah NU , yang dijadikan dasar dan rujukan warga NU dalam berpikir dan bertindak dalam bidang sosial, keagamaan dan politik.
