Gus Dur sempat merasa kecewa karena pendidikannya di Baghdad kurang diakui. Dia pun berpindah ke Jerman dan Perancis sebelum kembali ke Indonesia pada 1971.
Sepulang dari pengembaraan mencari ilmu, Gus Dur kembali ke Jombang dan memilih menjadi guru. Tahun 1971, dia bergabung dengan Fakultas Ushuludin Universitas Tebu Ireng, Jombang.
Tiga tahun setelahnya, dia diminta pamannya, KH Yusuf Hasyim, untuk menjadi sekretaris Pesantren Tebu Ireng. Pada tahun yang sama Gus Dur juga mulai menjadi penulis.
Ia kembali menekuni bakatnya sebagaii penulis dan kolumnis. Lewat tulisan-tulisan tersebut gagasan pemikiran Gus Dur mulai mendapat perhatian banyak pihak.
Ketika menjadi sekretaris Pesantren Tebu Ireng inilah Gus Dur mulai sering mendapatkan undangan menjadi narasumber untuk sejumlah forum diskusi keagamaan dan kepesantrenan, baik dalam maupun luar negeri.
Baca juga: Mengingat Langkah Gus Dur Selesaikan Konflik Di Papua
Kala itu Gus Dur juga aktif terlibat dalam kegiatan lembaga swadaya masyarakat (LSM). Dia bergabung dengan Lembaga Penelitian, Pendidikan, dan Penerangan Ekonomi & Sosial (LP3ES)
Selanjutnya, bersama sejumlah tokoh dan dimotori oleh LP3ES, Gus Dur mendirikan Lembaga Perhimpunan Pengembangan Pesantren dan Masyarakat (P3M), LSM yang bergerak di bidang pengembangan pesantren.
Tahun 1979 Gus Dur pindah ke Jakarta. Mula-mula ia merintis Pesantren Ciganjur.
Selanjutnya, pada awal 1980, dia dipercaya sebagai wakil katib syuriah Pengurus Besar Nahdlatul Ulama (PBNU).
Di sinilah Gus Dur banyak terlibat dalam diskusi dan perdebatan mengenai masalah agama, sosial dan politik, dengan berbagai kalangan lintas agama, suku, dan disiplin.
Gus Dur juga semakin serius menulis dan bergelut dengan dunianya, baik di lapangan kebudayaan, politik, maupun pemikiran keislaman.
Tahun 1984, Gus Dur dipilih secara aklamasi untuk menduduki jabatan ketua umum PBNU pada muktamar ke-27 di Situbondo, Jawa Timur.
Baca juga: Humor Gus Dur soal Polisi Jujur, antara Tito Karnavian dan Nasib Ismail Ahmad
Jabatan tersebut kembali dikukuhkan pada muktamar ke-28 di pesantren Krapyak, Yogyakarta (1989), dan muktamar di Cipasung, Jawa Barat (1994).
Jabatan ketua umum PBNU baru Gus Dur lepaskan ketika ia menjabat sebagai presiden. Gus Dur kala itu menggantikan BJ Habibie.
Selama masa pemerintahannya, Gus Dur dikenal sebagai Bapak Pluralisme. Ia sangat menjunjung tinggi keberagaman, terutama suku, agama, dan ras.