Saat di Makkah K.H. Hasyim Asy'ari belajar di bawah bimgingan Syaikh Mafudz dari Termas (Pacitan) yang merupakan ulama dari Indonesia pertama yang mengajar Sahih Bukhori di Makkah.
Selain belajar hadis ia juga belajar tassawuf (sufi) dengan mendalami Tarekat Qadiriyah dan Naqsyabandiyah.
K.H. Hasyim Asy’ari juga mempelajari fiqih madzab Syafi'i di bawah asuhan Syaikh Ahmad Katib dari Minangkabau yang juga ahli dalam bidang astronomi (ilmu falak), matematika (ilmu hisab), dan aljabar.
Pada usianya yang ke-21, Hasyim menikah dengan Nafisah, putri Kyai Ya’qub (Siwalan Panji, Sidoarjo). Pernikahan itu dilangsungkan pada tahun 1892 M/1308H. Setelah itu, Kyai Hasyim bersama istri dan mertuanya berangkat ke Mekkah guna menunaikan ibadah haji. ***