श्रीदत्ताचे चौथे व पूर्ण अवतार समजले जाणारे अक्कलकोटचे स्वामी समर्थ यांचे बाळप्पा हे निस्सिम भक्त होते. स्वामींनी बाळप्पांना आपल्या चिन्मय पादुका देऊन अक्कलकोटमध्येच स्वतंत्र मठ बांधायला सांगितला होता. हाच मठ आज गुरुमंदिर म्हणून ओळखला जातो. या मठात स्वामींच्या चिन्मय पादुकांसह त्यांचे शेजघर व त्यांची अनेक जुनी छायाचित्रे आहेत. या मठाच्या सभामंडपातील फरशीवर स्वामींची पावले दिसतात, अशी भाविकांची श्रद्धा आहे. याच सभामंडपात असलेल्या पलंगावर रात्रीच्या आरतीनंतर पांघरूण घालून स्वामींना निद्रिस्त केले जाते.
श्रीमंत सराफ बाळप्पा हे मूळचे कर्नाटकातील धारवाड जिल्ह्यातील यजुर्वेदी ब्राह्मण होते. वयाच्या तिसाव्या वर्षी त्यांच्या मनात वैराग्य उत्पन्न झाले आणि सद्गुरूंना भेटण्याची तळमळ निर्माण झाली. मोठ्या मुलीचा विवाह आणि मुलाची मुंज करून ते गुरूंच्या शोधात बाहेर पडले आणि श्रीक्षेत्र गाणगापूर येथे गेले. त्यांनी तेथे दोन महिने अनुष्ठान केले. ‘अक्कलकोटमध्ये जाऊन स्वामीसेवा करावी’ असा दृष्टांत झाल्यानंतर ते अक्कलकोटला आले. त्यांना पाहताच स्वामी समर्थांना अत्यंत आनंद झाला. अक्कलकोटमध्ये राहून बाळप्पा महाराजांनी एकनिष्ठपणे स्वामींची सेवा केली. स्वामींनी बाळप्पांना कफनी, पादुका, दंड आणि निशाण दिले आणि औदुंबराखाली मठ स्थापन करण्याची आज्ञा केली. याच मठाची पुढे गुरुमंदिर म्हणून ख्याती झाली. बाळप्पा महाराजांनी स्वामींची २२ वर्षे सेवे केली. तसेच स्वामींच्या निर्वाणानंतर ते ३२ वर्षे हयात होते.
बाळप्पा महाराज मठाचा परिसर मोठा आहे. मठाभोवती भव्य दगडी तटभिंती आहेत. या तटभिंतीत असलेल्या दुमजली प्रवेशद्वारातून मंदिराच्या प्रांगणात प्रवेश होतो. या प्रवेशद्वाराच्या दोन्ही बाजूला स्तंभशाखा व वर महिरपी कमानी आहे. प्रवेशद्वाराच्या ललाटबिंबावर गणपतीची मूर्ती व खालील बाजूस किर्तीमुख आहे. प्रवेशद्वाराच्या वरच्या मजल्यावर नगारखाना आहे. सभामंडप व गर्भगृह अशी या मठाची संरचना आहे. दुमजली सभामंडपात लाकडी स्तंभ व त्यावर सज्जा आहे. हे सर्व स्तंभ महिरपी कमानींनी एकमेकांशी जोडलेले आहेत.
या खांबांच्या वरील बाजूला स्वामी समर्थांची अनेक जुनी छायाचित्रे लावलेली आहेत.
सभामंडपात पुढील बाजुला गंगाधर महाराज यांची समाधी आहे. बाळप्पा महाराजांनंतर गंगाधर महाराज हे गादीवर आले होते. गर्भगृहाच्या उजवीकडे अक्कलकोटचे गजानन महाराज शिवपुरे यांची समाधी आहे. गजानन महाराज हे गंगाधर महाराजांच्या नंतर गादीवर आले होते. अशा या गुरू-शिष्य परंपरेमुळे या मठाला गुरुमंदिर असे म्हटले जाते. २५ नोव्हेंबर २०१७ या दिवशी येथे एक चमत्कार घडला. मठाच्या छताचे नूतनीकरण केल्यानंतर मठाच्या जुन्या फरश्या बदलून तेथे ग्रॅनाइट फरश्या बसवल्या जाणार होत्या. कामाला सुरुवात होणार होती, त्याच दिवशी फरश्यांवर स्वामींच्या पाउलखुणा दिसल्या. त्यामुळे त्यानंतर फरश्या बदलण्याचे काम थांबविण्यात आले व जुन्या फरशा तशाच ठेवण्यात आल्या. आजही या फरशांवर स्वामींची पावले पाहता येतात. भाविकांना कळावे यासाठी या विशिष्ट फरश्यांना खुणा केलेल्या आहेत. स्वामी समर्थ पलंगावर असायचे आणि बाळप्पा महाराज त्यांच्या पुढ्यात बसायचे. तो पलंग या सभामंडपात आहे. रात्रीच्या आरतीनंतर येथे पांघरूण घालून स्वामींना निद्रिस्त केले जाते.
सभामंडपात गंगाधर महाराजांच्या समाधीच्या बाजूला स्वामी समर्थांचे मूळ छायाचित्र लावलेले आहे. हे छायाचित्र अमेरिकेच्या कोडॅक कंपनीच्या अधिकाऱ्याने १८७२ साली काढलेले आहे. असे सांगितले जाते की सर्व शिष्यांसह स्वामी समर्थांचे टिपलेले हे एकमेव छायाचित्र आहे. सभामंडपापासून चार पायऱ्या उंचावर येथील गर्भगृह आहे. या गर्भगृहात मध्यभागी बाळप्पा महाराजांची समाधी आहे. त्यावर त्यांचा धातुचा मुखवटा व नागमूर्ती आहे. याशिवाय या गर्भगृहात स्वामी समर्थांची मूर्ती व स्वामींनी बाळप्पा महाराजांना दिलेल्या मूळ चिन्मय पादुका आहेत. याच पादुका घेऊन बाळप्पा महाराजांनी हा मठ स्थापन केला होता.
या मठाच्या प्रांगणात राम मंदिर आहे. दररोज पहाटे पाच वाजता गुरूमंदिरात काकडआरती होते. संध्याकाळी सात ते आठ या वेळेत आरती होते. या मठात गुरुपौर्णिमा, दत्तजयंती, स्वामी जयंती आदी उत्सव मोठ्या उत्साहाने साजरे केले जातात. भाविकांसाठी येथे दररोज अन्नदान केले जाते.