मुंबईत मलबार हिल परिसरातील बाणगंगा तलावाच्या काठावर आणि वाळकेश्वर मंदिराजवळ वाळकेश्वर श्री काशी मठ ही गौड सारस्वत ब्राह्मणांच्या पूजनीय धर्मपीठाची शाखा स्थित आहे. आधुनिक अशा भव्य वास्तूमध्ये वसलेल्या या मठामध्ये काशी मठ गुरुपरंपरेचे सातवे गुरू माधवेंद्र तीर्थ स्वामी आणि अठरावे गुरू वरदेंद्र तीर्थ स्वामी यांची वृंदावने (समाध्या) आहेत. भाविकांची अशी श्रद्धा आहे की हे दोन्ही महापुरुष आजही समाधीत वास करतात आणि त्यांची मनोभावे पूजा केल्यास भाविकांच्या मनोकामना पूर्ण होतात.
कला आणि वाङ्मय क्षेत्राबरोबरच व्यापार-व्यवसायात मोठी प्रगती केलेल्या भारतीय समाजांमध्ये गौड सारस्वत ब्राह्मण समाजाचे नाव अग्रक्रमाने घेतले जाते. एम. शेषगिरी प्रभू यांच्या ‘द हिस्ट्री ऑफ द गौड सारस्वत कोंकण ब्राह्मण्स’ (‘सारस्वत बोधिनी’, सप्टेंबर आणि ऑक्टोबर १९२६) या लेखामधील माहितीनुसार, मध्य आशियातून आलेल्या आर्यांनी प्रथम पंजाब भागात वस्ती केली. त्या ठिकाणी असलेल्या पंच-आप म्हणजेच पाच नद्यांच्या क्षेत्रातील जमाती ‘पंचजन्य’ म्हणून ओळखल्या जाऊ लागल्या. यातील सरस्वती नदीच्या तीरावर राहणाऱ्या जमातीचे दधीच ऋषी हे मूळ पुरुष होत. त्यांना ऋग्वेदात ‘सारस्वत’ किंवा ‘सारस्वन’ असे म्हटलेले आहे. या दधीच ऋषींच्या वंशजांना ‘सारस्वत’ ही ओळख मिळाली. सरस्वती नदीच्या परिसरातील वाढत्या लोकसंख्येमुळे त्यातील काही लोकांनी पूर्वेकडे बंगाल आणि त्रिहोत्रपूर येथे स्थलांतर केले.
मराठी विश्वकोशानुसार, मिथिला देशाची एकूण बारा नावे होती. त्यातील एक नाव ‘तैरभुक्ती’ असे होते. त्याचा अपभ्रंश ‘तिहोत्र’ असा झाला. सध्याच्या बिहार राज्यातील गंगेच्या उत्तरेकडील भागास ‘तिरहूत क्षेत्र’ असे म्हणतात. बंगाल आणि बिहारच्या या भागास प्राचीन काळी ‘गौड देश’ म्हणत असत. तेथील सारस्वत हे ‘गौड सारस्वत ब्राह्मण’ म्हणून ओळखले जाऊ लागले.
‘स्कंदपुराण’ या ग्रंथाच्या ‘सह्याद्रीखंड’ या भागानुसार, परशुरामाने गोमंतक वसवल्यानंतर आपल्या दिग्विजयार्थ एक यज्ञ केला. त्या यज्ञाच्या सिद्धीसाठी त्यांनी त्रिहोत्रपूर येथून भारद्वाज, कौशिक, वत्स, कौंडिन्य, कश्यप, वसिष्ठ, जमदग्नी, विश्वामित्र, गौतम आणि अत्री अशा तपस्वी विद्वान सारस्वत ब्राह्मणांना गोमंतकात आणले. या ब्राह्मण ऋषींची ६६ कुळे होती. त्यांनी स्वतःसोबत मंगेशी, महालक्ष्मी, महादेव, शांतादुर्गा, नागेश, सप्तकोटेश्वर आणि महालसा ही कुलदैवतेही गोमंतकात आणली. इसवी सनाच्या तेराव्या शतकात वैष्णव संप्रदायातील द्वैत-वेदान्त मताचे प्रवर्तक मध्वाचार्य यांनी गोमंतकास भेट दिली. त्यावेळी येथील वैष्णव गौड सारस्वत ब्राह्मणांनी त्यांच्या द्वैत सिद्धांताचा स्वीकार केला. श्री काशी मठ संस्थानाचा आध्यात्मिक व वैचारिक पाया याच द्वैत सिद्धांतावर उभा आहे.
वाराणसी येथील काशी मठाची स्थापना इ.स. १५४२च्या सुमारास माध्वाचार्य विजयेंद्र तीर्थ स्वामी यांनी केली. यामुळे त्यांना ‘सारस्वत धर्मपीठ स्थानाचार्य’ असेही संबोधले जाते. काशी मठाचे पहिले स्वामी म्हणून यादवेंद्र तीर्थ यांची नियुक्ती करण्यात आली. 
या मठाचे सातवे प्रमुख माधवेंद्र तीर्थ यांनी १७४२च्या सुमारास वाळकेश्वर येथे काशी मठाची शाखा स्थापन केली. याबाबत असे सांगण्यात येते की काशी येथे मोठी कीर्ती संपादन केलेले माधवेंद्र तीर्थ हे रामेश्वराच्या यात्रेस जात असताना मुंबईत आले होते. मठाच्या विस्तारासाठी त्यांनी वाळकेश्वर येथे बाणगंगेच्या काठी एक भूखंड खरेदी केला होता. कृष्णराव रघुनाथजी नवलकर तथा के. रघुनाथजी यांच्या ‘द हिंदू टेम्पल्स ऑफ बॉम्बे’ (१८९५) या पुस्तकात त्यांच्याविषयी अशी माहिती देण्यात आली आहे की मुंबईतील मुक्कामादरम्यान माधवेंद्र तीर्थ यांना त्यांचा अंतकाळ जवळ आल्याची जाणीव झाली. त्यामुळे त्यांनी येथे एक समाधी बांधून घेतली आणि ते समाधिस्थ झाले. त्यांच्या समाधीनंतर येथील सारस्वत बांधवांनी वर्गणी जमा करून त्या निधीतून त्यांच्या समाधीवर मठाची स्थापना केली. माधवेंद्र तीर्थ यांनी श्रावण शुद्ध पंचमी (नागपंचमी), मंगळवार, ता. १ ऑगस्ट १७७५ रोजी समाधीस्थळी प्रवेश करून जिवंत समाधी घेतली थी. त्यांच्या समाधीस्थळास ‘वृंदावन’ असे संबोधले जाते. या मठामध्ये वरदेंद्र तीर्थ स्वामी यांचीही समाधी आहे.
वरदेंद्र तीर्थ हे काशी मठाचे १८वे स्वामी होते. ‘मालाबंध’, ‘चक्रबंध’, ‘नागबंध’ अशा संस्कृत रचना करणारे वरदेंद्र तीर्थ हे बहुभाषाकोविद होते. आचार्य विनोबा भावे यांच्याप्रमाणेच त्यांना संस्कृत, मल्याळम, कोंकणी, कन्नड, तमिळ, तेलुगू, मराठी, हिंदी, गुजराती, इंग्रजी, लॅटिन, फ्रेंच, पोर्तुगीज, उर्दू, जर्मन आणि जपानी या भाषा येत होत्या. याशिवाय ते गणित, ज्योतिर्विज्ञान, हस्तसामुद्रिक शास्त्र, आयुर्वेद या विषयांचे पंडित होते. 
आधुनिक यंत्रांमध्ये रुची असलेल्या स्वामींनी काशी मठातील हस्तलिखिते छापण्याकरिता बसरूर येथे ‘सच्चिदानंद मुद्रणालय’ नावाचा छापखाना सुरू केला होता. आपल्या कार्यकाळात त्यांनी अनेक मंदिरांची स्थापना तसेच त्यांचा जीर्णोद्धार केला. दक्षिणेतील मठांमध्ये अनेक वर्षे वास्तव्य केल्यानंतर, विसाव्या शतकाच्या सुरूवातीस वरदेंद्र स्वामी मुंबई येथे आले. वाळकेश्वर येथील मठात त्यांचे वास्तव्य असे. याच स्थळी आषाढ शुद्ध द्वितीया, बुधवार, ता. २४ जून १९१४ रोजी त्यांचे निधन झाले. माधवेंद्र तीर्थ स्वामी यांच्या वृंदावनाशेजारीच त्यांचे वृंदावन बांधण्यात आले.
माधवेंद्र स्वामी यांच्या वृंदावनाबाबत अशी आख्यायिका सांगण्यात येते की येथे ते आजही सूक्ष्मदेहाने वास करतात. ते रोज पहाटे मठासमोर असलेल्या बाणगंगा तीर्थामध्ये स्नान करण्यासाठी जातात. त्यावेळी अनेकांनी येथे त्यांच्या लाकडी खडावांचा ध्वनी ऐकला आहे. असे सांगण्यात येते की काशी मठाचे १९वे स्वामी सुखतींद्र तीर्थ हे वाळकेश्वर मुक्कामी असताना, एकदा पहाटे स्नानास जात होते. त्यावेळी त्यांना एक तपस्वी लाकडी खडावा घालून तलावाकडे जाताना दिसले. त्या खडावांचा ध्वनीही त्यांच्या कानावर पडला. याबाबतची दुसरी एक आख्यायिका अशी की दक्षिण कन्नडमधील मूलकी येथील नरसिंह नामक एका व्यक्तीच्या मनात माधवेंद्र स्वामी यांच्या दिव्य अस्तित्वाची परीक्षा घेण्याची इच्छा निर्माण झाली. तेव्हा एके रात्री तो वृंदावनासमोर, स्वामींच्या बाणगंगेकडे जाण्याच्या मार्गावर झोपला. दुसऱ्या दिवशी सकाळी तो उठला, तेव्हा तो दुसऱ्या ठिकाणी होता. आपणास स्वामींनीच मार्गातून उचलून अन्यत्र ठेवले अशी त्याची श्रद्धा होती. या आख्यायिकांमुळे अनेक भाविक आपल्या मनोकामना पूर्ण व्हाव्यात या हेतूने या मठामध्ये येऊन वृंदावनासमोर नतमस्तक होतात.
इ.स. १७४२मध्ये येथे स्थापन झालेल्या मठाच्या वास्तूचे कालौघात अनेकदा जीर्णोद्धार झाले. 
सन २०२४मध्ये झालेल्या जीर्णोद्धारानंतर मठास सध्याचे भव्य व प्रशस्त स्वरूप प्राप्त झाले आहे. मठाची ही इमारत तीन मजली आणि आधुनिक स्थापत्यशैलीतील आहे. मठास भव्य लाकडी प्रवेशद्वार आहे. या प्रवेशद्वाराच्या दोन्ही बाजूंना दोन कोरीव अर्धस्तंभ आहेत. दोन्हीकडे या अर्धस्तंभांच्या मधोमध काशी मठाच्या बोधचिन्हाचे उठावशिल्प आहे. चार पायऱ्या चढून या मठाच्या सभामंडपात प्रवेश होतो. या प्रशस्त आणि उंच अशा सभामंडपाचे खास वैशिष्ट्य म्हणजे त्याचे वितान होय. अतिशय बारीक कोरीव नक्षीकामाने विनटलेल्या या काष्ठवितानामध्ये रामायणातील अनेक प्रसंगांची शिल्पे कोरलेली आहेत. सभामंडपात समोरच माधवेंद्र तीर्थ यांचे जिवंत समाधिस्थळ (वृंदावन) आहे. कोरीव नक्षीकाम केलेल्या पाषाणात घडवलेले स्तंभ, त्या स्तंभांनजीक व्यालारूढ योद्ध्याचे शिल्प, छतावरील वैशिष्ट्यपूर्ण बाशिंगी कठडे, आणि त्यावर गुलाबी पाषाणात घडवलेले शिखर असे या वृंदावनाचे स्वरूप आहे. येथील व्यालशिल्प अत्यंत लक्षणीय असे आहे.
व्याल हा एक अक्राळ-विक्राळ चेहऱ्याचा प्राणी आहे आणि त्याला वारालक, वराल, व्रलीका अशी नावे आहेत. दक्षिण भारतात त्यास याली असे म्हणतात. अभ्यासकांच्या मते सिथियन किंवा अॅकेमेनियन शिल्पकलेतून मौर्य कालखंडात हे शिल्प भारतात आले. माध्व संप्रदायाचा विशेष संबंध असलेल्या विजयनगरच्या स्थापत्यात व्याल मूर्ती मोठ्या प्रमाणावर आढळतात. येथील व्यालमूर्ती गजव्याल म्हणजे हत्तीचे डोके असलेल्या स्वरूपात आहे. त्यास अश्वाचे शरीर आहे. त्याच्या खाली हत्ती आहे आणि त्यावर एक वीरयोद्धा आरूढ आहे. कवी रामधारीसिंह ‘दिनकर’ यांनी ‘व्याल-विजय’ या काव्यात “तान, तान, फण व्याल! कि तुझ पर मैं बांसुरी बजाऊँ” असे म्हणत कृष्ण त्यावर उभा असल्याचे दाखवले आहे. येथे व्याल हा मनुष्यमनातील शंकेचे रूप असल्याची कल्पना त्यांनी मांडली आहे. या वृंदावनात डावीकडील बाजूस हनुमानाची काळ्या पाषाणात घडवलेली मूर्ती विराजमान आहे. सुमारे तीन फूट उंचीची ही मूर्ती दाक्षिणात्य पद्धतीची आहे. चांदीच्या सुंदरशा प्रभावळीत ती प्रतिष्ठापित आहे. या वृंदावनात स्वामींनी स्वतःसोबत आणलेल्या धातूच्या मूर्तींचीही पूजा केली जाते.
सभामंडपात वृंदावनाच्या डावीकडे काशी मठ संस्थानचे बारावे स्वामी सुरींद्र म्हणजेच सुरेंद्र तीर्थ स्वामी यांची मूर्ती आहे. भिंतीलगत उंच अधिष्ठानावरील चांदीच्या देव्हाऱ्यामध्ये ही सुहास्यवदन संगमरवरी मूर्ती विराजमान आहे. मागच्या बाजूस वरदेंद्र तीर्थ स्वामी यांचे वृंदावन आहे. याच्याजवळच काशी मठाचे १९वे स्वामी सुखतींद्र तीर्थ यांचीही संगमरवरी मूर्ती चांदीच्या देव्हाऱ्यात प्रतिष्ठापित आहे. येथील प्रशस्त सभामंडपात मागच्या बाजूला काही अंतरावर एका दालनामध्ये व्यास रघुपती नरसिंह मंदिर आहे. येथे चांदीच्या वेदीवर व्यासमुनी, श्रीराम, तसेच नरसिंहाच्या मूर्ती प्रतिष्ठापित आहेत. याच्याशेजारीच सुखतींद्र सभागृह आहे. मठास मोठे तळघर आहे आणि तेथे होमहवन केले जाते. दुसऱ्या मजल्यावर मठाचे शिष्य व भाविकांची निवास व्यवस्था आहे आणि त्यावरील मजल्यावर स्वामींच्या पाद्यपूजेचे भव्य दालन आहे. या ठिकाणी मठाच्या स्वामींचे शयनगृहही आहे. या वास्तूवर लाल पाषाणात घडवलेले भव्य शिखर आहे.
या मंदिरात काशी मठाच्या परंपरेनुसार दैनंदिन नित्यपूजा केली जाते. मंदिरात तीन वार्षिक उत्सव साजरे केले जातात. त्यातील पहिला उत्सव हा श्रावण शुद्ध पंचमीला, दुसरा उत्सव आषाढ शुद्ध द्वितीया आणि तिसरा कार्तिक वद्य प्रतिपदा म्हणजेच पाडवा या दिवशी साजरा केला जातो. श्रावण शुद्ध पंचमी हा माधवेंद्र तीर्थ स्वामींचा समाधीदिन होय, तर आषाढ शुद्ध द्वितीया हा वरदेंद्र तीर्थ स्वामी यांचा समाधीदिन. या दिवशी सकाळी वृंदावनांची विशेष पूजा केली जाते. रात्री स्वामींची पालखी काढण्यात येते. या उत्सवात महाप्रसादाचा कार्यक्रमही असतो. याशिवाय मंदिरात व्यासोपासना, भजन, कीर्तन आदी कार्यक्रम नेमाने साजरे केले जातात. दररोज सकाळी सात वाजल्यापासून दुपारी एक वाजेपर्यंत व सायंकाळी सहा ते रात्री साडेआठ वाजेपर्यंत भाविकांना येथे दर्शन घेता येते.
