मंदिराच्या ‘तारकेश्वर’ नावामागे एक पौराणिक कथा प्रसिद्ध आहे. ती अशी की तारकासुर नावाच्या एका बलाढ्य असुराने ब्रह्मदेवाला प्रसन्न करून अमरत्वाचा वर मागितला होता. केवळ शिवपुत्राच्या हातूनच आपला वध होईल, अशी अट त्याने घातली होती. या वरामुळे उन्मत्त झालेल्या तारकासुराने देव आणि ऋषीमुनींना त्रास देण्यास सुरुवात केली. अखेर भगवान शिव व माता पार्वती यांचा पुत्र कार्तिकेय याचा जन्म झाला. बालवयातच कार्तिकेयाने तारकासुराचा पराभव केला. मरणासन्न अवस्थेत असताना तारकासुराला आपल्या पापांचा पश्चात्ताप झाला. 
त्याने भगवान शंकराची क्षमा मागून आपले नाव देवाच्या नावाशी जोडले जावे, अशी विनंती केली. शिवशंकरांनी त्याला दर्शन दिले. तेव्हापासून ज्या ठिकाणी या असुराने तपश्चर्या केली होती तिथे शंकराला ‘तारकेश्वर’ या नावाने ओळखले जाते.
ऐतिहासिक संदर्भानुसार, मंदिराचे मूळ स्वरूप लेण्यांसारखे आहे. १९९० च्या दशकात या मंदिराचा मोठ्या प्रमाणावर जीर्णोद्धार करण्यात आला. मूळ पाषाणी गर्भगृहाला धक्का न लावता मंदिराच्या बाहेरील भागाची दुरुस्ती करण्यात आली. टेकडीचा उतार व पाषाणी भिंतींचे जतन करण्यासाठी पक्के बांधकाम करण्यात आले. या मंदिराला महाराष्ट्र सरकारतर्फे तीर्थस्थळाचा ‘क’ वर्गाचा दर्जा मिळालेला आहे.
मंदिराकडे येण्यासाठी पुणे-नगर रस्त्यावरील बंड गार्डन पुलाच्या बाजूने दोन मार्ग आहेत. पहिला मार्ग पायऱ्यांचा आहे. यात साधारण २५० पायऱ्या चढाव्या लागतात. या पायऱ्यांच्या सुरुवातीला एक मोठी कमान आहे. पायथ्याला भगवान शिवशंकराची नीलकंठ रूपातील एक उंच प्रतिमा आहे. या मार्गावर गर्द झाडी आहे.
दुसरा मार्ग वळणावळणाचा गाडीरस्ता आहे. हा रस्ता थेट टेकडीच्या माथ्यापर्यंत येतो. खासगी वाहने आणि ज्येष्ठ नागरिकांसाठी हा मार्ग सोयीचा आहे. टेकडीवरून पुणे शहराचे विहंगम दृश्य दिसते.
मंदिराच्या दुमजली महाद्वारातून एका मोठ्या प्रांगणात प्रवेश होतो. या महाद्वाराच्या दोन्ही बाजुला द्वारपाल व वरच्या मजल्यावर नगारखाना आहे. प्रांगणात भाविकांच्या विश्रांतीसाठी सिमेंटची आसने आहेत. मुख्य मंदिराच्या समोर एक दगडी दीपमाळ आहे. सणांच्या काळात या दीपमाळेवर तेलवात लावून दिवे लावले जातात. प्रांगणात जुने वृक्ष आहेत. मुख्य मंदिराच्या डाव्या बाजूला विठ्ठल-रखुमाईचे स्वतंत्र मंदिर आहे. उजव्या बाजूला शनिदेवाचे छोटे मंदिर आहे. या व्यतिरिक्त परिसरात श्रीदत्तात्रेय व साईबाबा यांचीही मंदिरे आहेत. ही सर्व मंदिरे नंतरच्या काळात बांधलेली आहेत.
मंदिराच्या परिसरात असलेली रेणुका मातेची वास्तू मूळ जुन्या मंदिराचा एक भाग मानली जाते. ही देवी स्थानिक लोकांचे प्रमुख श्रद्धास्थान आहे. या देवतेची मूर्ती दक्षिणाभिमुख आहे. 
मंदिराच्या जवळच एक प्राचीन विहीर आहे. उंचावर असली तरी या विहिरीत बाराही महिने पाणी असते. याच पाण्याचा वापर पूजेसाठी व अभिषेकासाठी केला जातो. विहिरीजवळ नाग आणि नंदीच्या मूर्तींची स्थापना केलेली आहे. नागपंचमीच्या दिवशी या ठिकाणी भाविकांची गर्दी असते.
मंदिराचा मुख्य सभामंडप पूर्वी लाकडी होता. कालांतराने लाकूड खराब झाल्यामुळे त्या जागी आता सिमेंटचे पक्के बांधकाम केलेले आहे. सभामंडपाला तीन वेगवेगळ्या दिशांना दरवाजे आहेत. सभामंडपात अंतराळासमोर भगवान शंकराचे वाहन असलेल्या नंदीची मूर्ती आहे. अंतराळ व मुख्य गर्भगृह डोंगराच्या पाषाणात कोरलेले आहेत. गर्भगृहाच्या जमिनीच्या पातळीवर स्वयंभू शिवलिंग प्रस्थापित आहे. या प्राचीन शिवलिंगावर आतापर्यंत दोन वेळा वज्रलेप करण्यात आलेला आहे. वज्रलेपामुळे शिवलिंगाचा नैसर्गिक क्षय रोखण्यास मदत होते. शिवलिंगाच्या समोर एका देवकोष्टकात पार्वतीची पंचधातूची मूर्ती आहे. येथे श्री काळभैरवनाथ आणि योगेश्वरी माता यांच्या मूर्ती आहेत. याशिवाय गणपती व शारदा माता यांच्याही लहान मूर्ती आहेत. या सर्व मूर्ती पाषाणात कोरलेल्या आहेत. पाषाणात गर्भगृह कोरलेले असल्यामुळे येथील भिंती खडबडीत आहेत. हे स्थान अनेकांचे कुलदैवत असल्यामुळे येथे दर्शनासाठी भाविकांची गर्दी असते. मंदिराच्या बाहेरील बाजूस दाक्षिणात्य व नागर शैलीचा मिलाफ असलेले एक उंच शिखर आहे. या शिखरावर विविध देवदेवतांच्या मूर्ती कोरलेल्या आहेत. शिखराच्या शिरोभागी दोन आमलक व त्यावर कळस आहे. टेकडीच्या पायथ्यापासून हे शिखर स्पष्ट दिसते. रात्रीच्या वेळी शिखरावर करण्यात येणाऱ्या रोषणाईमुळे ते आणखी सुंदर भासते.
तारकेश्वर मंदिरात वर्षभर अनेक सण साजरे केले जातात. महाशिवरात्री हा या मंदिराचा सर्वात मोठा उत्सव आहे. या दिवशी पुणे आणि आसपासच्या परिसरातून भाविक दर्शनासाठी येतात. या उत्सवाच्या वेळी येथे मोठी जत्रा भरते. या काळात मंदिर परिसर विद्युत रोषणाईने उजळून निघतो. अनेक वर्षांपासून येथे महाप्रसाद वाटपाचा कार्यक्रम आयोजित केला जातो. २०२४ मध्ये महाशिवरात्रीला येथे १८ टन फराळाचे वाटप करण्यात आले होते. या उपक्रमाची नोंद ‘लंडन बुक ऑफ वर्ल्ड रेकॉर्ड्स’ मध्ये झाली आहे. श्रावणी सोमवारच्या दिवशी पहाटेपासून भाविकांच्या रांगा लागतात. अनेक भाविक शिवलिंगावर दुग्धाभिषेक आणि रुद्राभिषेक करतात. श्रावण महिन्यातील प्रत्येक सोमवारी मंदिरात विशेष पूजाविधी तसेच भजन व कीर्तनाचे कार्यक्रम होतात. नवरात्रीमध्ये रेणुका माता मंदिरात विशेष पूजा केली जाते. या काळात महिला भाविकांची संख्या अधिक असते. सकाळी ६ ते सायंकाळी ७ या वेळेत हे मंदिर दर्शनासाठी खुले असते.
