তারাপীঠ মন্দিরের উৎস ও তীর্থমাহাত্ম্য সম্পর্কে একাধিক কিংবদন্তি লোকমুখে প্রচারিত হয়ে থাকে। এগুলির মধ্যে একটি গুরুত্বপূর্ণ কিংবদন্তি হল "শক্তিপীঠ" ধারণাটির সঙ্গে যুক্ত পৌরাণিক কাহিনিটি। শিবের স্ত্রী সতী তার পিতা দক্ষের "শিবহীন" যজ্ঞ সম্পাদনার ঘটনায় অপমানিত বোধ করে। স্বামীনিন্দা সহ্য করতে না পেরে তিনি যজ্ঞস্থলেই আত্মাহুতি দেন। এই ঘটনায় শিব ক্রুদ্ধ হয়ে সতীর দেহ কাঁধে নিয়ে প্রলয়নৃত্য শুরু করেন। তখন বিষ্ণু শিবের ক্রোধ শান্ত করতে সুদর্শন চক্র দ্বারা সতীর দেহ খণ্ডবিখণ্ড করে দেন। সতীর দেহ একান্নটি খণ্ডে ছিন্ন হয়ে পৃথিবীর নানা স্থানে পতিত হয়। এইসকল স্থান "শক্তিপীঠ" নামে প্রসিদ্ধি লাভ করে। পশ্চিমবঙ্গেও এই রকম একাধিক শক্তিপীঠ অবস্থিত। এগুলির মধ্যে সর্বাপেক্ষা গুরুত্বপূর্ণ পীঠ হল কালীঘাট ও তারাপীঠ।সতীর তৃতীয় নয়ন বা নয়নতারা তারাপুর বা তারাপীঠ গ্রামে পড়ে এবং প্রস্তরীভূত হয়ে যায়।ঋষি বশিষ্ঠ প্রথম এই রূপটি দেখতে পান এবং সতীকে তারা রূপে পূজা করেন। অপর একটি কিংবদন্তি অনুসারে: সমুদ্রমন্থনের সময় উত্থিত হলাহল বিষ পান করার পর বিষের জ্বালায় শিবের কণ্ঠ জ্বলতে শুরু করে। এই সময় তারাদেবী শিবকে আপন স্তন্য পান করিয়ে তার জ্বালা নিবারণ করেন। স্থানীয় কিংবদন্তী অনুসারে, বশিষ্ঠ তারাপীঠ নামে প্রসিদ্ধ এই তীর্থে দেবী সতীর পূজা শুরু করেন।[পীঠস্থানগুলির মধ্যে তারাপীঠ একটি "সিদ্ধপীঠ", অর্থাৎ এখানে সাধনা করলে সাধক জ্ঞান, আনন্দ ও সিদ্ধি বা অলৌকিক ক্ষমতা প্রাপ্ত হন।
লোকমুখে প্রচারিত অপর একটি কিংবদন্তী অনুসারে, বশিষ্ঠ এখানে তারাদেবীর তপস্যা করেছিলেন। কিন্তু তিনি অসফল হন। তখন তিনি তিব্বতে গিয়ে বিষ্ণুর অবতার বুদ্ধের সঙ্গে সাক্ষাৎ করেন। বুদ্ধ তাকে বামমার্গে মদ্যমাংসাদি পঞ্চমাকার সহ তারাদেবীর পূজা করতে বলেন। এই সময় বুদ্ধ ধ্যানযোগে জানতে পারেন মন্দিরে তারামূর্তি প্রতিষ্ঠা করে পূজার করার আদর্শ স্থান হল তারাপীঠ। বুদ্ধের উপদেশক্রমে বশিষ্ঠ তারাপীঠে এসে ৩ লক্ষ বার তারা মন্ত্র জপ করেন। তারাদেবী প্রীত হয়ে বশিষ্ঠের সম্মুখে উপস্থিত হন। বশিষ্ঠ দেবীকে অনুরোধ করেন বুদ্ধ যে শিশু শিবকে স্তন্যপানরতা তারাদেবীকে ধ্যানে দেখেছিলেন, দেবী যেন সেই রূপেই তাকে দর্শন দেন। দেবী সেই রূপেই বশিষ্ঠকে দর্শন দেন এবং এই রূপটি প্রস্তরীভূত হয়। সেই থেকে তারাপীঠ মন্দিরে শিশু শিবকে স্তন্যপানরতা মূর্তিতে দেবী তারা পূজিত হয়ে আসছেন।