Jag känner inte till några monster som passar perfekt för din beskrivning (känd dungeon med en "kärna" djupt inuti dungeon som dödar monsteret när det förstörs). Det finns dock ett antal få saker som typ av passar, eller kan passa med viss refluffing och anpassning. Jag presenterar några alternativ här för att du antingen kan använda eller rita idéer från när du gör homebrewing.
Genius Loci
Ett Genius Loci är troligen det närmaste det du letar efter. Det är en kolossal ooze - så kolossal, faktum att det är mindre en ooze och mer en plats . Det tar form av landskapet, enslaving eller attackera varelser som försöker passera genom det. Det kan enkelt modifieras för att ha formen av ett grottsystem eller liknande, istället för ytterräng.
Nackdelen här är att det är en episk varelse, med 70 träffar och en DC 53 kommer att spara för att undvika att bli slaveri, så förmodligen kommer det inte att fungera i ditt spel utan modifieringar, om inte du råkar spela i episka nivåer och nämnde det inte.
Färg utan utrymme
(Pathfinder, men lätt anpassad för 3.5.)
En färg ur rymden är en inkorporeal ooze som faller från himlen, gömmer sig på mörka platser och matar på allt närliggande liv som en del av dess reproduktionscykel, vilket gör att varelser blir aggressiva i processen. Du kan ha en av dessa i djupet av din fängelse, och det är orsaken till de övriga farorna som partiet står inför.
I det här fallet skulle det inte vara den Dungeon som är känslig, det skulle vara något ner i Dungeon som orsakar resten av vad som är där nere för att attackera . Men det skulle resultera i att du måste hitta och döda kärnan för att pacify resten av platsen.
Aboleth
Återigen är detta inte en känd dungeon, det är en varelse. Men M.O. av aboleths är att gömma sig i botten av deras grottsystem och använda enslavade varelser och illusioner för att motverka inkräktare.
En aboleth kunde lätt verka som att det var en känd dungeon - alla varelser i fängelsehålan styrs av en enda vilja (den aboleth är mind-controlling dem alla), väggarna verkar förändra, dölja fällor och komma ut för att attackera festen (illusioner), etc. Endast när de kommer till botten av det kommer partiet att inse att det inte var hela fängelsehålan att få dem, det var en varelse som stod med sina sinnen och tankarna hos de andra borgarna.
Dungeon Lord PrC
(från Dungeonscape)
En prestige klass fokuserad på absolut kontroll över en specifik domän. Om du slutar använda en varelse för att representera din fängelse, överväg att ge den nivåerna i den här klassen.
Förmågor inkluderar att kunna se och höra allt som äger rum i ditt fängelsehål, animera föremål i fängelsehålan och massor av minions.