“天牢”这个名词最早出现在春秋战国时期，当时的意思是暗指牢狱黑无天日，一旦进入之后没有了重见天日的机会。后来专门指朝廷的监狱，取名“天牢”是为了彰显它的威严。不过也有不同的说法，有人说“天牢”内部守卫森严，想要逃脱或者劫狱难如登天；又有人谣传，说是这种国家级的监狱有“狱神”保佑，这种神将看管着监狱，这就是“天牢”的真正意思；还有一种说法，说皇帝是天子，是神授的。“天牢”内的案件最终的审判是由皇帝判决的，所以这种国家级监狱要叫“天牢”。是指直达天听的意思，代表着绝对的公正和威严。其实只要有监狱就会有冤案，就有冤死鬼。只要有案件发生，判决就会有偏差，不会百分之一百的公正和公平。
“天牢”不是唯一的，至少在明朝的时候不是唯一的。国家级的监狱都可以叫“天牢”，这样的话全国至少有四个“天牢”。刑部大牢就是其中的一个，虽然在民间名气最高，其实威信并不是很高。因为这个刑部大牢的权限已经不大了，几乎和一般的地方大牢性质差不多。还有一个原因是因为刑部大牢已经坏了名声，导致一般的人看不起这个国家级的监狱。
“大理寺”不是一个寺院，也不是一个道观，而是一个国家机构。按照现代的机构来说的话，相当于如今的监察局。不过它的权利又有些不一样，这里的官员虽然有关押和审讯现任官员的权利，但是没有任免权和检举权。按照朝廷的规矩在京五品以下、地方七品以下的官员，由吏部推荐并任命。吏部相当于现在的组织部和人事部，管理着当时绝大多数的现任官员。在京五品以上、地方七品以上的官员，提别是一把手的官员，需要内阁内部通过，举荐给皇帝，由皇帝直接任命。检举和监督官员的是都察院，都察院相当于现在的纪委。虽然“大理寺”有吏部和都察院牵制着，但是“大理寺”的权利绝对不可小看。大理寺的监狱专门关押有嫌疑的官员，虽然人数不会很多，但是是绝对有资格称之为“天牢”。
锦衣卫是明朝的一个特色，贯穿着整个明朝时期。后人每每提及这个锦衣卫的时候，总想起一句经典的台词“朱明王朝锦衣天下”。意思很明显，这个朝代是朱家当皇帝的明朝，但是真正掌权的是锦衣卫。锦衣卫才是真正控制大明王朝的人。虽然这么说有点夸张，但是足可以证明锦衣卫的嚣张和势力庞大。锦衣卫按职能分为南北镇抚司，北镇抚司的职能是巡逻和监管各个衙门；南镇抚司的职能是关押、审讯、处置一切有嫌疑的官员、世勋、宗室成员。南镇抚司有一个独立的监狱，足可以和刑部大牢和大理寺监狱分庭抗礼。不过这个监狱还有一个名字叫“诏狱”，意思是这里关押的人都是皇帝亲自下令过问的，没有皇帝的直接指令，任何人不得干预。为了区别，更是为了对这个监狱的歧视，一般的老百姓和官员人前人后称之为“南狱”。不但不承认这个监狱是“诏狱”，也不承认它是“天牢”，大家只把它看作皇帝的私人监狱。