渣滓洞原来是人工开采的小煤窑，因出产的煤质量不好，渣多煤少而得名。渣滓洞三面环山，一面临沟，地势十分险峻而且非常隐蔽。1943军统霸占渣滓洞煤窑,并将其改设为看守所。看守所分为内外两院，外院刑讯室和特务办公室所组成;内院一楼一底16间房间为男牢，另有2间平房为女牢。1947年4月曾一度关闭，同年12月又重新开始关押犯人。看守所外院墙上写有用来“同化”特务的标语——“长官看不到想不到听不到做不到的，我们要替长官看到想到听到做到”，“命令重于生命，工作岗位就是家庭”以及国民党党员守则。内院墙上写有用来“分化”瓦解革命者意志的标语——“青春一去不复还，细细想想，认明此时与此地，切勿执迷”，“迷津无边，回头是岸，宁静忍耐，毋怨毋尤”等。

渣滓洞关押的主要是因为《挺进报》事件、六·一学潮、川东武装起义以及小民革案被捕的政治犯，如《红岩》小说中的江姐的人物原型江竹筠，关人最多时达300多人。

1949年11月27日国民党特务在溃逃前夕策划了震惊中外的大屠杀，仅有15人脱险。

1963年渣滓洞看守所旧址复原修建，对外开放。1988年成为国家第二批重点文物保护单位。