功德林原是北京德胜门外的一座佛寺，清朝改为粥厂，向孤贫免费发放粥食。

光绪二十八年（1902年），山西巡抚赵尔巽奏请各省通设罪犯习艺所，获光绪帝允准。京师着手筹办顺天府习艺所。光绪三十一年，工巡局大臣、大学士那桐奏准，在功德林创设“京师习艺所”，宗旨为“收容犯人，令习技艺，使之改过自新，藉收劳则思善之效。”京师习艺所设有监督、典狱官、看守长等官员，此外还有看守、医师、技师、教诲师等共一百多人。分设文案处、会计处、考工处、庶务处、稽巡处。另外设有织巾科、织带科、织布科、铁工科、搓绳科，分别组织生产。这是中国第一个劳动改造机关，且由巡警部直辖。宣统年间，功德林已形成一座规模巨大的劳动改造机关。

民国二年（1913年）10月，在功德林建立了“宛平监狱”（时任司法总长为梁启超）；民国三年（1914年）10月更名为“京师第二监狱”（时任司法总长为章宗祥）。该监狱的狱长是梁锦汉。中华民国政府拨款81900元，在占地近百亩的土地上，建设了这座现代化的监狱。