本来，玄关是在中国道教（炼丹术的内丹之法中，体内的气绕巡全身时气最先通过的地方）、禅宗（达摩将禅宗传来中国时，指示将dhyāna译作玄，后改译作禅）等思想使用的用语，来源是“夫玄关者，至玄至妙之机关也。”（玄牝之门）后来以“玄关”一词指建筑物入口处的空间。

在日本，玄关指的是设置在禅寺方丈的入口或是在书院造式屋宅正式出入口处设置的房间或建筑，此外在江户时代也把设有式台（高起的地板向土间突出的遮版，可将鞋子置于其下方）的出入口称作“玄关”。明治时代以后，逐渐演变成代指任何形式的住居、公共建筑的出入口。