Музей открыт в 1986 году к 100-летию со дня рождения Габдуллы Тукая, великого татарского поэта, чьи произведения вошли в золотой фонд татарской поэзии и мировой культуры.
Музей находится в одном из красивейших зданий Старотатарской слободы Казани в двухэтажном особняке конца XIX века (проект арх. Г. Б. Руша и Ф. И. Амлонга) – так называемом «доме Шамиля», где в 1882–1906 гг. жил со своей семьей Мухаммадшафи Шамиль – средний сын имама Шамиля, руководителя народно-освободительного движения Дагестана.
Здание для музея выбрано не случайно. Оно расположено на улице, связанной с деятельностью Г. Тукая как журналиста и публициста. Ныне она носит имя поэта. Тукай любил гулять по улочкам Старотатарской слободы, по берегам озера Кабан, выступал с лекциями в находившемся рядом популярном среди татар клубе «Шарык».