Кладбище основано в 1771 году в период эпидемии чумы. Название получило по Введенским горам (Лефортовскому холму) - возвышенной местности на левом берегу Яузы. С северной стороны Введенские горы были ограничены долиной реки Хапиловки, при впадении которой в Яузу располагалось село Семёновское. На юге протекала река Синичка (Лефортовский ручей), при впадении которой в Яузу находилось село Введенское. В 1771 году на правом берегу Синички было открыто Немецкое кладбище, ныне называемое Введенским. Изначальное название кладбища - Немецкое или Иноверческое - связано с тем, что здесь хоронили преимущественно лютеран и католиков
Стена и кладбищенские строения были построены в конце XIX - начале XX века. Юго-западные ворота возведены в 1870-х годах по проекту архитектора А. А. Мейнгарда, дом у ворот построен в 1894 году по проекту Ф. И. Роде В 1926 году по проекту архитектора Т. Я. Бардта провели благоустройство территории кладбища. В 1960-е годы произошло увеличение территории кладбища, была построена стена-колумбарий.
Многие скульптурные памятники и надгробия на кладбище сооружены известными скульпторами и архитекторами. По проекту выдающегося архитектора Ф. О. Шехтеля сооружены надгробие Е. Ф. Жегиной (1893), мавзолей мукомольных заводчиков Эрлангеров (1911) и мавзолей Феррейнов (1900-е). В 1911 году на кладбище по проекту архитектора В. А. Руданоывского и инженера Л. Розенблита построена часовня, которая использовалась представителями разных конфессий для погребальных служб. В 1990-е годы здание было передано Церкви Ингрии (ныне - Лютеранская церковь Святой Троицы).