В 1868 году с инициативой об учреждении первого железнодорожного училища для подготовки технического персонала выступил министр путей сообщения П.П. Мельников.

6 февраля 1869 года был утвержден Устав первого ремесленного железнодорожного училища в городе Ельце, и 13 февраля того же года император Александр II подписал Указ «о разрешении учредить в Ельце, при мастерских Орловско-Грязевской железной дороги ремесленное железнодорожное училище с наименованием «Александровский».
Место для было выбрано рядом с железнодорожной станцией Елец. На средства купца I гильдии С.С. Полякова для училища был построен целый комплекс строений: двухэтажное кирпичное здание учебного корпуса с классами для занятий, библиотека, кабинеты для администрации и небольшая домовая церковь во имя святого Александра Невского.

17 апреля 1869 года состоялось открытие училища, но фактически полноценная учебная деятельность началась лишь в 1871 году. Именно к этому году на территории училища площадью 1,33 га также были построены каменное здание учебных мастерских, два общежития на 70 мест, баня и прачечная, ледник, а также отдельно стоящий одноэтажный деревянный дом для начальника учебного заведения. Перед училищем был разбит сад с фонтаном и оборудовано место для занятий гимнастикой.

В ЦМЖТ РФ хранится альбом «Рисунки и планы зданий училищ ведомства путей сообщения» 1886 г., подаренный министру путей сообщения К.Н. Посьету, в котором представлены акварели с видами и планами железнодорожных училищ России.

На первой акварели изображено Александровское техническое железнодорожное училище: показан пейзаж с главным учебным зданием на первом плане, который обрамлен искусной прописанной декоративной деревянной рамой с резьбой, с гербом города Елец и красными занавесами с бахромой по краям. На листе имеются надписи: «Александровское техническое железнодорожное училище при ст. Елец Орловско-Грязевской железной дороги», «Открыто 1869 г. апрель 17», «При училище имеется общежитие на 125 человек, открытое 17 апреля 1869 г. и содержимое на средства 1, Тайного Советника С.С. Полякова; 2, Попечительного Совета; и 3, платы получаемой с воспитанников.», «Учащихся 131 человек». На второй акварели показаны поэтажные планы учебного корпуса и генеральный план всей территории.


В обучение принимались представители всех сословий в возрасте 14-17 лет, окончившие уездные школы. Училище готовило средний технический персонал для железнодорожного транспорта: начальников станций и их помощников, машинистов, техников и мастеровых по ремонту подвижного состава и пути, телеграфистов. Выпускникам присваивалось звание техника II разряда.

К моменту создания вышеупомянутого альбома в России уже действовала сеть железнодорожных училищ, чья деятельность регулировалась Учебным отделом при Министерстве путей сообщения.