Federacja Związków Zawodowych Maszynistów Kolejowych powstała w wyniku różnic poglądów co do przyszłej struktury organizacyjnej Związku Zawodowego Maszynistów Kolejowych w Polsce. W trakcie obrad III Zajazdu Delegatów ZZMK w Polsce w dniach 11 i 12 kwietnia w Dźwirzynie odrzucona została koncepcja zmiany jednolitej struktury związku na rzecz struktury Federacyjnej, która zdaniem części Delegatów jako bardziej elastyczna pozwala na dostosowanie struktury związku do zmieniającej się struktury organizacyjnej pracodawcy, a tym samym pozwala związkowi być bliżej pracowników w łączonych Zakładach Taboru, w których tworzono duże liczebnie Sekcje i Gniazda Drużyn Trakcyjnych.

W dniu 14 sierpnia 1997 r. Komitet Założycielski powołał do życia Federację Związków Zawodowych Maszynistów Kolejowych. Wpisana ona została do rejestru związków zawodowych na mocy Postanowienia Sądu Wojewódzkiego w Warszawie z dnia 21 października 1997 r.

18 kwietnia 2005 r. Federacja przystąpiła do Forum Związków Zawodowych - Centrali Reprezentatywnej w rozumieniu Ustawy z dnia 6 lipca 2001 r. o Trójstronnej Komisji do Spraw Społeczno -Gospodarczych oraz Kodeksu Pracy (art.. 24117 § 1 ust. 1).

Aktualnie Federacja Związków Zawodowych Maszynistów Kolejowych obejmuje swoim działaniem:PKP CARGO S.A PKP INTERCITY S.A “Koleje Mazowieckie - KM” sp. z o.o. PKP Linia Hutnicza - Szerokotorowa Sp. zo.o. „PKP Przewozy Regionalne” Sp. zo.o.

Federacja Związków Zawodowych Maszynistów Kolejowych wpisana jest w Krajowym Rejestrze Sądowym we Wrocławiu z numerem KRS 0000177291.