電気軌道では、1895年に京都で京都電気鉄道が開通していますが、一般の鉄道では甲武鉄道（現在のJR中央本線）が1904年に飯田町～中野間を電化したのが始まりになります。
甲武鉄道は1906年に国有化され国有鉄道初の電化区間となりました。
以降、大正期は山手線など東京都市圏での通勤電車の走行を目的に実施され、昭和初期には城東線（現在の大阪環状線）など大阪都市圏でも実施されました。
しかし、幹線鉄道では東海道本線の東京～国府津間（1925年までに電化）を除けば、碓氷峠や清水トンネル、関門トンネルなど、山岳地帯や長大トンネルで局地的に実施されていたに過ぎません。
当時の軍部が、戦時に変電所を攻撃されると運転不能になることを理由に、基本的には非電化とすることを主張していたことに影響しています。
一方、私有鉄道では、甲武に続き南海鉄道が難波～浜寺公園間を1907年に電化しました。
その後の一般鉄道の電化は低調でしたが、名古屋鉄道など電気軌道系の路線が郊外へ延び大規模な路線網を形成していきます。
大阪電気軌道・参宮急行電鉄の上本町（大阪）～宇治山田（伊勢）や東武鉄道の浅草（東京）～日光など、全長100kmを越える路線も出現しました。
1955年から商用周波数による交流電化の試験が開始されました。
戦後の電化は東海道本線を皮切りに、山陰地方を除く本州と九州で進められて行きますが、一方で北海道と四国の電化区間は短区間に留まりました。