掛川と同様、基本的には2面3線だが、実際に使用されているのは島式ホームのみで、そもそも改札から降りる階段が設けられていない。現在も貨物扱いが行われているため、構内には側線が広がっている。
駅舎は橋上化されており、メインとなっている北側にバスターミナルが整備されているが、駅前の商店にはあまり活気が感じられなかった。現在の駅舎は2000年に建てられたもので、市内にあった遠江国分寺をベースに、天平時代の建物をイメージしたという。
市街地は、隆起扇状地である磐田原台地の南側に位置しており、国府（所在地不詳）や国分寺が置かれ、徳川家康の屋敷が建てられたこともあった。
磐田の地名は、1994年にサッカーチーム「ジュビロ磐田」がJリーグ昇格を決めた際に、一躍全国区となった。上記写真の右手に見えるのが、ジュビロのマスコット。