東海道本線と北陸本線、東海道新幹線、近江鉄道とが交わるジャンクションです。列車の系統は、東海道本線の神戸方面からの列車が北陸本線に直通、または米原止まりとなるのが基本で、東海道本線の大垣方面へ直通する便は少なくなっています。
在来線の長大なホームはすべて並行に並んでいて、下りが3面5線、上りが2面4線となっています。これらを結ぶ跨線橋は1つだけあり、改札は東西2個所に設置されています。
駅の東西に広大な敷地が広がっており、大量の車両が留置されているほか、職員も多く常駐しており、現在も“鉄道の町”としての顔を存分に発揮しています。
その一方で、駅周辺の都市化はあまり進んでおらず、道路面でも交通の要衝であるにもかかわらず、町の規模は比較的小さいものになっており、駅前は静かです。
特に、近江鉄道の改札のある東口は、駅前広場の整備が進んでいるものの、ひっそりとしています。