Etter å ha erobret Fort Henry og Fort Donelson, gjorde unionshæren seg klar til å ta det viktige jernbaneknutepunktet i Corinth, Mississippi. For å oppnå dette hadde generalmajor H. Halleck planlagt å slå sammen Grants hær i Vest-Tennessee med Buells hær i Ohio. Samtidig ble den nyopprettede konfødererte hæren i Mississippi satt under kommando av general A. S. Johnston. Johnston planla å angripe Grants leir før Grant og Buell fikk muligheten til å forene sine styrker. Den konfødererte hæren forlot Corinth og marsjerte nordover inn i Tennessee. Den 6. april 1862, om morgenen, angrep Johnston ved Shiloh og overrumplet Grants styrker. Grant- soldatene kjempet tappert med ryggen mot Tennessee-elven. Dessverre for de konfødererte ble Johnston drept tidlig på ettermiddagen. Buells hær ankom den kvelden og neste morgen igangsatte de et motangrep sammen med Grants halvorganiserte overlevende. De unionsstyrkene var for tallrike til at de kunne stoppes, og etter et heftig forsvarsarbeid vant de slaget.