Japoński program rozbudowy floty wyszedł od wzorów brytyjskich, jednak szybko dorobił się własnych koncepcji projektowania ciężkich jednostek, czego pierwszym dobitnym przykładem były pancerniki typu "Fuso", potwierdzeniem zaś następny typ "Ise" oraz najpotężniejsze w swoim czasie Nagato i Mutsu. Dalszy rozwój Połączonej Floty został na długie lata wstrzymany przez postanowienia konferencji waszyngtońskiej, stąd istniejące już jednostki poddano daleko idącym modyfikacjom.

Fuso i Yamashiro weszły do służby w okresie pierwszej wojny światowej, będąc na owe czasy okrętami nowoczesnymi, jednak już w latach dwudziestych zdecydowano się na ich modernizację, otaczając przedni, trójnożny maszt pomostami oraz zwiększając kąt podniesienia dział artylerii głównej z 25 do 33 stopni. Niewiele później, w pierwszej połowie lat trzydziestych zostały poddane gruntownej przebudowie, polegającej m. in. na dalszym zwiększeniu kąta podniesienia dział (do 43 stopni), dodaniu "bąbli" przeciwtorpedowych, wzmocnieniu pancerza, wymianie siłowni, usunięciu przedniego komina i wydłużeniu kadłuba w części rufowej o osiem metrów. W okresie międzywojennym zasłynęły przede wszystkim dzięki niebywale rozbudowanym pomostom bojowym, wyrastającym niczym wieże ponad poziom pokładu. W przypadku Yamashiro zwana powszechnie "pagodą" konstrukcja miała wysokość 41 metrów (cztery metry mniej, niż na Fuso).

Po zakończeniu przebudowy w 1935 roku Yamashiro został okrętem flagowym Połączonej Floty. W 1941 roku wchodził w skład pierwszego dywizjonu pancerników (razem z Mutsu, Nagato). Wziął udział w kilku operacjach, większość czasu spędzał jednak na kotwicowisku Hashirajima. Po bitwie pod Midway planowano przebudowę obu okrętów typu "Fuso" na lotniskowce, jednak zaniechano tych planów (zrealizowanych wobec typu "Ise"). W lutym 1944 Yamashiro został przeznaczony do zadań szkoleniowych.

Wobec coraz trudniejszej sytuacji cesarstwa w czerwcu 1944 roku zdecydowano o dozbrojeniu obu okrętów w artylerię przeciwlotniczą oraz (zapewne) w działający w podczerwieni system identyfikacyjny (IFF) i przywróceniu ich do służby liniowej, co nastąpiło we wrześniu 1944. W tym samym miesiącu zostały pod dowództwem wiceadmirała Nishimury skierowane ku Filipinom, w ramach planu mającego odeprzeć amerykańską inwazję na archipelag. 25 września, podczas próby forsowania cieśniny Surigao, trafiły na znaczne siły przeciwnika, złożone z niszczycieli, krążowników i sześciu starszych okrętów liniowych pod dowództwem admirała Olendorfera. Były to California, Pennsylvania, Mississippi, Tennessee, Maryland i West Virginia. O godzinie 3.38 trafiony kilkoma torpedami Fuso eksplodował, przełamując się na dwie części, które zatonęły osobno, niesione prądami morskimi. Yamashiro próbował dalszego marszu, jednak o 3.53 dostał się pod ogień amerykańskich pancerników (wszystkich, prócz Pennsylvanii, nie mającej nowoczesnych urzędzeń kierowania ogniem), które po raz pierwszy i ostatni w historii ustawiły się w szyku liniowym, przegradzając szlak zespołowi japońskiemu (w klasycznej dla walki flot liniowych pozycji zwanej "postawieniem kreski nad T"). Wielokrotnie trafiony Yamashiro zawrócił, dodatkowo wystawiając płonącą sylwetkę na ciosy, ale o 4.19 przewrócił się i szybko zatonął rufą, ze stratą około 1400 ludzi. Spośród rozbitków, którzy wcale nie chcieli być ratowani, wyłowiono tylko trzech...

Poszukiwania wraków w cieśninie Surigao rozpoczęła w kwietniu 2001 roku firma John Bennet Deep Ocean Research International, co doprowadziło do odkrycia z pomocą sonaru masywnego kadłuba w pozycji odpowiadającej zasadniczo miejscu zatonięcia Yamashiro. Sądząc po pierwszym obrazie, pancernik wydawał się spoczywać na dnie prosto i w całości.

Weryfikacja wstępnych wniosków miała miejsce w lipcu 2006 roku, kiedy doświadczony nurek i instruktor Cedric Verdier postanowił spróbować technicznego zejścia do szczątków, które spoczywają na głębokości 198 metrów (z najwyższym punktem na poziomie 176 m). Wymagało to szeregu przygotowań, w końcu jednak 19 lipca udało mu się dotrzeć do wraku Yamashiro. Wedle relacji nurka, który spędził na dnie niecały kwadrans, pancernik leży na burcie, z zachowaną przynajmniej częścią nadbudówek i zapewne nienaruszonym kadłubem. Planowane na następny dzień kolejne nurkowania nie powiodły się, zatem na razie nie wiadomo o obecnym stanie HIJMS Yamashiro nic więcej.