Memasuki perang Sino Jepang kedua, ia dipromosikan sebagai read admiral dam memimpin 1st Combined Air Group.
Menjelang peristiwa Pearl Harbor, ia dipindahtugaskan untuk memimpin 2nd Carrier Division yang terdiri dari 2 kapal induk, IJN Souryuu dan IJN Hiryuu.
Dibawah pimpinannya, ia berhasil melatih anak buahnya hingga peristiwa Pealr Harbor berhasil dilancarkan oleh Jepang.
Ia pun terlibat dalam operasi lain dalam menyapu bersih pasukan sekutu yang tersisa di negara-negara Asia Tenggara.
Yamaguchi kemudian ditunjuk untuk membantu di pertempuran Midway.
Sayang, meski kondi Jepang lebih unggul dengan miliki 4 kapal induk, ternyata Jepang harus mengalami kekalahan.
Di saat terakhir, IJN Hiryuu yang sangat berpotensi selamat justru mendekat ke arah armada Amerika.
Baca Juga: Terbongkar! Ternyata Begini Kelakukan Raja Thailand Vajiralongkorn Pada Puluhan Selirnya
Kecerobohan ini berujung dengan lumpuhnya IJN Hiryuu akibat pesawat dari USS Enterprise dan USS Yorktown.