Kazuo Ueda efterträder den nuvarande chefen Haruhiko Kuroda som suttit på posten sedan 2013 och formellt lämnar den 8 april.
Beslutet fattades strax innan centralbanken skulle avsluta ett tvådagars policymöte som är Kurodas sista och som marknaden hårdbevakat för att få reda på om den avgående chefen ska komma med några avslutande överraskningar.
Men några överraskningar bjöd Kuroda och centralbanken inte på. Den långlivade negativa räntan lämnades orörd.
De senaste månaderna har Bank of Japan hårdnackat motstått att likt övriga centralbanker höja räntorna för att möta den stigande inflationen.
Inflationen i Japan landade på 4,2 procent i januari.
Tillträdande centralbankschefen Kazuo Ueda sade i februari till parlamentet att han anser det lämpligt att fortsätta med "penningpolitiska lättnader" och varnade för osäkerhet på finansmarknaderna och den globala ekonomin.
Han sade också att de faktorer som nu orsakar högre priser "sannolikt kommer att ebba ut i framtiden" och att konsumentprisinflationen "sannolikt kommer att sjunka under två procent".