山西省银行于1919年1月1日成立，总行设在山西太原鼓楼街。该行前身为山西官钱局，建行初期为官督商办，由阎锡山从山西官钱局改组而成。额定资本银元300万元，分为3万股，每股100元，其中官股部分除接收山西官钱局财产外，由财政厅拨给一部分，私股部分来源为临时募集、“公债”。董事乔尚谦、鲁奎儒、徐一清、王玠、贾继英、李步青、严慎修，经理阎维藩，协理齐梦彪。在运城、榆次、洪洞、大同、平遥、长治、汾阳、北京、天津、汉口、上海、石家庄、保定、归化、包头等地设立分支机构。业务包括存款、放款、汇兑、发行货币、代理省金库、经理公债、保管等业务。1929年增至1000万元。

1930年中原大战，晋军失败，该行被收归官办。1932年，阎锡山重返山西，整顿金融，修订章则，改组山西省银行，定为官营民监。以“调剂全省金融，扶植经济建设”为宗旨，内部组织分总务、业务、会计、发行、金库五处，并取消总管理处，改称总行。1937年11月太原失守，总行先后迁至晋南运城、临汾两地，1938年又移至西安，后又迁到山西吉县。

该行自1919年起发行晋钞，1928年发行额900万元，1938年增至4500万元，1940年因百姓拒绝使用而停止发行。1943年夏，经山西省政府议决，将由省公款设立的晋绥地方铁路银号和绥西垦业银号并入，并将总行移至西安、宜川等地，抗战结束后总行迁回太原。1949年4月24日后，由太原市军事管理委员会金融接管组接管清理。