财政赤字若不以向中央银行借款的方式而以发行债券的方式来弥补，就绝不会造成货币供给过多吗?

以上观点不正确。
不涉及赤字弥补的各项财政收支活动，它们本身并不会引起货币供给总量的变动。例如财政征收各项税收，实际上是把货币资金从企业和个人转移到财政，然后又通过财政支出转移到企业和个人，货币供给总量并不发生变化。
不涉及中央银行资产业务的财政赤字弥补方式，也不会引起货币供给总量的变动。如果弥补财政赤字是靠向社会公众借款，也只是通过财政的“手”从社会公众那里拿来一部份收入，再通过财政支出放回到社会，货币供给总量不变。
现代社会经济生活，弥补财政赤字的主要方式就是发行国债。国债发行虽然并不全部直接卖给中央银行（或通过商业银行间接转到中央银行），但却是现代社会财政收支作用于货币供给的主要途径。这是因为：各国中央银行往往通过在二级市场买卖国债来吞吐货币，从而达到调控经济的目的。如果国债的一部分直接由中央银行承购，那就等于财政直接向中央银行借款。这立即使基础货币增加，其他条件不变，货币供给增加。
所以，在剖析国债发行对货币供给的影响时，考察它对基础货币增减变化的影响是一个极其重要的方面。与此同时还要注意分析国债发行对货币供给结构的影响，主要是活动力强的那部分货币在整个货币供给中所占比重的增减变化。

略