张作霖决心建立东北海军是有原因的。1922年4月，第一次直奉战争爆发时，吴佩孚乘温树德海军少将的旗舰“海圻”号，巡视秦皇岛、葫芦岛一带，并策应山海关的直系陆军，在葫芦岛发炮一百余发，对奉军造成威胁。5月，奉军失败。在退出山海关时，奉军遭到依附直系的“海筹”、“海容”等军舰从秦皇岛海面大炮的轰击，部队损失较大，甚至白天不敢行动，夜车不敢开灯。张作霖的座车也险被击中。张作霖深感没有海军不能控制海面的痛苦，遂决心建立东北海军。

东北海军的创始人是沈鸿烈。沈鸿烈，字成章，湖北天门人，1882年生。1906年，入日本海军学校学习，加入中国同盟会。1911年毕业回国。武昌起义爆发，沈鸿烈奉命为海军宣慰使，策动长江上下游海军反正。1912年，任南京临时政府海军部军机处参谋。次年，任北京政府参谋本部上校科长，主管海防。1916年，被派赴欧洲观战团海军武官。1918年回国后任陆军大学海军教官。1920年任吉黑江防司令公署中校参谋。1922年，张作霖任命他为镇威上将军公署航警