陈赓就任筹委会主任
1952年，斯大林向MAO泽东建议，办一所集陆海空三军为一体的军事学院。MAO泽东在听取彭德怀关于抗美援朝战争的汇报后，感到在现代战争中军事技术与现代兵器的重要，需要培养大批军事技术人才，使我国的军事技术能够得到不断的改善和进步。
MAO泽东采纳了斯大林的建议，经过与朱德、周恩来商议，于1952年6月，把在朝鲜战场上指挥作战的志愿军代司令员陈赓调回国内，任命陈赓为院长兼政治委员，去创建军事工程学院。
1952年9月1日，经MAO泽东与朱德、周恩来商议，经中央军委批准，军事工程学院筹备委员会在北京地安门恭俭胡同59号院组成，陈赓为主任，开始筹备创建世界上唯一的陆海空三军综合新的军事工程技术学院。
经中央军委批准，决定以西南军区第二高级步兵学校、华东军区科学研究所和志愿军三兵团部分干部为基础，扩大建立军事工程学院。
1953年4月25日，学院基建破土动工，在81楼工地上进行了开工奠基典礼，陈赓铲下第一锹土，全院总规划60多万平方米的建筑任务从此开始。
1953年9月1日，以第一期学员开学典礼为标志，哈军工宣告诞生。
院址选定哈尔滨而非北京
军事工程学院院址选定在哈尔滨而不是北京，确实不够令人满意，不仅存在气候问题，而且与上级和各部门的工作联系上、与有关大专院校和科研单位的协作上都有许多不方便。陈赓也说过，当初力争把军工学院建在北京就好了，因为要尊重苏联顾问的意见，连军委首长也未同他们争辩，就同意定在哈尔滨了。
哈军工院址选定在哈尔滨，按照苏联首席顾问奥列霍夫的意见，校园要宽大，考虑军营生活需要、将来发展需要，要建成一个园林式的校园，多种花草树木，给教学与生活创造一个优雅、清新、安静、舒适的良好环境。
至于苏联顾问为什么坚持要把军工学院校址选在哈尔滨，那就不得而知了。也许他们喜欢这座有着俄罗斯建筑与风请的城市。
陈赓谈笑定布局
结束了在北京筹备委员会的工作后，陈赓于1952年12月3日到达哈尔滨。他到哈尔滨后抓紧工作，勘察院区。5日上午，陈赓在几位院领导的陪同下查看院区勘定范围，一路上谈笑风生。
陈赓看到院区内有3000多个坟墓后说：“一个也不能留在院区内。”他到了文庙，走进去看了看，说：“这是应保留的文物，可利用它做图书馆，把大成殿作阅览室，让孔夫子陪伴咱读书。”他又说：“咱们办的是亦文亦武的军事大学校，能在文庙阅览图书，还可以使教员、学员常常想到孔子教导他的门生的学习方法‘学而时习之不亦说乎’。就是要学员上课好好学理论，下课还要抓紧复习、实习，把理论与实际紧密结合起来，才能学深学好学扎实。”
当来到马家沟河边时，陈赓说：“就以小河为界，南岸可做职工宿舍区，北岸就是教学区。”他从文庙街向西走到一曼街说：“这条文庙街要作为院内道路，不能做市区交通道路，教学区里要肃静，王字楼以西可作为教授宿舍区，一曼街以西作为干部宿舍区和行政后勤临时办公区，以后教学区、院办公大楼建成后，院直机关要全部集中在一个大楼里办公;联系方便，可以提高工作效率。”
陈赓最后来到了“MAO子坟”，看到苏联红军陵园说：“这要保留，这是帮助我们打败日本鬼子、解放全东北的苏联红军英雄墓，要永远怀念这些国际友人。”他看到旁边的极乐寺时，开玩笑说：“大家要安心在学院工作，活着创业光荣，死了还可以登‘极乐世界’。”
陈赓转了一大圈，建筑总体布局就基本上定下来了。这样，一所规模大、有气魄、第一流的大花园式的校园诞生了。
陈赓向总理要大和旅馆
1952年9月，苏联将中长铁路交给中国，在哈尔滨铁路局工作的苏联专家陆续撤走，空闲下来许多房子，还有大和旅馆——现在的哈铁招待所贵宾楼。
陈赓得到消息，马上让属下用他的名义给周恩来总理写信要大和旅馆：哈军工请的苏联专家正陆续到达哈尔滨，学院没有房子给他们住，请批准将哈尔滨铁路局原苏联专家住的大和旅馆交给我们。铁路上的专家正陆续撤走，要尽快告他们勿作别用。特别是大和旅馆能要到就基本能解决苏联专家的宿舍。
11月5日，陈赓回到北京，拿上报告亲自去找周恩来。当时周恩来正在开会，中间上厕所解手，他站在厕所门口等总理出来，送上报告说：“请总理批一下吧，晚了怕抓不到手。”周恩来一边接报告，一边说：“什么事这么急，连解手的时间你都不放过。”陈赓说：“你不是要求我抓紧时间建设哈军工吗?”周恩来开玩笑地说：“你真有办法，找到厕所来要我办公，是你一个发明，这应写到你的自传里。”
周恩来看完报告后，走回会议室，立即在原报告上亲批：“请滕代远部长与陈赓面谈，电话即告哈尔滨铁路局长余光生同志，务须按照军事工程学院所需房子拨给他们，并将结果告我。”11月7日，陈赓去找滕代远。滕代远看了总理批示后，马上打电话给哈尔滨铁路局长余光生，放下电话又给余光生、郭鲁(副局长)写信说：“总理批示，将中长路专家用过的房子拨给军工学院作专家教授宿舍，大和旅馆作苏联专家的专用宿舍，便于警卫保密。”
苏联首席顾问奥列霍夫和专家们于1953年5月13日到达学院。哈军工把铁路局交给的大和旅馆粉刷一新，铁路局招待苏联专家的一班服务人员和西餐厨师全部被留下。还给首席顾问奥列霍夫及夫人在花园路准备了一幢小楼，但奥列霍夫坚持要同大家一起住在大和旅馆。
首席顾问奥列霍夫对军工学院的创建和军事、政治、业务教学、行政队列、物质保障等全面工作的开展，呕心沥血，草劳过度，不幸于1957年3月27日病逝在军工学院的工作岗位上。开完追悼会，即用飞机送其灵柩回苏联安葬。在原哈军工的校园里，现在依然屹立着奥列霍夫的塑像，以纪念这位苏联军事专家对哈军工创建所作出的卓越贡献。
气势雄伟的五幢教学大楼
哈军工有着闻名全国的五大教学建筑群，分别为一系空军、二系炮兵、三系海军、四系装甲和五系工程兵。这五大教学建筑外观气势雄伟，内部坚固适用、宽敞明亮，已经成为哈军工的象征。
关于这五幢教学大楼，当时曾有两个建筑方案。第一个方案是各系共建一个综合教学大楼，像莫斯科大学那样，坐东向西，骑在文庙街东头。这是徐立行教育长和教育副首席顾问叶果洛夫的意见。第二个方案是五个系各建一个教学大楼，根据地形条件，院办公大楼和连在其后的大礼堂，坐北向南，空军系和炮兵系在文庙街东头，夹街相对建两个教学大楼，海军、装甲、工兵三个系在院办大楼后，北、东、西各建一个教学大楼，院体育馆连接大礼堂后，向北开门，与海军等三个系分东西南北相向，中间留一个大草场。这个方案是李懋之副教育长同各系的意见。
还有一个有争议的问题是各大楼的立面造型。叶果洛夫主张建成俄式的，即大家形容的“火柴盒”式的，墙面平板，屋顶是“女儿墙”，铁皮屋顶。李懋之主张墙面要有线条，屋顶要中国式的飞檐斗拱结构，宫殿型大屋顶，不搞雕梁画栋，只要蓝绿SE勾画的朴素花纹，灰SE瓦屋面，高屋脊两端各蹲踞着一个与楼高匹配的“大老虎”模型，四角挑檐上按各系的武器装备制成小模型摆上一排，如空军系摆各型飞机，炮兵系摆各型大炮，海军系摆各型舰艇，装甲兵系摆各型坦克，工程兵系摆各种工程机械;大楼墙面都是灰白SE水刷石，这样朴素大方，气势雄伟。
叶果洛夫坚持他的意见，李懋之坚持自己的意见，各系主任都同意李懋之的意见，说他主张的方案气势雄伟庄重，有学院的特点。这个有争议的问题，请院长最后确定。
首席顾问奥列霍夫说，现在的综合新军事工程学院好比一只老母机，下的蛋要分给各军兵种的。随着国家经济的发展及各军兵种技术装备的增加，现在的五个系将来会成为各军兵种直属的工程学院，军工的任务将是研究设计尖端武器装备和特种设备。几个系集中在一个大楼内会互相干扰，因为各系专业不同，设备各异，各有特需，还是各建一个教学楼合适。至于造型，各个民族都有各自的民族感请，喜爱自己的传统风格，既然形式与教学使用价值无关，那就按李懋之副教育长的意见决定好了。李副教育长设想的大楼造型，含意很好，高屋脊上两端蹲两个“老虎”，可以象征解放军的威武，它雄姿勃勃保卫着社会主义建设。我赞成这个造型。
各系专家组长都同意首席顾问的看法。最后陈赓决定说：按奥列霍夫顾问的意见，五个系各建一座教学大楼，搞中国式的大屋顶。哈尔滨市设计院承担一、二系的教学大楼建筑设计任务，东北设计院承担三、四、五系的建筑设计任务，建工部设计院承担院办公大楼、大礼堂和体育馆的建筑设计任务。
在紧张地建造五座教学大楼时，每个工号都有陈赓的足迹，每个楼的脚手架都有陈赓的手印，每一层楼板都有陈赓的脚印，都有陈赓的汗水。哈军工院舍建筑速度快，质量高，这与陈赓亲自在第一线“督战”是分不开的。钱学森教授来学院参观时说：在我国现有条件下，短短三四年时间能这样快建成第一流现代化军事工程学院，这在世界上也是个奇迹。
到1955年4月，五座气势雄伟的教学大楼，巍然矗立在哈尔滨最高点，京哈特快火车过了双城，离哈尔滨市约50里远的地方就能望见大屋顶高楼群。
隆重的开学典礼
1953年9月1日，哈军工举行了第一期学员开学典礼。军委代表张宗逊副总参谋长在开学典礼上宣读了MAO主席给军事工程学院的《训词》，并授予学院军旗。陈赓立正敬礼，双手接过《训词》和军旗，军旗立即转交给李懋之副教育长，由护旗兵举旗立正站立在队列排头。
在开学典礼上举行了阅兵式和分列式，队伍阵容严整，步伐整齐一致，十几个方队经过主席台，雄壮有力，口令洪亮。会后在大草场举行了大会餐。席间、晚上由总政文工团和学院文工团进行了演出，并举行了露天舞会。
1953年9月1日是军事工程学院诞生之日，第一期开学之日，也是“榜上有名”、直归中央军委领导、正式列入解放军军队序列之日，这是永远值得纪念、值得庆祝的日子。
陈赓大将后来被任命为中国人民解放军副总参谋长、国防科委副主任、国防部副部长等职，但一直兼任哈军工院长。他不时奔走于京哈两地，对学院工作关怀备至，为军工学院培养最高质量的技术干部费尽心血，直到1961年3月16日因积劳成疾，病逝于上海。
