完颜阿骨打率领女真军刚进入辽境不久，便与敌军相遇，那是一支赶来宁江州支援辽军的渤海子弟兵。阿骨打下令佯装退却，诱敌来追。渤海子弟兵不知是计，以为女真人胆小害怕，随后追赶，突然，阿骨打连射数箭，将渤海子弟兵一员骁将射下马，女真军士气大振，展开猛烈反击。渤海子弟兵见势不妙，仓皇溃退。女真军乘胜追击，一直追到宁江州，一鼓作气，攻克宁江州城池。宁江州是女真攻占的第一座辽国城池，缴获了大量战略物资。初战告捷，极大地鼓舞了女真人的士气，进一步增强了他们抗辽的信心。宁江州之战拉开了女真灭辽的战争序幕。
随后，阿骨打派人去招降同样遭受契丹人欺压和凌辱的铁骊人、渤海人和熟女真人，他同时运用政治手段，来壮大反辽统一阵线。
这年十一月，阿骨打在出河店又大败辽军，女真兵马迅速扩展到一万多人，实力更加强大。接着，阿骨打下令兵分三路，分别直指宾州(今吉林农安北)、祥州（今吉林农安）和咸州。三路兵马所向披靡，分别击败辽军各部。到十二月底，女真已攻占宁江州、宾州和咸州等城池，控制了包括黑龙江流域、松花江流域以及长白山一带的大半个东北，只有辽河流域还在辽国统治之下。
这天，吴乞买、撒改、辞不失等人建议阿骨打称帝，登基建国，阿骨打没同意。第二天，阿离合懑、蒲家奴和宗翰等人又来相劝。宗翰是国相撒改的儿子，本名粘没喝，又称粘罕，这年三十八岁，身材魁梧，相貌堂堂，有勇有谋，深得阿骨打信任，他劝说道：“现在大功已成，若不称号，无以系天下心。”
公元1115年（辽天庆五年）正月，阿骨打在按出虎水（今阿什河）左岸的大寨里举行了登基仪式，称帝立国，国号大金，是为金太祖。阿骨打说：“辽以宾铁为号，取其坚也，可是宾铁虽坚，终亦变坏，惟金不变不坏。”
建国后，阿骨打对女真勃极列政治制度进行了改革，将原来由都勃极烈、国相、各勃极烈都参加的比较庞大的议事会，改组为由皇帝和少数高级别勃极烈组成的勃极烈会议制度。勃极烈，女真语本意是“管理众人”，即长官的意思。
皇帝以下设四个高级勃极烈。一是谙班勃极烈，相当于皇储，由四弟吴乞买担任（因为三弟翰带早已去世）。二是国论勃极烈，相当于宰相，由堂兄撒改担任。三是阿买勃极烈，相当于第一副宰相，由堂叔辞不失担任。四是昊勃极烈，相当于第二副宰相，由五弟斜也担任。这五人组成女真最高领导层，女真所有军国大事都有这五人开会商定。
女真军队仍实行传统的猛安谋克制度，但数量有所改变，即三百户为一谋克，十谋克为一猛安。
1115年（收国元年）正月初五，完颜阿骨打亲率大军向黄龙府（今吉林农安）进发。黄龙府是辽国的国库所在地，也是一个重要的军事要塞。如果拿下黄龙府，对耶律延禧将是一个重大打击。
女真人的反辽声势越来越浩大，这让耶律延禧很恼火，他任命耶律翰里朵为都统，率东北兵团所属二十万骑兵和七万步兵，向宁江州西侧的达鲁古城进发，他以为这次一定能彻底击垮阿骨打。同时，他又派出一个名叫僧加奴的人去会见阿骨打，传递谈判信息，只要女真不与辽国作对，女真还可以继续做辽国的附属国。
金军兵临益州（农安北）时，阿骨打闻听辽军重兵正在达鲁古城集结，他当机立断决定停止攻打黄龙府，大军转头直奔达鲁古城。
在宁江州西边的一片树林里，僧加奴终于见到了阿骨打，向他转达了耶律延禧议和的意向。阿骨打态度很强硬，他说：“议和也可以，但有两个前提条件，一是交还阿疏，二是把黄龙府迁走。否则，无法议和。”
金军逼近达鲁古城时，阿骨打率领众将登高观察，只见辽军已经出城布阵。阿骨打观察了一会儿说：“辽兵队伍散乱，肯定是怯战，人数虽多不足畏。我军要抢占制高点，居高临下，用骑兵冲锋。”
宗雄与宗干率军两翼迂回，娄室与银术可率军中线冲击，辽军一触即败，入城自保。次日黎明，辽军弃城而逃。
达鲁古城之战，是历史上以少胜多的著名战例之一。达鲁古城战后，女真军开始进行休整，组织开展打猎、射柳等活动，以训练军队。
经过半年休整，1115年8月，完颜阿骨打率军再次进攻黄龙府，他采纳常胜将军娄室的建议，首先围困黄龙府，然后扫清外围。一个月后，城内守军感到孤立无援，守城无望，遂弃城而逃。金军蜂拥而入，攻占城池，缴获了各种战略物资和武器装备，不计其数。
耶律延禧闻悉黄龙府陷落，大为震惊，他立即调兵遣将，决意亲征。他命萧奉先为御营都统，耶律章奴为副，数路兵马，分进合击。他亲率契丹汉军十多万人马，对外号称七十万大军，自长春州（今吉林前郭县塔虎城）出发，挥师东进，决心与阿骨打决战。
此时，阿骨打手里只有两万人马，他把众将领召集到自己帐下，仰天大哭道：“刚开始，我与你们一起起兵，只因苦于辽国的残酷统治