1945年2月，经过东普鲁士战役第一阶段的战斗，德军北方集团军群已经被苏军割裂成四个部分。其中，魏斯的第2集团军退守但泽走廊，米勒的第4集团军坚守在东普鲁士首府柯尼斯堡以西，柯尼斯堡要塞守军，劳斯的第3装甲集团军在泽姆兰德半岛。
上述四支部队并不是完全孤立，第4集团军和柯尼斯堡要塞守军之间，沿弗里施湾有一条狭窄的通道；泽姆兰德半岛和第2集团军之间可以通过弗里施沙咀保持联系。
在其他战场上，苏军在刚刚实施完的维斯瓦河－奥得河战役中，已经夺取了几乎所有波兰的领土，将战线推到德波边境、奥得河一线。也就是说，参加东普鲁士战役的苏军完全没有侧翼的威胁，可以放手实施对德军北方集团军群各个孤立的重兵集团实施打击。
首个被打击的目标是托伦要塞。该要塞坐落在维斯瓦河右岸，是苏军此前长途奔袭时没有攻克的德军据点。起初，苏军判断要塞守军仅有3000人，所以只留下少量部队在这里监视德军。实际上德军在这里驻扎了包括第73步兵师、警察部队、要塞守备部队和军校学员共计3万多人。
1月30日，德军趁苏军兵力薄弱，借助黑夜向维斯瓦河对岸突围。突围一开始的进展顺利，他们凭借兵力优势突破了苏军的封锁线。获悉德军突围，罗科索夫斯基迅速抽调第70集团军6个步兵师和近卫第1坦克军发起追击。至2月2日，大部分德军被消灭，1.2万人被俘，约3000人逃到维斯瓦河对岸。
同样在罗科索夫斯基指挥的白俄罗斯第2方面军方向，苏军第二个打击目标是埃尔宾。这里是苏军白俄罗斯第2方面军进攻方向上留下了一颗不大不小的钉子。在东普鲁士战役第一阶段，苏军急于冲向波罗的海海岸，在远途奔袭的过程中，没有停下来夺取这个坚固据点。
防守埃尔宾的德军由众多小的作战单元组成，主要包括：第561、第562人民步兵师（也称国民掷弹兵师）一部；第7、第13装甲师一部；第28歼击师一部和第170步兵师一部，兵力共计1万人。2月初，费久宁斯基指挥的第2突击集团军奉命夺取该城。2月3日，第2突击集团军第98和第116步兵军开始攻城，第381步兵师担任主攻。
进攻发起后，苏军的进攻马上遇到了困难。德军的工事非常坚固，很多石质建筑被德军改造成防御堡垒。此外，连续的降雪把战场盖上了厚厚的积雪，122毫米的火炮发射的炮弹落在积雪上，威力大打折扣。此时苏军更大口径的重炮还没有赶上来，所以只好将这些建筑物包围起来，然后绕过他们继续向前推进。
几天后，苏军重炮旅抵达前线，步兵部队也吸取这几天的战斗经验，组建了众多的强击战斗群，每个战斗群配备10几个冲锋枪手、2~3门火炮、5～6个携带炸药的工兵、1～2个反坦克步枪。重炮旅的152毫米火炮则随时为战斗群提供火力支援。
战至2月10日，埃尔宾被苏军攻克。德军残部从西面突围，与第2集团军主力会合。
德军在丢失托伦要塞和埃尔宾后，也清楚东普鲁士的局面最好的结果是维持现有阵地。此后德军统帅部对北方集团进行调整。魏斯升任北方集团军群司令，第2集团军司令由绍肯接替。该集团军此时已经大部分退往维斯瓦河左岸，遂被就近划归希姆莱的“维斯瓦”集团军群，同时担负着但泽地区的防务。
劳斯的第3装甲集团军司令部从泽姆兰德半岛撤出，然后调往但泽走廊的东波美拉西亚，也纳入维斯瓦集团军群战斗序列，该集群掩护柏林北部地区。原第3装甲集团军所属第28、第9军留守半岛，组建“泽姆兰德”集团军级集群，共辖7个步兵师，其中包括“皮劳”要塞的第607师。
拉施继续坚守柯尼斯堡，他的部队辖4个步兵师和第5装甲师主力。在柯尼斯堡以西，米勒的第4集团军尚有23个师，但严重缺编。调整后，北方集团军群总兵力33万人。
在此期间，苏军统帅部也重新调整了北方各个战线的兵力和战斗序列。其中，围攻库尔兰半岛的部队全部划归波罗的海沿岸第2方面军，原列宁格勒方面军司令员戈沃罗夫接替叶廖缅科，担任方面军司令员，后者改任乌克兰第4方面军司令员。
负责柯尼斯堡和泽姆兰德半岛方向的部队全部划归波罗的海沿岸第1方面军，司令员仍然是巴格拉米扬大将。
负责消灭柯尼斯堡以西、德军第4集团军的任务交给了切尔尼亚霍夫斯基指挥的白俄罗斯第3方面军，沃利斯基的近卫第5坦克集团军又一次划给该方面军指挥。
罗科索夫斯基的白俄罗斯第2方面军不再参加东普鲁士方向的作战，该方面军右翼几个集团军交给切尔尼亚霍夫斯基指挥，其余部队则投入到维斯瓦河下游方向，专门负责打击德军维斯瓦集团军群。
经过上述调整后，苏军参加东普鲁士战役的部队由白俄罗斯第3方面军和波罗的海第1方面军组成，合计兵力80余万人。
经过一番调整，苏军明确了各部队的作战任务。2月10日，切尔尼亚霍夫斯基开始向德军第4集团军发起新的攻势。苏军试图用优势明显的炮火摧毁德军的防御，而德军因为已经收缩防线，防御密度大大加强。米勒构筑了多层纵深野战防御体系，德军步步为营，机动部队在内线调动自如，致苏军的推进非常缓慢，每天只能前进2公里。战至2月17日，戈尔巴托夫的第3集团军终于攻克梅赫赛克。
2月18日，切尔尼亚霍夫斯基赶往第3集团军指挥部视察，在梅赫赛克郊区，几发炮弹落在切尔尼亚霍夫斯基汽车旁边，他被一块弹片击中头部。切尔尼亚霍夫斯基向闻讯赶来的第3集团军司令戈尔巴托夫简单交代几句就失去了知觉。在送往卫生队的路上，他就停止了呼吸，与世长辞，时年38岁。
消息传到莫斯科后，斯大林半晌不语，他已经将年轻的切尔尼亚霍夫斯基视为统帅部接班人。在战争临近结束时，损失如此高级别的将领实在让人惋惜。长时间沉默后，斯大林向秘书授令：“124门礼炮在莫斯科鸣放24响，为我们年轻的统帅致哀。”
切尔尼亚霍夫斯基生前爱兵如子，其本人不吸烟，但每次回到总部都会向后勤负责人赫鲁晓夫索要最好的香烟，然后带回部队送给自己的部下。每次参加总部会议时，他的发言都会以“我们”来阐述自己部队的意见。切尔尼亚霍夫斯基被安葬在立陶宛的维尔纽斯，送别当天，数万官兵列队告别自己的统帅。
同样令人惋惜的是近卫第5集团军司令员沃利斯基，他在1945年3月份的战斗中负伤，虽然经过抢救脱离了危险，但也于战争结束后不久辞世，时年49岁。
2月19日，苏军统帅部任命华西列夫斯基担任白俄罗斯第3方面军司令员，继续指挥东普鲁士地区的战斗。
随后的一段时间，苏军的攻势暂时陷入停顿。此时的德军第4集团军防线公里，身后是波罗的海的弗里施湾。这里后来被称作“海尔斯贝格口袋”。
在柯尼斯堡和泽姆兰德半岛，巴格拉米扬根据统帅部的要求，计划首先攻取泽姆兰德半岛，切断半岛通过弗里施沙咀和驻守在但泽走廊的德军第2集团军的联系，进攻发起时间预定在1945年2月20日。
与此同时，德军也计划集中两地部队实施了一次南北相向突击，恢复半岛和柯尼斯堡的联系。2月19日，半岛方向的德军泽姆兰德集群集中3个师向东南方向攻击，柯尼斯堡守军也集中1个装甲师、1个步兵师向西北进攻。同时，德国海军“舍尔上将”号战列舰以280毫米舰炮提供火力支援。
战斗打响后，德军地面部队在坦克引导下一阵猛打，突破了苏军第39集团军的封锁。经过三天恶战，第5装甲师在柯尼斯堡至皮劳的公路与泽姆兰德集群第9军会师，如愿以偿地打开了一条宽10公里的陆上走廊，恢复了两地的铁路和公路联系。
战后，巴格拉米扬受到处分，波罗的海沿岸第1方面军也被降级为泽姆兰德集群，划归白俄罗斯第3方面军指挥。巴格拉米扬担任白俄罗斯第3方面军副司令员，兼任该集群司令员，协助华西列夫斯基的指挥。至此，苏军在东普鲁士地区的部队全部划归华西列夫斯基指挥，德军据守的海尔斯贝格口袋、柯尼斯堡和泽姆兰德半岛也全部交给华西列夫斯基攻克。
华西列夫斯基到任后，重新制定了作战计划，将进攻的首要目标选在了海尔斯贝格口袋。此时米勒的第4集团军在“口袋”里还有15个师，是东普鲁士地区最大的一支德军重兵集团。苏军投入到海尔斯贝格口袋的兵力包括近卫第2、第11集团军、第3、第5、第28、第31和第48集团军，两军兵力和兵器对比悬殊。
1945年3月13日，苏军经过40分钟的炮火准备转入进攻，冲在最前面的是苏军坦克集群。在德军的激烈抵抗下，苏军缓慢地向前推进。至3月18日，德军后撤15~20公里，纵深仅剩下7~10公里，完全处于苏军炮火的打击范围之内，防御正面的宽度也从50公里缩小到20公里。
当天，战场上出现了难得的好天气，苏军另一个有压倒性优势的空军出动。在2520架次飞机和地面炮火的打击下，德军开始崩溃。越来越多的德军开始向苏军举手投降。
在此情况下，一向对希特勒忠心耿耿的第4集团军司令米勒请求将部队经弗里施湾海运到弗里施沙咀，然后经过那里撤到但泽地区，但希特勒命令米勒坚守在原地。3月26日，米勒致电陆军总部，称苏军的炮火和攻击，以及如冰雹般的轰炸已经让德军无法机动部队。所以他再次请求将部队撤往弗里施沙咀。当晚，希特勒命令米勒留下必要的部队坚守阵地，将集团军伤员及所有坦克、火炮和车辆经海运撤退。
为此邓尼茨调集124艘平底船、52艘突击艇、15艘摩托艇、10艘渡船，甚至还包括250只木筏参与撤退。3月29日，希特勒再次下令，允许第4集团军全部撤往弗里施沙咀。此时，第4集团军实际上已经提前完成了撤离。
据战后统计，苏军此战共俘虏德军4.6万人，德军伤亡数字在10万人左右，但大部分伤员经过海路已经从这里撤离。一同撤离的还包括十几万德国平民，以及86门火炮、302辆卡车和1.1万吨物资。
1945年4月3日，第4集团军脱离北方集团军群建制，改由陆军总部直属。同时第2集团军驻守在但泽地区的部队，以及柯尼斯堡和泽姆兰德集群都划归第4集团军指挥，同时德军北方集团军群番号被撤销。苏德战场最初的三个集团军群级番号中，北方集团军群首先消失在战场上。
苏军在肃清海尔斯贝格口袋德军后，将下一个打击的目标锁定在柯尼斯堡。此时，驻守在这里的只剩下拉施上将指挥4个步兵师，兵力为4.7万人，装备有224门野战炮、160门反坦克炮。能够支援要塞的空军飞机只有100架左右，这点力量在苏联空军面前已经可以忽略不计。除了这些兵力外，守军还可以通过柯尼斯堡至皮劳之间的铁路得到泽姆兰德集群的支援。
守军依托的工事相当坚固，防线由三道阵地构成。第一道阵地距离城区6~8公里，包括2～7道堑壕和15座坚固的独立支撑点，每个支撑点由1个加强连驻守，配备机枪和火焰配射器。这些堡垒和掩体墙壁厚度往往超过1米，顶盖厚达1～3米，再盖上几米厚的土层。壕堑、堡垒、火力点之间的通道，都埋设了大量地雷和反坦克障碍物。
第二道阵地位于城市郊区，由一些砖石结构的房屋、交叉路口的街垒、钢筋混凝土发射点和雷场组成。第三道阵地位于城区中部，沿旧城界展开，包括9个古老堡垒，一些砖石房屋的地下室之间还挖了通道。柯尼斯堡市内的很多工厂、兵工厂和仓库也都修筑挖掘了地下掩体。普雷格尔河水闸打开后，周围变成一片泥沼之地。
华西列夫斯基为攻取柯尼斯堡做了大量精心的准备，这也符合其一贯的指挥风格。首先，苏军绘制了极为详细的地图，并下发给排长一级指挥员。他还安排制作了一个1:3000的沙盘，上面标注着德军每一处防御要害。其次，华西列夫斯基要求各部队展开专门的突击演练，尤其针对苏军欠缺巷战经验，重点演练夺取高大建筑物内的德军支撑点。
此外，他还集中125辆坦克、413辆自行火炮、5200门火炮和迫击炮以加强进攻的火力，拟补苏军在战争末期缺乏步兵的情况。除了地面部队外，空军集结了2400架飞机，由苏空军主帅诺维科夫统一指挥。
除了守军，柯尼斯堡城内还有十多万平民。根据希特勒的命令，能够战斗的人组成国民突击队，与正规部队一同参加战斗。其余市民则在东普鲁士地区纳粹头目科赫的监督下禁止逃离。
1945年4月6日，夺取柯尼斯堡的战斗打响。苏军在2个小时的火力准备后，从多个方向对守军发起进攻。
当天，第39集团军从西北突破德军防线，将柯尼斯堡和皮劳之间的铁路切断。柯尼斯堡守军丧失了接受外部补给的重要通道。
在正北方向，苏军第43集团军攻击德军据守工事的2个团。经过几个小时的激战，守军大部分被全歼。德军在这里最坚固的工事是“五号”堡垒，这座堡垒长215米、宽105米、墙壁厚1.8米，顶部厚1.5米，并有3～6米的覆土。堡垒周围已经被海水灌满，并拉上2米高的铁丝网，四周密布地雷。
守卫堡垒的德军约300人，配备45挺机枪、15门80毫米迫击炮和10门120毫米迫击炮。在进攻发起前，苏军就用6门280毫米超重火炮向这里发射了360发炮弹，直接命中的炮弹有86发，但没有给这座堡垒造成有效的损坏。经过一轮激战，苏军对这里毫无办法，遂留下一个步兵营监视这里，其余部队绕行前进。当晚，第43集团军冲入柯尼斯堡城内。
在城东和城南，鲍尔金的第50集团军与加利茨基的近卫第11集团军一道突破德军第一道防御阵地。迫使城南的德第69步兵师和一个警察战斗群撤向火车站。也许是被可怕的炮火所震撼，德军士气低落，战斗第一天已有大量人员被俘。如近卫第31步兵师就抓获了258名俘虏，第235师俘虏292 人。这天共有102个街区的守军被苏军肃清。
在城外，德军第4集团军司令米勒命令第5装甲师对苏军实施反击，试图重新恢复皮劳至柯尼斯堡的通道。但德军的反击从一开始就遭遇苏军炮火的反扑，在损失大量装备的情况下被迫撤退。
4月7日，天气好转。此前一天仅出动200余架次的苏空军在这一天遮蔽了柯尼斯堡的上空。空军共出动4758架次飞机，投下1658吨炸弹。也就是在这一天，“五号”堡垒被苏军攻克。被苏空军重点打击的西南和西部地区的守军战斗力急剧下降。当天苏军又攻克了130个街区，德军第三道防线已经崩溃，苏军进入城市中心地区。
当晚，守军指挥官拉施请求将部队沿着柯尼斯堡至皮劳的公路撤退到泽姆兰德半岛，但米勒要求他继续死守。次日，守军所有的撤退通道被切断。此时米勒却突然改变主意，同意拉施率领部队突围。
4月8日凌晨2时，柯尼斯堡守军开始组织突围。此时城内已经混乱不堪。柯尼斯堡市民被几天来的炮火已经吓得失魂落魄，他们也从掩体里冲出来，涌向通往泽姆兰德半岛的公路上。苏军观察到德军和难民的异动，于是集中大炮向他们猛烈开火，包括第548师师长苏德奥少将在内的大量德国军民被炸死、炸伤。突围失败的德军被分割包围，趋于崩溃，4月8日一天内就有15000人被俘，港口、铁路枢纽和众多军工目标也都落入苏军之手。
4月9日晨，第43集团军最终挫败了德军向西突围的企图，德军第5装甲师也未能从泽姆兰德半岛推进到柯尼斯堡。随后苏军用5000门炮和1500架飞机向守军狂轰滥炸，同时以近卫第11集团军攻打市中心的最后据点。整个柯尼斯堡城都笼罩在浓厚烟幕下，德军官兵和平民在暴风雨般的炮火下大量死去，卫戍司令拉施也被打伤。
当晚9时，拉施率领守军向苏军投降，此前他曾请求希特勒允许其投降，但遭到希特勒的拒绝，后者要他坚守到最后，然后杀身成仁。次日一批党卫军和警察分队停止抵抗。至此柯尼斯堡的战斗全部结束，一个星期后，也就是1945年4月16日，苏军白俄罗斯第1、第2方面军和乌克兰第1方面军发起柏林战役。
此战，德军死伤4.2万人，另有9.2万人被俘（包括大量平民）。依靠强大的炮火和空军支援，苏军在4月6日开始的攻城战中，仅损失了3700人。
值得一提的是东普鲁士地区纳粹头目科赫，他提前给自己准备好的一艘破冰船，柯尼斯堡城破之际，他带着参谋、保镖、专车和他的宠物狗成功逃脱，然后躲避到丹麦。
此战后，米勒也丢掉了第4集团军司令的职务，第4集团军司令部也撤出东普鲁士，所属部队划归绍肯的第2集团军指挥。后者领受的任务是坚守泽姆兰德半岛，尤其是半岛西端与弗里施沙咀之间的皮劳要塞。此时，半岛守军约6.5万人，坦克和强击火炮166辆，空军支援几乎没有。
1945年4月13日，苏军发起向泽姆兰德半岛的进攻。由于天气条件允许，战前火力准备期间，诺维科夫出动所有飞机对德军实施空袭。在进攻的第一天，德军就损失了大部分坦克，防线公里。次日，苏军将进攻重点放在战线中段，试图用中央突破的战法将守军分割。绍肯在发觉苏军企图后，命令守军退往皮劳要塞。
德军弃守防线后，苏军也随即发起追击，至4月17日，苏军攻占费施豪森，将德军第21、第95、第558步兵师、第28歼击师和第5装甲师的退路截断。上述部队约有2万人逃脱，其余悉数被苏军歼灭。
4月20日，苏军猛攻皮劳要塞，继续遭到守军的拼死抵抗。除了陆军，全体德国海军基地人员，包括一些岸防炮连，也参加了这次恶战，为从海上撤退部队争取时间。在这段狭窄的林区战场上，两军都无法迂回机动，只能面对面地硬碰，造成了惨重伤亡。
4月24日，苏军突破了皮劳以北阵地，冲入市内，并于次日夺取了这座要塞。至此持续3个多月的东普鲁士会战结束，东普鲁士完全被苏军攻占。
此役参战的苏军3个方面军损失兵力58 万人，其中12万人死亡、被俘、失踪。同时还损失了3525辆坦克和自行火炮、1644门火炮和迫击炮、1450架飞机。
德军的损失没有官方统计，据战后分析，德军损失兵力约50万，其中被俘和阵亡在20万~30万之间。