魏孝武帝果然是出了屎窝，又进了尿窝，而且是更深的尿窝。孝武帝和高皇后感情不睦，于是瞄上了自己的堂妹，让这三个妹妹不许嫁人，名义上封为公主，实际上在宫中当自己的老婆。其中的平原公主元明月仪态万方，善解人意，陪着孝武帝度过了很多美好的时光。
在洛阳之时，高欢从不干涉孝武帝的家事，怎么折腾随您的意。孝武帝逃离了洛阳，带走了平原公主，来到了长安居住。宇文泰可看不惯这样的埋汰事，出言刺激西魏元姓诸王：你家的姑娘不出嫁，原来都留着自己玩啊。这些王爷受不了这个，公然打进了皇宫，将平原公主从龙床上拎走，拉到外面剁了，以掩盖宗族的丑行。
孝武帝恨得咬牙切齿，宇文泰太绝了，一个爷们儿没有事业，有几个相好的你也不让，我家自己的肥水不流外人田，关你屁事！你小子横刀夺爱，太霸道了！心中的郁闷发泄不去，于是不时用身体语言表示愤怒，弯弓搭箭乱射，或推翻了桌子，嘴里也不消停，不停地问候宇文泰的祖宗。
宇文泰可没有高欢那么宽宏大量，听说孝武帝敢于骂自己，心中不高兴，干脆一不做二不休，派人给孝武帝送了一杯毒酒，礼貌的请他喝下去。孝武帝就是这么不光彩的离开了这个他看不懂的世界，时年二十五岁。
宇文泰悲痛的向**告了孝武帝驾崩的消息，当年十二月，大雪纷飞之际，宇文泰“与群公定策”，立平原公主的亲哥哥元宝炬为帝。史称西魏。
永熙三年（534）十二月，宇文泰以毒酒害死魏出帝，立元宝炬为帝，是为魏文帝，明年正月，文帝于长安城西即位，改元大统，宇文泰为丞相、都督中外诸军事、大行台，军政大事尽出于泰手。从此，北魏分为东魏和西魏，高欢与宇文泰皆居相位，军国大事总属相府，成为实际的统治者，元氏皇帝不过是傀儡而已。
西魏立国后，形势极为险峻，其时，天下三分，东有高欢大军压境，南有萧梁不时构衅。尤其是高欢，视西魏为劲敌，急欲将其扼杀于襁褓之中，而东西魏力量对比又十分悬殊，东魏地广国富，人口逾二千万，兵强马壮，高欢能调动的军队不下二十万；西魏地狭国贫，人口不满千万，宇文泰直接掌握的军队不过三万余人。同时，西魏立国之初，关中即遭大饥，人心浮动。宇文泰也看到了这种形势，大统元年（535）三月，他命各衙署斟酌古今以来的治国经验，且可以用于现实者，制订颁行了二十四条新制。并提拔了武功大姓苏绰为大行台左丞，参与机密，拟订治国大纲，革新政治。
宇文泰首先进行的是改革军制，建立府兵制度。
大统三年（537），宇文泰开始整军。先是，东魏连年入侵，永熙三年（524）八月，高欢帅师攻克潼关，进逼华阴（今陕西华阴西南）；大统元年（535）春正月，东魏大行台尚书司马子如率军再攻潼关，见宇文泰已有准备，遂挥师攻华州（治华山，今陕西华县），赖著刺史王罴的拚力死战，才打退了东魏进攻；大统二年三月，高欢又亲率万骑袭取夏州，徙五千户而归。不久，又袭取灵州，徙五千户而归；大统三年正月，高欢又领军屯蒲阪（今山西永济县蒲州镇），于黄河上架设浮桥，准备渡河攻潼关。高欢恃戎马之强，年年进攻西魏，虽然未曾得手，但宇文泰知道，长此下去，实力处于劣势的西魏必然难以支持，当务之急，是要提高士气，增强战斗力，开拓兵源，扩充军队。
大统三年七月，宇文泰集诸军于咸阳，八月，率之于潼关整军，宣布军法军规，不得贪财轻敌，不得作威于百姓，与敌作战，用命则赏之，逃脱皆戮之。通过这次整顿，西魏军队的战斗力大大提高，不久，高欢率二十万大军入侵，西魏以少胜多，在沙苑（今陕西华阴县境内）大败高欢，俘敌八万余人。
随著军队素质的提高，宇文泰又进一步扩充军队，壮大军事力量。初，宇文泰在接受贺拔岳的以武川兵户为骨干的军团时，这一军团人数不过数千人，击败侯莫陈悦后，其大将李弼拥众万人来归，以后，跟随孝武帝元修入关的由鲜卑族人组成的北魏宿卫禁旅也有近万人，合起来，宇文泰掌握的军队约有近三万人，分别由十二个将军率领。沙苑之役后，又通过收编降军等不断补充，人数渐渐增多，到大统八年（542）三月，正式建立六军，时已有兵约十万人。
宇文泰又对军队统辖系统进行改革，形式上采取鲜卑旧日的八部之制，立八柱国。除宇文泰自己在大统三年（537）由西魏文帝任命为柱国大将军、都督中外诸军事，为西魏军队的实际统帅外，又在大统十四年（548）任命西魏宗室广陵王元欣为柱国大将军，但仅挂虚名，并无实权，另任命赵贵、李虎、李弼、于谨、独孤信、侯莫陈崇六人为柱国大将军，实际统率六军。每个柱国大将军下有两个大将军，共十二大将军；每个大将军下有两个开府，共二十四开府；每个开府下有两个仪同，共四十八仪同；一个仪同领兵约千人，一个开府领兵两千，一个大将军领兵四千，一个柱国大将军领兵八千，六柱国合计有兵四万八千人左右，这支军队，就是历史上所说的府兵。
府兵的前身，由贺拔岳的武川军团、侯莫陈悦军团中的李弼军团以及随孝武帝入关的北魏宿卫禁旅这三部分组成，这些军队都是鲜卑化的军队，尤其是武川军团，前身是六镇鲜卑，大都是拓跋族成员，随著拓跋族的封建化，他们的地位下降，因此，他们参加了六镇起义和河北起义；但是，他们又错误地认为是汉化导致他们的地位下降，而看不到汉化是历史的进步和必然，竭力想回复到原来的氏族部落关系中去，宇文泰出身武川军团，对这种心理十分了解。因此，在建立府兵时，就采用了鲜卑族原有的部落组织，即八部之制，作为编制新军的蓝本。在士兵和军官之间的关系上，保持鲜卑旧日的氏族关系。西魏恭帝元年（554），又以有功诸将继承鲜卑三十六国及九十九姓，除有的将领本来就用鲜卑复姓的不予更动外，那些已经在太和改制时将复姓改为单姓的将领则重新改为复姓，已采用汉姓或本来就是汉姓的，则赐以鲜卑姓，如李虎赐姓大野氏、李弼赐姓徒何氏、赵贵赐姓乙弗氏、杨忠赐姓普六茹氏，凡所统领的士兵皆以他们主将的鲜卑姓为自己的姓氏。
宇文泰借用氏族部落的血缘纽带来组织府兵，使官兵之间蒙上了一层宗族的亲密色彩，以搞好将领和士兵间的结合，提高府兵的战斗力。事实上，府兵的组成，并没有也不可能真正倒退到氏族关系中去，但由于这种兵制多少带有一些过去部落兵制的色彩，因此从那些曾经沦落为兵户的六镇鲜卑来看，身份提高了，地位改善了，从而使府兵的战斗力也增强了。