早期事迹
王晙祖籍沧州景城，后迁至河南洛阳，父亲王行果，官至长安县尉。王晙年幼丧父，由祖父王有方抚养长大，生性豪放旷达、勤奋好学。
672年（咸亨三年），王晙考中明经科，被授为清苑县尉，后任殿中侍御史。
后来，朔方军元帅魏元忠出征失利，将罪责推给副将韩思忠，奏请将其诛杀。王晙却认为：“韩思忠是副将，兵权不在自己手里，而且他有勇有谋值得爱惜，不该单单处罚他一个人。”于是上表辩解。韩思忠因此得到释放，而王晙也被调任渭南县县令。
709年（景龙三年），王晙出任桂州（今广西桂林）都督。此前，桂州的驻军一直依靠衡州（今湖南衡阳）、永州（今湖南零陵）等地提供粮饷。王晙到任后，修筑城郭，撤去驻军，兴修水利，开垦屯田数千顷，使百姓丰衣足食。后来，王晙请求调回家乡，结果桂州百姓一起上书朝廷，请求让他留任。朝廷闻讯后，特下诏表彰王晙的功绩，让他留任一年。王晙离任时，桂州百姓又刻石立碑歌颂他的功德。
击破吐蕃
714年（开元二年），王晙以鸿胪寺少卿、朔方军副大总管之职兼任安北大都护、朔方道行军大总管，统领丰安（今宁夏永宁西）、定远（今内蒙古额济纳旗南）、三受降城等地军队。他将安北大都护府治所迁到中受降城（今内蒙古包头西），并实行屯田之策。不久，王晙又改任太仆寺少卿、陇右群牧使。
同年，吐蕃兴兵十万入侵临洮军，驻军于大来谷口。王晙率所部两千人与临洮军会师，又挑选精兵七百人换穿吐蕃服装，分为前后两队，乘夜偷袭吐蕃军营。在距离敌军五里时，王晙命前队大声呼喊，后队击鼓响应。吐蕃军以为唐军主力赶到，惊恐之中，自相残杀，死伤惨重。
不久，右羽林将军薛讷也率军赶到，在大来谷二十里外的武阶谷，遭遇吐蕃拦截。吐蕃在王晙与薛讷两军之间，摆开战阵，连绵数十里。王晙趁夜命精兵袭击敌军，再次大败吐蕃。与薛讷会师后，王晙乘胜追杀，一直追到洮水，将吐蕃掠走的牧马全部夺回。
战后，王晙被加封为银青光禄大夫，赐爵清源县男，兼任原州（今宁夏固原）都督。不久，王晙又改任并州大都督府长史。
讨平叛胡
716年（开元四年），突厥默啜可汗被拔曳固部落袭杀，部下大多都投降唐朝，被安置在河曲地区。不久，毗伽可汗继位，突厥降户都逐渐萌生叛意。
王晙得知后，便上奏朝廷，认为突厥是迫于形势方才归顺唐朝，让他们久居边境会引发祸患，建议胁之以威，诱之以利，并将他们迁徙到黄河以南，使其逐渐汉化。同时，王晙还认为，如果不将突厥降户安置在内地，等到黄河封冻，必将发生变故。结果，朝廷尚未答复，突厥降户便已反叛。
同年十月，唐玄宗诏命王晙率并州军队渡河平叛。王晙抄小路进军，轻骑奔袭，不料夜遇暴风雪，难以行进。王晙担心耽误时间，对神灵祷告道：“如果我不应该出兵讨贼，就惩罚我一个人好了，为什么要连累众将士？如果我是忠心为国，就请上天停止下雪，调转风向，助我讨贼成功。”随即，风停雪止，王晙遂率军急驰。这时，叛军分成两路逃跑，王晙沿东路追击，斩首三千。战后，王晙升任左散骑常侍、朔方行军大总管，又改任御史大夫。
720年（开元八年），散居在受降城附近的□跌部落与仆固都督勺磨暗中勾结突厥，企图攻占受降城。王晙闻讯后，秘奏玄宗，然后将他们引诱入中受降城，全部诛杀。不久，王晙被授为兵部尚书，充任朔方军大总管。
721年（开元九年），兰池胡人康待宾发动叛乱，攻陷六胡州（今内蒙古鄂托克旗一带），进逼夏州（今陕西靖边东北），唐玄宗诏命王晙与陇右节度使郭知运一同平叛。王晙认为单凭朔方军便能平叛，因此奏请皇帝，要求让郭知运返回陇右。但是，奏疏未报，郭知运便已赶到，并因此对王晙不满。不久，王晙生擒康待宾，进爵清源县公。
同年九月，郭知运纵兵攻打已经被王晙招降的叛军。投降的叛军以为被王晙出卖，纷纷逃走，再次反叛。唐玄宗认为王晙未能平定胡人叛乱，将他贬为梓州（今四川三台）刺史。
晚年生活
722年（开元十年），王晙被起复为太子詹事，累封中山郡公。
723年（开元十一年）正月，唐玄宗北巡，改并州为北都太原府，任命王晙为吏部尚书兼太原府尹。四月，王晙接替张说担任兵部尚书、同中书门下三品，并加金紫光禄大夫。五月，王晙又兼任朔方军节度大使，统领河西、陇石、河东、河北诸军。
同年十一月，唐玄宗到南郊祭天，让王晙回京参加大典。但王晙恐怕突厥趁机入侵，上表推辞，受到玄宗的嘉勉。这时，许州（今河南许昌）刺史王乔的家奴状告王乔与王晙暗中勾结，意图谋反，玄宗便命侍中源乾曜、中书令张说进行调查。王晙虽无反意，但玄宗还是以前次违诏为罪名，将他贬为蕲州（今湖北蕲春）刺史。
726年（开元十四年），王晙升为户部尚书，再次担任为朔方军节度使。
732年（开元二十年），王晙去世，终年七十余岁，追赠尚书左丞相，谥号忠烈。