Pada tanggal 14 Juli 2008, dia menghadapi kegagalan untuk memenuhi tenggat waktu yang dikenakan untuk memberlakukan "reformasi konstitusional" yang terdiri dari pelimpahan lebih lanjut dari kekuasaan untuk tiga bangsa masyarakat linguistik, Leterme mengajukan pengunduran dirinya kepada [[Albert II dari Belgia|Albert Raja II] ], kepala negara. Pada tanggal 17 Juli, Raja Albert, setelah mengadakan sebuah kebingungan konsultasi dengan para pemimpin partai politik, serikat buruh, dan asosiasi pengusaha, menolak pengunduran diri Leterme itu. Sebaliknya, raja menunjuk sebuah komisi tiga orang perwakilan masyarakat linguistik untuk menyelidiki bagaimana untuk memulai proses reformasi. Komisi adalah untuk melaporkan kepada raja tanggal 31 Juli 2008.<ref>{{cite web|url=http://news.bbc.co.uk/2/hi/europe/7512975.stm |title=BBC News, 17 July 2008 |publisher=BBC News |date=2008-07-17 |accessdate=2010-04-27}}</ref>
Pada tanggal 19 Desember 2008 dia menawarkan pengunduran dirinya kepada [[Albert II dari Belgia|Raja Albert II]] setelah krisis seputar penjualan [[Fortis (keuangan)|Fortis]] ke [[BNP Paribas]].<ref>{{cite news |url=http://edition.cnn.com/2008/WORLD/europe/12/19/belgium.government.resignation/index.html |publisher=CNN.com |title=Belgium Prime Minister offers resignation over banking deal }}</ref> Pada 22 Desember 2008 Raja Albert II menerima pengunduran dirinya, bersama dengan seluruh pemerintah. Dia tetap Perdana Menteri sampai 30 Desember, ketika [[Herman Van Rompuy]] diangkat sebagai penggantinya.<ref>{{fr icon}} [http://www.yvesleterme.be/fr Yvesleterme.be], King accepts government resignation</ref> Pada tanggal 24 November 2009, diumumkan bahwa Leterme akan sekali lagi menjadi Perdana Menteri, menggantikan Van Rompuy, yang telah dipilih untuk menjadi [pertama [Presiden Dewan Eropa]].<ref>{{nl icon}} {{cite web |url=http://www.nos.nl/nosjournaal/artikelen/2009/11/24/241109_leterme_nieuwe_premier_belgie.html?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+nosjournaal+(NOS+Journaal+Nieuws) |title=Leterme nieuwe premier van België }}</ref>
Pada tanggal 22 April 2010, dia sekali lagi menawarkan pengunduran dirinya kepada Raja Albert II setelah kunci [[Flemish]] pihak [[Open VLD]] menarik dukungannya bagi [[koalisi]] [[pemerintah]].<ref>{{cite web|url=http://www.english.rfi.fr/europe/20100422-belgian-coalition-government-crumbles-pm-resigns |title=Belgian coalition government crumbles as PM resigns |publisher=www.english.rfi.fr |date= |accessdate=2010-04-27}}</ref> Pemilihan diikuti pada bulan Juni, dan sejak itu partai politik Belgia telah [[Pembentukan Pemerintah Belgia 2010-2011|mencoba untuk menegosiasikan koalisi pemerintahan]]. Leterme tetap sebagai Perdana Menteri sementara, tetapi pada 13 September 2011, dia mengumumkan bahwa meninggalkan jabatannya pada akhir tahun 2011 untuk mengambil posisi wakil sekretaris jenderal di [[OECD]].<ref>{{cite news|last=Rettman|first=Andrew|title=Belgian officials play down crisis, as caretaker PM opts to go|url=http://euobserver.com/843/113617|accessdate=14 September 2011|date=14 September 2011}}</ref>
