Kemenangan itu menyaksikan kebangkitan mengagumkan pasukan bimbingan Jurgen Klopp yang terlebih dahulu ketinggalan seawal minit kelapan kepada jaringan Leroy Fer.
Roberto Firmino menyamakan kedudukan pada minit ke-54 untuk menyuntik semangat kepada rakan sepasukannya sebelum Milner memastikan Liverpool meraih kemenangan keempat berturut-turut.
The Reds kini hanya ketinggalan dua mata di belakang pendahulu liga Manchester City yang akan menghadapi Tottenham esok.
Sementara itu, kekalahan kelima Swansea daripada tujuh perlawanan telah meningkatkan lagi tekanan terhadap pengurusnya Francesco Guidolin yang terpaksa berhadapan dengan spekulasi bakal kehilangan jawatan.
Ryan Giggs dan Bob Bradley adalah antara nama yang dilaporkan berpontensi besar bakal menjadi pengganti Guidolin.
Klopp membuat satu perubahan kepada pasukan yang membelasah Hull 5-1 di Anfield minggu lalu, dengan Dejan Lovren kembali ke barisan pertahanan selepas pulih daripada serangan virus, menggantikan Ragnar Klavan.
Pasukan tuan rumah juga melakukan perubahan berikutan kekalahan 3-1 kepada Manchester City dengan pemain termahal mereka Borja Baston berada dalam kesebelasan utama untuk kali pertama sebagai penyerang, menggantikan Fernando Llorente yang cedera.