Historien begynder på den græske ø Kalokairi, hvor Sophie Sheridan (Amanda Seyfried) forbereder sit bryllup med Sky (Dominic Cooper). Sophie er altid blevet opdraget af sin enlige mor, Donna (Meryl Streep), og har aldrig mødt sin far. Hun læser i al hemmelighed sin mors dagbog og opdager, at hun har tre mulige fædre:Sam Carmichael (Pierce Brosnan), Bill Anderson (Stellan Skarsgård) og Harry Bright (Colin Firth).
Sophie er fast besluttet på at finde ud af, hvem hendes far er, og inviterer alle tre mænd til sit bryllup uden at fortælle det til Donna. Da de ankommer, er Donna chokeret og ked af det, men hun går med til at lade dem blive til brylluppet. Som weekenden går, lærer Sophie hver af mændene at kende og begynder at spekulere på, hvem hendes rigtige far er.
I mellemtiden beskæftiger Donna sig med sine egne følelser om fortiden. Hun er stadig forelsket i Sam, men hun er også bange for at blive såret igen. Hun betror sig til sine to bedste venner, Rosie (Julie Walters) og Tanya (Christine Baranski).
På tærsklen til brylluppet har Sophie en hjerte-til-hjerte snak med hver af de tre mænd. Hun lærer mere om deres fortid og deres forhold til Donna. Hun lærer også, at hver af dem har et særligt bånd til hende.
I sidste ende beslutter Sophie sig for, at hun ikke behøver at vide, hvem hendes far er. Hun er glad for kærligheden og støtten fra sin mor og sine venner. Hun gifter sig med Sky, og de lever alle sammen lykkeligt til deres dages ende.