영국 런던의 브리티쉬 뱅크에 다니고 있는 조지 뱅크스, 여성 참정권을 주장하고 다니는 그의 아내 위니프레드 뱅크스, 그리고 매번 유모들을 쫓아내다시피 하는 말썽꾸러기 아이들 제인과 마이클. 그 날도 아이들은 유모 몰래 사라져 버리고 유모는 더 이상 못 참겠다며 가방을 싸들고 집을 나선다. 집으로 돌아오던 뱅크스 부인은 유모를 말려보지만 소용이 없다. 결국 유모는 뱅크스댁을 떠나게 되고, 그제서야 아이들이 돌아온다. 뱅크스씨는 신문에 유모를 구한다는 기사를 내려하고, 아이들은 자신들이 원하는 유모의 조건을 적어가지고 온다. 붉은 뺨을 하고 있어야 하고, 재미있는 놀이를 많이 알고 있는 유모를 원한다는 것이다. 그러나 뱅크스씨는 이 종이를 찢어버린다. 다음날, 면접을 보러 많은 사람들이 몰려오지만, 우산을 타고 내려온 메리 포핀스의 바람에 모두들 날아가 버린다. 어떨결에 메리 포핀스를 유모로 정하게 된 뱅크스씨. 아이들은 가방에서 옷걸이며, 화분이며 이것 저것을 꺼내는 메리 포핀스를 보며 신기해 한다. 메리 포핀스와 노래를 부르며 방을 치우고 굴뚝 청소부 버트와 함께 그림속 축제가 열리는 마을로 여행도 가고, 웃으면 붕 뜨는 알버트를 만나 함께 웃으며 즐거운 시간을 보낸다. 어느날 아이들은 아버지를 따라 브리티쉬 은행에 가게 되는데, 그곳에서 마이클이 가진 2펜스 때문에 소동이 벌어지는데...