Oboje pochodzili z małego miasteczka Plains w stanie Georgia. Eleanor Rosalynn Smith nosiła ubrania szyte przez matkę, krawcową, i była niezwykle przywiązana do ojca, mechanika samochodowego i farmera. Miała troje młodszego rodzeństwa. Rodzice przyszłej głowy państwa Jamesa Earla Cartera jr. prowadzili plantację orzeszków ziemnych. Ojciec Rosalynn zmarł na białaczkę, kiedy dziewczyna miała 13 lat. „Wtedy skończyło się moje dzieciństwo”, wspominała dodając, że musiała zacząć zarabiać, by pomóc matce w utrzymaniu rodziny. Znajdowała dorywcze zajęcia na poczcie, w salonie fryzjerskim i szyła ślubne kreacje.
On studiował na Georgia Southwestern State University, Georgia Institute of Technology, a w 1943 roku dostał się do Akademii Marynarki Wojennej w Annapolis, którą ukończył z tytułem inżyniera ze specjalizacją w fizyce jądrowej. Ona poszła do college’u Georgia Soutwestern w Americus, gdzie w 1944 roku poznała swojego przyszłego małżonka. W zasadzie zetknęła się z nim po raz drugi w życiu. Okazało się bowiem, że wcześniej jego matka, pielęgniarka, pomagała przyjść swojej przyszłej synowej na świat. Kilkanaście lat później ta odrzuciła pierwsze oświadczyny Jimmy'ego, twierdząc, że to dla niej zbyt wcześnie. Przyjęła je jednak dwa miesiące później. Kiedy się pobrali, ona miała 18 lat, a on 21. Doczekali się czworga dzieci.
„Nie ma nic ważniejszego niż dobry, bezpieczny dom”
Przez pierwsze kilka lat po ślubie przenosili się z miejsca na miejsce, zgodnie z rozkazami, jakie otrzymywał Jimmy Carter jako oficer marynarki wojennej. Mieszkali między innymi w Norfolk, Honolulu, czy San Diego. W 1953 roku postanowił rzucić wojsko i osiedlili się na farmie orzeszków ziemnych. Rosalynn nie była szczęśliwa z tego powodu, przede wszystkim, dlatego że straciła okazję do tak uwielbianych przez nią podróży. Po śmierci teścia nie tylko zajmowała się domem i gospodarstwem, ale też prowadziła księgowość. Jak się okazało, farmerstwo stało się początkiem politycznej drogi Cartera. W tym czasie nawiązali liczne współprace w branży rolniczej, a to potem dało punkt wyjścia do kariery senatora i gubernatora stanu Georgia. Ona zawsze stanowiła dla niego podporę. Doskonale znała dokumenty firmy i zawsze służyła mu radą. Nawet w sprawach wagi państwowej.
Polityczny świat Ameryki nie przyjął ich jednak z otwartymi ramionami. Publicznie wytykano im "rustykalne" pochodzenie, południowy akcent, jak i to, że pani Carter założyła tę samą sukienkę na bal gubernatorski swojego męża w 1971 roku oraz sześć lat później na galę z okazji wygranych wyborów prezydenckich. Nie kryli się ze swoją gorliwą wiarą. Na życzenie Pierwszej Damy podczas przyjęć w Białym Domu nie podawano mocnych alkoholi. „Po prostu nie chcę” -odpowiedziała pytana o przyczynę tej decyzji. „Poza tym oszczędzam pieniądze podatników” – argumentowała.
„Możesz dokonać zmian w swojej społeczności...
... bez względu na to, kim jesteś i gdzie mieszkasz”.