Yeni Zellenda'ya göç etmis Iskoçya'li bir ailenin 12 çocugundan dördüncüsüydü. Babasi tekerlek yapimcisiydi. Liseyi burslu olarak okudu. Yine burslu olarak devam ettigi Christchurch'teki Canterbury College'tan 1892'de lisans, ertesi yilda üstün basariyla yüksek lisans derecelerini aldi.Bir yil daha okulda kalarak demirin yüksek frekansli magnetik alanlardaki miknatislanma özellikleri üzerinde arastirmalar yapti.
Ve Hertz'in birkaç yil önce bulmus oldugu elektromagnetik dalgalari sezebilen bir dedektör yapmayi basardi. 1895' te Ingiltere'ye giden Rutherford, Cambridge Universite'sindeki Cavendish Laboratuvari' nda J.J Thomson'in yaninda çalismaya basladi. Burada elektromagnetizma üzerindeki deneylerini sürdürdü. Ve Hertz dalgalarini 3 km uzakliktan gönderip almayi basardi. Aralik 1895'te Wilhelm K. Röntgen'in X isinlarini buldugunu açiklamasinin ardindani Thomson ve Rutherford bu konuda çalismaya basladilar. Ve X isinlarinin gazlar içinden geçerken çok sayida arti ve eksi elektrik yüklü parçacik ortaya çikmasina, yani iyonlasmaya yol açtigini, bu parçaciklari yeniden birlestirerek nötr atomlar olusturdugunu buldular. Rutherfor ayrica bu iyonlarin hizini ve birbirleriyle birleserek yeniden gaz molekülleri olusturma süresini belirlemeye yönelik bir yöntem gelistirdi. Iyonlasma gücü yüksek olan ama kolaylikla sogurulabilen isin türünü alfa isinlari, daha az iyonlasmaya yol açan, ama girim gücü daha yüksek olan isinlari da beta isinlari olarak adlandirdi. 19. yüzyilin sonuna gelinirken pek çok bilim adami artik fizikte gerçeklestirilecek bir yenilik kalmadigi kanisindaydi. Ama Rutherford üç yil gibi kisa bir süre içinde tümüyle yeni bir fizik dali ortaya çikardi: Radyoaktiflik. Radyoaktifligin bir elementin atomlarinin baska bir elementin atomlarina kendiliginden dönüsme süreci oldugu sonucuna vardi. Maddenin degismezligi kavramina siki sikiya bagli birçok bilim adami bu görüse karsi çikacak, ama Rutherford'un görüslerinin dogrulugu kisa sürede anlasilacakti. Bu büyük basari üzerine Rutherford 1903'te Royal Society 'nin üyeligine seçildi.Ertesi yil ayni kurumun Rumford Madalya'siyla ödüllendirildi. Alfa isinlarinin elektrik ve magnetik alanlarda sapmaya ugradigini 1903'te belirleyen Rutherford, sapmanin yönünü inceleyerek, bu isinlarin arti elektrik yüklü parçaciklardan olustugu sonucuna vardi. Ayrica bu parçaciklarin hizini ve elektrik yükü/kütle oranini ölçmeyi basardi. Rutherford'un 1911'de gelistirdigi atom modeli onun bilime en büyük katkisidir. Alfa parçaciklarinin ince metal levhalardan geçisini inceleyen Rutherford, alfa parçacigi arti yüklü oldugundan, levhadan geçisi sirasinda metal atomlarindaki arti yüklerin itici etkisiyle sapmaya ugrayacagini, ama parçacigin kütlesi çok büyük oldugu için, bu sapmalarin çok küçük olacagini düsünüyordu. Yapilan deneylerde alfa parcaçiklarinin gerçekten de genel olarak çok küçük sapmalar gösterdigi, ama arada büyük açilarla sapan parçaciklarinda bulundugu, hatta bazen bir parçacigin hareket yönünü degistirip geriye döndügü gözlendi. Böylesine büyük kütleli alfa parçacigini bu kadar saptirabilmesi için atomdaki bütün arti yüklerin ve kütlenin çok küçük bir hacme yogunlasmis olmasi gerekiyordu. Rutherford'un bu görüsten yola çikarak olusturdugu model Rutherford atom modeli yada çekirdekli atom modeli olarak adlandirilir. 1908'de Nobel Kimya ödülünü alan,1914'te kendisine sir unvani verilen Rutherford, 1922'de Royal Society'nin en büyük ödülü olan Copley Madalyasi' yla ödüllendirildi. 1925'te kurumun baskanligina seçildi