1947년 돈 코르네오네(Vito Corleone: 마론 브란도 분)의 호화 저택에서는 막내딸 코니(Connie Corleone Rizzi: 탈리아 샤이어 분)와 카를로(Carlo Rizzi: 지안니 루소 분)와의 초호화판 결혼식이 거행되고 있다. 시실리아에서의 이민과 모진 고생 끝에 미국 암흑가의 보스로 군림하는 마피아의 두목 돈 코르네오네. 재력과 조직력을 동원, 갖가지 고민을 호소하는 사람들의 문제를 해결해, 사람들은 그를 ‘대부(代父)’라 부른다.

  돈 코르네오네는 9세때 그의 고향인 시실리아에서 가족 모두가 살해 당하고 오직 그만 살아남아 미국으로 도피하여 밑바닥 범죄 세계를 경험하면서 확고한 기반을 다지게 된다. 부모의 복수를 위해 시실리로 돌아와 조직적 범죄를 통해 비약적인 성공을 거두게 된다. 그러던 어느날 돈 코르네오네의 라이벌인 탓타리아 패밀리의 마약 밀매인 소롯소(Sollozzo: 알 레티에리 분)가 돈 코르네오네를 저격, 중상을 입히는데.

한편, 돈 코르네오네의 막내 아들 마이클(Michael Corleone: 알 파치노 분)은 대학 출신의 인텔리다. 아버지의 저격 사건을 계기로 조직에 개입하여 레스토랑에서 소롯소를 사살하고 시실리로 피신한다. 시실리아에서 시골 아가씨와 결혼하지만 집요한 추적으로 아내를 잃는다. 장남 소니(Sonny Corleone: 제임스 칸 분)는 자신의 여동생 코니를 학대하던 카를로를 혼내주나 이에 앙심을 품은 카를로는 자신의 패밀리와 소니를 배반하게 되고 이로 인해 소니가 처참하게 암살당한다.

  돈 코르네오네의 일가는 붕괴직전에 직면한다. 돈 코르네오네 일가를 위해 귀국한 마이클은 대학시절 애인인 케이(Kay Adams: 다이안 키튼 분)와 재혼한다. 얼마 후 손자와 뜰에서 놀던 돈 코르네오네가 심장발작으로 급사, 마이클이 자리를 이어받아 이 집안의 양자로 오른팔 역할을 하는 변호사 톰(Tom Hagen: 로버트 듀발 분)을 참모로 조직을 단결시켜 적의 격퇴를 해 나간다.