W 1957 roku Martin Luther King dołączył do Ralpha Davida Abernathy’ego, Freda Shutterwortha i Bayarda Rustina, aby utworzyć Southern Christian Leadership Conference (SCLC). Z siedzibą w Atlancie, Georgia, głównym celem SCLC była koordynacja i pomoc lokalnym organizacjom działającym na rzecz pełnej równości Afroamerykanów. King został wybrany na przewodniczącego, a Abernathy na sekretarza i skarbnika. Nowa organizacja zobowiązała się do niestosowania przemocy w walce o prawa obywatelskie, a SCLC przyjęła motto: „Ani jeden włos z głowy jednej osoby nie powinien być skrzywdzony.”
W 1963 roku SCLC odegrała ważną rolę w kampaniach przeciwko segregacji w barach i rejestracji wyborców. W następnym roku połączyła się z Kongresem Równości Rasowej (CORE), aby zorganizować słynny Marsz na Waszyngton. 28 sierpnia 1963 r. ponad 200 000 ludzi przemaszerowało pokojowo pod pomnik Lincolna, aby domagać się równej sprawiedliwości dla wszystkich obywateli w świetle prawa. Pod koniec marszu Martin Luther King wygłosił swoje słynne przemówienie „Mam marzenie”.
Po zabójstwie Kinga w 1968 roku Ralph David Abernathy został przewodniczącym Southern Christian Leadership Conference. Pełnił tę funkcję aż do przejścia na emeryturę w 1977 roku.