Nel 1957 Martin Luther King si unì a Ralph David Abernathy, Fred Shutterworth e Bayard Rustin per formare la Southern Christian Leadership Conference (SCLC). Con sede ad Atlanta, Georgia, l’obiettivo principale della SCLC era quello di coordinare e assistere le organizzazioni locali che lavoravano per la piena uguaglianza degli afroamericani. King fu eletto presidente e Abernathy segretario-tesoriere. La nuova organizzazione si impegnava a usare la nonviolenza nella lotta per i diritti civili, e la SCLC adottò il motto: “Non un capello di una testa di una persona dovrebbe essere danneggiato.”
Nel 1963 la SCLC giocò un ruolo importante nelle campagne contro la segregazione dei banchi da pranzo e nelle campagne di registrazione degli elettori. L’anno seguente si unì al Congress on Racial Equality (CORE) per organizzare la famosa Marcia su Washington. Il 28 agosto 1963, più di 200.000 persone marciarono pacificamente verso il Lincoln Memorial per chiedere una giustizia uguale per tutti i cittadini secondo la legge. Alla fine della marcia Martin Luther King fece il suo famoso discorso “I Have a Dream”.
Dopo l’assassinio di King nel 1968, Ralph David Abernathy divenne il presidente della Southern Christian Leadership Conference. Mantenne questo incarico fino al suo ritiro nel 1977.