광주YMCA가 창립되기 전에는 학생YMCA가 있었으며 1911년 광주 숭일학교에 조직되었다. 숭일학교는 1908년 유진 벨(Rev. Eugene Bell) 선교사가 광주남학교로 개교한 학교였다. 숭일학교YMCA가 활동하는 것을 듣고 서울에서 이상재, 김필수, 신흥우가 광주YMCA 설립을 지원하면서 광주YMCA가 창립되었다.
광주 YMCA는 1920년 7월 29일 전라도 광주군 효천면 양림리(현재 광주광역시 남구 양림동)에 있는 오웬 기념각에서 창립되었다. 당시 광주의 민족운동과 사회운동의 지도자였던 최흥종 목사가 3대 회장을, 최영균이 총무가 되어 30여 명의 기독교 청년들이 함께하였다. 광주제중병원 직원과 광주숭일학교와 수피아여학교의 직원들이 회원으로 활동하였다. 초대 회장에는 광주숭일학교 교사였던 20대 청년 최병준이, 총무에는 광주 3.1운동의 주역이었던 독립운동가 김철이 선임되었다. 
광주 YMCA의 초창기 주요 사업은 지덕체 운동을 목표로 했으며, 하기순회전도대회를 실시하고, 광주유치원을 개원하고, 서북여자야학을 개학하고, 광주숭일학교에서 노동야학을 개시했으며, 농촌사업을 시작하였다. 당시에 회관이 없어 북문밖 교회나 오웬기념각, 흥학관, 숭일학교공업부과 체육관, 유치원, 부동교 건너편 녹성구락부 등을 활용하였다. 1924년 광주YMCA는 최흥종 목사가 3대 회장이 되고, 최영균이 총무가 되어 조선기독교청년회연합회의 인준을 받았다. 광주YMCA는 최흥종 목사가 시무하던 북문밖교회의 유치원에 간판을 달았다. 1933년 고든 어비슨(Gordon Avison) 선교사의 집(현 백운동)에 농촌지도자 양성을 위한 광주YMCA농업 실습학교를 세웠다. 광주YMCA는 1938년에 조선기독교청년회가 일본기독교청년회 산하에 예속되면서 모든 활동이 중단되었으며, 1944년 12월에 자진 폐회하였다. 광주YMCA는 창립 이후부터 일제의 탄압으로 자진 폐회할 때까지 광주의 정신과 문화 경제, 사회의 발전을 위해 선도적 역할을 했으며, 회원 대부분이 3.1운동에 적극 참여하여 일제로부터 고초를 겪었으며 그 후로도 계속 민족 운동에 참여하였다.