Dla wykonywania tych zadań Komitet powołał sekcje: 1) ogólną (przew. Zdzisław Lubomirski następnie Aniela Ciąglińska), 2) żywnościową (przew. Stanisław Wojciechowski), 3) informacyjno-prasową (przew. Józef Wielowieyski), 4) pomocy dla rezerwistów (przew. Paweł Górski), 5) finansową (przew. Józef Natanson), 6) lekarską (przew. Mieczysław Pfeiffer, 7) kobiecą (przew. Franciszek Nowodworski), 8) pośrednictwa pracy (przew. Piotr Drzewiecki, 9) prawną (przew. Henryk Konic).
Organizacja wewnętrzna KO ulegała wielokrotnym zmianom, ostatecznie od początku maja 1915 roku tworzyły ją wydziały podzielone na sekcje. Poza krótko działającym sądowym istniały 4 główne wydziały:
spraw ogólnych – sekcje: 1) informacyjno-prasowa, 2) prawna, 3) statystyczna, 4) do spraw stowarzyszeń, 5) lekarska, 6) straży obywatelskiej, 7) dozoru nad taksą, 8) zbierania ofiar;
dobroczynności – sekcje: 1) porządku i opieki domowej, 2) komisja rozdawnicza, 3) wyszukiwania pracy, 4) pożyczkowa, 5) pracy rękodzielniczej, 6) odzieży, 7) pomocy dla inteligencji, 8) tanich mieszkań;
pomocy dla ludności – sekcje: 1) bezdomnych chrześcijan, 2) bezdomnych Żydów 3) zapomóg i – komisje: 4) pracy kobiet (przew. Józefa Klawerowa), 5) opieki nad dziećmi, 6) opieki nad młodzieżą szkolną.