Kliment Jefremovics Vorosilov 1881. február 4-én orosz szegényparaszti családba született az ukrajnai Verhnyeje (más forrás szerint Volcsarajovszka) nevű falujában, édesapja vasúti pályaőr volt. Csak két évig jár iskolába, már 10 éves korában dolgozni kezd a Donyec-Jurjevai Kohászati Társaságnál.
Itt kapcsolatba kerül a helyi szociáldemokrata szer- vezettel. Letartóztatják, és hiába engedik szabadon, ettől kezdve alig tud elhelyezkedni; majd 1902-től mozdonygyári lakatos Luganszkban. 1903-ban csat- lakozik a bolsevik párthoz, az 1905-ös forradalom alatt, amikor egy mozdonygyári munkásközgyűlés elnöke lett, letartóztatják, de néhány hónap múlva szabadon bocsátották. Küldöttként részt vesz az Oroszországi Szociáldemokrata Munkáspárt stock- holmi (1906) és a londoni (1907) kongresszusain.