他的建议得到了大家赞成。于是，由左权、蔡升熙带着其他同学继续南行。身无分文的宋时轮，一路上过着近乎乞讨的生活，历尽艰辛，终于在1924年春天回到醴陵。过度疲劳的宋时轮染上了痢疾，他只得一边治病，一边设法筹款。他的病时好时坏，一直拖到1925年冬，身体复原后，才与沈仲文等同学风尘仆仆地赶到广州。
1926年4月，在同乡李香岭的荐举下，宋时轮考入黄埔军校，编入第五期入伍生队。在黄埔军校期间，宋时轮努力学习军事、政治，亲身感受到革命风暴的激流， 1927年1月，在部队驻防太平圩期间，由张庆孚（黄埔军校政治教官）介绍，宋时轮正式成为中国共产党党员，开始了一名革命者艰苦奋斗的生涯。
1927年4月12日，蒋介石在上海发动了反革命政变，紧接着，各地反革命政变迭起，白色恐怖迅速笼罩了祖国大地。
宋时轮于4月20日在广州国民党反动派的“清党”运动中，被当作共产党嫌疑犯，关进广州河南（珠江南岸）南石头惩戒场。1929年4月，宋时轮经党组织找保释放出狱。