Allo scoppio della rivoluzione del 1917 tornò in Russia attraverso il Giappone e Vladivostok e si stabilì a Ekaterinoslav. Qui si gettò nel movimento operaio e si conquistò grande popolarità fra gli operai. Alla fine del 1917 gli operai di Ekaterinoslav lo inviarono alla conferenza panucraina dei rappresentanti dei comitati di fabbrica e dei sindacati. Da questa conferenza fu accettato il progetto Rybin, che riguardava l'unione dell'industria e la ricostituzione dei trasporti. Dopo di ciò, su proposta dei bolscevichi, Rybin si fermò a Charkov, dove lavorò nel sindacato dei metallurgici e in altri istituti centrali dell'industria e dei trasporti. Nell'estate 1920 egli finì di convincersi che era assolutamente impossibile lavorare con i bolscevichi, poichè il bolscevismo si era ormai decisamente schierato contro gli operai e contro i contadini. Occorre notare che Rybin aveva lavorato con i bolscevichi come semplice seppure preciso e assiduo sindacalista, e non aveva mai posto all'autorità sovietica alcuna rivendicazione di carattere anarchico. Restando soltanto un sindacalista, non poteva servire con onore la classe lavoratrice, nella situazione creata dalla dittatura comunista. Quindi nell'autunno del 1920 il suo pensiero si volse al campo machnovista, vi si recò e ne divenne un attivo collaboratore, addetto alla cultura. Dopo poco tempo fu eletto al consiglio degli insorti rivoluzionari, quale membro e segretario del consiglio stesso. Qui Rybin dimostrò un'immensa energia nel suo lavoro di carattere organizzativo e culturale.