1928 жылдан 1938 жылға дейін лейтенант Гвишиани КСРО-ның құпия полиция аппараты НКВД-ның негізінен Грузиядағы бөлімшелері мен бөлімдеріне тағайындалып, оларды басқаратын. 1936 жылы майор болып, екі жылдан кейін 1938 жылы Новосибирск облысындағы бірінші бас басқарманың 3-ші арнайы дивизиясының бастығы болып тағайындалды. Кеңестер Маньчжурияға басып кірген кезде
1945 жылы Гивишиани Маньчжуриядан барлық өнеркәсіптік активтерді Кеңес Одағына қайтарып бергені үшін бірнеше ордендермен марапатталды, сол жылы генерал-лейтенантқа көтерілді.