Нужно очистить куки, при этом кэш должен остаться. Сброс очищает все данные. Пробовал установить cookie так {"cookies": []}, но если перезайти на страницу, то остануться куки те же самые.
2-3 часа это много...для 500
У меня парсер собирает инфу с 25 000 стр. и по времени 1.5 часа.
Правда в 20 потоков и все на гет.
У Вас скорее всего работа через браузер и в 1 поток
