Парсим сайт, 3 потока.
Сделал простой бот, он бегает по пагинации и собирает цены со страниц, не слишком много потоков и супер быстро тоже не нужно.
Использовались заранее подготовленные фингерпринты (насобирал басом и сохранил в файл штук 150 - 200 список) + приватные прокси 20 шт.
Спустя 2 недели бот отвалился.
Сайт тупо не открывается или редиректит на 404 страницу.
С браузера с тех же проксей все работает.
Поменял прокси на шаред взял побольше, заново пересобрал фингерпринты.
Спустя неделю - отвалился
Сайт или не открывается или редиректит на 404 страницу.
Отключил фингерпринты - все заработало.
Взял динамический проксик с заменой ip каждые 10 минут из мобильной сети билайн.
Спустя 3 недели - сайт редиректит на 404 страницу или на страницу /ciez2a и виснет на ней.
Уважаемые знатоки, подскажите, есть ли какие то действенные способы обойти эту защиту ?