Всем еще раз привет. Вопрос решился. Помог мне с этим Виктор. Короче говоря, каким то образом у винды которая ставиться на китайскую материнку есть ограничения в плане колличества загружаемых строк в бас. То есть. У меня были ключевые слова для поиска. Их был 1 млн. В итоге получается урезал до 150к Софт работает как часы. Может кому то пригодится.
Получается что китайские материнки имеею или слабую обработку или кэш или еще что то. Вообщем я не силен в этом. Но что то не так. Пока и так работает меня полностью Устраивает. Теперь можно крутить бас в 500 + потоков. Всем спасибо. Тему можно закрывать.
Выросла нагрузка на сеть
-
Делаю нагул профиля и начал замечать большое потребление трафика за счет ресайзеров, которые отдают контент без расширения но с заголовками content-type video/mp4 image/jpeg и тд. На одном из сайтов почти гиг потратил в пустую. Можно как-то отключить загрузку файлов на основе заголовка и без маски по домену и директории аля как на ютубе?
-
M Moderator moved this topic from Off topic on
-
@clarabellerising такие примитивные вещи делаются в первую очередь, смотрите суть проблемы! Есть картинки и видео которые отдаются через ресайзеры без расширения (для примера https://olh.openlibhums.org/article/id/17354/file/177423/) и их можно запретить только на основе content-type. Шаблон адреса не получится сделать, на большинстве сайтов адреса разные судя по логам сети.
-
@mojno ti mojesh podzaebatsa konechno, delat HEAD zapros na kajdiy link, t.e. snachala zapreshaesh vse zaprosi krome main url, vse chto zablokirovalo HEAD'ish, proveryaesh content-length/content-type, i potom uje reshaesh kachat eto ili net
-

vot primer na tvoy link -
eshe mojno dobavit v zapusk brauzera kluch "--disable-web-security" chtobi ne imet problem s cors
-
@clarabellerising это уже стоит, спасибо! Да, жрать будет много на проверке, но это того стоит. Спасибо за наводку!