@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе
-
Делаю запрос
https://fingerprints.bablosoft.com/prepare?version=5&tags=Microsoft%20Windows%2CChrome&key={key}&min_browser_version=98&time_limit=15%20days.
Получаю fingerprint, где в разделеperfectcanvasвижу каждый раз одинаковые значения.
Пример(частичный, чтобы не писать портянку):{ "perfectcanvas": { "2452430454": "646174613a696d6167652f706e673b6261736536342c6956424f5277304b47676f414141414e53556845556741414141554141414146434159414141434e6279626c4141414141584e5352304941727334633651414141424e4a524546554746646a624f76352f35384244544453514241416d3434505676416b55356741414141415355564f524b35435949493d" } }Так и задумано?
-
-
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn с бота собрал, у него 1 сервак
Или про первые цифры? Это норм, если собирать через канвас инспектор то это походу на id пикчиЯ про значения, не только ключ. У всех fingerprint одни и те же значения. И id и value. О чем и спич. Id одинаковый - мне понятно, это для популярных ресурсов. Но почему значение канваса одинаковое - вот это реально не понимаю.
-
@sergerdn said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn с бота собрал, у него 1 сервак
Или про первые цифры? Это норм, если собирать через канвас инспектор то это походу на id пикчиЯ про значения, не только ключ. У всех fingerprint одни и те же значения. И id и value. О чем и спич. Id одинаковый - мне понятно, это для популярных ресурсов. Но почему значение канваса одинаковое - вот это реально не понимаю.
С ботов собрано скорее всего
-
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn с бота собрал, у него 1 сервак
Или про первые цифры? Это норм, если собирать через канвас инспектор то это походу на id пикчиЯ про значения, не только ключ. У всех fingerprint одни и те же значения. И id и value. О чем и спич. Id одинаковый - мне понятно, это для популярных ресурсов. Но почему значение канваса одинаковое - вот это реально не понимаю.
С ботов собрано скорее всего
что, вообще ВСЕ? В базе ТОЛЬКО такие. Одинаковые ВСЕ.
-
@sergerdn said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@FastSpace said in обычный запрос fingerprint, одинаковые данные(perfectcanvas) в ответе:
@sergerdn с бота собрал, у него 1 сервак
Или про первые цифры? Это норм, если собирать через канвас инспектор то это походу на id пикчиЯ про значения, не только ключ. У всех fingerprint одни и те же значения. И id и value. О чем и спич. Id одинаковый - мне понятно, это для популярных ресурсов. Но почему значение канваса одинаковое - вот это реально не понимаю.
С ботов собрано скорее всего
что, вообще ВСЕ? В базе ТОЛЬКО такие. Одинаковые ВСЕ.
Ну в общей базе сейчас 80% ботов.
Я чекну еще этот момент на дубли у себя..
