@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
вопрос про вызов функции в несколько потоков
-
Ситуация. Запускаю скрипт в 3 потока, в каждом запускаю функцию в 5 потоков. При этом мне надо передать в функции определенный параметр, который устанавливается в родительском потоке, в каждом потоке параметр разный. Каким образом это можно реализовать? То есть тупо передать параметр в подчинненую функцию.
-
@javer said in вопрос про вызов функции в несколько потоков:
Ситуация. Запускаю скрипт в 3 потока, в каждом запускаю функцию в 5 потоков. При этом мне надо передать в функции определенный параметр, который устанавливается в родительском потоке, в каждом потоке параметр разный. Каким образом это можно реализовать? То есть тупо передать параметр в подчинненую функцию.
Ну и фраза "подчинненую функцию".. Передача любой информации в другие потоки (вызванные любым способом) осуществляется через ресурс, либо через глобальную переменную. Лучше всего создать объект с необходимыми данными для каждой функции под каждый поток. Ещё можете установить 3 глобальных переменных и в зависимости от номера потока использовать определённую. Либо городить костыли через eval().
-
@fox уточню. Запускаю скрипт в 3 потока, в каждом получаю ресурс res+номерпотока и запускаю функцию в 5 потоков. В функции обрабатываю ресурс, который получил в потоке из которого функция была вызвана. Если предположить, что потоки создаются последовательно, то можно конечно в потоках верхнего уровня устанавливать глоб переменную и в каждой функции тупо копировать в локальную, но это если они создаются последовательно. Если через объект, то опять же каким образом понять в потоке где выполняется функция и что она вызвана из этого конкретного потока. Чет я совсем запутался...
-
@javer said in вопрос про вызов функции в несколько потоков:
Чет я совсем запутался...
Не ты один
:DОбъясни ситуацию, которую решаешь.
-
@fox делаю парсинг сайта в настройках есть города. И есть категории товаров 5 штук. То есть для каждого города надо обойти 5 категорий. Я хочу парсить одновременно 3 города. Начинаю парсить в 3 потока получаю ресурс город,затем в каждом потоке начинаю пять потоков для парсинга категорий. Таким образом в функции надо передать значение города, который обрабатываю. Как вариант конечно можно сделать в одном ресурсе город+категорию и делать в лоб, но мне кажется это не есть хорошо.
-
@javer said in вопрос про вызов функции в несколько потоков:
@fox делаю парсинг сайта в настройках есть города. И есть категории товаров 5 штук. То есть для каждого города надо обойти 5 категорий. Я хочу парсить одновременно 3 города. Начинаю парсить в 3 потока получаю ресурс город,затем в каждом потоке начинаю пять потоков для парсинга категорий. Таким образом в функции надо передать значение города, который обрабатываю. Как вариант конечно можно сделать в одном ресурсе город+категорию и делать в лоб, но мне кажется это не есть хорошо.
А категории для каждого города свои?
-
@javer said in вопрос про вызов функции в несколько потоков:
@fox одинаковые
Создавайте ресурс вида
город;категория;товари всё -
@fox said in вопрос про вызов функции в несколько потоков:
@javer said in вопрос про вызов функции в несколько потоков:
@fox одинаковые
Создавайте ресурс вида
город;категория;товари всёТакие удобно генерировать на старте прямо в басе, а потом готовый список распределять между потоками в отдельной функции.
-
Всем спасибо так и реализовал. Просто если бы был параметр который можно передать в поток было бы легче. А так получается многопоточность в одной плоскости, нельзя в зависимости от родительского потока реализовать различную функциональность подчинённых потоков.
