@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Загрузка фото из разных папок в многопотоке
-
Здравствуйте, целый день бьюсь с этой задачей...
Вот допустим есть 5 папок с фото, как их распределить по 5 потокам. Тип для каждого потока своя папка с фото. Это у меня получилось по логам: картинки брались для каждого потока своя папка. Но при Диалоге Открыть Файл, в многопотоке они каким-то чудесным образом брались из одной папки. Ребят кто делал такое? Подскажите пожалуйста.
-
Проблема еще актуальная
-
@SmirnoffIce said in Загрузка фото из разных папок в многопотоке:
Проблема еще актуальная
Как вы указываете в ресурсах 5 разных папок?
-
Вот так, ресурс - photo это папка с папками с фото, а profile_photo это уже ресурс с со всеми папками с фото
Я проверял по логам, там берутся разные папки. Напимер Поток 1 - Папка1, Поток 2 - Папка2 и тд.Проблема в том что в действии Открыть Диалог Файл, нельзя ставить profile_photo, сайт это определяет как папку, поэтому в потоке( не в функции OnApplicationStart) каждую папку profile_photo еще раз парсю Поиском Файлов, то бишь нахожу уже файлы. И это фото уже в 3 ресурс пихаю, можно было сказать что этот 3 ресурс становиться одинаковым во всех потоках. В потоках загружается разные фото! НО из одной папки.
Пробовал запихать поиск файлов для 3 ресурса в функцию OnApplicationStart, в итоге бас просто вылетает ВСЕГДА
Пробовал запихать весь 3 ресурс в туже функцию, в итоге по логам бралась всегда первая папка с фото.
Пробовал и в глобальные переменный сохранять, короче вообще не знаю как решить это. -
This post is deleted!
-
@SmirnoffIce said in Загрузка фото из разных папок в многопотоке:
Вот так, ресурс - photo это папка с папками с фото, а profile_photo это уже ресурс с со всеми папками с фото
Я проверял по логам, там берутся разные папки. Напимер Поток 1 - Папка1, Поток 2 - Папка2 и тд.Проблема в том что в действии Открыть Диалог Файл, нельзя ставить profile_photo, сайт это определяет как папку, поэтому в потоке( не в функции OnApplicationStart) каждую папку profile_photo еще раз парсю Поиском Файлов, то бишь нахожу уже файлы. И это фото уже в 3 ресурс пихаю, можно было сказать что этот 3 ресурс становиться одинаковым во всех потоках. В потоках загружается разные фото! НО из одной папки.
Пробовал запихать поиск файлов для 3 ресурса в функцию OnApplicationStart, в итоге бас просто вылетает ВСЕГДА
Пробовал запихать весь 3 ресурс в туже функцию, в итоге по логам бралась всегда первая папка с фото.
Пробовал и в глобальные переменный сохранять, короче вообще не знаю как решить это.Ресурсы глобальны, если вы создаёте ресурс в каждом потоке, то каждый поток перезаписывает один и тот же ресурс.
Самое простое для вас решение, будет использовать разные ресурсы "из папки" для разных потоков. Определять какому потоку принадлежит какой ресурс можно через условие.Есть вариант по сложнее, в функции OnApplicationStart создайте глобальную переменную и положите в неё массив со всеми папками. Получать данные по индексу, используя номер потока. А файлы искать уже в каждом потоке.
Тестовый скрипт
Вариант ещё сложнее - использовать двумерный массив в глобальной переменной, в этом случае поиск файлов происходит один раз при старте скрипта, а затем можно удалять пути использованных файлов.
Тестовый скрипт
-
Можно проще: поставить жадный алгоритм
https://community.bablosoft.com/topic/595/жадный-алгоритм -
@000 said in Загрузка фото из разных папок в многопотоке:
Можно проще: поставить жадный алгоритм
https://community.bablosoft.com/topic/595/жадный-алгоритмК сожалению этот способ не всегда срабатывает корректно
хм, нашёл причину, нужно было установить "Время между использованиями" в
1
тогда отрабатывает корректно
Тестовый скрипт
Вот ещё вариант через метод RMap()
https://community.bablosoft.com/topic/7219/как-перезапускать-скрипт-автоматически/28
