@Fox Привет.Я описывал задачу в этой теме https://community.bablosoft.com/topic/27417/вызов-многопоточной-функции
Дело в том,что я не могу вообще никак перевести свой скрипт на многопоток,у меня тупо,что в вызове функции в многопоток,что просто обычный многопоток,выполняет свою работу с данными по очереди,а не одновременно.И это очень сильно бьет по времени,а нужна именно скорость обработки.Все уже готово и скрипт рабочий полностью,но скорость обработки заставила воспользоваться многопотоком.Ранее,подобных проблем не замечал,а сейчас элементарную задачу не могу уже несколько дней решить.
Скрипт очень простой и работает без браузера вообще,в скрипте используется только одно взаимодействие с гет запросом.Пример скрипта я приложил в этой теме(но без запросов),он точно почти такой же,как и основа.
Логика такова:
1)Запускается скрипт (без всяких ресурсов изначально и данных) и создаются два ресурса.
2)Делается запрос на сайт,который обрабатывается в отдельной функции,т.е. обрабатывает полученные строки и записывает в ресурс.
3)Вызывается функция в несколько потоков,которая работает (должна работать) с каждой строкой из созданного ранее ресурса(уникальной)в отдельном потоке.Данные обрабатываются и записываются во второй ранее созданный ресурс.
4)Как только данные обработаны,ресурс переводится в список и список записывается в файл.Более ничего не делается.
-Сперва я думал,что проблема в создаваемых в ходе работы ресурсах,но нет.Создавал изначально ресурсы и то же самое было.
-Потом пробовал брать из файлов значения\потом создавать файлы по ходу и из них брать данные\сохранять напрямую пытался и.т.д
-Возможно думал стоят какие то ограничения из за слабого пк с 4 гб оперативы и взял сервер с 64 гб,но как обрабатывалась строка за 5 минут на моем пк,так же по скорости и на серваке.Ладно, с этим я уже ничего не поделаю из за регулярок в проекте,согласен.Но вот перевести на поток и хотя бы по 10 строк одновременно обрабатывать,очень бы помогло.А сейчас в любом случае,у меня,сколько бы потоков не выставил - работает все равно как один,просто по очереди разный поток берет свои данные(
Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день
-
@mjeday said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
У себя глянул, около 450 профилей 4,5 Гб весят. Как у вас получилось в 27 раз больше места? O_o
Смотря что с ними делать, если их юзать под один два сайта то они буду меньше, чем если их нагуливать по куче случайных сайтов для которых будет сохраняться куча кэша
-
@FastSpace а какую версию бас ты используешь сейчас?
-
@Evheniu said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
@FastSpace а какую версию бас ты используешь сейчас?
22.7.1
-
@FastSpace у тебя нету проблемы с тем, что на новой версии потоки бас сильнее грузят процессор?
-
@Evheniu said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
@FastSpace у тебя нету проблемы с тем, что на новой версии потоки бас сильнее грузят процессор?
Есть и грузит сильнее. Это движок и с этим ничего нельзя сделать.
У меня есть старый комп 4 ядра - 4 потока - 3300 Мгц. Есть сайт который просто при его загрузке через действие "загрузить" на 100% загружает четырядерный процик на несколько секунд. Так в обычном хроме, так и в BAS. Это не майнер и не вирус. На сайте много рекламы и много js скриптов, много фреймов. -
@FastSpace запрет на запись папки поставить.
-
@FastSpace если на канал 500 мб\с+ , то можешь смело цеплять арендованый vhs и не заморачиваться по поводу места и износа железа
-
@artihorror там неадекватные цены, а еще если с жестаком на много терабайт.
Это печаль кароче, если завтра профиля будут нужны уже от 100+ часов гретые, как в домашнем хроме, то это сколько же надо места.... В моем домашнем хроме профиль 3.5 весит 😁 -
а в облаках или др. сервисы использовать для хранения не пробовали?
можно подключать те же облака как виртуальный диск или папку например.
хотя тут может встать канал при таком трафике.
и дороже чем купить диск.продлить работу диска можно использовав более оптимальную файловую систему
-
@tet-vivi said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
а в облаках или др. сервисы использовать для хранения не пробовали?
можно подключать те же облака как виртуальный диск или папку например.
хотя тут может встать канал при таком трафике.
и дороже чем купить диск.продлить работу диска можно использовав более оптимальную файловую систему
Да это вариант, был до какого-времени. Гугл в движке профиль к локали чето привязал и теперь в облаках и сетевых дисках этот профиль может быть уже не совсем гретым. Я пока не изучал этот вопрос подробно, но чую там неладное.
-
@FastSpace если по простому то можно нужный профиль перекидывать с облака на ссд, отработать, и опять в облако.
@FastSpace случаем использовал гугл диск без стороннего средства шифрования?
в гугл бизнес самые выгодные тарифы за 1 гб вроде как.
диски 8+тб имеют особенность, что при повреждении корпуса восстановить данные обычно невозможно. -
@tet-vivi said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
@FastSpace если по простому то можно нужный профиль перекидывать с облака на ссд, отработать, и опять в облако.
@FastSpace случаем использовал гугл диск без стороннего средства шифрования?
в гугл бизнес самые выгодные тарифы за 1 гб вроде как.
диски 8+тб имеют особенность, что при повреждении корпуса восстановить данные обычно невозможно.- Цена неадекватна. За год подписки можно уже и самому диск SAS купить и убить его также за год.
2 ТB = 699р, для 10 терабайт вообще не вариант. Проще наклонировать 5 аков )
У яндекс диска 3 ТB в год за 438р, но и это тоже не вариант.- Даже если я буду перекидывать с облака к себе на SSD и обратно он в любом случае будет изнашиваться. Ничего не поменяется, только я еще платить буду за облако.
- Надо будет заморочиться с чеком на обрывы соединения, окончания загрузки и выгрузки и т.д. Плюс заморочиться как-то отдельными потоками заранее скидывать профиль на диск, когда подходит таймер у профиля. Гемор крч.
- Ну еще неизвестно как гугл отнесеться к тому, что я гоняю профиля туда-сюда и грею их там же в гугле )) Аналогично яндекс.
-
@FastSpace используй шифрование(т.е. храни у них в зашифрованном виде. для этого есть приложения с соответствующей функцией)
ты цены смотришь для пользователей, для бизнеса там хорошее предложение.
https://gsuite.google.ru/intl/ru/pricing.html
Диск Неограниченное облачное хранилище (если пользователей меньше пяти, каждому предоставляется 1 ТБ)
за ~50$ Неограниченное
-
@tet-vivi Видимо такие аки надо отдельно покупать, помню видел на дире чтоле или где-то еще.
Ну хорошо даже если хранить в зашифрованном виде и еще в архиве, может можно замутить чето.
Это всю равно не решает вопросы износа моего диска. Единственное на чем сэкономлю это на обьеме.Пока вариант с диском SAS выглядит более привлекательным.
Тут еще одна забавная математика:
Если профиль греть ровно 1 час (чистое время серфинга), то получается 1 поток за сутки сможет прогреть всего 24 профиля. Это конечно не за один заход прогреть сразу целый час, но в грубый подсчет такой.10000/24= 416 потоков КАРЛ. Причем это тяжелые потоки грузящие ЦП не мало так. По моим подсчетам прогрев профиля у меня в 3 раза тяжелее любого регера.
Какой вывод из всего этого? Те кто кричат, что там там греют и регают миллионами аков просто языкочесатели, коих 99.9%.
-
@FastSpace вместо диска можно использовать флешку 3.0+. дешевле
-
@tet-vivi said in Понадобилось мне значит 10000 (десять тысяч) гретых профилей в день:
@FastSpace вместо диска можно использовать флешку 3.0+. дешевле
Посмотрел цену на флешки - нет. 256 гигов флешка 3000р
