Модуль для ИИ / Anthropic/ ChatGPT / StableDiffusion / DALLE / Llama локально

[selector]

model (‘dall-e-2’ or ‘dall-e-3’): This is the model you’re generating with. Be careful to set it to ‘dall-e-3’ as it defaults to ‘dall-e-2’ if empty.

[selector]

n (int): The number of images to generate. Must be between 1 and 10. Defaults to 1. For dall-e-3, only n=1 is supported. если добавлять dall-e-3 то n -1

[selector]

ище 2 интересных параметра: style (‘natural’ or ‘vivid’): The style of the generated images. Must be one of vivid or natural. Vivid causes the model to lean towards generating hyper-real and dramatic images. Natural causes the model to produce more natural, less hyper-real looking images. Defaults to ‘vivid’.
quality (‘standard’ or ‘hd’): The quality of the image that will be generated. ‘hd’ creates images with finer details and greater consistency across the image. Defaults to ‘standard’.

[moonsoon]

Дали максимально генерировал мне квадрат 512 на 512, другие размеры не знаю как отработают.

[maksimiron13]

Ку, в многопотоке такая ошибка вылетает, не знаешь как ее пофиксить?
"ReferenceError: Can't find variable: JPath"

[moonsoon]

@maksimiron13 Использовать модуль json в скрипте с любым действием.

[Ressive]

ChatGPT модуль не хочет считывать переменные в промте.
Он вроде как работает только с той инфой, которую руками нужно вбить в промт, как работать с переменными?

[moonsoon]

@Ressive Перепроверил, приложил пример тебе.
пример работы с чат гпт2.xml

[Ressive]

This post is deleted!

[Ressive]

@Ressive said in Модуль для ИИ:

ChatGPT модуль не хочет считывать переменные в промте.
Он вроде как работает только с той инфой, которую руками нужно вбить в промт, как работать с переменными?

Все норм, не работал на gpt-4-32k, на gpt-4 работает, если есть подписка.

[moonsoon]

@Ressive Использовал список ключей бесплатных, пользователь 1 делился оплаченным ключём я тестил что всё в порядке на других языковых моделях и больше не использовал.

[A Former User]

Кто то нагружать запросами GPT пробовал ?
Если к примеру 30 потоков за 1 минуту обратятся с разными вопросами на одном api, он дуба не даст ?

[moonsoon]

@lomaster я не грузил его. Запросы пойдут с разным телом, обрабатывает апи каждый отдельно. Может будет ограничение по одновременной отправке с бесплатного ака.

[A Former User]

Проверил многопоток, такая схема, работает но ставит в некую очередь, и отдает по частям.

Отправил в 1 секунду на 1 api сразу 30 запросов.
3 ответа пришло почти сразу.
И далее каждые 5-6 сек оставшиеся ответы так же пачками по 3 штуки.

Последние не хватило времени, и пришлось по ошибке заново спрашивать. Пока не забанило, если уйдет ключ в бан, буду использовать 3-4 чтоб не нагружать.

[moonsoon]

Добавил ИИ от anthropic.
Схема работы такая же как и с gpt. При работе с историей переписки, в случае если ответы больше 15 токенов, уходит на ошибку. Не разобрался почему, может у вас идеи есть по этому поводу.
Инструкцию по работе обновил в первом посте.
Видео по обновлению с Antropic

[Nikolas]

@moonsoon
Как бороться с мусором в ответе? Ведь ответ может иметь все возможный вид как захочет AI модель , может ответить :

Например так:
Result 4

или так:
four

или так:
4

или так:
2+2=4

конечно можно заранее все возможные варианты мусора записать и чистить ответ от мусора.
Что я и реализовал в одном моем скрипте, но там получилось сотни вариантов мусорных данных которые нужно удалить из ответа чтоб оставить только то что мне нужно.

Но это костыли которые пришлось делать пока более простого варика нету

[moonsoon]

@Nikolas said in Модуль для ИИ / Anthropic/ ChatGPT / StableDiffusion / DALLE:

Как бороться с мусором в ответе?

Не сталкивался с этой проблемой, пробуй формулировать в промте что именно ты хочешь получить, но если у тебя история сообщений используется то только условиями вычленять нужную информацию, избавляться от ненужной информации в скрипте.

[Artur 1]

При использовани hhtp-прокси возникает ошибка CONNECT tunnel failed, response 502. Прокси рабочие, если использовать в обычном разделе "прокси", то всё в порядке, можно заходить на заблоченные сайты и т.д. Или я их неправильно использую как-то?

[moonsoon]

Прокси для запросов используются, проверь корректно ли установлены прокси. Установи их и сделай запрос для определения смены Ip.

[Artur 1]

а как проверить и как запрос сделать