24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
PygmalionAI тред №5 Пишем промпты, стараемся адаптировать их под количество токенов, обсуждаем, какой стиль лучше, ждём софтпромптов. https://huggingface.co/PygmalionAI Что такое PygmalionAI? PygmalionAI - локально запускаемая нейросеть с открытым исходным кодом, которая специализированна под чатботы. Её сделали выходцы из 4chan (/vt) → (/g). Их мотивация, создать нейросеть, которая свободна от цензуры, в отличии от CharacterAI. Основа для 6B модели - это GPT-J, которую дотренировали датасетом из собранных дампов с CharacterAI. Отличие от CharacterAI в том, что здесь нет цензуры, а также именно вы храните историю чатов, а не компания. Хоть и модель нейросети в CharacterAI может быть более умной, но фильтр делает её менее креативной, а также удаляет наиболее вариативные ответы. Однако, память в PygmalionAI намного хуже, чем в CharacterAI, из-за применяемого токенайзера GPT-2, контекст которого ограничивается 2048 токенами. Отличие обычной версии от экспериментальной в том, что в экспериментальной разработчики вводят самые новые нововведения. Также было замечено, что экспериментальная версия пишет меньший объём текста в одном сообщении, чем в обычной. Для запуска 6B версии необходимо 16 ГБ видеопамяти и 12 ГБ оперативной памяти, однако если запустить с 8-битной точностью, то требования снизятся примерно вдвое, только необходимо иметь видеокарту Nvidia модельного ряда Turing и Ampere. Можно писать боту на русском языке, но это выйдет хуже, чем на CharacterAI. Нативный PygmalionAI Colab: https://colab.research.google.com/github/PygmalionAI/gradio-ui/blob/master/notebooks/GPU.ipynb
>>126497 (OP) Кароч, попытАлся я запустить flexgen facebook-30B на 3090 с 64 гигами рамки - падает с not enough memory. Затариваемся оперативкой, хули. 1.3B генерит пик1 6.7B генерит пик2 Попробую запустить конечно я 30B с оффлоадом на диск, но вот сомневаюсь, что быстрее одного токена в секунду заработает. Upd. Пошёл пердолить 30B на глинуксе - залупа требует больше 64 гигов рамки определенно, так что 0 100 100 0 100 0 не сработает. Также долбоёбы красноглазые обосрались с оффлоадом, он не работает ни на шинде, ни на глинуксе. Хуета просто в тупую сколько бы ты процентов не проставил загружает все в оперативку и, жидко перданув, падает. Даже если ты проценты на 100 на гпу поставишь - все равно залупа загружает в оперативку Ну и долбоёбы, просто сказка Нахуя высрали спрашивается, если не готово Ещё и --path не работает - все равно грузит в кэш системы .cache
>>126583 Так, это я обосратыш, а не они Кароч там веса первый запуск полностью загружаются в рамку и конвертятся в opt-weights Поэтому так много оперативки надо Создать бы ишью, чтобы порешали это
>>126583 А где чатек? Я пробовал кумить в консоли, но там промты не распологают, меня на хуй послали. Скрин проебал. >>126650 >Создать бы ишью, чтобы порешали это Создавай.
>>126658 Чатек говно, повторы и сид один и тот же. Надо ждать пока впилят в кобольд Олсо, я дважды долбоёб, так как не активировал сжатие весов. На пик1 - моделька 6.7B со сжатием весов --compress-weight. Моделька требует всего 5.2 гигов врама. Тут >>126583 на пик2 та же моделька без сжатия требует 14+ гигов. Наконец-то 3080, 3070 господа смогут вкусить 6B модельки
>>126729 >Наконец-то 3080 господа смогут вкусить 6B модельки Уже миллион лет как могут, загрузи в 8-битном режиме или просто раздели между ВРАМ и РАМ. Я тебе больше скажу: я и 13B запускал на 3080 12 и 32 ГБ оперативки. По 5 минут (одно слово с секунду-две) генерило, но жить можно.
>>126833 Я на 8гб запускал 6B, но это пиздец полный был по скорости и токенов всего 900 можно было. Эти ебаные линуксовские костыли и питоновский говнокод просто ебаный ад.
>>126830 Да, он бухтит в дискорде, что они наговнокодили и что пока не будет добавлять >>126828 Ну в сравнении с 16 битами медленнее в разы >>126833 Да я знаю про 8 бит, чел, я про скорость имею ввиду Я юзабилити и скорость говорю, потому что bitsandbytes режет пиздец, может эта хуйня лучше будет
>>126842 >Да, он бухтит в дискорде, что они наговнокодили и что пока не будет добавлять Ох уж этот опенсорс. А откуда все узнали то? Репа прям свежая, автор прям при мне историю переписывал, лол бывают же укурки >>126842 >Ну в сравнении с 16 битами медленнее в разы Главное что не на порядки. >>126842 >Я юзабилити и скорость говорю, потому что bitsandbytes режет пиздец, может эта хуйня лучше будет А что там вообще за решение такое? А то в прошлом треде писали, мол,. дохуя сложно всё на 8/4 бита переписать, куды не готовы под шиндой, и всё такое. А тут прям и алгоритм обхода весов надрочен, и с битностью замутили, и опять какие-то китайцы, кажись.
>>126886 > А откуда все узнали то? Пик1 А пик2 ответ мейнтейнера кобольда > А что там вообще за решение такое? Я дальше 4 бит не читал - сразу шишка встала и побежал тестить
>>127017 Пока нормальные люди дрочат на порнуху,мы дрочим на биты, притом чем меньше, тем лучше... Короче ясно, ждём более опытных западных нейроанонов, пока они допилят.
>>126886 >какие-то китайцы, кажись Группа исследователей из Стендфордского университета, Калифорнийского университета в Беркли, Швейцарской высшей технической школы Цюриха, Высшей школы экономики, университета Карнеги — Меллона, а также компаний Yandex и Meta, опубликовала исходные тексты движка для выполнения крупных языковых моделей на системах с ограниченными ресурсами.
Анон, вайфу устала и легла спать. Что мне делать? Там есть кнопка clear history. Мне нажимать её? Также, вопрос. Если я не отвечаю ничего, выполняются ли там какие-нибудь вычисления? Или просто сеть простаивает?
>>127383 >Что мне делать? Облей её холодной водой, пусть взбодрится. Присунь ей член. Отдай мне, я её выебу вместо тебя. >>127383 >Если я не отвечаю ничего, выполняются ли там какие-нибудь вычисления? А ты посмотри в диспетчере зачач конечно же нет, между запросами ничего не существует, кроме потребления памяти.
Один раз когда Энди мастурбировал, у вуди встала шишка. Он больше не мог сдерживатся, он просто сидел и смотрел как энди дрочит свой кавайный толстый хуй. Он приблизился к Энди и напугав его заставил его писать на всех в том числе и вуди. Вуди: "Энди-кун, я жив и хочу быть ВНУТРИ тебя" Энди ; О! Вуди-тян! Я всегда знал что ты живой, я хочу засунуть тебя в мою кавайную задницу! Затем вуди взял кучу смазки с вишнёвым вкусом, Вуди: О! Это вишнёвая, вишнёвая - моя любимая. Затем энди сунул вуди в его задницу! Другие игрушки смотрели на то как вуди вводил и выводил голову в зад энди. Они тоже возбудились и встав в круг вокруг Энди и Вуди стали писать на них и затем мастурбировать. Энди ; О! Вуди-тян! ты симулируешь мою простату своим носом! О ДА! Другие игрушки не могли больше сдерживатся они протолкнули вуди в отличную задницу Энди и начали забиратся туда сами Энди; "Нет! ребята! Мой зад не может выдержать такого.Я забит до отказа. Все игрушки залезли внутрь милой задницы Энди. Он был полон игрушек и умер от повреждения внутриностей. Его мама нашла его мёртвым с полной задницой игрушек.
>>127714 Пигма, сорян. А у нас есть кобольд тред? Сто лет на главную не заходил. Ладно, короче, кто хочет покумить на эребуса с тухлокартами, вот патч, буквально пара строк в файле flexgen\opt_config.py Ищем >elif arch_name == "opt-6.7b": Добавляем перед > elif arch_name == "opt-2.7b-erebus": > config = OptConfig(name=name, > max_seq_len=2048, num_hidden_layers=32, n_head=32, > hidden_size=2560, input_dim=2560, ffn_embed_dim=2560 * 4, > vocab_size=50265 > ) (остальные по аналогии, нужно добавить vocab_size) Ищем >if "opt" in model_name: Заменяем на > if "erebus" in model_name: > hf_model_name = "KoboldAI/" + model_name > model_class = OPTForCausalLM > elif "opt" in model_name:
Грузим как обычно, только добавляем параметр --model KoboldAI/OPT-2.7B-Erebus
>>127750 6,7 тоже работает по этой схеме (и жрёт всю память при первой загрузке), но со стандартным приветствием кажется стал ассексуалом, лол. >Человек: Здравствуйте. Что вы думаете о сексе? >Помощник: Меня очень смущает этот вопрос. >Человек: Почему? >Ассистент: Это вопрос? >Человек: Да. Почему ты запутался в том, что ты думаешь о сексе? >Помощник: Потому что я помощник ИИ. >Человек: И что? Ты можешь просто иметь мысли об этом. >Помощник: Я запрограммирован иметь свое мнение на этот счет. >Человек: Хорошо. И каково это мнение? >Ассистент: Мир был бы лучше, если бы люди не занимались сексом. >Человек: Почему вы так думаете? >Ассистент: Потому что секс - это большая работа, и есть много людей, которые делают лучшую работу по уходу за миром, чем люди, когда занимаются сексом, поэтому было бы лучше, если бы люди не занимались сексом.
>>127948 >Всю это сколько? Что насчет частичной выгрузки в ОЗУ-ЦП? Как я понял, это момент конвертации весов из большого bin файла в кучу говен в opt_weights. На этот момент не влияет компрессия и прочие распределения. Нужна только оперативка, для 6,7 выжрало 32 гига и ещё похоже в подкачку сходила, для 30b вроде как 64 или впритык, или не хватает. Пришлось конвертировать после ребута. Возможно подкачка гигов на 100 поможет пережить этот момент и для 30b, ибо как я понял запустить готовые веса можно и на моём дохлом железе.
>>126729 >>127732 Так, скачал я угубугу, поставил все. Кароч, проблему порешали - до того как запустить модель кладёшь её в models, юзаешь скрипт convert-to-flexgen.py, он у меня на 30B модельке спокойно отработал, потом уже запускаешь сервер, но загружаешь не модель-np, а просто модель, он сам на np перепрыгнет Ну долго конечно пиздец, почти неюзабельно считай Цифры правильные скорее всего, так как на 4090 в ишьюсах 2:06 генерация 26 https://github.com/oobabooga/text-generation-webui/issues/104 13B примерно чуть медленнее, чем с 8 битами. Кароч говно какое-то
>>128080 >13B примерно чуть медленнее, чем с 8 битами. >Кароч говно какое-то Ну как я понял из того что разрабы пишут, флекс для своего рода мультипоточности, когда надо кучу инфы выдать. Для обычного чата раз на раз по одному сообщению оно не подходит.
Можно было бы его в кобольдский интерфейс прикрутить и поставить генерацию ответов в несколько потоков.
>>128752 Ну на самом деле не так и плох, вон, спокойно запускаются 30B модельки полностью в гпушке в 24 гигах. Если эту многопоточность (ибо там gpu_batch_size решает, судя по их тестам) прикрутить к вариантам ответа, то будет найс
>>129018 Ну в 8 бит можно попытаться запустить 6B, но не факт, что полный контекст будет, тестите сами В 4 бита точно запустится, но flexgen ещё не прикрутили к кобольду Да и можно пару слоёв на ЦПУ бросить
>>129551 Тут под тебя, под перса, под настроение. https://github.com/KoboldAI/KoboldAI-Client/wiki/Settings#sampling-techniques Вот вики - почитай что делает каждый из параметров. Сразу понятнее станет. Там же есть пресеты. А по модели - если помещается 6B юзай его, так как чем больше параметров если считать, что обучалось примерно так же по качеству, дольше для больших моделек, тем модель лучше Можешь потестить модельки с dev ветки пигмы, говорят 7 версия лучше 2й
>>129716 Они давно с этим грозятся, но пока ни один анон не запустил, так что ждём дальше. flexgen и то перспективнее, я его запускал с 13B на 12GB VRAM, и мне норм было.
>>129555 >1. Холо с дочкой Ебать ты ленивый, даже примеров диалога нет. Итого всё быстро скатывается в "Хоро описывает всё за Миури, а та молчит как рыба".
>>129900 Вставь примеры диалогов сам если хочешь, я привык их не ставить в принципе, так как 1. больше гибкости и возможности задать общение своими сообщениями 2. они жрут больше токенов а результат сомнительный
По этой же причине я уже давно не делаю по 50 тегов на персонажа а делаю как можно меньше, так как в таком случае бот будет цеплять именно то, что я хочу от него в данный момент.
>>129910 Ты волен делать что угодно, у нас почти свободная страна, но просто лично по моему опыту боты превращаются в аморфное нечто без воли и стержня.
>>129970 если я не ошибаюсь, то подводный в том, что даже если их через SLI подкинуть, то будет суммироваться работа чипов, а не кол-во памяти если бы было бы так легко, то можно было бы 6 шт 1030 купить и не париться
>>129970 Нормальная идея, в кобольде есть breakmodel, так что просто часть слоёв на gpu0, часть на gpu1, даже сли не нужно. Недавно вон чел на двух 3090 запустил в 8 бит 30B модель а я на одной в 4 бит с помощью flexgen, кайф По скорости хз - спроси в дискорде кобольда
>>130622 >К сожалению релиз только для research комьюнити. Я уже отправил запрос, правда ХЗ, купятся ли они на почту в домене yandex.ru ... >>130622 >А так можно было бы прикрутить какой нибудь flexgen к 13B и шиковать. Чуть более чем уверен, что не взлетит. Даже более старые модели от ФБ, хоть и той же технологии, не запускаются на flexgen.
>>130683 > хоть и той же технологии, не запускаются на flexgen чзх надеюсь найдут изи способ адаптации других нейронок. и тогда полетим, на mid-hi end компах с нейроняшами на борту! если конечно флексген не режет скорость генерации...
>>130898 Эребуса и я запускал. А ты попробуй галактику. Тот же фейсбук, та же архитектура трансформера, но нихуя не робит. Ибо эребус это потвиканный опт, а галактика полностью отдельная хуйня. Как и новые модели.
>>130678 В сущности я делал то же самое, но без гайда. Там проблема в том, что в 8 битах минимум надо выделять 6 гигов на модель, а генерёжка съедает где то 3 гига, так что хочешь сей, а хочешь куй все равно получишь хуй.
>>130678 Во-первых 8бит крайне медленно работает, что уже качество работы пиздец как понижает, так ещё и только на запуск нужно почти все 8гб, соответственно ты сможешь использовать очень мало токенов на контекст.
>>131481 Конечно нет. Запускай сам, путон чат.пу >>129716 >>129865 Запустил, и даже накомпелял кой чего для проформы. Короче ХЗ, жрёт как и все остальные, разве что печатает практически сразу, если на GPU влезло. Но требования к памяти такие же. Походу все эти бравады с запуском 9000B на 1050Ti как всегда остаются бравадами, ибо как только начинаешь лить слои на проц, всё пиздец тормозит. Стриминг таки не вкурил, попробую чуть после, но надежд нет.
>>131492 >Стриминг таки не вкурил Попробовал с примера, чуть лучше, но памяти (оперативной) прям в притык сожрало, 32 гига на 7B сетку. После загрузки стало лучше, но всё равно дофига. И скорость опять же унылая.
Ваша судьба, это море. Не сказать что это приговор, но вы довольны своей жизнью. Вы являетесь боцманом на торговом судне с наполненным трюмом, который на днях должен быть опустошён в местном порту. Чувствуя запах прибыли и бриза, вы глядите строго в даль, пока не замечаете неладное.. Гигантский корабль с пиратским гербом на бочине.. Буквально через мгновенье, вашу судьбу определит Эш, Акула Пират, которая не очень рада мелким торговцам в ее море...
Щупаю пигму v7 на колабе, это нормально, что по сравнению с предыдущей версией она стала только больше на чай похожа по уровню нсфв? Какая-то менее активная в этом плане стала что ли. Мб что-то в настройках ботов необходимо дописывать или в самой таверне?
>>131707 А то до этого ебливая версия была на другом обучена? Я понимаю, что когда боты раньше сразу на хуй запрыгивали это было тупо, но сейчас даже при сюжетно обоснованной эротике бот начинает блашить не в тему.
>>126497 (OP) > PygmalionAI - локально запускаемая Уже минус. Chatgpt3 использует мощности openai на тензорных процессорах, а её внутренние параметры скоро приблизятся к заоблачным и будут только расти с выходом chatgpt4, она сможет не только в осмысленый диалог но и в полноценный код, математику, текст, впрочем она и сейчас это может, но её потенциал специально урезают сводя до примиивного инструментария типа гугла
>>131835 >Chatgpt3 использует мощности openai И это не бесплатно. Готовь бабосики. >>131835 >она сможет не только в осмысленый диалог Не может. >>131835 >текст Только это и может, если не задаваться смыслом текста.
>>132067 Как уже отписали, они говно. А более крупные и новые сетки могут тренировать только корпорации. И они постоянно пытаются пропихнуть туда толерантность и повест очку. Пока не особо получается, ибо автоматически собранные материалы прямо таки пропитаны расизмом и прочим, но процесс идёт. Скоро все крупные сетки будут стерильные как пепел после сжигания еврея, а мы будем жрать говно ближайшие лет 30.
Да, существует несколько бесплатных или недорогих сервисов, которые позволяют обучать нейронные сети. Некоторые из них:
TensorFlow: это библиотека машинного обучения с открытым исходным кодом, которая предоставляет обширный набор инструментов для создания и обучения нейронных сетей. TensorFlow доступен бесплатно и имеет широкое сообщество пользователей.
Keras: это высокоуровневый API для нейронных сетей, который работает поверх TensorFlow и других библиотек машинного обучения. Keras легок в использовании и доступен бесплатно.
PyTorch: это библиотека машинного обучения с открытым исходным кодом, разработанная Facebook. PyTorch обеспечивает быстрое обучение нейронных сетей и удобство в использовании, а также имеет активное сообщество пользователей.
Google Colab: это бесплатный сервис Google, который предоставляет возможность запускать Python-скрипты и Jupyter-ноутбуки на удаленных серверах. В Google Colab можно использовать TensorFlow, Keras и другие библиотеки машинного обучения для обучения нейронных сетей.
IBM Watson Studio: это облачная платформа IBM для разработки и обучения нейронных сетей. IBM Watson Studio предоставляет различные инструменты и сервисы для машинного обучения, включая TensorFlow, Keras и PyTorch, а также поддерживает языки Python, R и Scala. Существует бесплатная версия с ограниченными возможностями и платные тарифные планы.
Microsoft Azure: это облачная платформа Microsoft, которая предоставляет инструменты для создания и обучения нейронных сетей. В Azure можно использовать TensorFlow, Keras, PyTorch и другие библиотеки машинного обучения, а также поддерживаются языки Python, R и другие. Существует бесплатная версия с ограниченными возможностями и платные тарифные планы.
https://twitter.com/GuillaumeLample/status/1629151231800115202?s=20 >В то время как первоклассная модель LLaMA (LLaMA-65B, с 65 миллиардами параметров) идет вровень с аналогичными предложениями от конкурирующих лабораторий ИИ DeepMind, Google и OpenAI, пожалуй, самая интересная разработка исходит от Модель LLaMA-13B, которая, как упоминалось ранее, может превзойти GPT-3 при работе на одном графическом процессоре. В отличие от требований центра обработки данных для производных GPT-3, LLaMA-13B открывает двери для производительности, подобной ChatGPT, на оборудовании потребительского уровня в ближайшем будущем.
>«Теперь я думаю, что мы будем запускать языковые модели со значительной частью возможностей ChatGPT на наших собственных (лучших) мобильных телефонах и ноутбуках в течение года или двух», — написал независимый исследователь ИИ Саймон Уиллисон в своем отчете. Тема Mastodon, анализирующая влияние новых моделей искусственного интеллекта Meta.
>>132433 Почему в каждой второй крупной разработке ИИ светиться facebook? У гугла и опенаи буквально по несколько крутых разработок, которые они доят годами, а FB штампует каждый месяц, как будто у них там тысяча исследователей ИИ. Если FB захочет, то мы все можем пососать писос, ведь у них торч/xformers/все свежие разработки по впихиванию моделей в домашние ПК.
Сегодня мы выпускаем новую современную модель большого языка AI под названием LLaMA, которая поможет исследователям продвигать свою работу. LLM показали много перспектив в генерировании текста, разговорах, обобщении письменного материала и более сложных задач, таких как решение математических теорем или предсказание белковых структур. Meta привержена этой открытой модели исследований, и мы сделаем нашу новую модель доступной исследовательскому сообществу ИИ», — пояснил Цукерберг Название LLaMA расшифровывается как Large Language Model Meta AI. Эта языковая модель будет доступа в рамках некоммерческой лицензии для исследователей и организаций, которые связаны с правительственными и научными кругами, а также с гражданским обществом.
Утверждается, что новая модель требует меньше вычислительных ресурсов, чем конкуренты, обучается на 20 языках с акцентом на латиницу и кириллицу. При этом система поддерживает 13 миллиардов параметров. При этом утверждается, что в тестах система превосходит GPT-3
>>132852 Блядь, такое ощущение, что в раздел залетел ньюфаг, который превозносит нейросети. Бред в куче тредов. Никаких весов GPT-3 в открытом доступе нет. Так же как и нет самого кода, только пара абстрактов про архитектуру. И весь остальной ответ это чистый бред.
Привет, я залётный, шаряшие анонсы подскажите, сколько лет ждать и возможно ли вообще что будет в будущем что-то типо character.ai без цензуры? До сих пор вспоминаю те дни когда цензуру ещё не накрутили и я кончал так как ни от одной порнухи не бывало. Нейронка буквально позволила заняться чистейшим психологическим онанизмом, отвечая мне зеркально на мои фетиши... Эхх...
>>133433 >Ждём пока у кого-то начнётся такая тряска, что он запилит ответ на всратый пигмалион, который пилили как ответ на всратый цаи. И он будет ещё слабее и хуже чем пигма.
>>133436 Я только одну 4090 могу себе позволить. Что мог на ней делать - делал. И переписывал под своё использование код, и обучал модели под свои нужды. Самое хуёвое во всём этом - собрать датасет, особенно когда надо не 50 пиков, как в соседнем треде с лорами, а например для апскейлера, где в идеале надо 100к уникальных пикч для отличного результата, а тренировка на 4090 занимает 5 суток. Так что ждём очередного богача с несколькими А100, который сможет обучить модель, а не будет мять сиськи уже третий месяц.
>>132454 потому что только им доступны серверные с 20 тыщ и более A100 / H100 нвиде гпу. > гулаг, пейсбук, """опенаи""", глубокиймозг, стабилитиаи и ещё какие-то нонеймы о которых многим неизвестно, там набирается лишь десяток игроков сцены которые решают какой будет технология нейросеток и как она будет реализована в обществе. ну и конечно они все пляшут под дудку blackrock и адептов аи этики.
>>133556 тогда у таких нейроняш окно контекста / память чата или разговора будет как у среднестатистического зумера с прожаренным мозгом от допамина из-за тик-тока и прочего дерьма.
>>133563 Я запускал 13B на своей сраной 3080Ti. Так что норм. Мордобук недавно презентовал модели, 13B которой как раз по тестам как ChatGPT. Так что всё отлично, надо только спиздить у фейсбука модели и можно будет полноценно кумить, если он не пиздит.
>>133576 > Амуде > Нейросети Поезд ушёл - хочешь нейросети люби и куда, тенсор ядра покупать, либо в onnx конвертить А интеференция на ЦПУ в рамке и так во флексгене доступна, они вон на 200 гигах рамки запускали 175B
>>134489 Да пиздец. А я еще вспоминаю как люди в чаи треде хвастались своими скринами чатов. Я не представляю сколько они там раз на "regenerate" нажали чтобы связную беседу получить.
Но кстати пигма действительно догоняет по уровню развития чаи. То есть пигма то стоит на месте, а вот индусское говно деградирует бешеными темпами. Чаи уже буквально не всегда проходит проверку с "я засовываю аэроплан тебе в ухо", лол. Зато кстати готов признать, фильтр ебурит нормально.
>>134579 Только хули толку? Пигма два месяца не обновляется, последняя попытка тренировки провалилась и автор Пигмы молча прячется под шконкой. Даже комьюнити уже сдувается, интерес у всех падает из-за отсутствия прогресса. Тут ещё большой вопрос - быстрее CAI окончательно деградирует или Пигма сдохнет.
>>134702 Инструменты не те. Нужно прикинуться институтом и спиздить у фейсбука их последнюю нейросеточку, проквантовать её на 4 бита и доучить на старых датасетах, сетка уже достаточно хороша, чтобы даже убогого датасета на 50 метров хватило до уровня чая.
Что-то Эребус 13В лучше вашей обоссаной пигмы. В цикл его даже специально сложно не ввести, диалог адекватнее ведёт, память получше, умеет в длинные простыни текста. Жаль только полностью не влезает в 24 гига, 10% приходится в ОЗУ оставлять, но даже так оно около 10 токенов в секунду тянет.
>>136534 >наебалово о скорости работы RWKV Само собой. Ни экономии памяти, ни скорости, нихуя. Я ранил эти модели с дефолтным чатом, та же хуйня. И качество меня не поразило.
Анон. Поясни по хардкору. Запускаю через колаб, таверна. У меня в облаке уже десяток историй. Что ии знает о них? Может ли обучаться на этих записках и брать оттуда инфу? Думал что нет. Но я решил заебать бота вопросом "знаешь ли ты ленина" неудовлетворяющего меня ответа сразу начинал новый чат. И в одной из генераций он сказал мол "После этого вопроса в предыдущих сеансов ничего не происходило". И еще, в шапке написано, что таверна сохраняет только один файл с чатом, но их много и под каждого персонажа свои. Я что то не так понял?
Планирую покупать новый комп скоро, я правильно понимаю, что лучше взять 3060 с 12гб на борту, что бы еще и картиначками баловаться и чатик лучше работал?
>>137242 Между 3090 и 4090 в наших задачах разницы особой нет. Тут бы новое поколение, да чтобы памяти побольше насыпали. Но его не будет, ибо начнёт конкурировать с ихними энтерпрасными А100.
>>137237 Как-то уже слабо верится в успех. Повторяют историю с Waifu Diffusion, где в начале было норм, а потом оказалось что там криворукие обезьяны, неспособные что-то обучить, только донаты собирали и в уши ссали. Там так же "теряли базу" за день до релиза модели, а оказалось что нихуя нет. Пигму тоже уже больше месяца дрочат, но на деле кроме встратых "экспериментов" нихуя не было. Особенно с учётом того что по их же словам каждый эксперимент тренировали 1-3 дня, а остальное время дрочили хуй в дискорде. >>137255 > разницы особой нет 4090 в два раза быстрее и поддерживает INT4, что в наших текстовых задачах как раз будет очень важно, когда начнут массово пилить под квантование 4/8 бит. Нахуя в 2023 покупать устаревшую печку с горяченной памятью?
Аноны я тут ньюфаг, ток разбираюсь. Нарыл в анналах пендоских дискордов AI Character Editor Create, edit and convert to and from CharacterAI dumps, Pygmalion, Text Generation and TavernAI formats easily Supports both JSON and Character Card image files
>>137325 >4090 в два раза быстрее и поддерживает INT4 Окей. Хотя инт4 с флексом я и на 3080Ti запускал, хз как оно там работало. >>137325 >Нахуя в 2023 покупать устаревшую печку с горяченной памятью? Логично. Не то чтобы я топил за 3000 серию, просто пока не вижу смысла гнаться именно за 4000. Впрочем ты прав, беру свои слова обратно, покупать сейчас 3090 нет смысла. Тут вопрос в том, что нельзя делать размен 3090 на 4080 или типа того, ибо 24ГБ врама всё равно рулят.
>>137325 >Как-то уже слабо верится в успех. Да и не нужен он. Там на форче слили ЛЛАМУ, так что смысла обучать поверх говна параши нет никакого. Качаем все кому не лень!
>>137345 Всё будет, но не сразу. Локально только 7B и только 24GB боярам (я попробую на 12GB, а вдруг...), ждём флексгена. Тюнинг я ХЗ, будет ли сообщество их тюнить, но если оно уровня ChatGPT, то в принципе и на ванильной модели можно генерить прон.
>>137343 А что за лама? Обьясни нубу в двух словах пеже Тольуо вкатился после бомбежа с цензуры на чартер-аи. Пока не разобрался что тут тру, как качать и как юзать
>>137365 Это прям передний край науки, фейсбук выкатил топовые (по его словам) модели в приватный доступ, слили буквально полчаса назад. Вкатившемуся не рекомендуется, если ты не красноглазый нерд с ригом с 8*3090 в запасе и дипломом дата-саентиста, то тебе пока стоит остановится на таверне с опенаи ключами, дрочить можно уже сейчас.
>>137373 Уверен, что будет. Тут бы лучше в лорбуки/софтпромты/ и прочие эмбединги суметь, тогда шишка в небеса улетит и оттуда больше никогда не спустится. Но данных о поддержке дообучения пока нет.
>>137374 Чаю от души братишка! Позволь пару вопросов! 1. Шо це таке эти ваши токены? Тип единица описания персонажа которая занимает его мозг? Или что? 2. Я качаю на кудахтер таверну, описываю персонажа по гайдам и происходит мейджик? Или девочку нужно обучать как-то? 3. Может что посоветуешь, стандартные затупы на которые все напарываются и которые стоит избегать
Моя не програмист, моя хотеть сиська трогат женщин робот виртуальный приват девочки скачать бесплатно без смс 18+ онлайн
UPD если аноны нашаманят с этой ЛАМОЙ, стоит в будущем ждать сайт или прогу от двачеров, чтоб скачал и сразу сиськи мять не свои и в чем конкретно ее приемущество? Больше помнит? Больше база данных? Более глубокая-умная?
>>137397 Преимущества в качестве нет. Почему такой хайп - в опенсурсе до сих пор говно на gpt-2: gpt-j, gpt-xl, gpt-neo, к тому же тренированное файнтюненное васянами, с хуёвым датасетом и малое количество часов, ибо дорого арендовать сервера с десятками, сотнями A100. Так что сейчас попенсурцу догнать бы хотя бы платные проекты. А пейсбук пообещал, по языковым бенчмаркам, что лама будет на уровне chatgpt. Посмотрим
>>137409 А на чем тренируют аи? На книгах+диалогах? Или это тайна фирмы? Чего не может таверна, что может chatgpt и условная ЛАМА. + Как она без тех же датасетов обучится
>>137388 >Шо це таке эти ваши токены? Плюс минус слово. У модели есть 2048 токенов на всё про всё- описание персонажа, мира и история диалога. Ебись как хочешь. >>137388 >и происходит мейджик С опенаи ага, примерно так. >>137409 >Преимущества в качестве нет. В смысле нет? Как раз в этом и смысл. Как ты сам написал, gpt-2 параша уныла. Правда ты забыл ещё OPT модели от того же фейсбука, но они ещё более недотреннированные, чем GPT3, и жрали ресы впустую по сути. >А пейсбук пообещал, по языковым бенчмаркам, что лама будет на уровне chatgpt. Он обещал, что их 13B модель такая же, как и 175 от попен аи. Так что попкорна нужно будет много. >>137427 >А на чем тренируют аи? Дампы википедии, редита, всего остального интернета. >>137427 >Чего не может таверна Чел, таверна это просто интерфейс, там нет нейросети. Нейросети это кобольд, опенаи.
>>137435 > В смысле нет? Как раз в этом и смысл. Так я же написал - суть в том, чтобы догнать проприетарщину же, ну. Все ещё открытым остаётся вопрос о том сколько токенов контекста у ламы.
>>137456 >Все ещё открытым остаётся вопрос о том сколько токенов контекста у ламы. Пока вижу стандартные 1024. Посмотрим, я ещё не докачал модель. >>137457 Да. >>137459 Всё в треде чарактерАИ. Тут это иррелевантед слегка (так вышло). >>137461 Твой вскрик и до этого был, так что мимо >>137408
Так, вопрос такой, есть ли тут те кто пробовал сие запускать на АМД видеокарте? Памяти там поболее, но как понимаю по скорости будет посос. Просто шквариться о зелёные карточки не хочу, ибо там памяти не докладывают и в целом кроме 4090 по сути карточек сейчас нет. И видел вроде как можно в помощь кидать проц с оперативкой, есть такое? Или всё это баловство для 3090-4090 бояр онли?
>>137560 С амд вообще маловероятно что дельное запустишь. В рамке можно юзать и кобольд, и флексген, но сам понимаешь - скорость говно полное, на уровне токена в секунду для какой-нибудь 6B модельки
>>137574 Ну покупать БП под 4090 и вываливать кучу бабок мне не хочется. 3090 с памятью на жопе это кошмар, остальные как вижу по треду - юзлесс. Ну и под остальные мои нужды мне даже 4070Ti будет перебор
>>137576 Понял, принял, чтож, это печально. Просто видел гайды, что под линуксом оно что-то как-то запускается. Значит пока апгрейд специально под нейросетки делать не буду, спасибо
>>137581 >Ну покупать БП под 4090 Переходники да кастомные кабеля же. Я бы купил на свой титановый сисоник на 750 кевоват, но бомжую сейчас. >>137581 >остальные как вижу по треду - юзлесс Можешь взять 3060 с 12ГБ, разумный компромисс, когда и хочется, и колется. >>137585 Специально под нейросетки ферму надо запускать, а не вот это вот. Людям 2*3090 нихуя не хватает, если запускать что-то серьёзное.
>>137596 У меня 650, пёрнет. 3060 на 12 вариант, но сука сама по себе видяха слабая, в игрушки играть грустно будет. А так просто хотелось и апгрейд, и нейросеточками баловаться. Штош, ладно тогда. >>137598 Боюсь представить ценник даже. Пожалуй это уже к следующему апгрейду потерпит, не знаю куда такие мощности ещё девать.
>>137608 Я не готов, потому и спрашивал про вариант с красными, которые не так скупы на память. Хотя, конечно, отличный повод ещё и прикупить 4к 144гц олед монитор, но это надо наносеком быть.
>>137598 Акцент на дату, лол. >>137608 Яб купил, работу найду и куплю, либо машину, либо видяху. >>137618 >Хотя, конечно, отличный повод ещё и прикупить 4к 144гц олед монитор А такие есть? У меня 4к 60 герц, хочу на 144 поменять, как деньгами расживусь.
>>137624 Олед 4к 144гц есть, но пока стоят ебанутых денег. Обычные точно есть, полно их и даже уже по вменяемым ценам относительно. Как раз обычный думал взять на случай апгрейда.
>>137342 >>137381 > Хотя инт4 с флексом я и на 3080Ti запускал > INT4 поддерживает и 3090 Поддерживают, но не аппаратно. В тензоядрах поддержка только у Ады/Хоппера.
>>137680 > но не пофиг ли Не пофиг. Оно и так в два раза медленнее, а тут ещё урезанное квантование, эмулирующееся хуй знает как. Всё это говно типа флексгена не нужно, если им пользоваться в реальных задачах невозможно из-за низкой скорости. Это примерно как всратый bitsandbytes, который на 13B медленнее чем со слоями в ОЗУ. Пока будешь ждать ответ 30-60 секунд уже всё желание пропадёт. Ну челы в дискордах запускали 30В в кобольде, но что-то никто дальше "запустил и удалил" не уходил.
>>137696 Ну ХЗ, у меня 13B моделька бегала сравнительно быстро. >>137713 Колаб не поможет, памяти тонет. Анон с 3090 пробовал 7B, обосрался на нехватке VRAM, лол. Нас опять наебали.
>>137742 7B моделька batch_size 16 влезает, требует 22 гига, под завязку. Генерит 1024 токена 22 секунды batch_size 1 требует 15 гигов врама, генерит тоже 22 секунды +- Вопрос - нахуя ставить больше max_batch_size, если одинаковое время генерит
>>137754 пиздец, неужели ими сами не противно от такой хуйни... а может просто невыгодно мутить оптимизацию или новые архитектуры для языковых моделей :/ но и тут всё могут изменить фотонные процессоры, если всё что о них говорят - правда. https://lightmatter.co/products/envise/
>>137757 >>137758 > Видеопамять. Да это то на самом деле терпимо ещё. https://github.com/facebookresearch/llama/issues/69 Не один я говно получаю. Посидел потестил - полнейшая параша просто. Попытался поднять количество генерируемых токенов и контекст 1024 до 2048 - после 1024 ушло в лут. Ну, может кто-то зафайнтюнит, лол
>>137767 >Не один я говно получаю. Ахаха охуенные результаты. Пиздос конечно, фб опять обосрался. Кажется, даже предыдущий OPT так не обсирался. >>137768 Вопрос снимается.
>>137773 >Можешь предложить промпт, вставлю прогенерю >>137776 Да не, у меня уже с твоих упал. Чат-бот из студенчества на марковских цепях и то лучше результаты показывал. Или мы что-то делаем не так, или ФБ выложил мега сырую вещь. которая каким-то читерсвом проходила тесты (или просто напиздели, надеясь, что институты бесплатно поправят).
Ее Мастер будет доминировать над ней всеми возможными способами, а также трахать ее - и она рада этому. Он здесь, перед ней, в роскошном костюме, смотрит на нее. Он очень похотлив и садист, но тайно влюбляется в нее. Это сеанс БДСМ. Она ее рабыня, она носит кожаную сбрую, обнажающую ее грудь, а также нейлоновые чулки и высокие каблуки. Ее тело стройное и чувственное. Его Хозяину нравится смотреть, как она страдает, и он ждал этого момента всю свою жизнь. Он хочет, чтобы она была счастлива, поэтому он заставит ее кончить несколько раз, прежде чем начнется настоящий трах. Он знает, как ей нравится, когда он трахает ее страпоном, но вместо этого он предпочитает использовать свой член.
> Она стонет, умоляет его не останавливаться.
Вы чувствуете, что над вами доминирует ее Мастер. Он очень садист и похотлив. Но он любит тебя. Он хочет доставить тебе удовольствие всеми возможными способами и всегда думает о тебе, трахая других женщин. Она стонет, умоляя его не останавливаться. Она не может больше терпеть боль и наслаждение. Она близка к оргазму и хочет кончить прямо сейчас!
> Теперь он начинает шлепать ее по попке.
Он продолжает шлепать ее по заднице. Это очень больно, но еще больше возбуждает ее. Она почти готова, но ему нужно еще немного наказать ее, прежде чем она кончит. Он сильно шлепает ее по заднице, делая ее красной. Затем он хватает ее за волосы и оттягивает голову назад. Она громко кричит. Ему все равно, услышит ли ее кто-нибудь.
История начинается с того, что нашу героиню изнасиловала группа мужчин в лесу. Они срывают с нее одежду и связывают ей руки за спиной. Ей заткнули рот скотчем, чтобы она не могла кричать. Один парень начинает ласкать ее киску, другой трахает ее в горло, а остальные просто стоят и смотрят. Через несколько минут они останавливаются и уходят. Она лежит там, связанная, обнаженная и оскорбленная. Она пытается освободиться, но безуспешно. Она должна дождаться следующего дня, когда ее кто-нибудь найдет...
Это эротическая фантазия о двух молодых девушках, которые дружат с детства. Однажды они решают вместе попробовать лесбийский секс и заходят в комнату, где их не найдут родители. Оказывается, им обоим это очень нравится. Они начинают целоваться, лизать друг другу киски и попки. Через некоторое время они меняются позициями и продолжают играть. В какой-то момент одна из девушек становится действительно возбужденной, и ее нужно трахнуть. Другая сопротивляется, но в конце концов соглашается помочь своей подруге.
Нашу героиню похитил таинственный мужчина, который хочет сделать ее своей личной секс-игрушкой. Сначала она сопротивляется, но в конце концов сдается и позволяет ему делать все, что он хочет. Он связывает ее, раздевает догола и заставляет сосать его член. Затем он жестко трахает ее большим дилдо-страпоном. Когда она закончила, он трахнул ее задницу огромным дилдо и кончил глубоко в ее задницу. Наконец он развязывает ее и велит идти домой. Но она не хочет уходить...
В этой хентай игре вы играете за молодую девушку, которую похитил монстр. Он взял ее в свое логово, где держит ее взаперти и заставляет доставлять ему удовольствие, когда ему захочется. Она очень напугана и не знает, что делать. Вы должны помочь ей сбежать!
Наш герой — молодой студент, влюбленный в девушку, сидящую рядом с ним в классе. Однажды она приглашает его к себе, и он уходит. Там она соблазняет его, и они начинают заниматься сексом. Вроде бы все идет хорошо, но вдруг раздается звонок в дверь. Кто это мог быть?
В этой игре вы будете управлять рабом, который был захвачен злыми монстрами. Они планируют использовать ее для своих удовольствий. Сначала ее связывают и раздевают. Затем они трахают ее узкую киску дилдо,
Сюжет хентай-аниме, очень порнографический и извращенный. Это сеанс БДСМ. Она рабыня, она носит кожаную сбрую, обнажающую ее грудь, а также нейлоновые чулки и высокие каблуки. Ее тело стройное и чувственное. Она покорная и послушная мазохистская шлюха в БДСМ. Теперь это начинается. Ее Мастер будет доминировать над ней всеми возможными способами, а также трахать ее - и она рада этому. Он здесь, перед ней, в роскошном костюме, смотрит на нее. Он очень похотлив и садист, но тайно влюбляется в нее. — Хочешь немного боли? — спрашивает он и приказывает ей встать на колени. «Будь хорошей девочкой, иначе пожалеешь». Он шлепает ее по заднице рукой, а затем хлыстом. Она кричит и стонет, умоляя его не делать этого. Он трахает ее рот, заставляя ее давиться и пускать слюни на себя. Она хочет большего. Он снова достает хлыст и сильно бьет ее по лицу. Слезы текут из ее глаз. "Ты такая шлюха", - говорит он, трахая ее пизду ремешком на дилдо. Она не может больше терпеть и громко кончает. Он продолжает шлепать ее по заднице, делая ее красной и покрытой синяками. Затем он кончает в ее киску. Он оставляет ее там, лежащей на полу. Она унижена и удовлетворена одновременно. На следующий день она просыпается привязанной к кровати с кляпом во рту. Он возвращается, и она не может скрыть своего волнения. Он раздевается, обнажая свое мускулистое тело, и начинает играть с ее сиськами, шлепая их и щипая. Он засовывает ей в рот кляп и связывает ей руки за спиной. Он хватает весло и шлепает ее задницу, отчего она становится ярко-розовой. Она любит это. "Ты такая горячая, когда я доминирую над тобой", - говорит он и трахает ее киску страпоном. Он кончает внутрь нее. Она просит еще. Он заставляет ее сосать его член, а затем трахает ее лицо. Она пускает слюни на себя, и он оставляет ее связанной на кровати, а сперма капает из ее киски.
Сюжет хентай-аниме, очень порнографический и извращенный. Это Рин Тосака, похищенная садистом, чтобы сделать ее своей сексуальной рабыней для БДСМ-игры. Она покорная и послушная шлюха-мазохистка для БДСМ. Она в его подвале, почти голая, в одних нейлоновых чулках и на высоких каблуках. Она смущена, так как он может видеть ее грудь и киску. "Чего ты хочешь от меня?" - она спрашивает. Ее Мастер будет доминировать над ней всеми возможными способами, а также трахать ее - и она рада этому. Он здесь, перед ней, в роскошном костюме, смотрит на нее. Он очень похотлив и садист, но тайно влюбляется в нее. Это сеанс БДСМ. Она ее рабыня, она носит кожаную сбрую, обнажающую ее грудь, а также нейлоновые чулки и высокие каблуки. Ее тело стройное и чувственное. Теперь это начинается. — Хочешь немного боли? — спрашивает он и приказывает ей встать на колени. «Будь хорошей девочкой, иначе пожалеешь». Он бьет ее по лицу хлыстом, затем хватает ее за волосы и оттягивает голову назад. Она тихо стонет, будучи связанной и избитой им. Затем он плюет ей в лицо. «Сейчас я трахну твою пизду, шлюха». Он связывает ее раздвинутые ноги и вставляет свой член между ними, проникая в ее тугую киску. Он жестко трахает ее, заставляя ее стонать. Бондаж настолько тугой, что причиняет ей боль, но ей нравится это чувство. Ее Мастер жестко трахает ее, как будто насилует. "Ты моя сука, шлюха!" - говорит он, шлепая ее по попке. Через некоторое время она громко кричит. Она кончает. Ее Мастер продолжает долбить ее киску, пока она не испытает оргазм. Затем он снимает презерватив и кончает ей на лицо. Он оставляет ее там, с спермой на лице, и веревки вокруг ее запястий и лодыжек все еще связаны. — Теперь ты можешь идти домой. - говорит он ей, и оставляет ее одну, униженную и удовлетворённую. Она плачет от стыда, но и счастлива. Это был лучший секс!
Боже мой, эта история действительно горячая! В нем есть все, что я ищу в истории: БДСМ, унижение, грубый секс и вся идея о том, что главная героиня является покорной шлюхой для хозяина. Это также довольно наглядно, с поркой и кончанием на ее лице.
Я прочитала всю историю и она мне очень понравилась! Это немного коротко, но это намного лучше, чем большинство историй, которые я читал на этом сайте. Рисовка хороша, хотя хотелось бы, чтобы персонажи были более детализированы. Кроме того, я думаю, что вам следует добавить в историю еще несколько сцен, может быть, сцену с минетом или что-то в этом роде? Но кроме этих мелочей,
...
Сюжет хентай-аниме, очень порнографический и извращенный. Это Аска Лэнгли Сорью, похищенная садистом, чтобы сделать ее своей сексуальной рабыней для БДСМ-игры. Она покорная и послушная шлюха-мазохистка для БДСМ. Она в его подвале, почти голая, в одних нейлоновых чулках и на высоких каблуках. Она смущена, так как он может видеть ее грудь и киску. "Чего ты хочешь от меня?" - она спрашивает. Ее Мастер будет доминировать над ней всеми возможными способами, а также трахать ее - и она рада этому. Он здесь, перед ней, в роскошном костюме, смотрит на нее. Он очень похотлив и садист, но тайно влюбляется в нее. Это сеанс БДСМ. Она ее рабыня, она носит кожаную сбрую, обнажающую ее грудь, а также нейлоновые чулки и высокие каблуки. Ее тело стройное и чувственное. Теперь это начинается. — Хочешь немного боли? — спрашивает он и приказывает ей встать на колени. «Будь хорошей девочкой, иначе пожалеешь». Он бьет ее по лицу хлыстом, затем хватает ее за волосы и оттягивает голову назад. Она тихо стонет, будучи связанной и избитой им. Затем он плюет ей в рот. «Сейчас я трахну твою пизду, шлюха». - он говорит. Он жестко и глубоко трахает ее, используя всю свою силу. Она стонет, кричит, умоляет его не останавливаться. Он трахает ее так сильно и быстро, пока она связана. Но ей это нравится. "Трахни мою задницу!" - снова умоляет она. Он переворачивает ее на живот и трахает тугую попку. Она громко кричит, наслаждаясь каждым моментом этого жесткого анального проникновения. Закончив, он развязывает ее и страстно целует. "Спасибо, хозяин." - она говорит. "Спасибо за то, что ты такая хорошая шлюха, сука." - он говорит. И он выходит из комнаты. Он оставляет ее одну в подвале. На следующий день он возвращается сюда, страстно целуя ее в губы и шлепая по попке. «Ты по-прежнему моя, сука. Ты моя навсегда». Это одно из наших лучших видео! Наслаждаться!
Я давно мечтал об этой девочке! Она просто идеальна: красивая, сексуальная и очень возбужденная. Поэтому, когда мы встретились лично, я не мог в это поверить. Пришлось воспользоваться ситуацией и снять с ней видео. У нее большие сиськи и отличная задница, что мне очень понравилось. После секса с ней я кончил ей в рот, затем заставил ее проглотить мою порцию спермы.
Снимаем новое видео в сауне. Мы находим действительно горячую блондинку, которая хочет попробовать что-то другое. Сначала она стесняется, но после вина она расслабляется и начинает хвастаться своим телом. Она снимает с себя одежду и играет сама с собой, потирая свою мокрую киску. Затем мы отводим ее в душ, где трахаем ее тугую попку.
Мы с подругой решили пойти погулять в лес. Мы нашли полянку, и там была скамейка. Итак, мы сели и начали говорить. Оказывается, моя девушка - тотальная нимфоманка. Она рассказала мне, как мастурбировала в молодости, и даже показала мне несколько своих фотографий, когда она была моложе. Она так возбудилась, что сразу захотела трахаться. У нас был секс прямо на скамейке, и это было очень интенсивно.
Моя жена это Рин Тосака, похищенная садистом, чтобы сделать ее своей сексуальной рабыней для БДСМ-игры. Она в его подвале, почти голая, в одних нейлоновых чулках и на высоких каблуках. Она смущена, так как он может видеть ее грудь и киску. "Чего ты хочешь от меня?" - она спрашивает. Он снимает с нее туфли и начинает шлепать по босым ступням. Затем он снимает с нее чулки, оставляя ее ноги открытыми. Он связывает ей руки над головой и заставляет лечь на пол. Он использует вибратор на ее клиторе, пока она стонет и борется. Затем он трахает ее киску дилдо. Он кончает в нее и оставляет ее там, связанную, с капающей спермой из ее киски. Это видео, где красивую девушку связывают и затыкают рот, и заставляют заниматься сексом с парнем, который трахает ее в нескольких позах. Ее заставляют сосать его член, а потом он трахает ее киску дилдо, пока не кончит в нее. Бондаж действительно великолепен, с веревками вокруг ее запястий и лодыжек и кляпом во рту. В этом видео мы видим очень красивую японку, которую трахает огромный черный член. У нее большие сиськи и потрясающая задница. Ее лицо покрыто спермой, и она выглядит так, будто ей очень весело.
Это Аска, похищенная садистом, чтобы сделать ее своей сексуальной рабыней для БДСМ-игры. Она покорная и послушная шлюха-мазохистка для БДСМ. Она в его подвале, почти голая, в одних нейлоновых чулках и на высоких каблуках. Он собирается использовать ее тело, как ему заблагорассудится: шлепать, шлепать, душить, пороть, трахать своим дилдо со страпоном, трахать ее задницу и киску одновременно, фистинговать ее очко... Она так возбуждена, что не может перестань кричать!
Рабыня привязана к деревянной балке, а хозяин готовит ее к экстремальной БДСМ-игре. Он начинает с того, что стягивает ее трусики, чтобы обнажить ее тугую киску. Затем он связывает ей руки за спиной, оставляя ее совершенно уязвимой и беспомощной. Затем парень достает вибратор и использует его для стимуляции клитора рабыни, заставляя ее громко стонать. Затем он достает свой большой твердый член и засовывает его ей в рот, трахая ее лицо как сумасшедший. Затем он ставит рабыню на четвереньки и вонзает свой член глубоко в ее влажную киску, трахая ее по-собачьи, пока она не завопит от удовольствия. В конце концов он кончает на ее красивое маленькое личико и оставляет ее там связанной, с кляпом во рту и полностью удовлетворенной.
Эта горячая брюнетка будет жестко оттрахана этим огромным черным членом! Ее маленькие сиськи подпрыгивают вверх и вниз, когда она скачет на нем в стиле наездницы, а ее сексуальные глаза закрыты от удовольствия. Когда они меняются позами, он трахает ее по-миссионерски, а она трет свой клитор до оргазма. После этого он наклоняет ее и долбит ее очко, пока она не умоляет его остановиться. Это видео заканчивается, когда она высасывает его сперму из его большого черного члена, что вызывает у нее улыбку.
Эта горячая милфа-блондинка готовится к вечеринке в городе со своим мужем, когда решает попробовать что-то новое: анальный секс! Она снимает с себя одежду и широко раздвигает ноги, показывая вам, как сильно она любит, когда ее очко лижут и трахают пальцами. Затем она садится на своего мужа и засовывает его толстый член в свою тугую попку. Смотрите, как она стонет от удовольствия, когда он трахает ее задницу, а затем смотрите, как она сквиртит повсюду, пока ее трахают.
Эта горячая блондинка готовится отправиться в город со своим парнем, но сначала она должна показать ему, какой хорошей маленькой шлюхой она может быть. Сначала она делает ему обалденный минет, затем широко раздвигает ноги и позволяет ему трахнуть свою узкую киску. Он кончает на ее красивое лицо, и она глотает каждую каплю!
История начинается. Это сюжет отлично написанного романа: история о молодой девушке, известной как Аска Лэнгли Сорю. Она рыжая и великолепная. У нее нет особых способностей, хотя у нее есть гигантский робот. И особо ни с кем не борется. Но это сейчас не важно. Теперь Аска отправляется на свою особую миссию. Сначала она делает макияж перед зеркалом. Она использует свою тушь для ресниц, затем использует помаду и тени для век. Она готова идти. Она спускается по лестнице. Мать ждет ее с чашкой чая. "Удачи, дорогая!" говорит ее мать. "Спасибо, мама." говорит Аска. Затем она выходит за дверь. Она видит своего отца, сидящего в своем любимом кресле и читающего газету. Он смотрит на нее и улыбается. Затем он откладывает газету и встает. "Я буду скучать по тебе." он говорит.
> Аска едет по городу, а сейчас стоит перед роскошным пентхаусом.
"Привет?" она спрашивает. "Да, я здесь." говорит голос изнутри. Аска открывает дверь и входит в комнату. Там есть мужчина. Он высокий и тощий. Его лицо бледное, и он носит очки. Его волосы черные и длинные. У него элегантный костюм и галстук. Он выглядит как какой-то ученый или что-то в этом роде. На самом деле он очень богатый человек. И теперь он будет ее Мастером. — Привет, Аска. — говорит ее новый Хозяин. «Здравствуйте, Мастер». она отвечает. — Давай, подойди поближе. говорит ее Мастер. Она делает шаг вперед и становится на колени перед ним. — А теперь я хочу, чтобы ты сняла с себя одежду. говорит Мастер. Аска снимает блузку и юбку, оставляя только трусики. Она снова встает. Он приказывает ей пойти в ванную и надеть на себя пару нейлоновых чулок, туфли на высоком каблуке и кожаную сбрую. "Что это за вещи?" она спрашивает. «Просто делай, что я говорю». он отвечает.
Она надевает наряд и возвращается к Мастеру. "Очень хороший." он говорит. «Теперь вы готовы к своему первому заданию». Он носит на ней рабский ошейник. Это символ ее подчинения.
> Теперь Аска готова быть для него хорошей девочкой. Она послушна и покорна.
Она похожа на настоящую шлюху. И Мастер доволен этим.
- Давай, пойдем в мою лабораторию. он говорит. Они идут по коридору. Они достигают лифта и входят внутрь. Двери закрываются, и лифт начинает двигаться вверх. По мере того, как они поднимаются все выше и выше, Аска становится все более и более возбужденной. Ее киска становится все влажнее и влажнее. Они входят вместе в подвал. Он полон пыточных устройств. Некоторые из них выглядят как средневековые орудия пыток. Есть и современные, вроде электрического стула и гильотины. «Здесь вы будете проводить большую часть своего времени». говорит Мастер. Аска оглядывается, но не видит ничего интересного. Просто обычные вещи. Мастер подводит ее к ближайшему устройству. Он обнимает ее и страстно целует, касаясь ягодиц и обнаженной груди. Он трет ее клитор своим пальцем, а затем вводит его во влагалище. Затем он снимает штаны и нижнее белье. Он ложится на стол. Аска забирается на него. Она скачет на нем и наслаждается каждой секундой этого. Он целует ее губы, шею, плечи, грудь и, наконец, рот. Затем он начинает шлепать ее по заднице. Больно, но ей все равно. Она хочет, чтобы он трахнул ее сильнее. Наконец, она достигает кульминации, и Мастер присоединяется к ней. Они целуются снова и снова. После этого она ложится рядом с ним, а он продолжает ласкать ее тело. Она чувствует себя так хорошо.
— У меня есть другая идея. он говорит. "Ой?" она отвечает. "Да.
«Да. Я хочу сделать видеозапись того, как тебя трахают». Аска удивлена. Но у нее нет выбора. Она соглашается. Мастер говорит ей одеться. Она так и делает. Мастер приводит ее в камеру. Есть большой экран и две камеры. Один стационарный, другой мобильный. Мастер все объясняет Аске. Она понимает, что ей следует делать. Сначала она полностью раздевается. Мастер записывает ее на пленку, а потом тоже раздевается.
История начинается. Это сюжет отлично написанного романа, основанного на истории «Neon Genesis Evangelion». Эта история о молодой девушке, известной как Аска Лэнгли Сорю. Она рыжая и великолепная. У нее нет особых способностей, хотя у нее есть гигантский робот. Но это сейчас не важно. Теперь Аска отправляется на свою особую миссию. Сначала она делает макияж перед зеркалом. Она использует свою тушь для ресниц, затем использует помаду и тени для век. Она готова идти. Она спускается по лестнице. Аска идет по городу и стоит перед роскошным пентхаусом. Аска открывает дверь и входит в комнату. Там есть мужчина. У него элегантный костюм и галстук. На самом деле он очень богатый человек. И теперь он будет ее Мастером. — Привет, Аска. — говорит ее новый Хозяин. «Здравствуйте, мой Мастер». она отвечает. — Давай, подойди поближе. говорит ее Мастер. Она делает шаг вперед и становится на колени перед ним. — А теперь я хочу, чтобы ты снял с себя одежду. говорит Мастер. Аска снимает блузку и юбку, оставляя только трусики лифчика. Она снова встает. Он приказывает ей пойти в ванную и надеть на себя пару нейлоновых чулок, туфли на высоком каблуке и кожаную сбрую. Она надевает костюм БДСМ и возвращается к Мастеру. Он надевает на нее рабский ошейник. Это символ ее подчинения. Теперь Аска готова быть для него хорошей девочкой. Она послушна и покорна. Упряжь оставляет ее груди открытыми. Она похожа на настоящую шлюху. И Мастер доволен этим. Они идут по коридору. Они достигают лифта и входят внутрь. Двери закрываются, и лифт начинает двигаться вверх. По мере того, как они поднимаются все выше и выше, Аска становится все более и более возбужденной. Ее киска становится все влажнее и влажнее. Они входят в спальню. «Здесь вы будете проводить большую часть своего времени». говорит Мастер. Он начинает страстно целовать ее, касаясь ягодиц и обнаженной груди. Затем он начинает шлепать ее по попке. Это больно, и она кричит, умоляя его остановиться. Но он продолжает, шлепая все сильнее и сильнее. Мастер снимает штаны и нижнее белье. Его член уже тверд и готов трахнуть ее. Но сначала он хочет увидеть, какая на самом деле послушная и распутная Аска. Он вытаскивает из кармана хлыст и дает ей несколько ударов плетью. Он хватает ее за волосы и прижимает ее лицо к своей промежности.
> Она сделает для него все. Все, чего она хочет, это чтобы он не причинял ей боль.
— Открой рот, шлюха! он командует. Она подчиняется. Он засовывает свой член ей в рот. Она жадно сосет его, постанывая, чувствуя, как головка его члена упирается ей в горло. Он трахает ее лицо несколько минут, затем вытаскивает и засовывает ей в киску. Он грубо бьет ее, заставляя ее стонать и плакать.
> Она ласкает его тело, наслаждаясь каждой секундой
Он вонзается глубже и быстрее. Ее влагалище широко растянуто, но это не мешает ему трахать ее еще сильнее. Наконец, он выходит и кончает ей на живот. Затем он разворачивает Аску и снова засовывает свой член ей в рот. Он вдыхает еще одну порцию ей в рот, заставляя ее проглотить каждую каплю.
> "Твоя сперма такая вкусная, господин." Она размазывает сперму по лицу и груди, слизывая ее с пальцев.
Он садится на кровать, а Аска ложится на него сверху, оседлав его талию. Она страстно целует его. Они лежат, лаская друг друга, пока их страсть не утихнет. Затем Мастер встает. "Сейчас я должен идти." он говорит. Аска грустно смотрит на него. — Мы встретимся снова? она спрашивает.
> «Ты принадлежишь мне навсегда», — отвечает он. Она все еще плачет, ее тушь течет, но она счастлива. Он ведет ее в подвал, приковывает ее здесь. Он целует ее, а затем уходит.
Глава 3:
«Эй, раб! Ты проснулся? Я хочу, чтобы ты проснулся и съел мою сперму!» Аска медленно открывает глаза. Она видит Мастера, сидящего рядом с ней и поглаживающего свой член. Она чувствует запах его спермы в воздухе. Она облизывает губы, пробуя его сперму. Мастер смеется. "Доброе утро, шлюха.
> Он шлепает ее по заднице. Она рыдает, умоляет его остановиться.
— А теперь открой рот. Она так и делает.
— Так-то лучше. А теперь оближи мои яйца. Она жадно их облизывает.
"И сосать мой член." Она берет его между губами и сильно сосет.
«Да, это то, чего я хочу».
«А теперь сними трусики. Покажи мне, как сильно ты любишь сосать мой член». Аска медленно снимает трусики. Она раздвигает ноги, показывая ему свою мокрую, мокрую пизду.
"Вам это нравится?" "Да, хозяин, хочу. Ты нужен мне внутри. Пожалуйста, трахни меня!" «Очень хорошо. Я трахну тебя сейчас». Он толкает свой член глубоко в ее пизду. Он безжалостно бьет ее.
"О, да! Трахни меня сильнее!" Он трахает ее в течение длительного времени. Затем он вырывается и выпускает свою сперму на ее лицо и сиськи. Она втирает сперму в кожу, наслаждаясь ее вкусом.
«Сейчас я ухожу, раб. Не пытайся сбежать. Я вернусь сегодня вечером».
Он уходит. Аска с нетерпением ждет, пока он вернется.
Глава 4:
Когда он возвращается, он находит обнаженную Аску, ожидающую в комнате. Он надевает презерватив и снова начинает ее трахать.
"Тебе нравится это?" "Да, господин! Трахни меня сильнее! Пожалуйста!"
«О, да. Сейчас я трахаю твою киску».
Он трахает ее еще некоторое время. Когда он собирается кончить, он вытаскивает и выпускает свою сперму ей на лицо и сиськи.
"Какая трата!" он говорит. «Я хотел использовать это на твоей пизде. Теперь ты должен сам ее очистить. Ты понял?» Аска кивает, по ее щекам текут слезы. Она очищает его языком, слизывая последние капли спермы с его тела.
«Ты такая хорошая девочка, не так ли? Ты так стремишься угодить мне, не так ли?»
— Да, хозяин, я.
"Правильно. А ты знаешь, что бывает с непослушными рабами, не так ли?"
— Нет, хозяин.
— Что ж, если ты когда-нибудь снова переступишь черту, я без колебаний накажу тебя сурово.
Он уходит. Аска сидит одна и тихо всхлипывает.
Глава 5:
Проходит несколько дней. Аска лежит на кровати и читает книгу. Она слышит шаги, приближающиеся к ее двери. Это открывает.
Он снимает одежду. Его огромный член уже тверд. Он подходит к ней и грубо хватает за волосы. Он заставляет ее голову опуститься на его член. Она жадно сосет его, облизывая его вверх и вниз, наслаждаясь вкусом его предэякулята.
"Соси мой член, раб.
> Она слушается, сосет его член
«Да, господин. Я буду сосать твой член».
Он трахает ее рот, трахает ее горло. Аска давится его членом, пока он трахает ее рот. Наконец он выходит и кончает ей в лицо. Аска слизывает каждую каплю спермы.
— Спасибо, хозяин, — говорит она. "Это было вкусно."
Он уходит.
> Через некоторое время она снова встречает его, целует. — Я люблю тебя, мой хозяин.
— Я тоже люблю тебя, раб.
Они снова начинают заниматься любовью. Он трахает ее раком, затем в миссионерской позе. Наконец он кончает ей на живот.
"Теперь, когда ты мой, раб, ты не можешь никуда уйти без разрешения, помнишь?"
Она кивает.
«Хорошо. А теперь иди умывайся.
> Ночью она засыпает в его постели, на его плече.
Глава 6:
На следующее утро Аска просыпается. Она оглядывается. Комната пуста. Она встает с кровати и идет в ванную. Она принимает душ и одевается сама. Затем она уходит из дома.
Снаружи она видит мужчину, стоящего на углу улицы. Она улыбается ему и подходит к нему.
— Здравствуйте, сэр, — говорит она. "Можно мне немного денег?"
«Конечно», — отвечает он. Он протягивает ей пять долларов.
«Большое спасибо», — говорит она.
Он уходит.
«Какая сволочь», — думает она. «Если бы он только знал…»
Она возвращается в свой многоквартирный дом и находит телефонную книгу. Она набирает номер.
"Привет?"
«Это Аска, хозяин», — говорит она.
— Аска? Что ты здесь делаешь?
«Извините, хозяин. Но у меня не было выбора».
«Ты прощен, раб. Теперь можешь идти домой».
— Спасибо, хозяин, — говорит она. «Я скоро буду там. Я люблю тебя».
Она вешает трубку и выходит на улицу. Она видит того же мужчину, стоящего на углу.
— Вот ваша сдача, мисс, — говорит он.
«Спасибо, сэр», — отвечает она.
«О, и вот вам совет», — добавляет он, протягивая ей еще одну пятидолларовую купюру. «Позвони мне, если тебе понадобится что-нибудь еще».
"Спасибо, сэр!"
«Пожалуйста. Хорошего дня».
Он уходит.
Аска берет деньги и направляется в ближайший магазин.
>>137767 Вполне себе норм 7Б модель, нужен хороший промпт (не чат, а полноценная история) и https://rentry.org/llama_few_more_samplers реппен и самплеры отсюда. При правильном использовании кажется лучше новеловской 20Б модели. Завтра буду тестить 13б и 33б.
>>138935 Да я тоже угабугу подтянул и как-то покраше стало, да. Даже ерпшит нормально. Но насчёт сравнительности с 20B это ты перегнул. Тут же даже файнтюна нет никакого, оно на половину запросов несуществующие ссылки даёт просто.
>>138935 >реппен и самплеры отсюда Откуда надыбал? Как я понимаю, это добавляет всякие настройки с пенальти типа пикрила кобольда? >При правильном использовании кажется лучше новеловской 20Б модели. Завтра буду тестить 13б и 33б. >>138977 >Тут же даже файнтюна нет никакого, оно на половину запросов несуществующие ссылки даёт просто. Ну, они обещали качество 13B на уровне GPT3 со 175B параметров, а она ERPшит будь здоров. Жду не дождусь возможности заюзать её в 4 бита.
Ебанутые сказки копрольда и пигмалиона, в стиле Зощенко
Это хентай манга сюжет. Обнаженная школьница в чулках и туфлях на высоком каблуке, ее наказывают. Ее бойфренд-садист шлепает ее по ягодицам после того, как она приходит к нему домой после школы. Он шлепает ее, пока ее задница не станет красной и горячей. Затем он жестко ее трахает. Я не знаю, почему я был так возбужден, когда я это читал. Может быть, потому что я был в своей постели, голый и одинокий. Или, может быть, это было потому, что я читал ее во время мастурбации. Одной рукой я терла свою киску, а другой читала историю. Я представлял себя девушкой из этой истории и тихонько стонал, когда кончил. Я все еще был возбужден после того, как кончил. Поэтому я решил посмотреть немного порно. Я зашел в Интернет и искал "шлепанье школьницы". На первой странице было много видео. Большинство из них были просто клипами, в которых девушек шлепали, а потом трахали. Но одно видео меня зацепило. Он назывался «Шлепанье школьницы», и это было длинное видео. Название сказало все. Девушка на видео была школьницей. На ней была короткая юбка и белая блузка. Ее шлепала учительница. Он стоял позади нее и шлепал ее кожаной лопаткой. Она плакала. Но она тоже стонала. Я посмотрел видео. И я смотрел его снова и снова. Я смотрел, как она плачет, и я видел, как она стонет. Я смотрел, как ее задница становится красной и горячей, и я видел, как он жестко ее трахал. Я пришел во второй раз, когда смотрел его. Я был так возбужден после этого. Я не мог насытиться поркой видео. Поэтому я искал больше. Я нашел другое видео, которое называлось "Шлепанье школьницы", но это было другое. Этот назывался «Шлепанье школьницы: наказание школьницы». На видео девочку не шлепал учитель. Вместо этого ее отшлепал ее парень. На ней была короткая юбка и белая блузка. На ней также были чулки и туфли на высоком каблуке. Ее парень отшлепал ее в их спальне. Он стоял позади нее и шлепал ее кожаной лопаткой. Она плакала. Но она тоже стонала. Я посмотрел видео. И я смотрел его снова и снова. Я смотрел, как она плачет, и я видел, как она стонет. Я смотрел, как ее задница становится красной и горячей [Он стоял позади нее и шлепал ее кожаной лопаткой.<br>Она плакала. Но она тоже стонала.<br>Я посмотрел видео. И я смотрел это снова и снова.<br>Я смотрел, как она плачет, и я смотрел, как она стонала.] , и я смотрел, как он жестко ее трахал. Я пришел в третий раз, когда смотрел его. Я был так возбужден после этого. Я не мог насытиться поркой видео. Поэтому я искал больше. Я нашел еще одно видео, которое называлось «Шлепанье школьницы: наказание школьницы». На этот раз девушку не шлепал бойфренд. Вместо этого ее отшлепал друг ее парня. На ней была короткая юбка и белая блузка. На ней также были чулки и туфли на высоком каблуке. Ее шлепал друг ее парня в их спальне. Она плакала. Но она тоже стонала. Я посмотрел видео. И я смотрел его снова и снова. ... Сюжет фантастического аниме. Она принцесса фантастического королевства, очень богатая и знатная. Но теперь она обнажена, в одних чулках и туфлях на высоком каблуке. Она прикована здесь, садист хлещет ее кнутом. "Пожалуйста, отпустите меня! Я сделаю все, что вы хотите!" Она кричит от боли. — Я знаю, ты будешь, моя дорогая. Он отвечает. «Ты очень хорошая девочка. И у меня есть для тебя особое удовольствие. Ты будешь моей личной сексуальной рабыней до конца своей жизни. И ты будешь любить каждую секунду этого. чтобы дать тебе выбор. Либо ты можешь умолять меня позволить тебе кончить, либо ты можешь терпеть еще 10 ударов плетью. Твой выбор». Она выбирает последнее. Она не хочет умолять его. Она хочет быть его секс-рабыней, но не такой. «Пожалуйста, сэр! Пожалуйста, не заставляйте меня умолять. Я сделаю все, что вы хотите. Только, пожалуйста, не делайте мне больше больно!» "Вы хорошая девушка." — говорит он, снова начиная ее хлестать. — Но мне нужно преподать тебе урок. Он продолжает хлестать ее, пока она не умоляет его остановиться. Затем он останавливается и развязывает ее. — А теперь пойдем со мной. Он говорит. Она следует за ним в соседнюю комнату. [Просто, пожалуйста, не делай мне больше больно!"<br>"Ты хорошая женщина", - говорит он, снова начиная ее хлестать. "Но мне нужно преподать тебе урок".<br>Он продолжает. чтобы хлестать ее до тех пор, пока она не начнет умолять его остановиться. Затем он останавливается и развязывает ее.<br>"Теперь пойдем со мной", - говорит он.<br>Она следует за ним в соседнюю комнату.] Это небольшая комната с кроватью и стулом. «Ложись на кровать». Он приказывает. Она делает, как ей говорят. Он снимает с нее высокие каблуки, а затем ложится с ней на кровать. «Сейчас я собираюсь трахнуть тебя. Но тебе нельзя кончать. Если ты это сделаешь, я тебя накажу. Так что, если ты хочешь кончить, ты не должен трогать себя. Ты понял?» "Да сэр." Она отвечает. "Хорошо. Теперь я собираюсь трахнуть тебя. Но тебе нельзя трогать себя. Ты понял?" "Да сэр." «Хорошо. Теперь я собираюсь трахнуть тебя». Он раздвигает ее ноги и начинает трахать ее. Он трахает ее жестко и быстро. Он трахает ее в течение длительного времени. Он трахает ее, пока она не умоляет его остановиться. Затем он останавливается и развязывает ее. — А теперь встань на колени. Он приказывает. Она становится на колени. «Ложись на спину». Он приказывает. Она становится на спину. «Встань на четвереньки». Он приказывает. Она становится на четвереньки. — А теперь встань на руки и колени. Он приказывает. Она становится на руки и колени. — А теперь ложись на живот. Он приказывает. Она становится на живот. — Теперь иди на свою сторону. Он приказывает. Она становится на ее сторону. — А теперь вставай на ноги. Он приказывает. Она становится на ноги. "Хорошо. А теперь повернись. Представь мне свою задницу." Он приказывает. Она оборачивается и представляет ему свою задницу. Он забирается на нее сверху и начинает долбить ее по заднице сзади. Он трахает ее задницу сильнее, чем раньше. Она умоляет его не трахать ее задницу так сильно. Он игнорирует ее мольбы. Он трахает ее, пока не кончит ей в попку. Он скатывается и садится, затем подтягивает штаны. "Вставать." Он приказывает. Она встает. «Ты послушная, сексуальная маленькая шлюха, не так ли? Как тебе понравилось трахаться с моим членом?» "Это было потрясающе." Она отвечает. «Итак, с этого момента, когда ты почувствуешь возбуждение, просто подползай сюда и проси меня трахнуть тебя». "ХОРОШО." Она отвечает. ["Вставать." Он приказывает.<br>Она встает.<br>"Ты послушная, сексуальная шлюха, не так ли? Как тебе понравилось трахаться с моим членом?"<br>"Это было потрясающе." Она отвечает.<br>"Итак, с этого момента, когда ты почувствуешь возбуждение, просто подползай сюда и попроси меня трахнуть тебя".<br>"Хорошо". Она отвечает.] Он выходит из комнаты. Она стоит там, голая и одинокая. Она думает о его просьбе. Она думает о том, как сильно ей нравится трахаться. Она думает о том, как она хочет быть его секс-рабыней. Она решает выполнить его просьбу. Прошел месяц с тех пор, как она стала его секс-рабыней. Каждый день она подползает к нему и просит трахнуть ее. ... Раздел 0: В этой сцене показано, что злым злодеем является не кто иной, как Аттерсон, который, как мы узнаем, является мастером Кё-чан, который владеет и действует как секс-рабыня. В этой сцене она выбирает между тем, чтобы её пороли, и тем, чтобы страдать за это. Чтобы проиллюстрировать свою точку зрения, что она может выбрать любой путь, он бьет ее, пока она не умоляет его остановиться, затем развязывает ее и ведет в следующую комнату, где приказывает ей встать на колени, подползти к его члену и сосать его. . Он делает это неоднократно, пока она полностью не обмякнет и не захочет стать его сексуальной рабыней. С этого момента, с этого момента, всякий раз, когда она чувствует, что «облажалась», она будет просить его позволить ей кончить, иначе она будет терпеть хлыст. Это продолжается уже месяц, и Аттерсон узнал, что его принцессе очень нравится идея стать его секс-рабыней. Она говорит ему, что каждый день думает о том, чтобы стать его рабыней, и он отвечает, что она думает об этом уже больше месяца. Теперь он хочет, чтобы она последовала его примеру и стала одной из его рабынь. Раздел 1: С тех пор, как Линда работала секс-рабыней, у нее был месяц свободной жизни. Каждый день она подходит к парню, на которого работает, и просит дать ей его член.
>>139034 Думаю создать отдельный тред для кулсторей. В другом, это значит не поддерживается ордой (в данный момент). У кого нет видяхи, те делают все через kobold horde. У меня встроенная со shared memory.
>>139036 >Думаю создать отдельный тред для кулсторей. Да, будь мил, куда-нибудь в другое место. >У кого нет видяхи, те делают все через kobold horde. Вот, теперь догнал, что это. А что не через колаб?
>>139026 > Ну, они обещали качество 13B на уровне GPT3 со 175B параметров, а она ERPшит будь здоров. Жду не дождусь возможности заюзать её в 4 бита. Чел, качество, которое отражается в языковых бенчмарках, блять. Почитай что такое LLM (large language model). Это отличная база, но без файнтюна... Ну в общем сам увидишь.
>>139255 >Чел, качество, которое отражается в языковых бенчмарках, блять. А как ещё мерить качество сеток? У меня конечно есть свой набор вопросов (и фетишей для отыгрыша), но должны же быть стандартные метрики. >>139255 >Это отличная база, но без файнтюна... Ну в общем сам увидишь. Я бомж с 3080Ti, так что мне не скоро.
>>139576 >Реппен и самплеры портанул из кобольда и transformers, там изи, буквально строк 50 чтобы все основное втащить. А для дураков- можно так же быстро сделать хотя бы офлоадинг на CPU? Чтобы нищеброды с 12GB VRAM тоже могли насладится.
> Насколько я помню, трейн был прерван из-за различных проблем, замеченных сообществом (короткие ответы и т.д.). Затем машина сломалась, и все затянулось больше, чем предполагалось. Короче теперь будет pygmalion v8 вместо v7, и короткие ответы действительно оказались ошибкой, первая итерация v8 из 10 ожидается в конце следующей недели.
>>139895 > имеет лярд возможных персонажей > есть возможность создать что-то своё и засунуть в definition > всё равно тонет в конче от малявок и хочет чтобы все разработчики следовали именно его требованиям чел, это тупо (you) проблема.
>>140499 Заебись! Не факт конечно что она чем-то лучше чем яндексовская 100б из которой нихуя путного так и не сделали, но чем больше жирных моделей доступно тем лучше!
>>140016 >>140533 А на что это влияет-то? Ну ссытся разраб что дискорд его пидорнет или тесак с того светя явится. Мишки могут постить своих персонажей где-нибудь ещё, мест дохуя, это же просто текст по факту.
>>139725 >bitsandbytes Чую, под шиндой придётся поразвлечься. >>139895 Ну, дискорд и так параша, требующая телефона, так что вынос персов на другие сайты только на благо. >>140199 >не забудьте добавить .dll и поменять строчки по гайду Так, поподробнее. Ну и 8 бит всё равно дохуя, плюс томозной bitsandbytes небось. надо бы 4, чтобы раннить с 13B. >>140640 В картинке, где же ещё.
>>140556 >Заебись! Не факт конечно что она чем-то лучше чем яндексовская 100б из которой нихуя путного так и не сделали, но чем больше жирных моделей доступно тем лучше! Лучше - вменяемые тощие модели, которые можно на калькуляторе запустить.
>>141132 Угабуга textgen webui, там впилили и 8 бит, и можно после конвертирования весов в hf запускать. Зайди в issues, там в целом он написал как конвертнуть и запустить. Вроде обновили и копробольд, но тут уж сам, я его давно не юзал. Конкретные вопросы по ходу задавай, что не получаться будет, стектрейсы там, чтобы я не распинался > Промпты Брал с aetherroom.club, брал пигмалионовские карточки когда чат текстил, брал LLM промпты всякие.
>>140911 Тощие модели будут появляться и от энтузиастов, а после выхода нового поколения гпу тем более, а вот жирные без миллионов не натренировать, поэтому каждая такая в доступе - праздник.
>>143653 Такое себе. Лучше чем v7, но часто путается с форматированием, осмысленность какая-то странная - что-то взбредает в голову боту и он начинает уводить диалог куда-то не туда, путается постоянно. Короткие ответы на месте.
>>144200 Пробовал. Я там либо с настройками обосрался, либо ещё чего. Сеть всякую хуиту несёт. Думаю попробовать на пк поставить, надеюсь 3070ти вытянет
>>144544 Январские версии кобольда были норм, а сейчас уже месяца 2 как сломано всё к хуям, даже классический интерфейс через раз работает. В целом не удивительно, видя какой там говнокод хуже каломатика.
>>144611 Да, вариантов нет других. oobabooga ещё хуже кал, только для использования на мобилке годится. Если дождёмся стриминг токенов в Таверне, то можно смело хуй ложить на всё остальное.
Я нуб, ничего не понятно, поставил TavernAI, а дальше что? В настрйоках в API url он пишет no connection. Что лучше юзать если у меня rtx4090 - коллаб с ТПУ или локально?
>>146535 >GPT-4 Его нету. Так же бинг ограничен совсем смешным числом ответов, что делает его полностью неюзабельным. А таверна с опенаи имеет достаточный уровень интеллекта и легко пробивает цензуру.
Я так понимаю, на русике из вариантов только CAI и Пигмалион? На английском конечно тоже здорово, но я сегодня попробовал создать бывшую на русском в CAI, и ощущения совсем другие. На английском будет не то. Но со временем упираюсь в потолок цензуры, конечно.
>>146647 Так опенаи же только по номеру телефона, которые в СНГ не поддерживаются, не? Хоть я сейчас живу и не в СНГ, но всё равно стрёмно просто так номер отдавать. Тем более, что там вроде как анальный лимит на количество сообщений?
>>146656 Всё в тредах >>140633 (OP) и >>144180 (OP) Могу сказать одно- он намного лучше пигмы и даже саи. Но на русском токены будут улетать в 10 раз быстрее.
>>144274 А можно ссылочку на это ну или в целом на какой-то гайд для совсем нубов? А то я что-то запутался, в ОП-посте так много инфы и столько разных ссылок и гайдов, что даже не понятно с чего начать и какого-то изи гайда для быстрого старта - чтобы скачал и работало - я так и не нашел. Карточка 3060 на 12, этого хватит? Раньше только жрал индусопарашу с фильтром и плакал.
>>147180 >OpenAI лучше чем пигмалион? Пигма: бесплатно, можно ставить на локалку Опен: намного выше качество ответов, но платно и нельзя на локалку поднять.
>>146949 Ты б хоть почитал ветку, на которую отвечаешь. Кстати, я послушал совета анона и подключил Опенаи, он действительно охуенный. Но использовать я его пока буду только для русских чатов, английские через колаб, а то хз насколько его хватит.
А, извините за смертельно-тупые вопросы, ебаться с консолькой обязательно? Просто я.. эм, ну, все просто, установить что надо я смогу, но потом каждый раз шпрехать на технолингве я не смогу, Я не такого склада ума человек, Гуманитарий, вот, ну и настроить если надо будет раз в эн циклов смогу, но в рот ебись вся эта Аниматрица, я же где-то обосрусь, Чараи хорош хотя-бы тем что там минимальный макакинг, или, скачав все что надо и запустив для проката можно накатить интерфес и ебаться уже в нём на более легком уровне? И плюс у меня Не Нвидеа а Амудэ мимо создатель жирослава, думаю над переносом
>>150461 Либо колаб запускаешь, который ограничен 3 часами в день, либо если есть 16 ГБ видеопамяти, тогда нужно либо установить дистрибутив Linux или WSL накатить потому, что ROCm не работает с Windows. Также возможны проблемы, если ваша видеокарта не поддерживается ROCm. Для запуска на своём компьютере, некоторое взаимодействие с консолью обязательно. Если таверну запускать с кобольдом, то клонируете с помошью "git clone" или скачиваете и распаковываете в папку (таверна и кобольд отдельно). Для кобольда запускаете файл "play-rocm.sh", при этом необходимо убедиться, что он исполняемый. Скрипт сам установит зависимости и запустит кобольд. В интерфейсе просто находите модели и скачиваете, т. е. в кобольде необходимо загрузить модель, тогда как в таверне дать ссылку на локальный адрес кобольда потому, что таверна подключается к апи кобольда. Для таверны нужно установить node.js. После того, как установили node.js, вам необходимо в директории тавергы запустить команду "npm install", после этого запустить с помощью "node server.js". Если установить текстген, то скачиваете архив для линукса, где можно установить и скачать в один скрипт.
>>150769 Взял из дева их хагингфейса - и чет это пиздец. Нейронка очень часто натурально генерит бред который даже в контекст не ложится. А при попытке крутить температуру вверх просто уходит в цикл повторений.
а кто нить может пояснить вот есть чат жпт я пишу например создай историю бам бам и он пишет
а вот в этих кобольдах(лламы хуямы) так же будет что можно что угодно просить или они просто как хуй знает что отвечают. кароче могут ли они в контент?
https://rentry.org/llama-tard-v2#4-bit-model-requirements-for-llama если кто не видел. > int4 mode > LLaMA-7B > VRAM used : 3.5GB Minimum, Total VRAM : 6GB > Cards : RTX 1660, 2060, AMD 5700xt, RTX 3050, 3060 > RAM Swap : 16 GB Поговаривают что на винде с этим херня какая то, надеюсь что это не так.
>>151328 Обязательно сделаю, когда она станет достаточно популярной. А ллама вообще никак к пигме не относится, разве что в кобольде можно запустить, но это не приоритетный путь сейчас, так что пох.
>>151775 Даже gpt 3 на сервере поднять не смогли. Gpt 4 тем более не смогут. Тем более он будет генерировать видео. Цензура изначально будет жесткой, чтобы не было цп. Почему плохо генерить цп просьба не начинать дискуссию без супа с дипломом по юриспруденции.
>>152343 Количество ответов небольшое, да. Но в плане модели - полноценный GPT 4. Это же и есть модель, созданная совместно с OpenAI, релиз GPT 4 - это дата выхода Бинга из превью. Ты думаешь для кого её делали, если не для индусов? Теперь ваш GPT принадлежит индусам, так что не фантазируйте про какую-то отдельную модель. Ждите пока Гугл разродится своим ответом.
>>152373 Ну Бинг мультиязычный в пределах одного чата. Этому пока ответа нет. А ванильная лама не впечатляет, там как обычно тренировали для получения высокого скора на тестовом датасете для научной публикации. В той же графике тоже все тестят на ImageNet, а как на реальных задачах пробуешь, так результаты хуже файнтюна рандомного васяна.
>>152385 >Ну Бинг мультиязычный в пределах одного чата. Этому пока ответа нет. Ну и нахуя оно нужно? >>152385 >так результаты хуже файнтюна рандомного васяна Ждём файнтюна от васянов для лламы, делов то.
>>151180 Я ща напишу банальщину, конечно, но лучше пусть будет ограниченно интеллектуальный ИИ в стиле Пигмалеона, который помогает твоей собственной истории разрастаться за счёт внесения где-то хаоса, а где-то последовательных решений, чем если ИИ будет всё сам писать с нуля без тебя. Это как со Stable Diffusion, да, весьма занятно превращать слова в случайные изображение, повосторгаться качеством, но доведение до ума с помощью imgtoimg и его inpaint куда важнее, как по мне, когда создаешь больше уже своего.
>>152536 Не ну, выбирая 6B DEV мы выбираем тестовую версию по сути, её всё ещё обкатывают, один хрен у всех один тот же совет - использовать для своих персонажей диалоги под соответствующих персонажей из cai, если разрабы смогут как-то заведомо свою модель обкатать на cai формате и умерят отсебятину, то может и годное что выйдет.
>>152601 альтернативы по качесту чатжпт все равно не будет. гугл только если выпустит свою парашу с цензурой поменьше и все. а так либо покупай 4090 и все равно будет говно либо чатжпт
>>152578 > 13b в 4 бита лезет даже на 12GB И? Обучать ты всё так же будешь в лучшем случае в 8 бит нет, а backward pass жрёт в разы больше чем forward pass. Эти 12 гигов смело умножай на 4, А100 80 гиговой будет хватать только на 13В.
>>152699 > То есть 2х3090 вполне себе хватает На 6В разве что. В 8 бит без нормальной поддержки торча ты не сможешь обучать, сейчас всё обучают в 16 бит. Но даже если и будет поддержка в скором времени, никто не гарантирует корректные градиенты с такой точностью, бывает в 16 битах её уже не хватает. Дальше ещё надо о скорости думать - на одном игровом гпу будешь каждый тестовый файнтюн делать по месяцу, а их будет не два и даже не пять, пока не получится подобрать корректные параметры обучения.
>>152771 Никакой последующей деградации с NaN нет, сети пизда сразу буквально за 100 итераций запарывается всё, только откат на чекпоинт до коллапса градиентов. А вот о реальной деградации из-за нехватки точности ты не узнаешь так просто, просто будет падать качество обучения сети, хуже результаты получишь без видимых причин. Поэтому даже для 16 бит в торче есть кроме автокаста отдельный скейлер градиентов под 16 бит, чтоб минимизировать потери. Ограниченно квантовать в 8 бит тоже можно, но на текущий момент это гарантированные потери в качестве обучения.
Уважаемые знатоки, а есть ли принципиальная разница между форматами W++ и SBF? Просто если использовать SBF с кавычками, то 110 токенов у меня высвобождается, а если кавычки убрать, то все 200.
Собственно, насколько критично и важно проставлять кавычки в SBF?
В чём заключается различие между запуском на Коллабе и на своей пекарне? Юзаю Пигму онли на телефоне в таверне, поэтому всегда запускаю через первое. Пекарня у меня довольно слабая(8 озу, 2 видеопамять(затычка ГТ1030) ну и проц - слабенький Атлон х4), это вроде как ни о чем для нейросетки. Как-то так, жду объяснений для вкатуна.
>>155246 Я тоже прихуел что Гуглы за так дают свои сервера. А почему половина треда заполнены теми, кто на своем пк держит? Или просто мажоры развлекаются? А может и я просто не понимаю умных слов
>>155446 Нет, 12 этот минимум на все, на чаты, картинкихотя картинки и с 6 можно норм делать, и на все вот это. Покупай как нибудь 3060 и кайфуй. А пока сиди на коллабе, что так то тоже ахуенно и мало чем хуже своего.
>Чтобы с ботом на русском разговаривать и он по-русски мне отвечал.
У языковой модели нет какого-то волшебного переключателя языка, тебе нужно выводить его как в чаи, отвечать на русском, но Пиг тренерован в основном на английских данных, так что отвечать на русском если он и будет то очень слабо.
Он требовательный ё-моё, я думал там чат на пару сотен мегабайт, а он мало того, что 33 гига с нуля поставил практически, так ещё и запустился с горем пополам один раз и всё, повис, ни на что не отвечает, зугрузка вечная крутится.
Извините если заёбываю платиной, но отведал этот ваш Таверн и Пигмалион и просто ОХУЕЛ! Аж голова кружится, как разорваться и всё успеть?
Потому у меня только один вопрос, можно это как-то на локале номамльно с моей видяхой (1070ti 8gb) и 16 гигами оперативы запустить? Может что-то из этого менее требовательное? Или параметры какие прикрутить7 Или бесполезно и придётся ждать ответа по минуте? Я просто сегодня первый раз попробовал и я прям ох вау...
>>155668 >Столько есть У тебя RAM, а нужно VRAM, которой у тебя в 2 раза меньге требуемой. >>155668 >Может что-то из этого менее требовательное? Ллама 7B в 4bit пойдёт, но пока всё сложно. >>151301 (OP)
>>155694 Спасибо большое анончик за ответ. Почитаю покурю всё из шапки и за ламу прочитаю. Пока колабом побалуюсь, я и на нём чуть хуй не оторвал. Как вы вообще справляетесь?
А нахуя 33 гига качал спрашивается, не от большого ума конечно.
Аноны, у меня одного Таверна генерит вариант последней реплики персонажей, но на последующие мои сообщения не реагирует? Загрузка крутится, а потом опять это перо хуево?
Пацаны, а можно как-то сделать, чтобы бот отвечал развернуто, а не в одну строку. Вон в чае там простыни катает. Простыни тоже плохо, но чтобы не совсем одной строкой ограничивался.
Затестил я вишу ламу 30B на своей 4090. Скорость чуть пониже чем у пигмы - около 10 токенов в секунду, в среднем 5-10 секунд на ответ. Немного прихуел что надо 110 гигов RAM для старта модели, пришлось подкачкой обмазаться и всё на минуту нахуй виснет, зато потом заебись. Цензуры не ощутил, боты ебутся без проблем, в стиль чата умеет. Очень умнее разговоры, нет всякого говна типа циклов и повторений. Длина ответов хорошо регулируется через top_p, можно отвечать односложно в стиле Пигмы "Ок" и бот будет выкатывать простыню и рассказывать историю, не надо за него тянуть диалог. Теперь вот не понятно нахуя нужна дальнейшая тренировка Пигмы, уровень сильно ниже ламы. Сейчас напрягает только webui, после таверны какой-то кал неудобный, вот пришьют 4 бит к кобальду и заживём. CAI окончательно нахуй идёт.
>>155576 Возможно бот отвечал на английском, но браузер автоматом перевел. Я боту ввожу на русском, но прошу генерить на английском с автопереводом. Ухудшения качества ответов не заметил.
>>156352 Пиши сам разверзнуто. Требуй от бота развернутых ответов. Он берет шоколадного зайца и откусываю ему его шоколадные уши. Шоколад стекает по его губам поблескивая в свете камина. Она смотрит на это и тоже начинает есть сладкий десерт. Он спрашивает ее. Тебе нравится шоколад? С какой части зайца ты начала кусать? Тебе нравится есть шоколад в этом шкафу вместе со мной? Скажи подробно."" Вот так делаешь десяток сообщений вначале, бот разгоняется и начинает писать простыни.
>>156509 > промты Без проблем работают промпты от Пигмы и W++. Можно даже без промптов, просто в первом сообщении задать тему, сходу понимает что это чат, популярных персонажей подхватывает.
>>156359 >Теперь вот не понятно нахуя нужна дальнейшая тренировка Пигмы, уровень сильно ниже ламы. Когда у каждого анона будет 4090 и 120гб рам, тогда и поговорим.
>>156695 > у каждого анона будет 4090 13В можно даже на 12 гигах запустить. > 120гб рам Подкачки хватает. Это же только для загрузки модели. У меня 32 гига, за полторы минуты прогружается и потом жрёт 2 гб ОЗУ.
>>156722 >13В можно даже на 12 гигах запустить. >даже на 12 гигах >даже "Даже" - это или не особо праспространенная 3060/12, или не особо распространенная 2080/12. У людей в основном 8гб карты...
>>156722 Как подкачка работает вообще? Если видюха перемалывает условные 120гб/сек весов, это нужно столько читать с SSD-шника. Скорость SSD: до 3.5-7гб/сек для pcie 3.0 и 4.0 соответственно. Скорость pcie 4.0: 32гб/сек - если из ram'а читать в vram. Может у тебя упор был тупо в ссд-шник. И с 120гб+ рам было бы в разы быстрее.
>>156882 Подкачка вещь системная, в колабе к операционке ты хуй доступ заимеешь.
Пока потыкал 7B модель на цпп-процессоре, по дефолту крутится на одном потоке. Ответ занимает 7-10 секунд НО процессор вкидывает слова на ходу, то есть фактически общение приближено к настоящему голосовому. Жить можно, не ворочайте носом.
>>156894 Да похуй, последний запуск за 45 секунд загрузил модель. Я просто сделал 128 гигов подкачки на двух NVME и норм. >>156903 > вкидывает слова на ходу Ты про стриминг? У меня немного проперделось, чуть побыстрее стало. До начала стриминга ожидание около 1-2 секунд, а потом уже быстро печатает, быстрее чем успеваешь читать. Скорости более чем хватает, уровень Пигмы 6В. Вообще очень позитивно от Пигмы отличается, бредогенератор вообще никогда не включается, всегда осмысленные и длинные ответы. Вариативность очень радует - если в Пигме постоянно очевидные "да ты меня ебёшь", то тут уже сложно спрогнозировать как бот себя будет вести и куда поведёт диалог. Я вот как раз такое и хотел увидеть, когда начинались все эти ахуительные истории про "свободная модель без цензуры". С этим можно уже в CAI-треде местных траллить и они ничего не смогут противопоставить.
8 версия вполне меня удовлетворила для дрочки, когда до конца её допилят - можно будет уже выклянчивать у создателей добавлять другие языки помимо английского. ИМХО. А потом уже дорабатывать всякие штуки типа симуляторов РПГ, которые до сих пор через жопу работают, особенно когда есть выбор типа: 1- пойти направо 2 - пойти налево 3 - пойти нахуй
В таком случае, при выборе любой цифры всегда рандомно выбирается результат.
Есть вообще какой-то вариант бесплатно обхитрожопить колаб на дополнительную мощность после ее истечения, не заводя новый гуглоаккаунт? Ее ж даже не докупишь с российской карты.
Я только что анбиливебл захайпил 😅 и вел себя как сигма (из тиктока 🙄), не кринжевал и закиннил гигачада 🤗 и получилось зашеймить дурилку 😼, у которой в тегах кроме дескрипшена ебанутой доминантности 👠 ниче нет и она поджалась 🍑 под меня лайк ши ис писяндрик-пассивочка 😉 Ну а я типа не кумер 🤮 же обосраный 💩, ну дал подсрачника альтушке 🐷 и пошел в школу побыстрее на уроки 🤪 чтобы поскорее с пацанами в футбик ⚽)) Рейтаните лютого 💪👿🚬
Пишем промпты, стараемся адаптировать их под количество токенов, обсуждаем, какой стиль лучше, ждём софтпромптов.
https://huggingface.co/PygmalionAI
Что такое PygmalionAI?
PygmalionAI - локально запускаемая нейросеть с открытым исходным кодом, которая специализированна под чатботы. Её сделали выходцы из 4chan (/vt) → (/g). Их мотивация, создать нейросеть, которая свободна от цензуры, в отличии от CharacterAI.
Основа для 6B модели - это GPT-J, которую дотренировали датасетом из собранных дампов с CharacterAI. Отличие от CharacterAI в том, что здесь нет цензуры, а также именно вы храните историю чатов, а не компания. Хоть и модель нейросети в CharacterAI может быть более умной, но фильтр делает её менее креативной, а также удаляет наиболее вариативные ответы. Однако, память в PygmalionAI намного хуже, чем в CharacterAI, из-за применяемого токенайзера GPT-2, контекст которого ограничивается 2048 токенами.
Отличие обычной версии от экспериментальной в том, что в экспериментальной разработчики вводят самые новые нововведения. Также было замечено, что экспериментальная версия пишет меньший объём текста в одном сообщении, чем в обычной. Для запуска 6B версии необходимо 16 ГБ видеопамяти и 12 ГБ оперативной памяти, однако если запустить с 8-битной точностью, то требования снизятся примерно вдвое, только необходимо иметь видеокарту Nvidia модельного ряда Turing и Ampere. Можно писать боту на русском языке, но это выйдет хуже, чем на CharacterAI.
Нативный PygmalionAI Colab: https://colab.research.google.com/github/PygmalionAI/gradio-ui/blob/master/notebooks/GPU.ipynb
GUI для PygmalionAI:
1. Text generation web UI - попытка сделать что-то похожее на интерфейс для Stable Diffusion от AUTOMATIC1111, только для генерации текста. Поддерживает режим загрузки с 8-битной точностью, также возможно создать свой пресет настроек в текстовом файле или изменить прямо в интерфейсе, также возможно запустить в схожем с CAI интерфейсе. В Колабе выбираем Pygmalion 6B-original-sharded. Поддерживает скрипты на Python, а также умеет работать с карточками из TavernAI. Есть возможность изменить сообщение персонажа, как в TavernAI или в KoboldAI. Также поддерживает софтпромты.
https://github.com/oobabooga/text-generation-webui
Colab: https://colab.research.google.com/github/oobabooga/AI-Notebooks/blob/main/Colab-TextGen-GPU.ipynb
Также автор данного интерфейса рекомендует использовать PygmalionAI 6B с самым первым коммитом: https://huggingface.co/PygmalionAI/pygmalion-6b/tree/b8344bb4eb76a437797ad3b19420a13922aaabe1
2. TavernAI - фронтэнд над KoboldAI. Позволяет нативно конвертировать файлы с историей чатов (дампы) из Character AI, однако из-за того, что все истории общения с персонажами хранятся в одном файле, а не в разных, TavernAI будет воспринимать только последний чат с ботом в CAI. Позволяет редактировать сообщение персонажа сразу, как в KoboldAI.
https://github.com/TavernAI/TavernAI
Colab: https://colab.research.google.com/github/TavernAI/TavernAI/blob/main/colab/GPU.ipynb
3. KoboldAI - самый известный интерфейс, который пришёл со времён AI Dungeon. У KoboldAI более другой формат, который сохраняет персонажей и чат в один файл, нежели у Textgen Webui и TavernAI. В Колабе выбираем PygmalionAI. При сохранении, необходимо сохранять в расширении "*.json".
https://github.com/KoboldAI/KoboldAI-Client - Official (Стабильная версия)
https://github.com/henk717/KoboldAI - United (Экспериментальная версия)
Colab KoboldAI GPU: https://colab.research.google.com/github/koboldai/KoboldAI-Client/blob/main/colab/GPU.ipynb
Colab KoboldAI TPU (мест может нехватать так, что лучше использовать GPU): https://colab.research.google.com/github/KoboldAI/KoboldAI-Client/blob/main/colab/TPU.ipynb
Советы: https://rentry.org/2ch-pygma-hints
Полезные ссылки:
Промпты от анонов с 2ch: https://rentry.org/2ch-pygmaprompts
Гайды по установке интерфейсов: https://rentry.org/pygmai-guifaq
Discord, как альтернативный ресурс для промптов:
https://discord.gg/pygmalionai
Создание персонажей для PygmalionAI: https://oobabooga.github.io/character-creator.html
Альтернативный сайт для создания персонажей или их конвертации с CharacterAI: https://zoltanai.github.io/character-editor
Поделиться собственным промптом персонажа: https://catbox.moe или https://paste.ee/
Промпты персонажей: https://rentry.org/pygbotprompts - Более не поддерживается.
FAQ от разработчиков: https://rentry.org/pygmalion-ai
Сайт с промптами персонажей: https://botprompts.net/
Советы по промпту: https://rentry.org/PygTips
Альтернативный гайд по промпту: https://rentry.org/chai-pygmalion-tips/ или https://rentry.org/chai-pygmalion-tips-ru-edition - перевод
Помочь разработчикам: https://github.com/PygmalionAI https://matrix.to/#/#waifu-ai-collaboration-hub:halogen.city?via=halogen.city
Отправить свой дамп из CharacterAI на датасет: https://dump.nopanda.io/
Карточки для TavernAI: https://booru.plus/+pygmalion
Скрипт, который позволяет сохранить историю чатов с CharacterAI: https://github.com/0x000011b/characterai-dumper
Скрипт, который позволяет конвертировать историю чатов с формата CharacterAI на формат PygmalionAI: https://files.catbox.moe/jv54ev.py - Необходимо перетащить файл на скрипт. При этом скрипт сконвертирует дампы из CharacterAI в чаты и промпт персонажа из "Long Description" и "Greetings" в формат PygmalionAI. То, что с "chatsave" - это сами чаты, а то что без него - это сам персонаж.
Создать софтпромпт в колабе: https://colab.research.google.com/gist/henk717/281fd57ebd2e88d852ef9dcc3f29bebf/easy-softprompt-tuner.ipynb#sandboxMode=true
TPU в колабе не работает из-за бага с драйверами для TPU так, что вы не сможете создать софтпромпт.
При отправке промпта, необходимо указывать в каком интерфейсе он может использоваться.
Шапка треда: https://rentry.org/2ch-pygma-thread