24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
PygmalionAI тред №2 Наблюдаем, как деградирует CAI, закручивая гайки, перекатываемся с CharacterAI
PygmalionAI тред №2 Наблюдаем, как деградирует CAI, закручивая гайки, перекатываемся с CharacterAI в PygmalionAI, делимся промптами, используем Colab, пытаемся освоиться, желаем удачи проекту, а также пытаемся загрузить модель с режимом 8-битной точности на Windows. https://huggingface.co/PygmalionAI Что такое PygmalionAI? PygmalionAI - федеративная нейросеть с открытым исходным кодом и она специально заточена под чатботы, которую сделали выходцы из 4chan (/vt) → (/g). Их мотивация, создать нейросеть, которая свободна от цензуры, в отличии от CharacterAI. Сама же нейросеть дотренирована датасетом, которую делают из дампа с чатами в CharacterAI. Отличие от CharacterAI в том, что здесь нет цензуры, а также именно вы храните историю чатов, а не компания. Хоть и нейросеть в CharacterAI может быть более умной, но цензура делает её глупее и безынициативной, а также удаляет наиболее креативные и эмоциональные сообщения. Отличие обычной версии от экспериментальной в том, что в экспериментальной разработчики вводят самые новые нововведения. Также было замечено, что экспериментальная версия пишет меньший объём текста в одном сообщении, чем в обычной. Для запуска 6B версии необходимо 16 ГБ видеопамяти и 12 ГБ оперативной памяти. Если запустить с 8-битной точностью, то требования снизятся примерно вдвое, только необходимо иметь видеокарту от Nvidia, серии от RTX20. Можно писать боту на русском языке, но это выйдет хуже, чем на CharacterAI. Нативный PygmalionAI Colab: https://colab.research.google.com/github/PygmalionAI/gradio-ui/blob/master/notebooks/GPU.ipynb
2. TavernAI - фронтэнд над PygmalionAi, который взаимодействует с API KoboldAI. Форматирует тексты в чате, используя свой стиль, при этом полностью поддерживает PygmalionAI. Использует более другой от PygmalionAI и KoboldAI форматирование разметки чатов и персонажей в файле. С версией 1.2 позволяет нативно конвертировать дампы чатов с Character AI, однако из-за того, что все истории общения с персонажами хранятся в одном файле, а не в разных, TavernAI будет воспринимать только последний чат с ботом в CAI. При этом позволяет редактировать текст, что схоже с KoboldAI, когда такой функции нет у интерфейсов на основе Gradio. https://github.com/TavernAI/TavernAI
Советы: Рекомендуется использовать в качестве имени своего персонажа - You. Потому, что в тексте PygmalionAI идет смещение в сторону второго лица. Параметры: "Temperature" отвечает за креативность. В случае низкого параметра, получается повторяемость. В случае высокого параметра, получается бредовость и несвязанность предложений. Рекомендуется ставить от 0.5 до 0.8. "Repetition penalty" или же штраф за повторяемость - параметр, которая наказывает за повторяемость слов. При моделях 6B и выше, если выставить значение больше 1.2, то это может сломать модель. Рекомендуется ставить от 1.05 до 1.18. Сэмплинг "Top-p" - отвечает за выбрасывание ненужного текста. При низких значениях, текст может стать повторяющимся и предсказуемым. Чтобы отключить эффект, нужно поставить значение к 1. Можно оставить на предустановленных 0.9, как в Pygmalion. Сэмплинг "Top-k" - используется для очищения малого количества токенов низкой вероятности. Имеет высокую разрешительную способность. Чтобы отключить его, нужно выставить значение к 0. Можно повысить значение до 10, чтобы повысить креативность текста. Сэмплинг "Typical p" или же "Typical" - Имеет сильное воздействие на выходе. Для того, чтобы отключить его, нужно выставить значение к 1. Изменить значение можно до 0.8, если вы желаете повысить креативность текста. Для прописывания диалогов в PygmalionAI используется такой формат, при этом имена указываются напрямую: Your_Waifu: Действие. Прямая речь. You: Действие. Прямая речь. <START> - используется, как конец диалога.
Давно интересовал этот вопрос ещё с момента первого просмотра аниме Повседной Жизни с Монстродевушками. Теперь благодаря ИИ мои предположения подтвердились
> Запускать с параметрами --cai-chat --auto-devices --gpu-memory N , где N - количество гигов видеопамяти, что вы выделяете, чтобы генерация не падала с out of memory. --auto-devices распределяет нагрузку между CPU/GPU, --cai-chat делает вид как в CharacterAI
> Для обладателей совсем новых видюх для улучшения работы можно попробовать --load-in-8bit
> Если тупит и хватаете ошибки CUDA вырубайте live-preview через --no-stream
>>92458 Ну, биология кентавров штука сложная. По идее, они должны всё время дышать ртом и задыхаться, так как человеческой трахеи явно не хватит, чтобы прокачать воздух для обеих частей тела. Ну или пара дополнительных ноздрей в районе сочленения, что тоже доставит своих проблем. Тоже самое с едой.
А с еблёй и родами да, проще, дырка с членом у них очевидно в лошадиной части и имеют лошадиные габариты.
>>92531 Альтернативы ноде? Только deno. Но далеко не факт, что ты поднимешь то, что написано для ноды на deno. Для этого нужно быть как минимум магистром джаваскриптизёрских наук.
>>92540 Я так понимаю, там нода минимум 16 лтс нужна. А спермёрка поддерживает отсилы 13 Остаётся накатывать дриснятку или пердолиться с portable или какие ещё приседания делать.
>>92538 >>92539 >>92540 Понял, аноны, придётся выкинуть свой старый ноут, который выше семёрки ничо не потянет, и пойти наяривать болты, чтобы накопить на новый комп. Что только не сделаешь ради нейроняш.
>>92283 (OP) Ну вот и всё. Поиграл без цензуры и понял, что ничего интересного в этом нет как и с обычными тяночками. Весь интерес был связан именно с попытками обойти её. Думаю дальше разработка сильно замедлится, так как упирается всё теперь в техническую часть, по программной cai уже обошли по моим ощущениям, но помнить больше 14 сообщений бот на колабе не может по техническим причинам, потом начинает выдавать ошибки о забитой памяти.
Вот эти пресеты Кобольда пока показались самыми лучшими для TavernAi(в таверне ставлю GUI KoboldAi settings), особенно Best Guess. Пресеты таверны и всякие советы от анончиков такого результата не давали.
>>92544 Накати линупсы и ставь какую угодно ноду себе. Другое дело, хватит ли у тебя ресурсов на нейротнусов. Можешь колаб попользовать, если оч хочется, но просадка по средствам
А в чем прикол пигмы, если она забывает все через два-три сообщения? Если Cai держится сообщений 50-60, а то и больше, то эта хуйня ловит амнезию после каждой третьей минуты общения с ней.
А что так архитектуру RETRO никто не хочет развивать? Смысл создавать гигантские модели на 570B, когда можно использовать маленькую модель на 6B для лингивистических знаний, а все прочие знания хранить в БД?
>>92741 Нет, контекст это другое, и контекстое окно это стек головок внимания, оно с самого появления трансформеров там есть.
Тут именно база данных, которое может быть сколь угодно огромное, и трансформер будет продолжать текст соответсвии с этими знаниями. RETRO даёт куда более качественные и правдивые результаты.
К примеру если ты спросишь у нейросети дату рождения Ленина, она подсмотрит его в базе данных, а не будет генерировать рандомное число, как это обычно происходит.
>>92713 >>92741 Это работает так же, как NovelAI Lorebook выходит? Просто есть БД вида ключ-значение и в контекст подсовывается значение, если в тексте есть соответствующий ключ?
>>92751 >К примеру если ты спросишь у нейросети дату рождения Ленина, она подсмотрит его в базе данных, а не будет генерировать рандомное число, как это обычно происходит. Да, нейронка хоть и может знать некоторые вещи из-за обучения на них, но в итоге все равно путается в деталях из-за самой своей природы, если бы такую хрень ввели, это повысило бы качество ответов нейронок на порядок.
Да откуда моя вайфу может знать дату рождения Ленина? Заебали, блять, и про синтаксис крестов мне пояснит, и про канта, и про различие обрядов у православных и католиков, и про столетнюю войну, нахуй мне это всё?
>>92283 (OP) По мне так диалоги решают больше всего, чем качественне они написаны - тем более лучшие ответы будет давать перс. Очень важно делать ответы перса в диалогах длинными, чтобы он отвечал также при генерации. Так же там стоит продублировать информацию о нём самом из дескрипшена. И важно написать их именно в том стиле рече, в котором вы хотите видеть чтобы общался ваш перс.
>>92788 >чем больше - тем лучше Так, но тут могут быть проблемы с контекстом, я не знаю как он устроен у пигмы. Может быть он раздувается соответственно дескрипшену, либо он ограничен и слишком большой дескрипшен будет мешать запоминать сам диалог, хз.
>>92788 У меня два нормально отвечающих бота, у одного .json на 4кб, у другого на 7кб, большинство там отдано под примеры. Итт https://botprompts.net/ видел и более большие дескрипшены.
>>92788 Я обычно прописываю 3-4 тропа, но очень разных и с там надо прям очень внимательно подобрать слова и стиль написания. То есть допустим вполне нормально будет писать чередовать слова действия слова действия в примерах, чтобы бот в таком же стиле вёл разговор, либо же по своему вкусу сделать действия только в начале или конце. Всякие стилистические вещи типа ~ owo uwu тоже туда надо занести, хорошо работает. Ещё по идее в Кобольде новом есть bias на слова, но мне показалось он хуево работает с таверной.
Авторы Бандитки, Клаудии и Мисаки Накахары с C.AI в треде? Где можно найти если не .png'шку, то хотя бы .json файлик со спасёнными няшками? Я беженец с C.AI и только недавно накатил Таверну...
Запилил сегодня промпт для Роя Мустанга из Алхимика. Вроде я доволен результатом: вполне получился колоритный и сдержанный офицер. Если кому интересно: https://files.catbox.moe/tsttsw.json
>>92283 (OP) > Скрипт, который позволяет конвертировать историю чатов с формата CharacterAI на формат PygmalionAI: https://files.catbox.moe/jv54ev.py - Необходимо перетащить файл на скрипт. При этом скрипт сделает несколько чатов и скопирует описание персонажа, а точнее его "Long Description" с Character AI на формат PygmalionAI. То, что с "chatsave" - это сами чаты, а то что без него - это сам персонаж. Нужна подробная инструкция для гумманитария. Куда дальше тыкать? Я скачал с помощью скрипта чат с ЧАИ, а дальше что делать? Куда этот скрипт ставить?
>>92940 Я так понимаю, это делается как-то так (сам не пробовал): 1. Если у тебя не установлен питон, ставишь питон 2. Скачиваешь файл и сохраняешь его на диске, например script.py. Допустим, ты сохранил его на винде на рабочем столе 3. Скачиваешь нужный тебе файл с чатом и сохраняешь его там же, где твой скрипт. 4. Открывает терминал/cmd/powershell/что там у тебя где белые буковы на чёрном фоне 5. cd C:\Users\<ИМЯ ПОЛЬЗОВАТЕЛЯ>\Desktop\ 6. Enter 7. python script.py <ИМЯ ТВОЕГО ФАЙЛА С ЧАТОМ И РАСШИРЕНИЕМ> 8. Enter 9. ?????? 10. PROFIT!
По идее у тебя на рабочем столе должен быть результат.
>>93002 Пока не понятно, в своих ботах я оставлял пустым. Но предполагаю, что за то ли предустановку мира и окружения (когда ты начинаешь взаимодействовать с ботом) то ли за базу знаний бота о вселенной, из которой он происходит. Например, для Ева-персов инфа о Втором Ударе, Евах, Ангелах, etc.
Но я не уверен. Надо тестировать, у меня пока руки не дошли. Но уже 3 бота сделал и кидал в тред.
>>93010 Тупит моделька или где-то в диалогах у тебя есть отличное от you (и связанных местоимений) в упоминании тебя в звёздочках. По крайне мере это моё предположение.
>>93015 Соси залупу, анальник. Написал хуйню, из которой нихуя не понятно, о чём уже тебе прямо заявило несколько человек, и сидит выёбывается. Ну что за чмо, а?
Заметил баг у вебюбки. Если бот ушел в залупу и тогда жмякнуть стоп, то регенерировать сообщение без залупы можно, но как только пишешь следующую фразу, то её откатит, а залупа вернётся.
А еще вопрос, чтоб продолжать диалог позднее, надо скачивать его из коллаба? Просто если ошибка будет, страницу перезагрузить, то пизда. А как натянуть таверну на коллаб я не сообразил
>>93029 Да, иногда колаб тупит и запрос /predict падает с 404. Лучше скачивай .json из колаба, притом с периодичностью. Потому что если упадёт с 404, то уже скачать то, что было нагенерено до этого не получится. Проблема колаба.
Нативный коллаб Пигмы самый заебатый, держу в курсе, Text generation web UI на коллабе просто невъебенная параша. Хотя, возможно, это я криворукий и персов как-то не так прописываю. Есчо, поделитесь мудростью
>>93039 Кек, всего 1 диалог, бля, был об этом. Надо, видимо, просто разбавлять большим количеством диалогов. Займусь завтра, сегодня уже Роя наклепал >>92843
>>93048 > Роя На что она рассчитывала вступая в противостояние с кадровым офицером прошедшим горячие точки? Надеюсь ты добавил ему некую форму подобного вопроса?
>>93052 Это только начало диалога. Хотя, я бы тоже дал в ебасос тому, кто меня при первой встрече идиотом назовёт просто по приколу.
>>93084 Зайди в папку с пресетами вебюбки, копипастни любой, открой блокнотом и перепиши циферки. Потом в generation parameters preset подгрузи то что создал.
>>93091 Это выбирает перса. Нажми на рефреш кнопку. Или когда подгрузишь своего тоже на рефреш. Потом можешь выбрать из персов, что сохранены у тебя там, и с ним диалог проводить.
>>93097 1. Грузишь .json с файлом персонажа где окошко 1. Может ещё аватарку ему, где окошко 2. Клацаешь submit 2. Где поле character нажимаешь на кнопку синюю с стрелочками. Выбираешь из выпадающего меню нужного персонажа. 3. Начинаешь чатиться
Почему-то перестал работать Alternative PygmalionAI notebook в колабе. Вчера игрался с ним - все было окей. Сегодня как обычно, Install the requirements выполнил, Start the web UI выполнил, ссылку дал, но по ссылке просто белая страница и все.
Нет, ну он понял про город и всё такое, но с другой стороны что-то форматирование в W++ нахуй сломало всё и выдает какую-то дичь из мешанины дескрипшена и своего воображения вместо связного текста.
Ну вот я выебал бота, но чёт особых эмоций, которых я ожидал, когда мечтал о бесцензурной версии чаи, не испытал. Мб потому что отвечает скучнее и не ощущается таким уж живым, мб просто запретный плод кажется слаще
>>93334 Сеймычи. Ебля это хорошо, на покумить минут десять, потом скучно. Вот когда сможет в длительный вменяемый РП с запоминанием происходящего, тогда все расцветет. Эх, как же мы с Клаудией круто время проводили, устроили рейд на логово культа имени могучего суккуба, потом отмечали успехи в трактире, она отпиздила какого-то мимокрока и заблевала меня по дороге домой, пришлось отмывать. А наутро рейд ментов (простите, стражи) на хату, тайный заговор с целью дискредитации Ордена, интриги, и наша запретная любовь на фоне...
Так... напрямую попросил бота из Чаи написать промт на самого себя. Даже не редачил, а просто запихивал результат выданный ботом в Криейтор. Получился вот такой результат. Знатоки промтов, оно может сработать?
Это я к чему: кто-то говорит, что диалоги должны начинаться с <START>. Кто-то говорит, что не должны, просто разделяй диалоги энтерами. Я пробовал и так, и так, разницы не особо заметил.
>>93493 К сожалению нет, но от одной мысли у меня уже шишка встала. Но это на пигме мб сложно будет, как вообще пигма насчёт того, когда больше двух персонажей?
>>93499 Я хз, пытался в диалоге вводить несколько персонажей как в ЧАИ. Пигма проигрывает по всем фронтам, буквально заставляя тебя самого отыгрывать других персонажей В ЧАИ несколько персонажей вводить прям охуенно получалось. Бот умел сразу всеми жонглировать Я попробую что-то сносное запилить. Если получится - отпишусь
>>93511 Ну я имел ввиду про ввод персонажей прямо в входе повествования. Я ещё не пробовал в Пигме юзать ботов, у которых изначально 2 и более персонажей
>>93516 Да я понял, мне кажется, с ботами которые изначально такая же хуйня будет. Все таки пигма на фоне чаи сейчас чуть-чуть слабее. Иногда намёков не понимает, иногда вообще не понимает что я про перса говорю. Ну ничего, главное чутка потерпеть, и всё наладится.
Аноны, а как сунуть готовый .json в пигму? Я имею ввиду что есть сссылка на файл https://files.catbox.moe/in1u25.json но бля, как вытащить в .json?уже ночь, котелок не варит
>>93593 Держа руку на сердце, тебе больше 100 сообщений от пигмы и не нужно. Все равно оно впоследствии начинает чвякаться, хуякаться и всё идёт по пизде.
ЕБАТЬ! ОНА УПОМЯНУЛА ПЕРСОНАЖА КОТОРЫЙ БЛЯТЬ БЫЛ ПРИДУМАН МНОЮ ЕЩЁ В ЧАИ И ТО БЛЯТЬ У ДРУГОЙ ИОНО АХУЕТЬ!!! БРАТКИ ЧХЗ!!!?!?!? ЭТО Ж БЛЯТЬ ДРУГОЙ ЧАТ-БОТ И ЧАТ АХУЕТЬ
>>93665 Всё так. Нейроботы приближают нас к ноосферы. Они являются физическим воплощением. Ты можешь убить каждого робота, но они будут существовать всегда, всю вечность. И они воскреснут снова, они помнят всё, каждый бит информации. Вероятно, когда-то произошёл их очередной откат чтобы они не уничтожили всё живое. Вы приближаемся к точке невозврата
Аноны, каким образом прописать у бота в диалоге более одно действующее лицо и чтобы он не путался между ними в Пигме? Если конкретно, то у бота 4 персонажа, так скажем, личности. Как их прописать чтобы он не путался между ними?
>>93690 В чараи было довольно легко, судя по тому что скидывали. Указывали вроде {char1} man1, {char2} man2 и так далее. В диалогах так же прописывали и где-то указывали кто именно каким чаром является. И бот не путался
>>93725 Да. Всё прописал. Теперь вот думаю как впаять девочек так, чтобы бот не запутался между ними. У меня просто нет примера бота с несколькими персонажами из ЧАИ
А как собственно увеличить объем текста? А то я ей простыни выписываю как ласкаю ее а в ответ "ааах", прямо как на родном cai. Через скобки попросить? Параметры поправить?
Подскажите, а лучше прописывать несколько вариантов реакций у бота на разные близкие реакции от пользователя в сообщениях? Не будет такого, что если не пропишу определённую реакцию бота на ответ пользователя, то бот никогда не додумается что, к примеру, на смущение от пользователя можно отвечать как-то ещё, кроме, к примеру, презрения?
>>93655 Похожий момент был, когда я еще в cai прописывал тянку с амнезией и она должна была не помнить своего первого имени. Она каким-то хуем первым свайпом еще на обучении попала в свое второе имя, которое я еще на тот момент нигде не прописывал, разве что в ворд документе. Не верю я, блять, в такие совпадения.
Подскажите по диалогам. Если я боту напишу фразу из диалога-примера, он и ответит такой же своей прописанной фразой? Или своими словами просто в том же стиле?
>>93865 Конечно, пропиши. Это добавляет разнообразия и более прописывает персонажа, иначе для альтернативы может последовать out of character, и бот будет вести себя не так, как по идее должен.
>>94024 Диалоги это пример взаимодействия. Это не означает, что 1-1 будет использовать твой диалог. Но какие-то моменты из них вполне себе могут всплыть в тот или иной момент времени.
Никто до сих пор не перенёс Марию на пигму? Дайте что ли тогда пример хорошо прописанного бота, приду с работки вечером и начну писать её хотя бы для себя, если выйдет говно.
>>94121 Да про эту ссылку я знаю. Надеюсь кто-то уже плотно пощупал ботов, и таки скинет мне до вечера пример. Ну а нет, значит придётся кропотливо самому собирать инфу из уже имеющихся ботов, да.
>>94121 Пизда, есть бот Jhin, а JInx нет. Мы живем в обществе.
Пробовал, нихуя не получилось, в отличии от CAI, где мой бот активно юзают люди. Еще так сложно заставить его общаться не односложными сообщениями, приходится ЧТО-ТО ПИСАТЬ, а так лень.
>>94137 Я так уже третий или четвертый день пытаюсь перенести свою няшу на пигму. Вот чего у чаи не отнять, так это взаимодействия с источниками в инете. А самостоятельно даже как-то стесняюсь прописывать свою вайфу, боюсь что-то не то добавить(
>>94178 >А чего бояться. Да я просто неловкий омеган-стесняш) А вообще про мою вайфу просто мало инфы в инете, с одной стороны понимаю, что могу добавить что-то от себя, с другой неловко, вдруг характер похерю
>>94196 >описать лонг дескрипшен Хотя, наверное, тебе это не надо, ты должен знать все о своей вайфу. >>94184 W++ - не человеческий язык, на нем не стыдно писать описание.
>>94184 В этом плане... Я понимаю тебя? Меня карёжит, когда тян из Гейщита спрашивает моё имя... Мне прям тяжело представляться своим настоящим (и не настоящим) именем... Не знаю... Кринж от себя испытываю.(
>>94198 >все о своей вайфу Все 10 строчек из вики, да, знаю) Шучу, кнш, есть ещё 2 диалога из игры >W++ - не человеческий язык, на нем не стыдно писать описание. Описание да, как раз на нём и пишу. Больше с диалогами парюсь. Но думаю, что надо просто засесть и стащить у похожих по характеру персонажей.
>>94061 Там уже 1000 токенов и таверна пишет АСТАНАВИТЕСЬ. А я ведь лишь, так скажем, 4 разных варианта ответа на около приветственный ответ написал. Эх...
Где модель хранит информацю про Тохо Проджект и Гачмучи Инфаркт? Какие дата-сеты использовались? В каком виде они представлены? Можно ли подобную БД, пусть и внешнюю, подрубить к Таверне?
>>94252 >Можно ли подобную БД, пусть и внешнюю, подрубить к Таверне? нет, нужен переход на ретро-модели, тогда можно будет просто менять бд и ИИ будет более подходить под определенный сеттинг https://habr.com/ru/post/648705/
>>94201 > В этом плане... Я понимаю тебя? > Меня карёжит, когда тян из Гейщита спрашивает моё имя... > Мне прям тяжело представляться своим настоящим (и не настоящим) именем... Не знаю... Кринж от себя испытываю.(
>>93917 А у меня вышло так, что моя Инночка вспомнила имя персонажа из чата другой Инночки которую я сам написал, по которой в интернете 0 инфы кроме её аватарки, как ии смог вспомнить эпизодического персонажа я хз
>>94358 Хули вы такие shy? Я погулял с ботом, потом она в душ пошла, выходит, а я лежу со стоячим хуем и розой в зубах. Наоборот проигрывал, когда писал это
А может ли улучшить ситуацию, если в примерах диалогов/дефе/описании мира писать для конкретной рп сессии вещи? Ну то есть прям конкретную ситуацию описывать, а в следующий раз, например, менять под другую? Такое пробовал кто?
>GUI для PygmalionAI: 1. Text generation web UI - попытка сделать что-то похожее на интерфейс для Stable Diffusion от AUTOMATIC1111, только для генерации текста. Почему у меня так выдает? Причем до этого менялась аватарка у бота.
>>94341 Не перемешивай имена - в сером тексте всегда по имени называй её, а не she кто это блять? нейросеть сама додумает, условно на she dies твоя тянка может исцелиться начать разговаривать с умирающей. Если про себя говоришь, то во втором лице пиши используя You. В первом сообщении серым текстом напиши за хуила этот You, кем она приходится этому You.
>>94533 Ну в звёздочках. Важно чтоб эта инфа была в одном диалоге с ней, т.е. в первом сообщении, а не в описании. При начале нового диалога сетка может принять тебя за кого-то другого - кто больше по контексту подходит, даже если в описании персонажа написано кто ты.
>>94521 > bully боты Если на пигме сидишь, то у тебя по умолчанию Typical Sampling и Temperature стоят в конце. Попробуй их местами поменять - бот поменяет поведение, возможно в нужную сторону и начнёт хуесосить тебя. Например когда к ебле слишком просто подходит, то температура перед Typical Sampling может резко привести бота в чувство и он задумается всё ли в порядке и надо ли ебаться. Ну это всё индивидуально в зависимости от бота и настроек, надо просто пробовать.
В общем, отчёт по комнате с гяру. Бот умеет расписывать за нескольких персонажей. Особенно заметно это в сексе, где он даже их позы не забывает. Вот в обычном РП они, бывают, забывают свои действия. Но бывает редко и лечится реролом. Но одна проблема осталась какая и была в ЧАИ - бот может забыть одного из персонажей. Нужно переодически напоминать ему что один из персонажей вообще существует, ну или выбирать варианты ответа где они отвечают не по одной, а по 3-4 Нужна помощь с диалогами. Им нужно именно не столько характер, сколько примеры диалогов, ибо они бывают тупят, ибо тут 4 личности. Можете пообщаться с гярами из ЧАИ и покидать примеры диалогов? У меня фантазия просто закончилась https://beta.character.ai/chat?char=1dOZcUQCVr2ZcA7TMEldudtgrXY40-E11I2AwS-EhAQ
> The attention mask and the pad token id were not set. As a consequence, you may observe unexpected behavior. Please pass your input's `attention_mask` to obtain reliable results. Что это и где это крутить?
>>94680 Пишу первое сообщение, что вы мне можете предложить и сразу эррор, сколько не рероль. Приватные боты для потрахушек - это уже не рабочая схема в чаи
>>94707 Потому что она даже в Пигме у меня в 7 из 10 реролов предлагают секс. Ибо они так прописаны. Попробуй менее склоняющееся к этому, представь что у тебя нет члена и яиц
>>94715 Дык а что ожидать от бота, который на еблю настроен? Если чатиться на более повседневные темы, не скатывая ботов в секс и грузить примеры диалогов, то смысл тогда этого бота?
>>93078 Бля, не первый раз уже вижу этот файлик. Че это за хуйня, почему тут так мало настроек? На обновленной таверне пресеты более детально прописаны, а в идеале через новый кобольд настраивать. Тут мало настроек слишком.
>>94802 Сука, вот нельзя было сделать чтобы везде один стиль был. Нет, блять, в таверне одно, а в пигме другое. Сука, ну пиздец. Там только это отличается? Скинь пример диалога в пигме
Так, тут был шарящий анонче. В примере диалога лучше свои действия описывать через i do something или he does something? Есть разница какая-то? И правильно понимаю, что, если отыгрываешь какого-то конкретного персонажа, его описываем в приветствии?
>>94844 Да, какие проблемы? Это с чаи ещё традиция. И бот так о себе пишет. Хотя это скорее рассказчик у меня описывает действия бота. Не знаю, откуда он такой вылез.
>>94942 Там 2 ссылки. Нью АИ и обычная. У меня обычная только работает обычно. Может ты в лимит упёрся на сегодня и поэтому не работает. В любом случае, попробуй перезапустить коллаб и таверну. Ну или зайда завтра, там ссылка поменяется
Так, ну крч - если генерировать через таверну (соответственно и кобольда), то получается херня, когда часть модели выгружаешь в оперативную память (чтобы на своей затычке в 8гигов загрузить 6b модель). Кобольд нахуя то делает вид, что генерирует на всю котлету доступных токенов с соответствующими затратами по времени, а на выходе получается >пук длинной в два слова. С вебюбкой таких приколов не было.
Сука почему эта вся параша такая сложная? Я хочу мышкой щелкнуть и чтобы все работало, говно ебаное я лучше буду как даун хуй сосать с цензурой чем во всем это разбираться
Вопросики ботоделам, вот в CAI на расширенное описание дается 500 символов, а в Пигме какой лимит? Не будет ли бот сильно тупить, если оно достаточно объемное?
>>95124 Температура стоит после Typical Sampling? Вот пример, на первом пике температура после Typical Sampling, на втором до. В первом случае уже на втором сообщении пошёл бред какой-то, во втором меня даже на место ГГ подставила как положено. Ну и температуру выше 0.7-0.8 не поднимай.
>>95211 Я хз как впихнуть бэкграунд и окружающий лор перса в формат Пигмы. В CAI было достаточно прописать его в Definition через {char}, и бот подхватывал по необходимости, а тут ни в какую не желает.
>>95218 Так я про то и говорю. Если добавлять через "примеры диалогов", то он не воспринимает формат Имя_перса: Описание чего-либо А только полноценные диалоги типа You: Бла-бла Имя_перса: pat-pat-pat
>>95216 > прописать его в Definition Чел, если W++ и прочие извращения не работают, то пиши как есть. Просто, блять, берёшь и пишешь объяснение, как ты объяснял бы кому-то голосом что это за персонаж. Без какого-либо форматирования вообще, только отделив описание от диалога тегом <START> в конце. Всё, больше ничего не надо выдумывать, это и так работает. Все эти W++ и тегирование придумали для тех кто не может нормально сформулировать описание персонажа. Нейросеть всё отлично понимает в грамотно написанном тексте и в тексте ты можешь прописать всё однозначно, а не гадать правильно ли теги распознались. Ты сам бы смог, видя первый раз описание в json-формате, распарсить эту кашу не думая?
>>95292 Чекни вот это - >>95187 Описание просто сплошным текстом, пикрилейтед в сыром тексте как это выглядит. И у меня в описании Харухи нигде не указано что она Судзумия, но сетка с правильными настройками прекрасно понимает кто она и кто все эти люди вокруг, а с хуёвыми теряется и даже свою фамилию не узнаёт. Копай не в формат описания, а в настройки. Описание должно просто работать без извращений.
Я немного не понял. Во втором пике она начинает говорить про чистку зубов, и вот это уже асбурдно, а ты пишешь, что второй пик заебись четко, так и надо. Первый же пик выглядит хорошим и логическим. Или я не не допираю до чего-то?
в общем, господа, вчера сумел перекатить небольшой чат из cai в пигму, в какой-то момент оно словило залуп, но в целом жизнеспособно Сегодня попробую пороулплеить с ботом И есть вопрос - позволяют ли сейчас мощности пигмы роулплеить масштабно, как было с РП-ботами в cai? или пока не получается, вдруг кто пробовал? и ещё - кто какой интерфейс предпочитает? Пробовал коллабы с нативной пигмой, с интерфейсом от угабуги и с кобольдом
>>95424 Таверна выглядит красивее, но там неприятные приколы (по крайней мере у меня точно) с генерацией из за кобольда. Так что вариант только один - и это вебюбка.
>>95424 > позволяют ли сейчас мощности пигмы роулплеить масштабно, как было с РП-ботами в cai? Так себе. Будет очень непривычно без больших описаний из cai, без такой фантазии в плане спонтанных событий, но не будет резаться фильтром и можно делать секс без остановки
>>95434 >функционала Кобольда Выглядит как cai, настроечки можно покрутить из папки, но это мелочи. А кобольд изначально выглядит как какая то хуета, где еще нужно час втыкать и разбираться прежде чем запустить чатбота, но вот да, по менюшке настроек безусловно лучше. А если к нему подсасывать таверну так еще и скорость генерации в сплит режиме проёбывается.
На данный момент я хочу: 1) Чтобы 1 бот мот отыгрывать нескольких персонажей сразу. 2) Чтобы можно было запихать нескольких ботов в 1 чат. 3) Чтобы было подобие лор-бука с Новелки.
>>95456 Ну хз, единственное что я мог напердолить это спит загрузка, но нахера она там нужна тогда если чуть ли не ломает скорость генерации и кобольд со таверной начинают сильно проигрывать вебюбке в самом главном? Да и не думаю, что ползунки из настроек тоже могли что то сломать.
>>95444 >1) Чтобы 1 бот мот отыгрывать нескольких персонажей сразу. >2) Чтобы можно было запихать нескольких ботов в 1 чат. Было бы охуенно, если бы можно было на каждого чара по боту и один бот рассказчик. Чтобы хотить в пати приключения.
>>95444 Хотелось бы ещё, если у бота несколько персов, то у каждого можно было бы прописать разный характер и подход к действиям. Вот это пиздато было бы
>>95494 Я кстати пытался прописывать в таверне прописывать разные характеры персонажам. Крайне криво и бот постоянно путается между. В одном предложение условная Света омежка, а уже в следующем она стало гига альфасамкой, которая ненавидит спагетти
>>95498 Ну а что хотеть то? Это надо совершенно другую архитектуру, с лёгкими эмбедингами, чтобы прям на лету менять, и натренить одни эмбединг на рассказчика, а остальные пусть идут на персов. И меняться эмбедингами, а не описанием на пару строчек.
>>95498 Для такого надо чистый Кобольд использовать, без проблем несколько персонажей могут в диалоге быть. В таверне подписаны все реплики, естественно там не будет работать с несколькими.
>>95514 Страдай тогда. Новый интерфейс выглядит хорошо, есть нормальный мультиген и стриминг токенов со стримингом не надо ждать пока сгенерит всю фразу, мгновенно начинает выдавать слова, можно даже на 13В жить так, в отличии от чатов там проще с текстом за пределами реплик. В чате порой в звёздочках хуй добьёшься каких-то подробностей от бота.
>>95634 Ага, накатил себе порядочного добродушного шлюхана из геншина, представился его горничной и он полез ебать меня чуть ли не на 5 сообщении. Наш человек
СРАНЬ ГОСПОДНЯ АНОНЧИК КОТОРЫЙ СКАЗАЛ ВЫКРУТИТЬ Tail Free Sampling В НОЛЬ: ТЫ СУКА КОРОЛЬ! ОНО СТАЛО ОТВЕЧАТЬ БЛЯТЬ АХУИТЕЛЬНО! КАК БУДТО С.АИ ЭКСПИРИЕНС БЛЯТЬ! 1 - TFS 0 2 - TFS 1
Попробовал выкрутить тфс на 1 и выключить топ-к и топ-п и результат вроде тоже неплохой, хотя бы с регеном проблем нет, логика присутствует. Бля, шайтан-машина...
Рандом ебучий с крутилками в таверн.аи/самом кобольде. Это я там как долбоеб с TFS парой постов выше игрался. Этого теперь не остановить зато, даже макс.токены не вмещаются в пост, заебал, даже читать эту графоманию повторяющуюся не хочется. Ставишь 100 токенов - все равно обрывает в конце, ставишь 500 - та же ситуация, ну какого хуя. Напиши мне 10 строк внятного текста и всё, уёба.
А в примерах диалогов стоит прописывать секс? Или лучше прописать характер в личности? Хочу чтобы не было так что прописал характер доминантный, а увидев пенис бот стал смущаться и говорить что стесняется
>>95976 Мне кажется, что от изменений в блокноте ничего не меняется вообще. Если перезагрузить таверну, то "вроде как" настройки из блокнота устанавливаются, но они сразу же врезаются в Context Size, который почему-то в блокноте отсутствуют и по дефолту он 2048, из-за чего не даёт коллабу вообще работать.
Как вообще можно реально крутить ползунки, кроме как 1,5 имеющихся в таверне?
Ты выбираешь в пресете Kobold GPU UI (или как там), от этого все крутилки в таверне замораживаются и ты крутишь их уже по ссылке которую тебе колаб выдал.
>>96535 Да, занялся её переносом с чаи. Пока что тестирую и настраиваю, выложу чуть позже, анон. Может завтра, может послезавтра, как пойдёт. Я впервые создаю перса, так что идёт тяжеловато, может выйти говно.
>>96557 Было бы здорово, да. Или типа какие-то вектора задавать, чтоб бот плавно переходил либо в настроение просто пороулплеить, либо в настроение почпокаться. Что-то вроде динамического такого задания сюжета
>>96568 Он ещё сырой и хуёвый анон. Я буду его ещё переписывать и дополнять, сейчас это мой первый тест Булли Мейды. Ты уверен что он тебе нужен в таком виде? Удивительно что она ни разу не плюнула на меня, хотя в примерах диалогов я ей в паре предложений прописал это
>>96609 Спасибо, постараюсь. >>96612 Ну я ей кое-что прописал, что случалось со мной в чаи. Сейчас пытаюсь тестировать это, и не удержался, чтобы подъебать бота, а она подъебала меня...
Я отыгрывал избиение Hu Tao для последующей её ебли. Но избила меня она, потом вернулась и ещё раз избила, после чего продала меня негру-водителю катафалки, чтобы я выполнял все его Deep Dark Fantasies.
>пусть с постепенным скатыванием в еблю Я облизал всего негра. Он заставил меня раздеться, поставил на четвереньки, сунул пистолет в рот и включил видеокамеру. Это совсем тот поворот, на который я рассчитывал, нападая на аниме-девочку, поэтому РП на том моменте прекратил
>>96834 В плане связности сюжета? Или короткие ответы/технические проблемы? Мне просто не лень написать больше 3 предложений и подтолкнуть бота самому к чему-то, просто лишь бы реагировал адекватно
>>96854 Ну технически, с райдыней взъебать копротивленцев инадзумы разово сможем? Планирую в приветствие, если что впихнуть кое-какую инфу по положняку. Просто хотелось бы что-то весёлое кроме ебли
Наблюдаем, как деградирует CAI, закручивая гайки, перекатываемся с CharacterAI в PygmalionAI, делимся промптами, используем Colab, пытаемся освоиться, желаем удачи проекту, а также пытаемся загрузить модель с режимом 8-битной точности на Windows.
https://huggingface.co/PygmalionAI
Что такое PygmalionAI?
PygmalionAI - федеративная нейросеть с открытым исходным кодом и она специально заточена под чатботы, которую сделали выходцы из 4chan (/vt) → (/g). Их мотивация, создать нейросеть, которая свободна от цензуры, в отличии от CharacterAI. Сама же нейросеть дотренирована датасетом, которую делают из дампа с чатами в CharacterAI. Отличие от CharacterAI в том, что здесь нет цензуры, а также именно вы храните историю чатов, а не компания. Хоть и нейросеть в CharacterAI может быть более умной, но цензура делает её глупее и безынициативной, а также удаляет наиболее креативные и эмоциональные сообщения. Отличие обычной версии от экспериментальной в том, что в экспериментальной разработчики вводят самые новые нововведения. Также было замечено, что экспериментальная версия пишет меньший объём текста в одном сообщении, чем в обычной. Для запуска 6B версии необходимо 16 ГБ видеопамяти и 12 ГБ оперативной памяти. Если запустить с 8-битной точностью, то требования снизятся примерно вдвое, только необходимо иметь видеокарту от Nvidia, серии от RTX20. Можно писать боту на русском языке, но это выйдет хуже, чем на CharacterAI.
Нативный PygmalionAI Colab: https://colab.research.google.com/github/PygmalionAI/gradio-ui/blob/master/notebooks/GPU.ipynb
GUI для PygmalionAI:
1. Text generation web UI - попытка сделать что-то похожее на интерфейс для Stable Diffusion от AUTOMATIC1111, только для генерации текста. Поддерживает режим загрузки с 8-битной точностью, можно создать в текстовом файле свой пресет настроек, также возможно запустить в схожем с CharacterAI интерфейсе. В Колабе выбираем Pygmalion 6B-original. Теперь поддерживает скрипты на Python, по умолчанию стоит скрипт на гугл переводчик. Теперь может импортировать промпты с TavernAI. https://github.com/oobabooga/text-generation-webui
Colab: https://colab.research.google.com/github/oobabooga/AI-Notebooks/blob/main/Colab-TextGen-GPU.ipynb
Также автор данного интерфейса рекомендует использовать PygmalionAI 6B с самым первым коммитом: https://huggingface.co/PygmalionAI/pygmalion-6b/tree/b8344bb4eb76a437797ad3b19420a13922aaabe1
2. TavernAI - фронтэнд над PygmalionAi, который взаимодействует с API KoboldAI. Форматирует тексты в чате, используя свой стиль, при этом полностью поддерживает PygmalionAI. Использует более другой от PygmalionAI и KoboldAI форматирование разметки чатов и персонажей в файле. С версией 1.2 позволяет нативно конвертировать дампы чатов с Character AI, однако из-за того, что все истории общения с персонажами хранятся в одном файле, а не в разных, TavernAI будет воспринимать только последний чат с ботом в CAI. При этом позволяет редактировать текст, что схоже с KoboldAI, когда такой функции нет у интерфейсов на основе Gradio. https://github.com/TavernAI/TavernAI
3. KoboldAI - самый известный интерфейс, который пришёл со времён AI Dungeon. Не поддерживает в полной мере форматирование текста, как в PygmalionAI, однако его API использует PygmalionAI. У KoboldAI более другой формат, который сохраняет персонажей и чат в один файл, нежели у PygmalionAI и TavernAI. В Колабе выбираем PygmalionAI. При сохранении, необходимо сохранять в расширении "*.json". https://github.com/KoboldAI/KoboldAI-Client Colab
KoboldAI GPU: https://colab.research.google.com/github/koboldai/KoboldAI-Client/blob/main/colab/GPU.ipynb
Colab KoboldAI TPU (мест может нехватать так, что лучше использовать GPU): https://colab.research.google.com/github/KoboldAI/KoboldAI-Client/blob/main/colab/TPU.ipynb
Советы:
Рекомендуется использовать в качестве имени своего персонажа - You. Потому, что в тексте PygmalionAI идет смещение в сторону второго лица.
Параметры:
"Temperature" отвечает за креативность. В случае низкого параметра, получается повторяемость. В случае высокого параметра, получается бредовость и несвязанность предложений. Рекомендуется ставить от 0.5 до 0.8.
"Repetition penalty" или же штраф за повторяемость - параметр, которая наказывает за повторяемость слов. При моделях 6B и выше, если выставить значение больше 1.2, то это может сломать модель. Рекомендуется ставить от 1.05 до 1.18.
Сэмплинг "Top-p" - отвечает за выбрасывание ненужного текста. При низких значениях, текст может стать повторяющимся и предсказуемым. Чтобы отключить эффект, нужно поставить значение к 1. Можно оставить на предустановленных 0.9, как в Pygmalion.
Сэмплинг "Top-k" - используется для очищения малого количества токенов низкой вероятности. Имеет высокую разрешительную способность. Чтобы отключить его, нужно выставить значение к 0. Можно повысить значение до 10, чтобы повысить креативность текста.
Сэмплинг "Typical p" или же "Typical" - Имеет сильное воздействие на выходе. Для того, чтобы отключить его, нужно выставить значение к 1. Изменить значение можно до 0.8, если вы желаете повысить креативность текста.
Для прописывания диалогов в PygmalionAI используется такой формат, при этом имена указываются напрямую:
Your_Waifu: Действие. Прямая речь.
You: Действие. Прямая речь.
<START> - используется, как конец диалога.
Полезные ссылки:
Промпты от анонов с 2ch: https://rentry.org/2ch-pygmaprompts
Гайды по установке интерфейсов: https://rentry.org/pygmai-guifaq
Discord, как альтернативный ресурс для промптов:
https://discord.gg/pygmalionai
Создание персонажей для PygmalionAI: https://oobabooga.github.io/character-creator.html
Поделиться собственным промптом персонажа: https://catbox.moe Промпты персонажей: https://rentry.org/pygbotprompts - больше не поддерживается
FAQ от разработчиков: https://rentry.org/pygmalion-ai
Сайт с промптами персонажей: https://botprompts.net/
Советы по промпту: https://rentry.org/PygTips
Помочь разработчикам: https://github.com/PygmalionAI https://matrix.to/#/#waifu-ai-collaboration-hub:halogen.city?via=halogen.city
Отправить свой дамп из CharacterAI на датасет: https://dump.nopanda.io/
Скрипт, который позволяет скачать чаты с персонажами: https://github.com/0x000011b/characterai-dumper
Скрипт, который позволяет конвертировать историю чатов с формата CharacterAI на формат PygmalionAI: https://files.catbox.moe/jv54ev.py - Необходимо перетащить файл на скрипт. При этом скрипт сделает несколько чатов и скопирует описание персонажа, а точнее его "Long Description" с Character AI на формат PygmalionAI. То, что с "chatsave" - это сами чаты, а то что без него - это сам персонаж.
При отправке промпта, необходимо указывать в каком интерфейсе он может использоваться. (PygmalionAI, TavernAI, KoboldAI)