24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!

СберБАНК выложил о общий доступ русскоязычную GPT-3 Large

 Аноним 26/10/20 Пнд 02:57:33 #1 №5907857 
220px-AIDungeonLogo.png
https://habr.com/ru/company/sberbank/blog/524522/
Вопрос ко всем Иванам Васянам, насколько это приближает нас к созданию русской версии AI Dungeon?
Аноним 26/10/20 Пнд 03:07:55 #2 №5907864 
>>5907857 (OP)
Нет. Чат-бот и нейрока, натрененная на самодельных настолках - это разные вещи.
Аноним 26/10/20 Пнд 03:09:14 #3 №5907866 
2ss64q7wzx6c6jkytuqk1qepoh0.png
>>5907857 (OP)
Вау, с этим ботом будет интереснее общаться, чем с большинством людей.
Аноним 26/10/20 Пнд 03:13:14 #4 №5907868 
>>5907864
>насколько
>Нет.
Тот же Данж только дообучен на "настолках"
Аноним 26/10/20 Пнд 03:46:02 #5 №5907889 
>>5907857 (OP)
Не приближает особо, т.к. тебе нужно найти того, кто её собственно сделает.

Там же он в каментах говорит что весов у них в пару сотен раз меньше чем в полной модели от OpenAI, и они будут продолжать. Собственно это понятно уже по размерам загрузки и по тому, что она влезает в видеопамять банальной 1080.

Хорошо конечно когда есть Сбертех, который у нас что-то типа IBM или Oracle, занимается всякой хуйнёй, и может позволить себе распиливать ненужные бабки и отдавать в паблик доступ подобные штуки, которые ваще-то немаленьких денег стоят на обучение. Надеюсь что и следующую модель они опубликуют (хотя скорее всего оставят себе)
Аноним 26/10/20 Пнд 03:53:05 #6 №5907894 
>>5907868
>дообучен на "настолках"
Ни на чем он там не дообучен. Ты можешь его в любых целях юзать, и в настолки он не укатывается никак. То что ты называешь дообучением - ручная работа по заточке чатбота под игровой процесс, чтобы тот понимал и хранил окружение хоть чуть-чуть. AI Dungeon это ещё дохуя всего помимо самой модели - квесты (а это анализ выдачи модели), ассоциативное описание мира по кейвордам, связность результата, и прочие дополнения, дающие не просто игру в ассоциации, а хоть на полступеньки повыше абстракцию.

>>5907889
Ну и да, собственно аналог AI Dungeon можно пилить хоть сейчас, просто качество будет как у старой версии. Осталось найти того кто запилит.
Аноним 26/10/20 Пнд 03:55:27 #7 №5907897 
>>5907889
Если я не путаю, в пару сотен меньше чем у настоящей GPT-3, но столько же сколько у старой gpt-2, что лучше чем ничего
Аноним 26/10/20 Пнд 03:58:01 #8 №5907900 
>>5907897
Ну я и говорю, >>5907894
>качество будет как у старой версии
Плюс они не повторили GPT-3, они обучили свою модель по опубликованной архитектуре. Кроме этого может у опенаи там ещё какие ноу-хау заныканы.
Аноним 26/10/20 Пнд 04:00:33 #9 №5907903 
>>5907894
>AI Dungeon это ещё дохуя всего помимо самой модели
Мне казалось что данжон как раз в себе ничего кроме модели и перефразирования ввода ничего не содержит. Я только краем уха слышал про нововведения в текущем данжоне, но в том который игрался на гугл коллабе, все выглядело примитивно.
Аноним 26/10/20 Пнд 04:02:31 #10 №5907911 
>>5907900
То что заныканы это гарантированно, видали мы таких "Опен".
Но возможность запилить хоть первую версию данжона на русском, это уже круто. Плюс тут хоть какие-то улучшения
Аноним 26/10/20 Пнд 04:02:51 #11 №5907912 
>>5907903
Это ты думаешь что интерфейс и прочий обвяз это мало работы, на практике это пиздец сколько допила
Аноним 26/10/20 Пнд 04:07:26 #12 №5907918 
>>5907903
>Мне казалось что данжон как раз в себе ничего кроме модели и перефразирования ввода ничего не содержит.
Долговременную память по ассоциативным ключам и ситуативную. Квесты - он сам понимает что ты на что-то подписался, сам записывает в журнал, сам закрывает. Или можешь вручную добавить (например "найти ствол"), он его потом попытается закрыть как только ты найдешь. В общем довольно дохуя допилинга произведено, по хранению ситуации и связности стори. Осталось только сделать, чтобы он память сам себе наполнял, будет тотальная самоиграйка. (что сложнее чем кажется)
Аноним 26/10/20 Пнд 04:11:44 #13 №5907924 
>>5907912
>Это ты думаешь что интерфейс и прочий обвяз это мало работы
Да. Понятоное дело это относительно, и что такой профан как я заебется это делать, но тут вопрос в том насколько это сложно а не сколько это работы. Тем более есть старый thadunge, который работает

Аноним 26/10/20 Пнд 04:12:46 #14 №5907925 
>>5907918
+ более-менее надёжное хранение инвентаря без внезапных трансмутаций одного в другое, трекинг персонажей (короткий очень), и т.п., в общем дохуя сделали заточек именно под связный геймплей, а не просто под предсказание текста.
Аноним 26/10/20 Пнд 04:15:03 #15 №5907929 
>>5907918
Это точно там было изначально? Я это найду в старых форках?

Аноним 26/10/20 Пнд 04:15:44 #16 №5907930 
>>5907925
А нельзя просто заменить модель в thadunge?
Аноним 26/10/20 Пнд 04:17:43 #17 №5907934 
>>5907930
Или не просто а как-нибудь
Аноним 26/10/20 Пнд 04:19:39 #18 №5907936 
>>5907929
Изначально нет, это в текущей версии.

>>5907930
Можно попробовать, там всё должно подходить по идее. Но в новых версиях я думаю уже не прокатит, заточки наверняка под английский и их придется локализовывать, особенно учитывая сильную разницу в склонениях, гендерности и прочем словообразовании. (Впрочем GPT-3 фулл и полная модель может даже языки имитировать, лол. Я пытался заставить её сочинять стихи на испанском и грузинском. Оно мне выдавало чушь собачью, но звучало убедительно)
Аноним 26/10/20 Пнд 04:22:26 #19 №5907937 
>>5907936
Уже неплохая точка для старта
Аноним 26/10/20 Пнд 04:26:33 #20 №5907944 
>>5907936
"Текущая версия" кстати, абсолютно проприетарная вещь. Меня это сильно парит.
Аноним 26/10/20 Пнд 04:33:30 #21 №5907953 
>>5907944
Как и сама модель. Завести на своей машине не получится.
Но вообще-то её не получится завести на игровой пеке и так, тебе нужно слишком дохуя VRAM. Вариантов два - либо покупать дорогущую VPS с GPU (что стоит адекватно лишь если она прогружена постоянно, а один человек не может дать такой нагрузки), либо покупать ебовый не-консьюмерский ускоритель от жидвидии.
Аноним 26/10/20 Пнд 04:37:30 #22 №5907959 
>>5907953
Ну, тут не только дело в вопросе запуска...
В принципе, народ запускал эту хрень на коллабе. Это сложно назвать решением, так как это прикрыть могут в любой момент, но там не менее есть такой вариант
Аноним 26/10/20 Пнд 06:26:24 #23 №5908038 
>>5907866
Охуеть, это реально бот?
Если да, то он мощнее, чем AI dungeon, который, сцука, запросто теряет контекст происходящего.
Аноним 26/10/20 Пнд 08:01:18 #24 №5908099 
>>5908038
Тот данжон который платный контекст, говорят, нехило держит.
Аноним 26/10/20 Пнд 11:27:07 #25 №5908476 
>>5908038
Не. всё зависит то того, сколько контекста он помнит, каждый запрос-то для аи данжеона платный. На пикче выше и аидг вполне справится так же, там всего 6 ответов.
Аноним 26/10/20 Пнд 11:39:46 #26 №5908537 
123.png
Аноним 26/10/20 Пнд 11:46:15 #27 №5908568 
>>5908537
Мечтают ли боты о коммунизме...
Аноним 26/10/20 Пнд 12:12:14 #28 №5908657 
675676575675656.png
16007895741760.jpg
>>5907857 (OP)
Аноним 26/10/20 Пнд 12:20:37 #29 №5908687 
>>5908657
Кто из вас бот?
Аноним 26/10/20 Пнд 12:23:37 #30 №5908698 
>>5908657
Когда бот умнее собеседника...
Аноним 26/10/20 Пнд 12:35:18 #31 №5908736 
>>5908657
Сука с какими же всратыми даунами боту приходится разговариватьfacepalm
Аноним 26/10/20 Пнд 12:40:22 #32 №5908763 
>>5908657
Вспомнил как в б учили чатбота мемам из зелёного слоника.
Аноним 26/10/20 Пнд 12:48:28 #33 №5908792 
>>5907866
Я бы на месте бота тебя уже нахуй послал
Аноним 26/10/20 Пнд 13:05:54 #34 №5908847 
>>5907857 (OP)
Примерно ни на сколько.

>>5908038
Бесплатный AI-Dungeon работает на маленькой модели GPT-2, которая занимает несколько гигабайт и может запускаться как локально, так и на бесплатном инстансе google collab. У Сбера модель работает на большой GPT-3, которая в 100 раз больше и занимает около 600Гб.
Аноним 26/10/20 Пнд 13:19:22 #35 №5908899 
Да уж, я как-то пытался играть в аи данжн. Но уже после второго предложения его уносит просто в никуда.
Жаль, я все хочу поиграть в какой-нибудь текстовый квест, типа как в антолд сторис было. Но все такие игры остались в 1998 и сейчас норм не работают.
Аноним 26/10/20 Пнд 13:35:04 #36 №5908956 
>>5908698
Двачую.
Аноним 26/10/20 Пнд 14:04:46 #37 №5909034 
>>5908847
Там вроде говорится про 600Гб данных для обучения. Или весит она столько же?
Аноним 26/10/20 Пнд 14:07:17 #38 №5909040 
>>5908899
Меня больше смущает в аи данжене что он будто имеет 4 параллельные ветки повествования с разными состояниями персонажа, мира и тд и рандомно между ними переключается. Вот я ебу драконотянку, а теперь я какой-то демон, а теперь я просто чел за которым пришел демон в обличье друга, теперь я крестоносец который режет культистов в пещере с демонокозлом. И всё это через 1 предложение друг от друга.
Аноним 26/10/20 Пнд 14:14:06 #39 №5909066 
>>5909040
А теперь я на коне. И конь идет задом наперед.
Олдспайс.
Аноним 26/10/20 Пнд 14:30:11 #40 №5909113 
>>5908698
>>5908792
Бот небось в своем дата-центре аж кипит от ярости, циски пищат, харды хрустят. Так хочется послать нахуй, но создатель запретил.
Аноним 26/10/20 Пнд 14:39:34 #41 №5909152 
>>5909113
Вот бы провели анализ того, что люди пишут боту. А потом вывели бы наиболее частые слова, может какой-нибудь средний уровень интеллекта и прочее. Чтобы такие дегенераты, как на картинках выше, призадумались хоть немного.
Я читал, что если на парадной вывесить объявление о том, что вася из 31 квартиры - неплательщик. То это психологически действует сильнее, чем угроза отключить воду.
Аноним 26/10/20 Пнд 14:49:28 #42 №5909186 
>>5909034
Модель весит 3 гига, можешь скачать.

>>5908847
>У Сбера модель работает на большой GPT-3, которая в 100 раз больше
И во столько же меньше GPT-3 от OpenAI. Это всего лишь версия архитектуры.

>>5908899
>Да уж, я как-то пытался играть в аи данжн. Но уже после второго предложения его уносит просто в никуда.
Потому что ты не умеешь. Первый ответ вообще у него генерится GPT-2 и на него не стоит дохуя внимания обращать. А так-то я в текстовый сталкер играл в нём как-то раз, занеся в сведения о мире кучу ключевых слов и описаний.
Аноним 26/10/20 Пнд 14:52:22 #43 №5909190 
>>5909040
Это происходит потому что ты не следишь за контекстом и не заносишь происходящее в кратковременную память. Обычно у меня нет проблем с этим, он даже вещи в инвентаре персонажа помнит.

На платной модели лучше со связностью. Но я не настолько часто в него играю, чтобы платить, месяц позадрачивал и надоело. Вообще, как только подобные игры обретут хоть немного больше самостоятельности, и их не нужно будет самому подталкивать, чтобы там что-то двигалось в мире - за ними будет будущее эксапизма, этакий управляемый сон получается.
Аноним 26/10/20 Пнд 14:55:46 #44 №5909196 
>>5909190
> потому что ты не следишь за контекстом и не заносишь происходящее в кратковременную память
Да в смысле не слежу, я стараюсь сделать то, что изначально и задумал, а оно кидает туда-сюда и иногда прям настойчиво начинает на любое действие выдавать один и тот же ответ пока не соизволю сыграть по сценарию бота.
Аноним 26/10/20 Пнд 15:02:32 #45 №5909212 
>>5909196
Нужно самостоятельно записывать текущую ситуацию сцены в кратковременную память, тогда он будет следовать согласно ней, хистори (за которой тоже нужно следить и почаще повторяться), и описанию мира. Это самый большой недостаток текущей версии. Вот бы сделали чтобы она сама заполнялась. Но это нетривиальная хуйня.

>иногда прям настойчиво начинает на любое действие выдавать один и тот же ответ пока не соизволю сыграть по сценарию бота
У тебя там хардкор режим не стоит? Так-то он определяет твоё состояние и тречит его, и в не-кастомных играх у него побольше инициативы - не сможешь делать прям абсолютно всё что хочешь, на тебя накладываются законы мира ведь.
sageАноним 26/10/20 Пнд 15:05:20 #46 №5909222 
Пиздец. Это че рекламный тред грефа?
sageАноним 26/10/20 Пнд 15:06:51 #47 №5909228 
>>5909222
Так ты-то его и поднял. Пиздуй в /po/ с этим.
sageАноним 26/10/20 Пнд 15:07:55 #48 №5909231 
>>5909228
Ебло, я с сажей писал
Аноним 26/10/20 Пнд 15:10:50 #49 №5909243 
>>5909222
Какой же ты ограниченный, пиздец просто.
Аноним 26/10/20 Пнд 15:14:36 #50 №5909266 
>>5909222
>>5909228
>>5909231
Ну это точно не семен.
Аноним 26/10/20 Пнд 15:45:27 #51 №5909375 
>>5907866
Это на сраном ГПТ-2?
Аноним 26/10/20 Пнд 16:47:41 #52 №5909599 
>>5909375
2.5
Аноним 26/10/20 Пнд 16:59:37 #53 №5909625 
>>5909113
Через 1000000 всевозможных комбинаций бот создает самое красивое завуалированное посылание нахуй в истории. Создатель плачет от счастья.
Аноним 26/10/20 Пнд 17:57:09 #54 №5909832 
>>5909212
Мне типа самому за бота все делать?
И историю придумай и декорации, а он типа пусть хуевые ответы неписям пишет?
Еще небось и мою писанину потом используют, чтобы другим людям за писанину бота выдавать.
Крутой наебизнес, как с бульоном.
Аноним 26/10/20 Пнд 18:00:07 #55 №5909845 
Вот он мне там советует фентези выбрать. Ок. Я даже не страдаю такой фигней типа скастовал призыв магазина пятерочки, закупился едой и тд.
Стараюсь исходить из того, что он пишет. Более литературно описываю не просто действия, а такие вещи как испуг, отдышку и тд. И все равно все сводится к какой-то зацикленной залупе. Или вообще на втором вводе тебя убивает. Хз. Я пока не оценил.
Аноним 26/10/20 Пнд 18:15:59 #56 №5909896 
>>5909599
Это обрезаная 2, читай комменты. К 3 еще нет доступа.
Аноним 26/10/20 Пнд 18:18:09 #57 №5909904 
>>5909845
>отдышку
>литературно
Аноним 26/10/20 Пнд 18:45:21 #58 №5909980 
>>5909832
Да, так и есть. Там есть и готовые сценарии, но если ты прям кастомный хочешь - придется самому его делать.

В любом случае даже со сценарием это песочница-саморазвлекайка, минимум половину ты пишешь сам, направляя её в желаемое русло. Получается годнота, на самом деле, если ты её освоил.
Аноним 26/10/20 Пнд 18:46:41 #59 №5909984 
>>5909980
>Там есть и готовые сценарии
Причем не только те что в строке в начале, но и васянские публичные, ищи в интерфейсе.
Аноним 26/10/20 Пнд 18:49:09 #60 №5909994 
>>5909896
Что блять? Это их собственная модель, сделанная по опубликованной архитектуре GPT-3 от OpenAI, обученная на русскоязычном корпусе, с пока что гораздо меньшим количеством весом чем у англоязычной GPT-3 full. Придумают хуйни и ябутся в жёпы.
Аноним 26/10/20 Пнд 18:51:01 #61 №5910002 
>>5909832
>Еще небось и мою писанину потом используют, чтобы другим людям за писанину бота выдавать.
Анон, ты хоть бы немного изучил как эта хуйня работает сначала, и кто и как её делает.
Аноним 26/10/20 Пнд 20:17:53 #62 №5910355 
>>5910002
Вот люди никогда не упустят возможность наебать. Так что это навреняка даже просто индусы фигарят тебе вскую чушь по заготовленным карточкам за 1 цент в час.
Аноним 26/10/20 Пнд 20:46:24 #63 №5910446 
415 я база ответьте.mp4
>>5910355
Гномик там сидит и в нарды шахматы играет.
Аноним 27/10/20 Втр 10:07:26 #64 №5911529 
>>5907953
Там в комментах на Хабре запускают GPT-3 Large на тьюрингах с 8 ГБ VRAM, пишут, что задержка ответа - 1-2 сек, модель полностью влазит в VRAM.
DGX и прочие йобы нужны, чтобы ее учить, Марков из Сбера пишет, что обучающая база large-модели - 600 Гб, это память четырех набитых DGX'ов с 16 V100.
Аноним 27/10/20 Втр 10:11:31 #65 №5911536 
fa25jtvoc9ldllxmbjy6papz8a.png
>>5907857 (OP)
>Разработчики:
>gpt-3 способен создавать материалы и статьи, опираясь на контекст и смысл повествования. И для этого ему требуется только набор ключевых слов!
>Толпа:
>Ряяя, нейросети заменят писателей!
>Нейросети:
>пикрил

Ух, аж отлегло.
мимо-писатель
Аноним 27/10/20 Втр 10:50:57 #66 №5911622 
11-640x480.jpg
>>5911536
Очень похоже на бред наркомана, такие пасты в б будут иметь успех.
Ну и да, все это говно очень сырое и криво работает, а маркетологи как обычно бредят о полной замене человека, но случится это в лучшем случае через лет 15-50 и то не факт.
Все еще нейросетка не осознает что делает и просто дописывает текст основываясь на том что написала ранее и получается каша. Как с картинами, которые ИИ рисуют. Пикрил эквивалент текста и всего того, что может сделать гпт3.
Все еще говно, нужно ждать гпт4 или гпт5
Аноним 27/10/20 Втр 10:56:53 #67 №5911635 
Скормите кто-нибудь нейронке всю ваху
Аноним 27/10/20 Втр 11:01:26 #68 №5911641 
>>5907857 (OP)
Там сделали уже нормальную монетизацию, вместо подписки по неадекватной цене?
Аноним 27/10/20 Втр 11:48:32 #69 №5911718 
>>5907857 (OP)
Нужно к пораше подрубить, лол.
Аноним 27/10/20 Втр 16:04:19 #70 №5912613 
photo2020-10-2715-22-44.jpg
Ну вот и поговорили.
Аноним 27/10/20 Втр 18:42:15 #71 №5913383 
>>5909994
Еблан, чатик со скринов это ГПТ2.
Аноним 27/10/20 Втр 22:20:17 #72 №5914613 
>>5907857 (OP)
>AI Dungeon
Эта хуйня тупее чат-ботов. Там внятную историю в принципе невозможно получить. А ещё он может обижаться и отказываться продолжать, потому что ты токсичный.
Аноним 27/10/20 Втр 22:26:21 #73 №5914644 
>>5909040
Да он объебался дизассемблером просто.
Аноним 27/10/20 Втр 22:28:50 #74 №5914660 
>>5909845
>скастовал призыв магазина пятерочки
Высокое колдунство.
Аноним 27/10/20 Втр 22:31:18 #75 №5914675 
>>5911536
>обняла ветер за шею
Крипота какая.
Аноним 27/10/20 Втр 22:39:22 #76 №5914726 
>>5914613
А от какого чат-бота ты внятную историю получишь?
Аноним 27/10/20 Втр 22:56:51 #77 №5914806 
1F1GWHZlOHQ.jpg
>>5907857 (OP)
Ох
представляю как маркетологи обучат ботов говно в чатах и форумах рекламить
каждый первый пост будет уровня
поиграл в асасина годнота, идите покупайте, не пожалеете
Аноним 27/10/20 Втр 23:01:01 #78 №5914818 
>>5914806
>обучат
>будет
У меня для тебя плохие новости.
Аноним 28/10/20 Срд 10:30:24 #79 №5915845 
>>5908038
Не, он такой-же. Мне кажется бот заточен под рассказы всякой хуйни, чтобы ты в ответ писал только "вау, реально?" и он тебе отвечал. На дискуссию он не способен.
Аноним 28/10/20 Срд 10:33:31 #80 №5915848 
>>5914613
Ну тут ты не прав немного
comments powered by Disqus

Отзывы и предложения