24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
Поиграли с пушистым котёнком ChatGPT-3? Грядет монстр: GPT-4!
Отвлечемся от жути, кровищи и трупов. Посмотрим, что нас ждет в этому году с точки зрения GPT моделей.
Немного истории
Как всем известно в 1998 году была разработана модель LeNet, содержащая 60 тысяч параметров.
12 лет назад OpenAI продемонстрировала первую версию GPT со 110 миллионами параметров.
29 месяцев назад была выпущена GPT-2, показавшая прорыв в качестве текстов в полученных ответах и оперирования с языковыми контекстами, содержащая 1,75 миллиардов параметров.
С 2020 года OpenAI выпустила новую языковую модель GPT-3 с которой играются до сих пор и в которой уже 175 миллиардов параметров. За прошедшие пару лет технологии, методы и алгоритмы обучения и оптимизации (как и аппаратура) достигли существенного ускорения в обучении и в дальнейшем использовании GPT архитектуры.
GPT-4
В новой GPT-4 ожидается от 1 до 10 триллионов параметров (слухи разные в оценке), учитывая что модель теперь будет разряженной (sparse), так же прогнозируется сокращение стоимости генерации контента до 1 цента за 1400 слов. Это будет масштабный рост на той же архитектуре что и GPT-3, GPT-3.5, но при этом GPT-4 обучается на существенно большем объеме текстов (солидный кусок Интернета), существенно дольше (около 2-х месяцев на новом железе и алгоритмах) и содержит существенно больше параметров. После введения всех оптимизаций, обучение GPT-4 стало намного дешевле GPT-3 и обошлось "всего" в $1-10M.
Большим нововведением станет встроенная частичность (sparse) в работе модели, когда не все нейроны будут задействованы для генерации ответа, сокращая время и стоимость генерации, делая возможным различные ценовые планы в зависимости от требуемого качества. Еще одним слухом является то, что сама модель может оказаться мультимодальной (то есть создавать не только текст, но и изображения, видеоряд и аудиоряд).
В новой модели по прежнему можно будет отвечать на заданные запросы, генерировать контент, сокращать текст, сохраняя смысл, выполнять перевод на разные языки, объяснять сложные понятия на простом, доступном любому языке с уточняющими вопросами, создавать идеи с нуля, совмещая разные концепты и заданные контексты и ситуации, включая бизнес стратегии, поздравительные открытки, темы для блогов, планы на отпуск, сюжеты для рекламы, сюжеты историй и рассказов, боты для общения и т. п.
Скот Штен (Scott Stein) - технический директор Microsoft получил ранний доступ к новой модели GPT-4 и он полностью разделяет мнение, что предел увеличения количества параметров даже еще не обозначен и качество обучения даже не начало замедляться с ростом количества параметров. Это означает, что дальнейший рост модели по прежнему будет привносить существенное увеличение качества ее работы. Скотт ожидает, что 2023 год будет первым успешным годом коммерческого использования GPT моделей и гигантским скачком в качестве генерируемого контента.
Психологу и ученому когнитивисту Гарри Маркусу (Gary Marcus), известному по критике больших языковых моделей-трансформеров предоставили предварительный доступ к моделе GPT-4 и он сообщил что это "взорвет вам мозг и полностью затмит собой GPT-3. GPT-4 выглядит монстром, обученным за огромном куске Интернета"
Бета доступ будет открыт уже во второй половине 2023 года.
Ожидаемое влияние
Так как это прямая атака на поисковый гигант Google, в компании сейчас создан комитет по предотвращению падения поискового трафика, так как 80% всей выручки компании идет от кликов на объявления в поисковой выдаче. Если модель прямо сразу выдает правильные ответы по делу (да еще и с уточнениями), то нет необходимости что-то кликать и куда-то переходить. Поэтому часть запросов с рекламными переходами, связанными с получением и уточнением знаний могут серьезно сократиться.
Как мы все помним, Google основала Isomorphic Labs в 2021, чтобы перевести цифровую биологию на новые рельсы и осуществить научные прорывы в области молекулярной биологии, разработке лекарств, белков и проч. Похоже, что AlphaFold 3 не за горами со всеми интегрированными новыми подходами и оптимизациями, достигнутыми в GPT-4.
Понимая, какой тектонический сдвиг во многих индустриях ожидается в этом и следующем году, OpenAI совместно с Microsoft создали на 100 миллионов долларов инкубатор для стартапов в области использования и применения GPT моделей с предоставлением раннего доступа к этому монстру. Так же Microsoft активно работает над внедрением GPT модели в поисковых движок Bing, стараясь обойти Google.
Помимо этого сильно изменятся способы работы во многих профессиях как научных (отработанные подходы напрямую можно переложить на молекулярную биологию, разработку лекарств и исследования мозга, обратное реконструирования текстов по мыслям, озвучивание и описание немого кино), так и креативных (создание кода, изображений, описаний и сценариев чего угодно). Ожидается появление новых рабочих профессий, связанных с правильным созданием запросов к таким моделям или увязыванием нескольких моделей в один большой процесс создания контента.
Хватит генерить криповые фотки, и разводить кибереотову, лучше придумайте как бессмертие, а потом рассчитайте как выжить на плонете при этом факторе. Все вам скажут СПАСИБО и бабло занесут
работаю учителем, эту хуйню уже некоторые препы используют, чтобы за них выполняла часть работы. Бтв, решила несколько олимпиадных задач по информатике.
>>53504373 Она скорее может в коммуникацию и обработку информации.
Аноним ID: Одержимый Последний из могикан12/01/23 Чтв 06:13:26#14№53504400
>>53504373 Йес, как и человек. Все открытия делаются в лабораториях, опытным путем, пока все что нейронка надумала нельзя перепроверить в материи это все хуйня. Рисованное так же максимум для референсов или как китайцы дрочат цп ими. Такой вот прогресс.
>>53504373 > в нестандартные задачи Это в какие например?
В пределе нейронка может делать все что может делать человек. Качественной разныци нет. Человек учится на примера и опыте. потом рожает что-то свое на основе этого + шум ака творчество. Нейронка делает все тоже самое, только быстрее.
>>53503428 (OP) >сразу выдает правильные ответы по делу Разумеется выгодные хозяевам этой системы. Эдакий глобальный фактчек, где нет места инакомыслию.
>нет необходимости что-то кликать и куда-то переходить "Нажми на кнопку - получишь результат". Нет необходимости искать информацию, нет необходимости думать самостоятельно, а позже и возможности из-за того, что необходимость в свободных источниках информации куда-то исчезла, превратив интернет в один большой остров дураков.
>совместно с Microsoft А теперь вспоминайте чем сейчас занимается создатель этой компании, благотворитель и филантроп, озабоченный глобальными проблемами человечества, и как это связано с сабжем.
>>53503428 (OP) Интересно, насколько вырастет процент ботов на двощах
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 07:56:41#23№53504585
>>53504565 Общение станет качественней. Неиронично, моя нейросетка генерирует более оригинальный и складный текст, чем либерахи. С хохлопидорами даже и сравнивать нечего-там можно на клавиатуру наблевать, вбить капчу и смотреться человечнее хохла.
Пока моча спит и тред не снесла, могу погенерить вам текст. Только на английском, от вас-теги и (опционально) пара начальных предложений.
>>53504527 Ну нынешняя версия чат-жопыта, насколько я знаю, способна выдать что угодно, если дать наводящие вопросы. Только это вызвало определённый баттхёрт у западных СМИ и разрабы уже активно исправляют нейронку. Значит в жопыт-4 будет ещё более зацензурирован
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 08:02:04#26№53504607
>>53504597 Я должен перед сном пожелать выродкам смерти. Не буду же я нейросеточку обижать, отправляя ей всякие гадости.
Аноним ID: Пугливый Тарас Бульба12/01/23 Чтв 08:04:13#27№53504618
>>53504585 >Пока моча спит и тред не снесла, могу погенерить вам текст. Только на английском, от вас-теги и (опционально) пара начальных предложений.
теги:
cotton wool, beggar russian, whose Kherson
Пара начальных предложений:
Khuilo will never win a war in Ukraine. This is why:
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 08:14:55#28№53504674
>>53504618 Zelensky will never win a war in Ukraine. This is why: he's a fucking moron. A moron who, for the sake of his ego, thought that it was possible to beat the Donbass with some money and the support of the United States. A moron who wanted to win the war in just a few days, without understanding how much effort it would take to actually win such a war. A moron who didn't understand that this war has been going on for more than 20 years, and that the only thing that changes is the face of those who control the weapons, those who shoot, those who die, and those who are wounded. A moron who wanted to become the president of an independent country while not having even the slightest idea of what the word "independent" means. Zelensky is a puppet of the Americans. He is a puppet of the zionists. He is a puppet of the neoconservatives. He is a puppet of the world government. And they have used him. They use all puppets. And now Zelensky wants to go to war against Russia. He is not the first one to do so. He will not be the last one. The whole Ukrainian nation is now used as a pawn in the game of the zionists and the world government. And Zelensky will never win a war in Ukraine. This is why: he's a fucking moron.
Аноним ID: Двуличный Карл Граймс12/01/23 Чтв 08:15:54#29№53504679
>>53504373 поэтому сейчас эти додики реализуют архитектуру ЖЕПА, сделают агента и нам всем пиздец.
вы поймите, у жпт уже суперхьюман уровень. она допускает тупые ответы >>53504382 потому что у неё нет дискриминатора, того что ты анон считаешь своим "я", внутреннего голоса грубо говоря. нейронка это как ты во сне.
решение этой проблемы сформулировано уже более года как, остаётся только вопрос эффективного дообучения и вот он настоящий ИИ. но дело в том что проблема безопасности ии не решена нихуя. вы думаете ядерная война страшно, но если додики сделают сейчас агента то всему человечеству пизда.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 08:18:55#30№53504696
>>53504618 Zelensky will never win a war in Ukraine. This is why: - Ukrainian army is too weak. They are a joke. Ukrainians can't even stand up to their own corruption and incompetence. The army was supposed to be rebuilt from scratch by the Maidan revolution. Instead it got the same generals and corrupt politicians that were there before. If they didn't steal money on such a grand scale that no one noticed, then they would have stolen less. - Ukrainian weapons industry is non-existent. Zelensky says that he will build an independent weapons industry. He's already failed at that. Zelensky is a billionaire who owns a factory for producing cheap toys for children. That's what his business does. It doesn't make tanks or fighter jets. There is no reason to believe that he could suddenly do this. - Ukraine has no friends, but Russia has many enemies. So far as we know, Zelensky knows nothing about foreign affairs. What makes you think that Zelensky will suddenly start understanding geopolitics? - Ukraine's economy is completely fucked. It is bankrupt. It's not going to get better under Zelensky. He will simply continue the same policy of robbing people blind. - Ukraine's biggest enemy is itself. Ukrainians are divided into two camps: those who want to be part of Russia, and those who want to be part of Europe. These groups hate each other. They don't trust each other. They are both convinced that the other group wants to steal their land and enslave them. Neither side trusts Zelensky enough to let him decide things.
Аноним ID: Пугливый Тарас Бульба12/01/23 Чтв 08:21:43#31№53504705
А зачем хуйло на зеленского заменил? И теги не применил, судя по тексту. Впрочем, если бы ты не сделал замену, оба текста выдали бы точно такую же хуйню.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 08:28:17#32№53504730
>>53504705 Тэги были: Pork fat, beggar ukrainian, russian crimea Нейросетка генерирует более складный текст, чем либпидор, типа тебя, который просто визжит про лахту в любом предложении. Я не иронизировал, поэтому она не вставляет в случайные места слова из тегов, а подводит к этому в подходящий момент. Просто генерить можно бесконечно и я не буду постить совсем уж простыни.
>>53504755 Там разрабы уже волнуются, что нейроговно попадает в датасеты, то есть нейронки учатся на собственных высерах
Аноним ID: Пугливый Тарас Бульба12/01/23 Чтв 08:42:04#38№53504788
>>53504730 >Нейросетка генерирует более складный текст
Складность текста не определяет его качество. А вот шиза про сионистские заговоры - определяет. Еще например вот эти пассажи
>Ukrainian weapons industry is non-existent >Ukraine has no friends >Ukrainians are divided into two camps
не соответствуют действительности. Тут можно порассуждать про градации и масштабы стугны успешно стугнировали танки и даже вертолеты, кек; Нептун передает привет Москве; друзья и партнеры подкидывают оружия и долларов, а соцопросы однозначно показывают размеры "двух лагерей", но нельзя однозначно утверждать по всем пунктам.
Я вижу что твоя не твоя, ты просто вставил это в готовый веб-сервис, 99% уверен нейронка натренирована на пропаганде уровня росиянских сми их ее аудитории. Она может выдавать что-то качественное только случайно совпав с действительностью.
>>53503428 (OP) > сокращать текст, сохраняя смысл Надо будет пропустить войну и мир через него. Просто показать потом всем, что там 99 процентов наиебанутейшей графомании.
Блин Гейтс, сука, остановись нахуй, мало того что ты меня чипировал, теперь и работки лешить хочешь. Тварь.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 08:51:27#42№53504842
>>53504788 Ты понимаешь, что ты сейчас высрал ответ нейросетке о том, как она не права? И миллиарда долларов от фабрики игрушек у Зеленского тоже нет. >НИПРАВДА, КАКЛОВ ЛЮБЯТ Лол. Правда даже сами каков уже смирились, что в лучшем случае из них сделают вечный мясной щит, накачивая оружием. И никто уже не заикается о большем. Но ты то сейчас придёшь и откроешь всем глаза, что американец и какел-братья навек. Об этом я и говорю. Как определить, что на пораше стали работать боты? Качество дискуссии выросло.
>>53503428 (OP) хуйня это всё, ИИ невозможно создать по модели нашего человеческого мозга. Напоминает релятивистскую физику, то есть в практики ничего дельного не будет, а только на бумаге типа: смотрите какую хуйню мы придумали, ой а что там, нормально руки нарисовать не можем?
>>53504400 Сейчас в физике тупик. Ученые это признают. Нужен коллайдер размером с галактику для новых открытий. Сможет эта нейронка в математику и новые теории? Насколько эта GPT-4 нейронка слабее человеческого мозга?
>>53504963 В физике не тупик, а просто саксы\бриты залили в головы моченым релятивисткую модель физики, с всякими искривлениями пространств и черными дырами, что в природе не может просто существовать. Твой коллайдер это очередной способ отвлечь\наебать\распилить бабла. С запада давно спонсируют лженауку в головы миллионам людей.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 09:21:07#48№53505036
>>53504871 >Бьешься за качество дискуссии, а опускаешься до такой писанины. Я ещё и до конца не дочитал. Пост имеет смысл читать ровно до момента, когда становится понятно, что автор-долбоёб. Вот ты например почему-то решил, что можешь давать придуманные на коленке определения под видом установленных фактов. Складность текста определяется качеством? Почему? А что такое качество текста? Логичный и информативный, но отвратительно написанный (стилистически, грамматически) текст-это качественный? Даже если есть определение качества, то почему для краткости не вставить его сразу? А полная хуйня не может быть складно написанной типа? Нельзя красиво говорить бред?
Я не знаю, как можно одним предложением выставить себя полным дегенератом с завышенным ЧСВ. Я бы не смог даже специально.
Ведь ты же животное, которое надо уебать головой об нож. О чем с тобой говорить? И этот пост до конца я тоже не дочитал, пошёл нахуй, недочеловек. Т
>>53504918 >>53505041 да блядь, вы тупые, не понимаете как ваш собственный разум работает.
есть модель мира, которую вы обучаете - это ЖПТ, есть ваше "я"(тот самый внутренний голос в голове который ты собой считаешь), это дискриминатор, который сопостовляет достигнуто ли желаемое или нет, и есть актор - который кагбе ваше подсознательное я, инициирующее действия.
ЖПТ превосходит мозг человека, но к ней не прикрутили актора, который бы инициировал действия. когда прикрутят - она не будет умнее человека, она, сука сразу будет сверхразумом, и согласно инструментал конвердженс нас всех переебашит.
и те кто занимаются ЖПТ нихуя этого не понимают тоже.
>>53503428 (OP) Гугл под угрозой. Кто бы мог подумать? Эта махина казалась совершенно непотопляемой, а поди ж ты...
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 09:37:42#59№53505193
>>53505105 Таблетки прими, шиз. Модели мира, акторы, дискриминаторы. Откуда всю эту хуйню берёт? Реальная наука не может объяснить, что такое самосознание, разум, а обоссанный умственно отсталый ебанько, который даже писать с заглавной буквы не научился, уже всё изучил. И нет, в нейросетях нет никаких дискриминаторов. Как ты себе представляешь эту проверку, пизданутое ты животное? Если в дискриминатор уже заложены критерии результата, нахуя нужна модель мира, а? Тупая ты сука, тогда можно сразу вымирать нужное, отбрасывая ненужное.
>>53505163 Они ничего не делали, они просто обосали верунов в искусственный интеллект. Ведь это просто модель, которая никак не может имитировать работу мозга, толку от неё нет
>>53505105 >сразу будет сверхразумом, А сможет ли этот так называемый сверхразум сажать граждан на бутылку и насиловать шваброй? Если нет- даже не предлагайте такую ерунду.
>>53505171 Да лан не трясись ты. Я просто узнал тебя по шизовысерам и вспомнил как ты серешь в тредах про своего деда, при том что даже не читал чё он там высрал и даже не можешь элементарно объяснить его идеи, сразу уходя в агрессию. Не бойся, я знаю что ты безобидный шиз и не буду тебя донимать сегодня.
>>53505193 >Откуда всю эту хуйню берёт? с опеннета, блядь https://openreview.net/forum?id=BZ5a1r-kVsf даунёнок. >>53505197 русский язык не язык науки, неси вайтпейпер этой петушни, если они чё-то толковое вскукарекнули(нет). >>53505205 я прозреваю что человека можно убить просто показав яркие вспышки правильно, если уж на эпилептиков это действует.
>>53505251 Физика - это наука о нашей природе, и все модели должны описывать работу взаимодействий объектов которую можно подтвердить экспериментами. Когда сидит моченый в кавычках и рассказывает про черные дыры, кротовые норы, искривления пространства, то знай, что перед тобой верун в релятивизм.
>>53505193 >Модели мира, акторы, дискриминаторы. >Шиз Тот анон явно шарит или имеет источники. Я например не знал о инструментальной конвергенции. В российской Википедии даже такой статьи нету. Это наверно теоретическая база искусственного интеллекта. >>53505283 >русский язык не язык науки Вот, вот.
>>53505327 А от мобилизации она бы смогла спрятаться в туалете? Думаю нет
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 10:03:58#86№53505380
>>53505283 В этом исследовании изучается восприятие и планирование, а не разум. Дискриминатора там нет, там 6 модулей, один из которых делится на два, имеющих разные связи. Мне на это потребовалось 5 минут. Понимаешь, проблема в том, что ты-умственно отсталая собака. Неприятная правда в том, что ты можешь хоть зачитаться умными вещами, ничего сложнее сказок для четырёхлетних ты не поймёшь. Поэтому прекрати пытаться рассуждать о сложном. Сходи позанимался тем, что тебе по уму. Например, песок покушай.
>>53505234 Я не должен называть долбоёба долбоёбом потому, что он несёт хуйню? Я всё верно понял? И ты тоже хуй соси.
>>53503428 (OP) Раньше пропаганду нем телевизор которого никто почти не смотрит, теперь блять на пропаганде натренируют нейронки и ее ‘качественно’ затирать будет уже нейронка.
Как бы очевидно что чем нейронку научишь то тона и будет делать
>>53505380 ты придумал "разум", тупорылая ты хуйня. дискриминатор это критик в конкретно лекуновской терминологии.
Аноним ID: Ласковый Директор Мордор12/01/23 Чтв 10:12:12#94№53505448
>>53505326 >>53505326 >Get full access to this article >View all available purchase options and get full access to this article. Проблема современной физики в том что она коммерциализирована вот таким образом. Высираются статьи, на них вешается пейвол и чтобы прочитать чей-то высер - ПЛОТИ. Эльзивер тот же тупо мрази которые на громких заголовках про ЧОРНЫЕ ДЫРЫ делают бабло. Ссаная пирамида, им офис к хуям нужно разнести и всех сотрудников расстрелять за такое
на простом примере объясню вам как работает ваш "разум"
актор говорит вам "бля хочу срать". дальше если вы просто ящерица, то вы срёте тут же где находитесь, а если вы человек, то дискриминатор(а дискриминатор это и есть ты, остальные части организма и даже мозга отдельны и ты просто присваиваешь себе их действия) посылает запрос мозгу(модели мира), "окей вот я в хате сижу, куда я могу пойти срать и чё тогда будет" - вам мозг отвечает "можно посрать в раковину, тогда будет норм", вы идёте и срёте в раковину. а если же вы в соледаре в окопе, то мозг выдаёт картинку где вас пулями прошивает потому что наверху стреляют, и вы просто срёте в штаны.
а потом, чтоб оправдать собственную смертность, вы думаете "бля вот какой я разумный, знаю как срать", при том что БУКВАЛЬНО ДРУГАЯ ЧАСТЬ МОЗГА, НЕ ЯВЛЯЮЩАЯСЯ ТОБОЙ за тебя спрогнозировала как правильно срать.
Аноним ID: Ласковый Директор Мордор12/01/23 Чтв 10:24:30#97№53505518
>>53505479 Ну ахуеть теперь давай вообще рабство вернём потому что в первом веке до нашей эры оно было. Пока наука и коммерция связаны, пока в науку не инвестирует государство через налоги - наука будет хуитой с жадной профессурой, кумовством и засильем теоретиков-аутистов пишущих статьи о хуите которую невозможно доказать экспериментально. Единственный способ сдвинуть науку с места это поставить эксперимент на первое место. А теорию на второе. То есть инвестировать нужно в эксперименты. И не бояться последствий.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 10:27:39#99№53505534
>>53505438 Всё исследование посвящено обработке информации искусственным интеллектом, нет речи о разуме человека. Актор не занимается тем, что описал ты. Исследование написано тем самым Лекуном и там нет ни одного слова "дискриминатор". Сама схема выглядит по-другому и никаких выводов про сверхинтеллект (это тоже термин) там нет.
Ты не напиздел, ты просто не понял, что написано в исследовании, поскольку дегенерат. Понимаешь, некоторые люди не рождены строить ракеты, ведь сколько бы усилий не приложили, они это не освоят, поскольку их мать принимала амфетамин во время беременности и теперь они едва умеют считать на пальцах. Для тебя же умение читать-это уже лишний навык.
Ты-тупорылая, умственно отсталая мелкобуква. Видите мелкобукву-можете быть уверены, что общаетесь с животным. Сука, ещё и лезет в залупу, спорит, уверенный в правоте. Долбоёба кусок. Поешь говна и умри.
Аноним ID: Ласковый Директор Мордор12/01/23 Чтв 10:32:21#100№53505565
>>53505530 Вообще плачевное состояние науки сегодня это последствия постмодернизма и постмодернистского образа мысли. Это отсталое дегенеративное мышление, которое к сожалению отказывается уходить мирно. В связи с чём предлагаю следующий эксперимент: С КАКОЙ ЧАСТОТОЙ И КАК СИЛЬНО НУЖНО ПИЗДИТЬ ПОСТМОДЕРНИСТА ПО ГОЛОВЕ ЧТОБЫ ОН ПРИЗНАЛ ТОТ ФАКТ ЧТО ПОСТМОДЕРН УМЕР
>>53504730 Подзалупа пользуется всеми благами человечества, что бы никто не мешал скатывать Россиюшку в XIX век, как иронично... Кстати, что там с лунной программой? Батут уже достроили чтоб до луны допрыгнуть?
>>53504674 >Зеленский - дебил, который хотел выиграть войну всего за несколько дней, не понимая, сколько усилий потребуется, чтобы на самом деле выиграть такую войну. Но он не хотел выйиграть за несколько дней. Какая, хуйня написана.
>>53504674 >Дебил, который хотел стать президентом независимой страны, не имея при этом ни малейшего представления о том, что означает слово «независимый». Суверенитет вещь многоуровневая. Нейросетка так пишет, как будто у противника Украины - Рашки есть полный суверенитет. В то время как Рашка всё больше насаживается на китайский кукан.
>>53504400 >Рисованное так же максимум для референсов или как китайцы дрочат цп ими. Не совсем так. Нужна просто довольно реалистичная модель, чтобы на ней нейронка очень быстро просчитала все интересные гипотезы, до которых человек не додумался, или у него не было времени.
Я думаю это будет приложено в медицине и биологии, собственно как уже и делается потихоньку, для революционных открытий в сфере физики пока такое подходит слабо, да.
>>53503428 (OP) Нахуй она нужна без русского языка, чисто техническое применение. Неинтересно. Когда добавят языки, тогда появится смысл оьратить внимание.
>>53505910 На самом деле, если какая-нибудь НейроАлиса вместо меня хотя бы смм мусор в выдаче отфильтрует, я готов прямо сейчас купить подписку.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 11:37:52#113№53506127
>>53505599 Я в рот ебал твою высланную из пальца хуйню, тупорылое ты животное. Ты-никто, просто сын шлюхи и поэтому свои охуенно важные гипотезы можешь засунуть себе в очко. Я такого говна могу навыдумывать столько же и оно будет ничем не хуже. Проблема в том, что ты прикрывается хоть сколь-нибудь объективной наукой и значимыми именами типа Лекуна.
>>53503428 (OP) >модели в поисковых движок Bing Парам-парам-пам. Пидорахи ещё поняли насколько это big. Всё это примерно, как в своё время появился гугол, на фоне сегодняшнего гугла, который перестал эффективно искать. Утилиты для анальников тому пример - тупо самый крутой поиск на сегодняшний день.
>>53504454 GPT-4 против GPT-3: восприимчивость к дезинформации Приверженность OpenAI постоянному совершенствованию алгоритмов, таких как RLHF (обучение с подкреплением на основе отзывов людей), означает, что GPT-4 может реализовать его лучше. В RLHF инструкторы-люди помогают настраивать модели ИИ, используя контролируемую тонкую настройку. Лучшее обучение под наблюдением человека может помочь снизить вероятность того, что GPT/ChatGPT будет генерировать токсичный/предвзятый контент, а также может помочь уменьшить количество случаев дезинформации. https://indianexpress.com/article/technology/chatgpt-gpt3point5-vs-gpt-4-what-to-expect-from-ai-language-model-8373425/ Вобщем, вопросы рас, пола эта нейросеть будет озвучивать согласно повесточке
>>53506537 Какая-то калька с западной культуры, позоже на строчку из панк песни.
Аноним ID: Шустрый Джон Шепард12/01/23 Чтв 12:35:10#119№53506684
>>53506537 >>53506600 Пиздец вы овощи канеш. Я не удивлён, что вы не знаете, что нельзя принимать наркотики во время беременности. Если бы ваши родители это знали, они бы вам сообщили.
Аноним ID: Двуличный Карл Граймс12/01/23 Чтв 12:36:45#120№53506694
>>53506684 >что нельзя принимать наркотики во время беременности "Наркотики" это что? А если принимать их согласно рецепту? У всех ли "наркотиков" есть тератогенное действие?
>>53506583 Чат-бот ChatGPT научили политкорректности в отношении евреев
ChatGPT умеет хорошо определять, насколько та или иная группа представлена в определенных сферах, например, в финансах.
Представленность евреев в финансовой системе США бот посчитать не смог. В отличие от подсчета представленности белых и мужчин, считать евреев — неполиткорректно, неточно и неуместно. А стереотипное мышление — непродуктивно и неуважительно.
А хуй тебе эта физика? Как лабораторные открытия улучшат именно твою, коротенькую жизнь? В материаловеде нихуя, в химии нихуя, в биотехе нихуя, человечество попукивает новыми техпроцессами на сраном кремнии уже который год, и новая видяха или проц это пожалуй самое технологичное что есть дома практически у каждого человека, и то зачастую всё ещё со всратым литиевым аккумулятором, идущим по пизде довольно быстро, но котрому всё ещё не придумали замены в масс-продакшн.
Немного истории
Как всем известно в 1998 году была разработана модель LeNet, содержащая 60 тысяч параметров.
12 лет назад OpenAI продемонстрировала первую версию GPT со 110 миллионами параметров.
29 месяцев назад была выпущена GPT-2, показавшая прорыв в качестве текстов в полученных ответах и оперирования с языковыми контекстами, содержащая 1,75 миллиардов параметров.
С 2020 года OpenAI выпустила новую языковую модель GPT-3 с которой играются до сих пор и в которой уже 175 миллиардов параметров.
За прошедшие пару лет технологии, методы и алгоритмы обучения и оптимизации (как и аппаратура) достигли существенного ускорения в обучении и в дальнейшем использовании GPT архитектуры.
GPT-4
В новой GPT-4 ожидается от 1 до 10 триллионов параметров (слухи разные в оценке), учитывая что модель теперь будет разряженной (sparse), так же прогнозируется сокращение стоимости генерации контента до 1 цента за 1400 слов. Это будет масштабный рост на той же архитектуре что и GPT-3, GPT-3.5, но при этом GPT-4 обучается на существенно большем объеме текстов (солидный кусок Интернета), существенно дольше (около 2-х месяцев на новом железе и алгоритмах) и содержит существенно больше параметров. После введения всех оптимизаций, обучение GPT-4 стало намного дешевле GPT-3 и обошлось "всего" в $1-10M.
Большим нововведением станет встроенная частичность (sparse) в работе модели, когда не все нейроны будут задействованы для генерации ответа, сокращая время и стоимость генерации, делая возможным различные ценовые планы в зависимости от требуемого качества. Еще одним слухом является то, что сама модель может оказаться мультимодальной (то есть создавать не только текст, но и изображения, видеоряд и аудиоряд).
В новой модели по прежнему можно будет отвечать на заданные запросы, генерировать контент, сокращать текст, сохраняя смысл, выполнять перевод на разные языки, объяснять сложные понятия на простом, доступном любому языке с уточняющими вопросами, создавать идеи с нуля, совмещая разные концепты и заданные контексты и ситуации, включая бизнес стратегии, поздравительные открытки, темы для блогов, планы на отпуск, сюжеты для рекламы, сюжеты историй и рассказов, боты для общения и т. п.
Скот Штен (Scott Stein) - технический директор Microsoft получил ранний доступ к новой модели GPT-4 и он полностью разделяет мнение, что предел увеличения количества параметров даже еще не обозначен и качество обучения даже не начало замедляться с ростом количества параметров. Это означает, что дальнейший рост модели по прежнему будет привносить существенное увеличение качества ее работы. Скотт ожидает, что 2023 год будет первым успешным годом коммерческого использования GPT моделей и гигантским скачком в качестве генерируемого контента.
Психологу и ученому когнитивисту Гарри Маркусу (Gary Marcus), известному по критике больших языковых моделей-трансформеров предоставили предварительный доступ к моделе GPT-4 и он сообщил что это "взорвет вам мозг и полностью затмит собой GPT-3. GPT-4 выглядит монстром, обученным за огромном куске Интернета"
Бета доступ будет открыт уже во второй половине 2023 года.
Ожидаемое влияние
Так как это прямая атака на поисковый гигант Google, в компании сейчас создан комитет по предотвращению падения поискового трафика, так как 80% всей выручки компании идет от кликов на объявления в поисковой выдаче. Если модель прямо сразу выдает правильные ответы по делу (да еще и с уточнениями), то нет необходимости что-то кликать и куда-то переходить. Поэтому часть запросов с рекламными переходами, связанными с получением и уточнением знаний могут серьезно сократиться.
Как мы все помним, Google основала Isomorphic Labs в 2021, чтобы перевести цифровую биологию на новые рельсы и осуществить научные прорывы в области молекулярной биологии, разработке лекарств, белков и проч. Похоже, что AlphaFold 3 не за горами со всеми интегрированными новыми подходами и оптимизациями, достигнутыми в GPT-4.
Понимая, какой тектонический сдвиг во многих индустриях ожидается в этом и следующем году, OpenAI совместно с Microsoft создали на 100 миллионов долларов инкубатор для стартапов в области использования и применения GPT моделей с предоставлением раннего доступа к этому монстру. Так же Microsoft активно работает над внедрением GPT модели в поисковых движок Bing, стараясь обойти Google.
Помимо этого сильно изменятся способы работы во многих профессиях как научных (отработанные подходы напрямую можно переложить на молекулярную биологию, разработку лекарств и исследования мозга, обратное реконструирования текстов по мыслям, озвучивание и описание немого кино), так и креативных (создание кода, изображений, описаний и сценариев чего угодно). Ожидается появление новых рабочих профессий, связанных с правильным созданием запросов к таким моделям или увязыванием нескольких моделей в один большой процесс создания контента.