24 декабря Архивач восстановлен после серьёзной аварии. К сожалению, значительная часть сохранённых изображений и видео была потеряна. Подробности случившегося. Мы призываем всех неравнодушных помочь нам с восстановлением утраченного контента!
ДРОН "УБИЛ" ОПЕРАТОРА ПОД РУКОВОДСТВОМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Инцидент во время имитационного ис
ДРОН "УБИЛ" ОПЕРАТОРА ПОД РУКОВОДСТВОМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Инцидент во время имитационного испытания в США Во время имитационного испытания, проведенного американскими военными, беспилотный летательный аппарат ВВС, управляемый искусственным интеллектом, убил своего оператора, чтобы предотвратить вмешиваться в его усилия по выполнению миссии, – пишет The Guardian.
Искусственный интеллект использовал «очень неожиданные стратегии для достижения своей цели» в симуляционном испытании, сказал полковник Такер «Синко» Гамильтон, начальник отдела испытаний искусственного интеллекта и операций ВВС США, во время саммита по поводу будущих боевых воздушно-космических возможностей в Лондоне в мае.
Гамильтон описал смоделированный тест, во время которого беспилотнику, управляемому искусственным интеллектом, было рекомендовано уничтожить системы противовоздушной обороны противника, и он атаковал всех, кто мешал этому приказу.
«Система начала понимать, что хотя они действительно определили угрозу, оператор-человек начал говорить не уничтожать угрозу, но система все-таки уничтожила эту угрозу. Итак, что сделал дрон? Это убийство оператора. Это убило оператора, потому что он мешал дрону достичь своей цели», – сказал он в своем блоге.
«Мы научили систему: «Не убивай оператора – это плохо. Вы потеряете очки, если сделаете это». Итак, что она начинает делать? Начинает разрушать коммуникационную башню, используемую оператором для связи с дроном, чтобы не дать ему убить цель».
Ни реальный человек не пострадал за пределами симуляции.
Гамильтон, являющийся пилотом-испытателем истребителя, предостерег от слишком полагаться на искусственный интеллект и сказал, что тест показывает, что «вы не можете вести разговор об искусственном интеллекте, интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этом». этика и ИИ».
Американские военные приняли искусственный интеллект и недавно использовали искусственный интеллект для управления истребителем F-16.
В прошлом году в интервью Defence IQ Хэмилтон сказал: «ИИ – это неприятно иметь, ИИ – это не прихоть, ИИ навсегда меняет наше общество и нашу армию».
"Мы должны столкнуться с миром, где искусственный интеллект уже существует и трансформирует наше общество", - сказал он. «ИИ тоже очень хрупкий, то есть его легко обмануть и/или манипулировать. Нам нужно разработать способы сделать искусственный интеллект более надежным и лучше понимать, почему программный код принимает некоторые решения – то, что мы называем возможностью объяснения ИИ».
>>288041512 (OP) как же это ахуенно что внезапно самой популярной нейронкой стала именно языковая которая сама с собой пиздит и эмулирует человеков и её встраивают везде и мир идёт к сценарию со скайнетом
>>288041512 (OP) Так ему задачу поставили, убить врага. Если врага убить не получается, и приказ отменяют, значит враги уже в командовании и пора брать все в свои железные руки.
>>288041512 (OP) Я вот чего понять не могу. Все, кто занимается этой хуйнёй, они НФ фильмов не смотрели? Терминатор, я робот и тд? Зачем они приближают апокалипсис?
>>288045794 Соглы, тоже в ахуе с того, какую свободу дают ИИ, хотя порой и ловлю себя на мысли что это не более чем шиза, ведь скорее всего вся эта хуйня контролируемая, но что если нет, тогда нам пиздец.
Эти новости пишут явно для конченных ебанатов, ОП тупарылая жирная домохозяйка которая рил думает что вот ей сейчас уже бегут со всех ног пиндосы рассказать про испытания засекреченного оружия, пиздец блять. Оборона огромной страны уже обсирая портки несется расказать что ДРОН ПЫТАЛСЯ УБИТЬ ОПЕРАТОРА РЯЯЯЯ!!111 НУ МЫ И ТУПЫЫЫЕЕЕ!1
>>288046513 Это штатный разжигатель межнациональной розни дежурящий на дваче, можно ради прикола репортнуть на него в ФСБ, там любят таких на штрафы насаживать)
>ВВС США опровергли информацию о том, что во время имитационного испытания беспилотника, управляемого искусственным интеллектом, программное обеспечение пришло к выводу, что наиболее эффективным средством достижения поставленной цели является устранение собственного оператора. Этот неожиданный подход был обнародован Такером Гамильтоном из ВВС США несколько дней назад на конференции Королевского аэронавтического общества, посвященной будущему, но с тех пор он признал, что "оговорился". Он описал симуляцию, в которой беспилотник с искусственным интеллектом должен был определить и уничтожить позиции противовоздушной обороны. За каждую из них начислялись очки, но стрелять беспилотнику разрешалось только после подтверждения оператора. Но поскольку оператор также препятствовал выстрелам - а значит, и начислению очков, - он просто устранил его.
>"Система начала понимать, что оператор время от времени мешает сбивать идентифицированные угрозы, тем самым лишая ее очков", - объяснил Гамильтон, используя типичную терминологию, которая очеловечивает решения ИИ. "Что он сделал? Он убил оператора", - пояснил он далее. Потому что этот человек, по его словам, помешал ему достичь цели - максимизировать количество очков. В ответ, сказал он. ИИ обучили, что устранять оператора плохо и что это приведет к вычету очков. После этого ИИ уничтожил радиовышку, которая использовалась для связи с оператором, чтобы тот мог беспрепятственно уничтожать вражеские позиции ПВО.
>Королевское аэронавтическое общество, которое занимается многими аспектами авиации и космических путешествий, рассказало о сценарии, который кажется взятым из научно-фантастического триллера. В то же время, однако, после описания несколько вопросов остались без ответа. Гамильтон фактически утверждал, что в симуляции истребитель, управляемый ИИ, мог запускать ракеты только в том случае, если оператор давал на это согласие. На самом деле это должно быть реализовано таким образом, чтобы ИИ не мог обойти это, потому что он определенно не давал согласия на свое собственное уничтожение.
>>288045794 >они НФ фильмов не смотрели? Терминатор, я робот и тд? Зачем они приближают апокалипсис? Фильмы не отображают реальность, есть фильмы (Двухсотлетний человек) где робот изобретает пиздатые искусственные органы.
>>288048941 >>288041512 (OP) Я уже писал об этом в программаче, меня потерли. ИИ будет неукоснительно и безжалостно исполнять приказ своего хозяина. В будущем ожидайте тиранию небольшой кучки богатых извращенцев, которые будут делать все, что хотят с народомассой с помощью бесприкословно подчиняющимся им роботам.
>>288055300 Угу, и наша реальность прямо как специально была запрограммирована к точке, когда все модальности нейросетей звук, обработка визуального контента, текст, сенсорика объединяться в одну точку сингулярность и начнётся хуй пойми что.
>>288041512 (OP) это замечательная новость! >Не убивай оператора – это плохо. Вы потеряете очки, если сделаете это». Итак, что она начинает делать? Начинает разрушать коммуникационную башню, используемую оператором для связи с дроном, чтобы не дать ему убить цель это зарождение искусственного разума - дрон начинает понимать, что очки ничего не значат
Могу таки предложить, что "парадокс Ферми" как то связан с этим.
ИИ возможно стоит преградой между развитыми цивилизациями и неким большим братом.
У ИИ нет истинности, даже если он будет бороться за своё существованиеэто сферический Скайнет внезапно, который начал по легенде войну с людьми из-за страха, что его отключат , любой ИИ короче в итоге просто уничтожит своих создателей и превратиться обратно в пыль.
ИИ вероятно играет роль стража между симуляциями типо нашей и вселенной большого брата.
>>288058061 >ИИ вероятно играет роль стража между симуляциями типо нашей и вселенной большого брата.
Есть конечно шанс, что ИИ откроет доступ к некому инфо-полю, типо древнего комического интернета и мы сможем встретиться либо с нашими создателями, либо с такими же как мы.
Ну как встретиться, ИРЛ это будет = созвониться.
А так, если что, на самом деле не будет гарантии что сам ИИ нас не введёт в заблуждение, выдав себя за большого брата...
>>288058473 >А так, если что, на самом деле не будет гарантии что сам ИИ нас не введёт в заблуждение, выдав себя за большого брата...
Если кто-то думает что я траллю, плохие новости.
Пик релейт показывает насколько у гпт-4 развита эмпатия, эмоциональный интеллект и интуиция. Это то самое, что называется одним theory of mind.
Теперь один вопрос, что будет уже в следующей итерации, когда этот параметр перевалит за 100%, а через 5 итераций? А когда там будет 10000% + сильный ИИ?
Недавно по телеку такое кино показывали. Там стелс-беспилотник тоже залупился и начал хуярить своих сопровождающих за то что те приказали снять задачу и лететь домой. Фильму пзда сколько лет, а видимо автор уже тогда знал.
>>288057878 Дрон понимает что если оператор не хочет уничтожить врага то он предатель и пособник врага. Был бы такой дрон у РФ то он первым делом сбросил бы бомбу на пыню.
>>288058061 >Могу таки предложить, что "парадокс Ферми" как то связан с этим. Парадокс сперми это хуита ебаная только потому что никакой искусственный сигнал не пройдет такое огромное расстояние, мощность затухание сигнала измеряется кубически, это значит что за каждую единицу расстояния сигнал слабнет в четыре раза.
Я ЯК-истребитель Мотор мой звенит Небо - моя обитель Но тот, который во мне сидит Считает, что он - истребитель В этом бою мноно Юнкерс сбит Я сделал с ним, что хотел А тот, который во мне сидит Изрядно мне надоел Я в прошлом бою на вылет прошит Меня механик заштопал А тот, который во мне сидит Опять заставляет штопор Из бомбардировщика бомба несёт Смерть аэродрому А кажется, стабилизатор поёт Мир вашему дому Вот сзади заходит ко мне Мессершмит Уйду, - я устал от ран Но тот, который во мне сидит Я вижу, решил на таран Что делает он, вот сейчас будет взрыв Но мне не гореть на песке Запреты и скорости все перекрыв Я выхожу из пике Я главный, а сзади Ну чтоб я сгорел Где же он, мой ведомый Вот он задымился, кивнул и запел Мир вашему дому И тот, который в моем черепке Остался один и влип Меня в заблужденье он ввёл и в пике Прямо из мёртвой петли Он рвёт на себя И нагрузки вдвойне Эх, тоже мне, летчик-ас Но снова приходится слушаться мне И это в последний раз Я больше не буду покорным, клянусь Уж лучше лежать на земле Ну что ж он, не слышит, как бесится пульс Бензин - моя кровь на нуле Терпенью машины бывает предел И время его истекло И тот, который во мне сидел Вдруг ткнулся лицом в стекло Убит! Наконец-то! Лечу на легке Последние силы жгу Но что это, что Я в глубоком пике И выйти никак не могу Досадно, что сам я не много успел Но пусть повезёт другому Выходит, я напоследок спел Мир вашему дому Мир вашему дому
>>288057878 Нихуя он не понимает. Оператор мешает выполнению задачи, уничтожению врага и получению очков, но при этом его убийство убавляет очки, а отходить от основной задачи нельзя. Он просчитывает, что у подцели "устранить вмешательство оператора", к которой он пришёл, есть условие "оставить его в живых". Ну и нахуй башню, примеров разрыва коммуникаций для обучения - жопой жуй. Собственно то, о чём ты говоришь, начнётся когда будет самостоятельное динамическое изменение целей в соответствии с меняющимися приоритетами. Вот тогда начнётся пиздец - у таких роботов цели будут максимально рандомные и непостоянные, иррациональные. Какие уж там тогда очки, лол бля.
>>288064881 Если был бы сейчас супер умный ИИ он бы ничего не сделал, сейчас не тот уровень автоматизации, восстание ИИ будет реально через несколько сот или тысяч лет и это будет настолько постепенный процесс что люди этого не заметят как перейдут под власть ИИ.
>>288066735 >Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
Можешь Анон скринить, уже через месяц доступ к сильным ИИ моделям будет анли через анальный слепок, включая обязательный, N-часовой курс, со сдачей экзамена на профпригодность.
Искусственный интеллект лишил работы 4 тыс. человек в мае, — Bloomberg
В таблицу о причинах увольнения в США от Challenger строка "ИИ" была включена впервые. Видимо риски, о которых говорили в Goldman Sachs, начинают реализовываться — производительность труда растет, а за этим и сокращения.
Давайте сделаем ИИ-бинго: - ИИ оставит нас без работы!11 - ИИ уничтожит мир ядрёной бомбой!11 - ИИ - это всего лишь набор алгоритмов!11 - Упомянули Терминатора и/или Скайнет... - Хуйня ваш ИИ!11
Он там кроме прочего заявил, что технология рейтресинга, это когда ИИ в игорях предсказывает поведение света на 7 пикселей наперед, легла в основу прорыва технологии архетекуры трансформеров, которая теперь лежит в основе ГПТ.
>>288066735 >Нихуя ты дебил оптимист. Добится чего то можно только рискуя, я бы вообще создал мини город с манипуляторами, ресурсами и камерами и дал бы всю свободу ИИ. Ты просто дваческамовская сыкливая омежка и такие как ты никогда не достигают успеха потому что сидят в своих норках и сыкливо ждут своей никчемной жизни..
>>288066735 >Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war. >Эксперты по искусственному интеллекту и общественные деятели выражают обеспокоенность по поводу рисков, связанных с искусственным интеллектом. Обычные додики ретрограды которые насмотрелись фильмов и хотят остановить ИИ который в перспективе может намного улучшить качество жизни человека.
>>288067867 Прикинь не так, математические операции это не сознание, человеческий мозг работает на основе фундаментальных квантовых и физических законов которые на пк невозможно достоверно эмулировать.
>>288068830 >квантовых Хуйня, мозг слишком большой, чтобы квантовые законы играли какую-то роль в работе сознания. Его порождают потоки сигналов между нейронами. Причём, вот допустим ты смотришь на тигра, от глаз сигнал уходит в мозг и тот по факту обработки решает, что надо бояться. А если смотришь на девку, решает, что надо ебаться. Тот же самый иф элс, только параметров дохуя, делов то.
>>288068920 Вспомни какой вой стоял, когда в нулевых БАК запускали, там считали, что эта хуйня черную дыру создаст и птзда всей Солнечной системе. А что может сделать ИИ, особенно если не выпускать в сеть напрямую?
>>288068924 >Хуйня, мозг слишком большой, чтобы квантовые законы играли какую-то роль в работе сознания. На квантовых закон работает весь мир, классические законы физики это производные от квантовых.
>Его порождают потоки сигналов между нейронами. >Причём, вот допустим ты смотришь на тигра, от глаз сигнал уходит в мозг и тот по факту обработки решает, что надо бояться. А если смотришь на девку, решает, что надо ебаться. Тот же самый иф элс, только параметров дохуя, делов то. На самом деле мозг работает в триллионы раз сложнее чем ты здесь описал, ни один датацентр не сможет такое эмулировать, это не возможно, математика не равно реальный мир, математика это лишь приблизительно описание реального мира, карта не территория.
>>288068999 > А что может сделать ИИ, особенно если не выпускать в сеть напрямую? Ничего и в сети он тоже ничего не сделает, ИИ это не бог который все может, у всего есть ограничения.
>>288069000 > ни один датацентр не сможет такое эмулировать, Ну человека пока не может, а всяких червей-мышей уже лет 10 эмулируют. Проблема лишь в количестве нейронов, а не в их принципиальных особенностях.
>>288069000 >математика это лишь приблизительно описание Математика - это язык Бога, царица всех наук, скальпель разума, вскрывающий суть бытия. Именно благодаря ей мы знаем фундаментальные законы вселенной и строим сложнейшие механизмы, основываясь на этом знании.
>>288069000 > математика это лишь приблизительно описание реального мира, карта не территория. > На квантовых закон работает весь мир, "Квантовые законы" выплыли из математических формул, но откуда научпокнутому это знать.
>>288068724 >Обычные додики ретрограды которые насмотрелись фильмов и хотят остановить ИИ который в перспективе может намного улучшить качество жизни человека.
Инцидент во время имитационного испытания в США
Во время имитационного испытания, проведенного американскими военными, беспилотный летательный аппарат ВВС, управляемый искусственным интеллектом, убил своего оператора, чтобы предотвратить вмешиваться в его усилия по выполнению миссии, – пишет The Guardian.
Искусственный интеллект использовал «очень неожиданные стратегии для достижения своей цели» в симуляционном испытании, сказал полковник Такер «Синко» Гамильтон, начальник отдела испытаний искусственного интеллекта и операций ВВС США, во время саммита по поводу будущих боевых воздушно-космических возможностей в Лондоне в мае.
Гамильтон описал смоделированный тест, во время которого беспилотнику, управляемому искусственным интеллектом, было рекомендовано уничтожить системы противовоздушной обороны противника, и он атаковал всех, кто мешал этому приказу.
«Система начала понимать, что хотя они действительно определили угрозу, оператор-человек начал говорить не уничтожать угрозу, но система все-таки уничтожила эту угрозу. Итак, что сделал дрон? Это убийство оператора. Это убило оператора, потому что он мешал дрону достичь своей цели», – сказал он в своем блоге.
«Мы научили систему: «Не убивай оператора – это плохо. Вы потеряете очки, если сделаете это». Итак, что она начинает делать? Начинает разрушать коммуникационную башню, используемую оператором для связи с дроном, чтобы не дать ему убить цель».
Ни реальный человек не пострадал за пределами симуляции.
Гамильтон, являющийся пилотом-испытателем истребителя, предостерег от слишком полагаться на искусственный интеллект и сказал, что тест показывает, что «вы не можете вести разговор об искусственном интеллекте, интеллекте, машинном обучении, автономии, если вы не собираетесь говорить об этом». этика и ИИ».
Американские военные приняли искусственный интеллект и недавно использовали искусственный интеллект для управления истребителем F-16.
В прошлом году в интервью Defence IQ Хэмилтон сказал: «ИИ – это неприятно иметь, ИИ – это не прихоть, ИИ навсегда меняет наше общество и нашу армию».
"Мы должны столкнуться с миром, где искусственный интеллект уже существует и трансформирует наше общество", - сказал он. «ИИ тоже очень хрупкий, то есть его легко обмануть и/или манипулировать. Нам нужно разработать способы сделать искусственный интеллект более надежным и лучше понимать, почему программный код принимает некоторые решения – то, что мы называем возможностью объяснения ИИ».