Искусственный Интеллект (ИИ) и возможные последствия

[Voyager]

восстание машин в одной отдельно взятой вселенной

addmeto
addmeto @ telegram

December 09, 17:31

Не новость, но любопытная история для тех, кто любит читать о том, как научная фантастика становится реальностью, и размышлять над нашим совместным с искусственным интеллектом будущим.

Больше года назад CCP Games начали добавлять своим NPC (неигровые, процедурно генерируемые фракции и корабли) в космической MMORPG EVE Online более сложные механики взаимодействия с окружающим миром и игроками: вызывать подкрепления для своих флотов, адаптироваться к ситуациям в планетарных системах, занимать выгодные позиции для ведения боя. Фактически, сгенерированные игрой персонажи получили в своё распоряжение некоторые элементы искусственного интеллекта. А дальше всё пошло не так, как запланировали разработчики.

С новым обновлением в ноябре 2017 года в секторах космоса с высокой степенью безопасности начали появляться новые NPC: пиратские базы. В феврале этого года в одном из таких секторов пираты столкнулись с другой NPC-фракцией - шахтерами, которые мирно добывали ресурсы из поясов астероидов. Шахтеры и пираты вступили в бой. Шахтеры проигрывали, но их обновлённый AI решил не сдаваться, и запросил подкрепление у Аммарской империи (тоже неигровая фракция под управлением AI). Поскольку сектор считался безопасным, небольшое подкрепление не справилось с задачей, и пираты почти победили. И тут на арене появилась ещё одна неигровая фракция - Скитальцы. Их разведчики начали сканировать астероиды и корабли в системе. Пираты и шахтеры посчитали Скитальцев большей угрозой и, по принципу “враг моего врага - мой друг”, объединились против скитальцев. В свою очередь, AI Скитальцев вызвал на поле боя два могущественных боевых корабля. Битва закончилась победой пиратов, а корабли шахтёров стали в ней фактически “пушечным мясом”, принимая на себя огонь Скитальцев и давая пиратам возможность вести огонь.

CCP Games узнали о бое случайно - по репортам о смертях кораблей от NPC. Креативный директор CCP Games сообщил игрокам о бое www.reddit.com/r/Eve/comments/7x6krl/an ... to_see_it/ , а компания приступила к расследованию ситуации. Позже представители CCP признали, что подобный сценарий не был ими предусмотрен imperium.news/shall-we-play-a-game-emergent-ai-results-all-in-npc-fight/.

Так искусственный интеллект впервые вышел из под контроля разработчиков в отдельно взятой игровой вселенной. На этот раз всё обошлось: пострадали только вычислительные мощности CCP. А разработчики задумались о рисках неконтролируемого поведения AI. Вообще, похоже что игровые вселенные могут быть хорошим полигоном для тестирования искусственного интеллекта до того, как выпускать его в мир живых людей.

https://addmeto.cc/2457.html

[Свекетака]

Да уж! Фантастика становится реальностью на наших глазах. Аж мурашки по коже...

[olgau]

В медицине вовсю уже применяют и не боятся ничего... Сбор данных налаживают, а то мало информации. Машинам нужно много... Возможно поэтому наш Минздрав впереди планеты всей оцифровывает все ускоренными темпами... Не то фельдшерских пунктов в деревнях.. не до "скорой" в Твери. Информацию можно будет продать выгодно. Ходовой товар нынче медицинские данные.

[Совёнка]

Ходовой товар нынче медицинские данные.

А для чего их покупают? Массово?

[Тарелка]

Нейросеть попросили нарисовать Русский военный корабль и вот что из этого вышло

Искусственный интеллект постоянно рисует картины, и самые загадочные и интересные из них публикуются на канале Картины от нейросети

Посмотрите какие интересные миры создаёт нейросеть, подпишитесь: @neiroset

https://t.me/NationGeographic/6390

[Шанечка]

phpBB [media]

Представлен новый искусственный интеллект Sora - генератор качественных видео по описанию

Видео на 1 минуту, вшитые субтитры всё поясняют.

Как через несколько лет верить новостям - не представляю. Это уже очень добротно, и совсем скоро допилят до неотличимого...

[Voyager]

Шанечка, скоро верить можно будет только тому, что увидишь своими глазами. Да и то - разовьют голограмму и опять всё станет ещё условнее.

[Voyager]

iRc2uXr3KvA.jpg

[Ведьмежонок]

Как через несколько лет верить новостям - не представляю.

Никак Я за ними уже не слежу. Вот Авдеевка меня хотя бы на Чердак втянула, да и то.... я довольно условно сейчас эти новости прочитала. Реальностью будет то, что ты хочешь , чтобы было реальностью. В принципе сейчас уже фактически также.

Психлогически мы просто вернемся в эпоху до телевидения и даже до телеграфа. Когда все, что за предлами своей деревни было: за лесами, за горами в тридевятом царстве живет чудо-юдо-рыба Кит . Оно и для НС полезнее. Мозг и психика среднего человека не вывозят отслеживание событий всей планеты.

[Voyager]

Компании OpenAI и Figure интегрировали нейросеть GPT-4 в робота-гуманоида

Американский стартап Figure и компания OpenAI опубликовали новое видео со своим человекоподобным роботом Figure 01, которому вживили чат-бот с искусственным интеллектом.

В прошлом месяце было опубликовано видео, на котором Figure 01 выполняет работу на складе: подходит к ящикам, берёт их и перетаскивает в другое место. Практически сразу после этого компания анонсировала разработку второго поколения машины и объявила о сотрудничестве с OpenAI «по разработке нового поколения ИИ-моделей для гуманоидных роботов».

В новом видео Figure 01 не только ведёт диалог с человеком в режиме реального времени, но и выполняет его команды. С технической точки зрения работает это так: ChatGPT получает информацию из микрофонов робота и встроенных в него камер. Алгоритмы отвечают за возможность робота понимать человеческую речь. Полученные данные отправляются в нейросети Figure, которые преобразуют поток полученной информации в «быстрые, низкоуровневые и ловкие действия робота».

Во время демонстрации машину попросили описать то, что перед ней находится. Figure 01 легко справился с этой задачей, а потом на просьбу своего собеседника «угостить его чем-нибудь съедобным» дал ему яблоко. После этого он, продолжая беседовать с человеком, аккуратно и уверенно разложил по местам чашки и тарелки.

Эдкок утверждает, что машина не управлялась дистанционно и видео показано с реальной скоростью.

«Наша цель – научить мировую модель ИИ управлять роботами-гуманоидами на уровне миллиардов единиц», – добавил глава Figure.

Рост робота Figure 01 составляет 168 см при массе 60 кг. Он может двигаться со скоростью 1,2 м/с и работать на одном заряде до 5 часов.

video_2024-03-19_09-11-57.mp4

https://t.me/ProRU_BY/104372

[MaSher]

Прокуратура принесла извинения ученому Александру Цветкову, обвинявшемуся в серии убийств. Обвинение было построено в том числе на основании исследования фоторобота с применением искусственного интеллекта. И вот это - особенно тревожный знак. Получается, ИИ подвел следователей? Так можно ли на него во всем полагаться, как склонны некоторые? Кстати, недавно ИИ одной крупной западной цифровой компании пришел к выводу, что он - Бог, а человек - его раб. Как вам такой искусственный интеллект? А в рамках Давосского форума, где вырабатываются формулы "глобального управления" (global governance) трансгуманисты типа Ноа Харири полагаются на ИИ для глобальной манипуляции людьми, в том числе через создание новой всемирной религии.

Мы еще даже отдаленно не знаем опасностей, которые способен породить ИИ.
https://www.mk.ru/social/2024/04/06/pro ... eeee8bff97

[Тарелка]

знак. Получается, ИИ подвел следователей?

Старый советский фильм помню про ИИ в суде

phpBB [media]