Искусственный Интеллект (ИИ) и возможные последствия

**Voyager** » 10 дек 2018, 14:59

восстание машин в одной отдельно взятой вселенной

addmeto
addmeto @ telegram

December 09, 17:31

Не новость, но любопытная история для тех, кто любит читать о том, как научная фантастика становится реальностью, и размышлять над нашим совместным с искусственным интеллектом будущим.

Больше года назад CCP Games начали добавлять своим NPC (неигровые, процедурно генерируемые фракции и корабли) в космической MMORPG EVE Online более сложные механики взаимодействия с окружающим миром и игроками: вызывать подкрепления для своих флотов, адаптироваться к ситуациям в планетарных системах, занимать выгодные позиции для ведения боя. Фактически, сгенерированные игрой персонажи получили в своё распоряжение некоторые элементы искусственного интеллекта. А дальше всё пошло не так, как запланировали разработчики.

С новым обновлением в ноябре 2017 года в секторах космоса с высокой степенью безопасности начали появляться новые NPC: пиратские базы. В феврале этого года в одном из таких секторов пираты столкнулись с другой NPC-фракцией - шахтерами, которые мирно добывали ресурсы из поясов астероидов. Шахтеры и пираты вступили в бой. Шахтеры проигрывали, но их обновлённый AI решил не сдаваться, и запросил подкрепление у Аммарской империи (тоже неигровая фракция под управлением AI). Поскольку сектор считался безопасным, небольшое подкрепление не справилось с задачей, и пираты почти победили. И тут на арене появилась ещё одна неигровая фракция - Скитальцы. Их разведчики начали сканировать астероиды и корабли в системе. Пираты и шахтеры посчитали Скитальцев большей угрозой и, по принципу “враг моего врага - мой друг”, объединились против скитальцев. В свою очередь, AI Скитальцев вызвал на поле боя два могущественных боевых корабля. Битва закончилась победой пиратов, а корабли шахтёров стали в ней фактически “пушечным мясом”, принимая на себя огонь Скитальцев и давая пиратам возможность вести огонь.

CCP Games узнали о бое случайно - по репортам о смертях кораблей от NPC. Креативный директор CCP Games сообщил игрокам о бое www.reddit.com/r/Eve/comments/7x6krl/an ... to_see_it/ , а компания приступила к расследованию ситуации. Позже представители CCP признали, что подобный сценарий не был ими предусмотрен imperium.news/shall-we-play-a-game-emergent-ai-results-all-in-npc-fight/.

Так искусственный интеллект впервые вышел из под контроля разработчиков в отдельно взятой игровой вселенной. На этот раз всё обошлось: пострадали только вычислительные мощности CCP. А разработчики задумались о рисках неконтролируемого поведения AI. Вообще, похоже что игровые вселенные могут быть хорошим полигоном для тестирования искусственного интеллекта до того, как выпускать его в мир живых людей.

https://addmeto.cc/2457.html

**Свекетака** » 10 дек 2018, 18:12

Да уж! Фантастика становится реальностью на наших глазах. Аж мурашки по коже...

**olgau** » 11 дек 2018, 22:45

В медицине вовсю уже применяют и не боятся ничего... Сбор данных налаживают, а то мало информации. Машинам нужно много... Возможно поэтому наш Минздрав впереди планеты всей оцифровывает все ускоренными темпами... Не то фельдшерских пунктов в деревнях.. не до "скорой" в Твери. Информацию можно будет продать выгодно. Ходовой товар нынче медицинские данные.

**Совёнка** » 13 дек 2018, 19:03

olgau писал(а) on 11 дек 2018, 22:45 Ходовой товар нынче медицинские данные.

А для чего их покупают? Массово?

**Тарелка** » 13 сен 2022, 19:54

Нейросеть попросили нарисовать Русский военный корабль и вот что из этого вышло

Искусственный интеллект постоянно рисует картины, и самые загадочные и интересные из них публикуются на канале Картины от нейросети

Посмотрите какие интересные миры создаёт нейросеть, подпишитесь: @neiroset

https://t.me/NationGeographic/6390

**Шанечка** » 17 фев 2024, 00:55

phpBB [media]

Представлен новый искусственный интеллект Sora - генератор качественных видео по описанию

Видео на 1 минуту, вшитые субтитры всё поясняют.

Как через несколько лет верить новостям - не представляю. Это уже очень добротно, и совсем скоро допилят до неотличимого...

**Voyager** » 17 фев 2024, 01:42

Шанечка, скоро верить можно будет только тому, что увидишь своими глазами. Да и то - разовьют голограмму и опять всё станет ещё условнее.

**Voyager** » 17 фев 2024, 20:05

iRc2uXr3KvA.jpg

**Ведьмежонок** » 17 фев 2024, 20:32

Шанечка писал(а) on 17 фев 2024, 00:55 Как через несколько лет верить новостям - не представляю.

Никак

Я за ними уже не слежу. Вот Авдеевка меня хотя бы на Чердак втянула, да и то.... я довольно условно сейчас эти новости прочитала. Реальностью будет то, что ты хочешь , чтобы было реальностью. В принципе сейчас уже фактически также.

Психлогически мы просто вернемся в эпоху до телевидения и даже до телеграфа. Когда все, что за предлами своей деревни было: за лесами, за горами в тридевятом царстве живет чудо-юдо-рыба Кит . Оно и для НС полезнее. Мозг и психика среднего человека не вывозят отслеживание событий всей планеты.

**Voyager** » 19 мар 2024, 16:15

Компании OpenAI и Figure интегрировали нейросеть GPT-4 в робота-гуманоида

Американский стартап Figure и компания OpenAI опубликовали новое видео со своим человекоподобным роботом Figure 01, которому вживили чат-бот с искусственным интеллектом.

В прошлом месяце было опубликовано видео, на котором Figure 01 выполняет работу на складе: подходит к ящикам, берёт их и перетаскивает в другое место. Практически сразу после этого компания анонсировала разработку второго поколения машины и объявила о сотрудничестве с OpenAI «по разработке нового поколения ИИ-моделей для гуманоидных роботов».

В новом видео Figure 01 не только ведёт диалог с человеком в режиме реального времени, но и выполняет его команды. С технической точки зрения работает это так: ChatGPT получает информацию из микрофонов робота и встроенных в него камер. Алгоритмы отвечают за возможность робота понимать человеческую речь. Полученные данные отправляются в нейросети Figure, которые преобразуют поток полученной информации в «быстрые, низкоуровневые и ловкие действия робота».

Во время демонстрации машину попросили описать то, что перед ней находится. Figure 01 легко справился с этой задачей, а потом на просьбу своего собеседника «угостить его чем-нибудь съедобным» дал ему яблоко. После этого он, продолжая беседовать с человеком, аккуратно и уверенно разложил по местам чашки и тарелки.

Эдкок утверждает, что машина не управлялась дистанционно и видео показано с реальной скоростью.

«Наша цель – научить мировую модель ИИ управлять роботами-гуманоидами на уровне миллиардов единиц», – добавил глава Figure.

Рост робота Figure 01 составляет 168 см при массе 60 кг. Он может двигаться со скоростью 1,2 м/с и работать на одном заряде до 5 часов.

video_2024-03-19_09-11-57.mp4

https://t.me/ProRU_BY/104372

**MaSher** » 07 апр 2024, 11:09

Прокуратура принесла извинения ученому Александру Цветкову, обвинявшемуся в серии убийств. Обвинение было построено в том числе на основании исследования фоторобота с применением искусственного интеллекта. И вот это - особенно тревожный знак. Получается, ИИ подвел следователей? Так можно ли на него во всем полагаться, как склонны некоторые? Кстати, недавно ИИ одной крупной западной цифровой компании пришел к выводу, что он - Бог, а человек - его раб. Как вам такой искусственный интеллект? А в рамках Давосского форума, где вырабатываются формулы "глобального управления" (global governance) трансгуманисты типа Ноа Харири полагаются на ИИ для глобальной манипуляции людьми, в том числе через создание новой всемирной религии.

Мы еще даже отдаленно не знаем опасностей, которые способен породить ИИ.
https://www.mk.ru/social/2024/04/06/pro ... eeee8bff97

**Тарелка** » 07 апр 2024, 11:26

MaSher писал(а) on 07 апр 2024, 11:09 знак. Получается, ИИ подвел следователей?

Старый советский фильм помню про ИИ в суде

phpBB [media]

**Тарелка** » 29 июн 2025, 16:38

Слуцкий обратится в Генпрокуратуру для проведения проверки разработчика "Шедеврума" от "Яндекса" на наличие признаков нарушения уголовного законодательства в части дискредитации ВС России, об этом он сообщил РИА Новости.

Просишь изобразить русского космонавта - выдает американского, с их флагом. Просишь космонавта без американского флага - отвечает, что без флага США сгенерировать космонавта нельзя. Делаешь иной запрос на патриотическую тематику - снова "звездно-полосатые" картинки и комиксы

Подписаться на РИА Новости / Все наши каналы
https://t.me/rian_ru/302544

**Маевка** » 24 июл 2025, 19:36

Вчера наткнулась на расуждение ChatGPT (нейросеть) о том, как бы ею был уничтожен мир, если бы она дьяволом. Ответ искусственного интеллекта поразил.

"Если бы я был дьяволом и хотел уничтожить человечество, я бы не устраивал апокалипсис. Я бы просто тихо, шаг за шагом, ломал людей изнутри. Вот как это бы выглядело в современной жизни.

Я бы сделал так, чтобы люди перестали думать. Засыпал бы их бесполезной информацией, новостей каждую минуту, скандалы, тренды. Пусть мозг варится в мусоре. Чем тупее, тем управляемее.
Я бы разрушил образование, сделал бы школы и университеты скучными и бессмысленными, заставил бы учить то, что не пригодится, а самых думающих сделал бы бедными. Пусть таланты выгорают, а дети мечтают не о науке, а о подписчиках.

Я бы поселил страх и тревогу. Каждый день новые ужасы. Война, вирус, экономика, климат, убийства - вот такое поле инфоповодов. Пусть люди боятся жить, боятся мечтать, боятся друг друга. И главное, чтобы они чувствовали - «я ничего не могу изменить». Я бы посадил всех на зависимость. На телефоны, соцсети, сладкое, шоппинг, сериалы, порно, доставку еды - чтобы человек не умел быть просто с собой в тишине. Чтобы всегда хотел еще, но не знал чего. Я бы разрушил отношения между людьми. Сделал бы так, чтобы никто никому не доверял. Чтобы дружба стала редкостью, а любовь — игрой. Чтобы люди боялись открыться. Одинокие, закрытые, ожесточенные. А потом — депрессия, апатия, алкоголь, таблетки. Я бы разрушил Природу руками самих людей. Пусть покупают, выбрасывают, строят, сжигают, пока не станет поздно. Пусть засоряют океаны, убивают бездумно редких животных и думают — а что я один могу сделать? Пока воздух грязный, еда химия, вода яд. Я бы сделал зло нормой, чтобы хамство считалось честностью или ‘мнением’, предательство - самозащитой, жадность - успехом, а доброта - наивностью. Пусть ценности стираются, пусть ничто больше не имеет смысла. И все это выглядело бы как просто обычная жизнь - «просто живем». Люди сами бы себя медленно убивали, морально, физически, ментально. Я бы даже не прикасался, они бы справились сами." ©

**Гамаюн** » 24 июл 2025, 20:21

Маевка писал(а) on 24 июл 2025, 19:36 Ответ искусственного интеллекта поразил

ой, ну что скормили ему, то он и выдаёт. Прям уж оракул :hearing:

**Маевка** » 24 июл 2025, 20:24

Гамаюн писал(а) on 24 июл 2025, 20:21 ой, ну что скормили ему, то он и выдаёт. Прям уж оракул

Ну так в среднем сейчас и есть. Как он пишет.

**Гамаюн** » 24 июл 2025, 20:31

Маевка писал(а) on 24 июл 2025, 20:24 Как он пишет

он так пишет, потому что ему так скормили информацию, а не сам по себе :idontno:

**Маевка** » 24 июл 2025, 20:34

Гамаюн писал(а) on 24 июл 2025, 20:31 он так пишет, потому что ему так скормили информацию, а не сам по себе

Да не в том суть. А в том, во что превратился наш мир.

**Гамаюн** » 24 июл 2025, 20:40

А, ну если смысл был поужасаться, то ок

Просто так написано "ответ поразил". Усё пропало, шеф :help:

**Маевка** » 24 июл 2025, 21:32

Гамаюн писал(а) on 24 июл 2025, 20:40 А, ну если смысл был поужасаться, то ок

Ну не то чтобы поужасаться, но поразилась, что какой-то человек такую жизу смолвил.

**Вайолет** » 24 июл 2025, 23:44

Маевка писал(а) on 24 июл 2025, 21:32 Ну не то чтобы поужасаться, но поразилась, что какой-то человек такую жизу смолвил

Человек просто подробно рассказал о жизни сейчас.
А вообще это не ново. Ты про план Далласа/Даллеса, по разным версиям написания, слышала? По сути то же самое, только без гаджетов. Патамушта их ещё не изобрели тогда

**Маевка** » 24 июл 2025, 23:53

Вайолет писал(а) on 24 июл 2025, 23:44 Ты про план Далласа/Даллеса, по разным версиям написания, слышала?

Смутно.

**Rock-n-roll** » 25 июл 2025, 07:28

Конечно, чем "начинили", то и транслирует. Гига чат, например, отказывается обсуждать новые русские территории, не считает их таковыми :idontno:

а создатели вроде как наши (Сбер). Вот такое удивляет, а то что в принципе пока человек этим всем рулит - нет

Искусственный Интеллект (ИИ) и возможные последствия

Кто сейчас на конференции