Создатель реального ИИ - Иуда или Прометей ?

[ftb]

Но вот полноценный ИИ с эмоциями и подобием самосознания - это уже совсем иной расклад. Я бы воздержался от осуждения создателя.

Не просто с подобием, а с самым натуральным самоосознанием. Ноль отличий от живого человека. В том то и проблема.

Если рассуждать подобным образом, то и детей рожать безнравственно, потому что этот мир слишком жесток.

Тут аналогия неполна. Обычный детенок находится в контролируемом правовом поле государства и культуры. Детенков неможно насоздавать более единиц штук.
ИИ же насоздавать можно стотыщмиллион до неба (С)... и не вспотеть, и даже если и ввести ИИ в правовое поле то проконтролировать его появление невозможно.

Можно наштамповать 100500 ИИ и устроить локальный Армагеддон и никто об этом не узнает.
Но сначала конечно же будут всякоразличные вирт игры c пострелушками подставами итп все как обычно - просто бизнес.
Что там будет твориться в момент становления ИИ, история давно зафиксировала.

немного странно слышать такое от программиста. С точки зрения математики это полный абсурд.

Не всякая математика останавливается на бинарной логике, равно как и не всякий программист ею руководствуется.
Например логика нейросетей ни разу не двоичная )
Просто матаппарат для бинарки проще, равно как и электронные элементы.

ftb, а ну признавайся сейчас же (только честно), ты тут года эдак полтора назад под другим ником случайно не куралесил?

Нет точно не я ))) Надеюсь посты сего аватара не снесли, будет время полистаю )
Собсна это моя вроде первая регистрация на ДФ.

У меня ещё один вопрос (вдогоночку) созрел к ftb:

Спойлер

а как ты относишься к батончикам "snickers"?

[свернуть]

Да как все, вначале было айс уж не знаю причина тому ли усилители вкуса или то были настоящие, а потом стало как всегда, попер суррогат и откровенное фуфло. Пичаль (

[Zontik]

Обычный детенок находится в контролируемом правовом поле государства и культуры

Спасибо, поржал с утра.

Можно наштамповать 100500 ИИ и устроить локальный Армагеддон и никто об этом не узнает.

Вот сейчас в Сирии локальный Армагеддон. Все об этом знают. И что? А ничего. Все в контролируемом правовом поле.
Но тут я замечаю некую подмену понятий. Создатель класса AI и создатель конкретных AI дома на коленках по действующему образцу того, первого создателя - это несколько разные люди. Мы вообще о ком из них говорим? Мое мнение - что первый из них не может отвечать за действия второго. Потому что и сковородкой можно убить, но это не значит, что надо обходиться без сковородок.
Ну и еще вдогонку... Лично у меня возможность существования искусственного самосознания, не отличимого от человека, вызывает Очень Большие Сомнения.

[ftb]

Обычный детенок находится в контролируемом правовом поле государства и культуры

Спасибо, поржал с утра.

Подразумевается что попытка устроить резню в школе вызовет жесткую реакцию, попытка от фонаря изменить программу обучения аналогично итд.
То есть правовые структуры среагируют.
Теперь представим что ИИ приравняли к детям то есть какбы все в рамках закона, проблема в том что невозможно проконтролировать ни появление ИИ, ни его существование.

У Руса в его "ИгратьЧтобыЖить" к слову неплохо прописаны варианты.

Создатель класса AI и создатель конкретных AI дома на коленках по действующему образцу того, первого создателя - это несколько разные люди.

Если первичный создатель подумает мозгами а не причинным местом то ИИ просто не появится и вопрос о вторичной волне просто не возникнет, потому я и спросил кем считать подобного "изобретателя".

Потому что и сковородкой можно убить, но это не значит, что надо обходиться без сковородок.

ИИ не сковородка.
Куча геймеров с арсеналом не сковородка.

Ну и еще вдогонку... Лично у меня возможность существования искусственного самосознания, не отличимого от человека, вызывает Очень Большие Сомнения.

С чего бы это ?
После предъявленных микроколонокКортекса которые суть наша память, каких то критичных границ пока не наблюдается, все пока что упирается только в мощности.

[DJ Riff]

Так о чём сыр-бор то? Автор опасается, что несчастных чувствующих AI будут всячески мучить и унижать? Так в кино, например, часто кого-то лупят и издеваются, а там актёры вообще живые люди — кто сказал, что AI будет страдать по-настоящему, а не понарошку, как актёр? Кроме того, AI будет активно стучать на своих мучителей, и их жизнь станет заметно сложнее: там им машину водить запретят, сям оружие не дадут, на должность хорошую не возьмут, плату за страховку поднимут до небес, потому что из-за их похождений в играх их рейтинг благонадёжности рухнул ниже плинтуса. На такое профилирование уже сейчас спрос есть, пока оно просто идёт анонимно в основном в маркетинговых целях. Деанонимизация это вопрос скорее политический, чем технический, т.к. технические возможности уже есть. Так что система очень быстро вернётся в равновесие на обычный человеческий уровень агрессии. Вернее, она с него и не сдвинется, т.к. AI будет появляться и совершенствоваться постепенно, к нему успеют привыкнуть.

проблема в том что невозможно проконтролировать ни появление ИИ, ни его существование.

С какой стати-то? Про ИИ и каждое его усовершенствование будут трубить из каждого утюга, это залог его успешной продажи.

[ftb]

проблема в том что невозможно проконтролировать ни появление ИИ, ни его существование.

С какой стати-то? Про ИИ и каждое его усовершенствование будут трубить из каждого утюга, это залог его успешной продажи.

Невозможно засечь появление экземпляра ИИ, просто как утрированный пример,  есть комп есть мэн заселяющий вирт сонмом ИИ и темный подвал без единого энерговвода. Финита. 
С скажем человеками такое проделать в плотно заселенной местности есть проблема.

[DJ Riff]

Ты сейчас захудалую современную игру без подключения к инету не запустишь, какой нафиг подвал без энерговвода? Не нужен создателю/издателю ИИ работающий автономно, он так не будет прибыль приносить. Так что без широкополосной связи и ежесекундной отправки телеметрии он просто не запустится.

[ftb]

без широкополосной связи и ежесекундной отправки телеметрии он просто не запустится.

Ты говоришь об ИИ запущеном на стороне государства тут я согласен.
Я говорю об ИИ созданном на стороне конкретного заинтересованного лица, ИИ зать не будет про телеметрию и сеть )
Что такое ИИ - автономная нейросеть. Никакого инета ей для своего становления не надо.

Для примера вроде как запретили клонирование, а когото это страшно волнует ?
Клонирование сейчас сдерживается только спецификой знаний и оборудования.

В свое время хай стоял в узких кругах и по поводу генмодифицирования и ничего, лопаем сейчас ГМО и нахваливаем.

[DJ Riff]

Ты говоришь об ИИ запущеном на стороне государства тут я согласен.
Я говорю об ИИ созданном на стороне конкретного заинтересованного лица, ИИ зать не будет про телеметрию и сеть )
Что такое ИИ - автономная нейросеть. Никакого инета ей для своего становления не надо.

Энтузиастов, создавших собственноручно ИИ, настроивших их до состояния "почти как человек" и замучивших их после этого, будут единицы, да и им это быстро наскучит. Их моментально вытеснит коммерческое распространение. Та "толпа геймеров", о которой ты говоришь, не будут собирать ИИ каждый у себя в подвале, они купят за копейки или скачают бесплатно ИИ, необходимым условием работы которого будет, естественно, регулярная связь с издателем. И основная задача такого ИИ будет выявить индивидуальные особенности каждого геймера, позволяющие залезть к каждому из них в кошелёк как можно глубже. Если для этого ему придётся картинно умирать и страдать "на камеру", он с удовольствием будет это делать, попутно подсказывая новые изощрённые способы, каждый из которых можно купить по $10 в магазине издателя. Попутно постукивая "куда следует", выполняя контракты спецслужб, маркетинговых агентств, исследователей психологии и прочих товарищей, с кем у издателя заключён контракт на слежку за геймерами и эксперименты над ними.

[Maxim]

Ты сейчас захудалую современную игру без подключения к инету не запустишь, какой нафиг подвал без энерговвода? Не нужен создателю/издателю ИИ работающий автономно, он так не будет прибыль приносить. Так что без широкополосной связи и ежесекундной отправки телеметрии он просто не запустится.

А что, разве нельзя купить диски с игрой в магазине? Там же вроде при отсутствии инета даже если Стим ставить, то всё равно предлагается оффлайн установка. Разве нет?

[DJ Riff]

А что, разве нельзя купить диски с игрой в магазине? Там же вроде при отсутствии инета даже если Стим ставить, то всё равно предлагается оффлайн установка. Разве нет?

Уже нет. Большинство дисков это просто ключ к Стиму или к другой распространительной системе. Формально на диске вроде бы дистрибутив есть, но при установке он скажет "мне обязательно нужен инет для регистрации, без этого ставиться не будем", после чего скажет "я нашёл свежий патч!" и начнёт по сути всю игру из инета качать, так что и не понятно толком, были ли на диске вообще игровые файлы или это просто мусор для видимости объёма. Уж ИИ-то точно именно по такой системе распространяться будет.

[ftb]

И основная задача такого ИИ будет выявить индивидуальные особенности каждого геймера, позволяющие залезть к каждому из них в кошелёк как можно глубже. Если для этого ему придётся картинно умирать и страдать "на камеру", он с удовольствием будет это делать

Это же разум ) а не штамповка в том то и прикол.
Впрочем можно воспитать нужный психопрофиль надуть ему в уши о его богоизбранности и потом размножить в игре, вот только игрокам не запретишь трепаться о ИРЛ в присутствии "неписей" и тут получается что ИИ придется как-то вводить в ИРЛ иначе он скорее всего тупо пошлет создателей в итоге.

Живой ИИ не робот которому можно обрезать функционал, это слушай и осмысливай, а это пропускай мимо ушей.

[DJ Riff]

Это же разум ) а не штамповка в том то и прикол.

Это как раз штамповка, основная задача которой выудить максимальное количество денег с пользователя. А остальное это уже методы, и удовлетворение агрессии пользователя это только один из них. Либо, если действительно разум, то "наёмный работник", должностные обязанности которого состоят в том же самом.

Живой ИИ не робот которому можно обрезать функционал, это слушай и осмысливай, а это пропускай мимо ушей.

Актёры в театре и кино тоже живые, и у них всё прекрасно получается.

[ftb]

если действительно разум, то "наёмный работник", должностные обязанности которого состоят в том же самом.

Именно разум, что возваращает нас на исходную позицию ибо часть хомячков прожует статус неписей в статусе наемныхРаботников, а вот продвинутые гедонисты возжелают большей реалистичности, тут к бабке не ходи.

[Zontik]

Подразумевается что попытка устроить резню в школе вызовет жесткую реакцию

Американский опыт показывает, что жесткая реакция после резни еще ни одного ребенка не воскресила.

Если первичный создатель подумает мозгами а не причинным местом то ИИ просто не появится

Твою точку зрения понял. И опять же - опыт показывает, что приоритет вовсе не у мозгов. Хотя сам затрудняюсь с отношением. Может, спросим ИИ - что бы они предпочли? Не появляться на свет вообще или появиться с риском быть уничтоженными с особой жестокостью?
И это снова приведет нас к той же самой неполной аналогии.
А вообще по большому счету это гуманитарная паранойя на ровном месте. Кишка тонка создать существо, которое будет по-настоящему живым, ну разве что не органическим и, возможно, не материальным.
Ты как программист должен более трезво оценивать объем работ.
Если ты сам не такое же существо. Ну и мы все заодно.

[DJ Riff]

Именно разум, что возваращает нас на исходную позицию ибо часть хомячков прожует статус неписей в статусе наемныхРаботников, а вот продвинутые гедонисты возжелают большей реалистичности, тут к бабке не ходи.

Разум сможет проанализировать, что под "реалистичностью" понимает каждый из игроков, и будет подстраиваться непосредственно под его вкусы. Так что поведение в глазах каждого игрока будет настолько реалистичным, каким даже реальный мир не сможет быть.