А если не нужно ни того, ни другого - вы же пешком гуляете не для нагуливания этих гормонов, а для удовольствия. Так же и на машине можно кататься - не гонять как епрс-твою-ть, а просто кататься, типа как на велике, только быстрее и комфортнее.


Во-во! Это разумная мысль.


А что, в конце 19-го века было мульён шоссейных дорог? Нет - дороги достались авто от телег.


Вопрос отдалённого будущего - телепорт, а не безумно дорогое покрытие для почвы.

Все эти сенсоры, лидары-шмидары и пр. железки, алгоритмы, "умные дороги" - цветоточки по сравнению с возникающими морально-этическими проблемами. Напр. "Проблема вагонетки". Ни один суперпупер железяко, ни один алгоритм, ещё лет 50 не сможет это решить (если смогут вообще) и будут беспомощными баранами.

В прочем как и любое серьёзное противоречие, даже алгоритм такой трудно придумать!
Машинная логика увы, есть машинная логика!

Ну собственно могли бы и ролик прицепить, всё же открыто и доступно:
https://www.youtube.com/watch?v=fc0yYJ8-Dyo
Думаю основные вопросы в данном случае всё же к водителю: что он делал в этот момент? Он как бы должен был за дорогой следить, а он походу порнушку смотрел.


Морально этические проблемы присущи только человеку как существу эмоциональному по своей сути. Железка же этих проблем лишенная будет (и должна) действовать по пути наименьшего причинения вреда. Я тут вообще проблемы никакой не вижу.


И в чём же там противоречие? Сможешь рассказать?

Во нормально! А дальше что, давайте решим что и личные квартиры не нужны, пусть люди живут в казармах, это же так практично. Потом в трудовые комунны всех сгоним, будут с утра строем ходить на работу, а вечером с работы. И никаких излишеств, никакого инакомыслия. Все по заветам товарища Троцкого.
Нет уж, ребята, идите ка вы в сад с таким "светлым будущим"!

Есть, конечно, проблема. Грубо: решая дилемму между пассивным действием, 100% ведущим к смерти людей, и активным действием, также ведущим к 100% гибели людей, система должна выбрать пассивное действие - бездействие, даже если это причинит смерть бОльшему количеству людей. С точки зрения логики - все ок: система НЕ выбрала убийство - сознательное причинение смерти, а выбрала признание собственной ошибки, неполноценности, но с т.з морали - она не совсем права. Тут могут быть прения.
harza
Garry1010
Ребят, еще раз: я говорю о том, что автопилоты сейчас - это крайне преждевременно и безответственно с любой точки зрения. Дороги и автопилоты должны разрабатываться постепенно и не сейчас. Сначала надо решить вообще проблему мирового экономического устройства, а не заниматься пургой для сибаритов.

Так, значит это евреи виноваты в смертях ? А кто то из местных нефанатов всё валил на Хуанга.

Нет не могут. Ещё раз

что из этого не понятно? Причем тут действие/не действие, если и там, и там плохо. Логичнее выбрать то, что менее плохо и система так и сделает. Если система не может выбрать наименьшее из зол при достаточном количестве данных и ударяется в философию (тормозит), то это плохая система и она должна заменяться/апгрейдиться на хорошую. В реальном мире нет места философии и словоблудию, в реальном мире, чтобы минимизировать количество жертв необходимо принимать решения и действовать, причем в минимальные промежутки времени. А подобные философы, которые занимаются этической мастурбацией живут в каком-то изолированном от реальности мире по всей видимости.

Есть еще проблема описанная в произведении: Я робот!.
Кто не читал/не видел фильм: Робот спасает человека с 40% шансом спасения и не спасает ребенка с 15% шансом. Человек возможно попытался бы спасти ребенка.

По поводу автопилота. Машина для многих это не только средство передвижения(средство передвижения это автобус, поезд, самолет или телепорт), а средство получения удовольствия, самовыражения, самоутверждения, гордости, понтов в конце концов. И я считаю что если этим не наносится вред окружающим то ничего плохого в этом нет. Мне например просто нравится кататься по городу и улицам. Почему я должен ехать в будущем для этого на автодром? нет уж.

MegaGosu писал(а):

CHiCHo писал(а):
Сначала надо решить вообще проблему мирового экономического устройства

Это невозможно - потому и выдумывают всякую хрень типа смартов и процов ±2%. И сильный оффтоп.

Возможно путем всеобщего перепрограммирования сознания людей.

Это пока что домыслы. И это не логично. Система НЕ должна совершать активно фатальное действие. Точка. Это не философия, это ЗАКОН робототехники. Если справа, предположим, была помеха, и тесла это видела, потому и не ушла вправо - то это правильное действие. Потому что иначе она бы активно учинила ДТП. А вот то, что она не оттормозилась - это её косяк, ну и вдобавок косяк экзальтированного хлопца "за рулем".

Этим занимаются инженеры под руководством маркетологов инвест-фондов, увы.

MegaGosu писал(а):

Возможно путем всеобщего перепрограммирования сознания людей.

Которому уже есть дефиниция - имя ему воспитание. Но это уже правда жесткий оффтоп.

Потому что Ваши хотелки вторгаются на территорию хотелок и безопасности других людей. А я хочу порево смотреть? Че ж мне запрещают?
Для тех, кто хочет покататься и поглазеть - будут экскурсионные мобили, которые можно запрограммировать как душе угодно. И это исключит вероятность ДТП от того, что водятел заглазелся на достопримечательности. У нас 99% баранов тормозят возле ДТП на другой стороне МКАД, создавая заторы и аварийные ситуации. А круизеры будущего должны двигаться по специальным полосам, как велосипедисты сейчас (должны). В мире очень мало логики, и это сознательно вызванное состояние общества, ибо управление сами знаете кем предельно просто. Включи им на НГ речь президента и Пуггачеву под салат - все, счастья полные штаны. А после работы либо бутыль белой, либо пыво для горнистов. Вот и все притязания.

Все таки я сторонник концепции которая применяется сейчас повсеместно и показана в большинстве фантастических фильмов про роботов:
Автоматика должна помогать человеку, но человек должен всегда иметь приоритет иначе матрица/терминатор/и прочий апокалипсис.
Это применяется во всех системах автопилотов.(самолет, поезд, корабль, космический корабль и тд.)

Морально этические вопросы неразрешимы. Машина не переключившая стрелку не будет чувствовать ответственность, не будет переживать, ее не будет мучить совесть.(Машинам неведомы эмоции) Она просто запишет это событие в лог. или вообще сотрет все и будет дальше функционировать.(если это не полноценный ИИ конечно, но полноценный ИИ, это полноценное живое существо со всеми его моральными "особенностями/недостатками" и он уже не будет руководствоваться только программой)

Просто остальным участникам движения должно быть понятно, какое действие будет выбирать система. Иметь в виду, так сказать. Тут как раз излишняя "интеллектуальность" не нужна. Настроить, к примеру, что в критической ситуации система будет обходить препятствие всегда справа. Всегда! Предупрежден - вооружен

Так а в чём проблема-то? Взрослый человек, который уже выучился, несёт в себе кучу знаний, занимает определённую социальную ячейку в обществе, да в конце концов может приносить пользу этому самому обществу здесь и сейчас является более ценным, чем ещё совершенно несформировавшийся ребёнок не подходящий ни под одну из этих категорий и не факт, что он в неё вообще попадёт. Что более ценно, чистая болванка или та же самая болванка с записанным концертом Моцарта, к примеру? Почему-то первое продают за копейки, а второе гораздо дороже. Ибо это информация. Также и у людей, болвалка ничего не стоит; стоит тот опыт накопленный у нас в голове. А в социуме всё перепутано с ног на голову, носятся за этими пустыми детьми, будто какая-то демографическая проблема на планете Типичные люди.
Другими словами если и возникает какая-то проблема по вышеизложенному тобой примеру, то это проблема ограниченного восприятия людей, но никак не машинной логики.


И именно поэтому примет правильное решение.


Не придумывай.


Хорошо, как бы поступил ты? Вот вагонетка, вот рычаг. За один труп ты получишь допустим 5 лет и право на досрочное, за три получишь пожизненное. Твоё решение будет не делать ничего, угробить троих и получить пожизненное? Действительно, очень высокоморально. Я смотрю занимающихся этической мастурбацией прибыло на наш весёлый корабль

Дружище, это мысленный эксперимент. Я в нем не участвую. Ты б мне еще кота Шредингера спасти предложил. Живи реальностью, а не .
А то так мы докатимся до признания наличия разума у элементарных частиц, следуя фрикам, обсуждающим результаты эксперимента с отложенным выбором.

да этическую мастурбацию можно сколько угодно извращать. типа а что если среди этих 5 человек Гитлер и все такое...
Скажем так однозначно неразрешимы. У каждого все равно будут свои взгляды...
Вот вы изложили проблему с практической точки зрения. Я немного душу подключил.

Касаемо автопилота. Я думаю все придет к таким системам: все устройства(машины) будут в сети, все будут знать все обо всех(маршрут, скорость, предсказание поведения и тд.) если машина допустим перешла на ручное управление то все остальные об этом узнают и будут корректировать свои программы. вопрос в скорости сети, мощности вычислительных ресурсов, времени реакции автоматики и тд.

Добавлено спустя 2 минуты 30 секунд:

CHiCHo писал(а):

элементарных частиц, следуя фрикам, обсуждающим результаты эксперимента с отложенным выбором.

Ну тут вообще на самом деле ничего не ясно. Мы ведь совсем понятия не имеем что такое элементарная частица. Мы только пользуемся ее эффектами частью которых научились худо бедно управлять. Вообще может нас никого и не существует на самом деле. Это кстати основной так и не решенный спор Эйнштейна и Бора

CHiCHo вот ты и подтвердил, что человек абсолютно неспособен принимать решения в таких ситуациях

Спорить с as absurdum нет никакого желания, так что я и не буду
Все правильно сделал. А флажные страдания несчастного спасенного его личная проблема. Есть весовая функция, мы её максимизируем. А если чьи-то нежные чувства были задеты, ну извиняйте.


Меньше фантастику смотрите.


Во многих случаях (там, где квалификация пользователя заведомо низкая) автоматика неотключаемая, потому что от редких косяков в логике автомата будет намного меньше проблем, чем от "крутых сознательных людей",


Это плохо? Я не понял, зачем автомату переключающему стрелку моральные принципы.


При чем тут самосогласованность квантмеха и сознание у частиц? Что курили?


вы - возможно Для большинства же это вопрос из разряда "никто не знает что такое Солнце".