Мораль искусственного интеллекта
— Тест на мораль
— Кто должен запрограммировать мораль ИИ?
— Должны ли быть приоритеты для ИИ?
— Решение вопроса морального выбора
Советуем ознакомиться:
— Дэвид Эдмондс. Машины-убийцы: надо ли роботу читать Канта?
— Царь-квартира Игоря Шувалова стоит как 600 обычных квартир, над которыми он смеялся
Цитата:
«Не существует нескольких рингов: на одном мы успешно проводим запуск ракет из акватории Каспийского моря, а на другом — сокращаем расходы на науку и образование с формулировкой «надо затянуть пояса». Если в этих вопросах мы сегодня затянем пояса, завтра не будет ни ракет, ни флота»
Всё это вы услышите в 263-м эпизоде подкаста «Разговорный жанр».
Слушай, где удобно:
🎧 iTunes
🎧 Google Podcasts
🎧 Яндекс.Музыка
🎧 Плей-лист подкаста в VK
🎧 SOUNDSTREAM
🎧 Castbox
🎧 Pod.Fan
🎧 Pocket Casts
🎧 Overcast
🎧 Castro
🎧 RSS
Социальные сети, почта:
👨💻 Телеграм-чат
👨💻 Сообщество во Вконтакте
👨💻 YouTube-канал
👨💻 RuTube-канал
👨💻 Почта mail@podbox.ru
Если нравится наш подкаст, то поддержи нас:
Подписка на послешоу подкаста
💰 Boosty
💰 Sponsr.ru
💰 VK Donut
💰 Patreon (для слушателей не из России)
Единоразовый донат на развитие подкаста
💰 DonationAlerts
💰 ЮMoney
💰 Donate.Stream
💰 CloudTips
Касательно вопросов про «что вы будете делать если?…». Одна из серьезнейших проблем таких вопросов и их отличие от реальной жизни — невозможно четко знать о последствиях и полностью доверять данной информации (например, история с заложниками требует стопроцентного доверия террористам).
Согласен, что все эти вопросы — это как сферический конь в вакууме. Но развитие технологии, в т.ч. ИИ, движется семимильными шагами. Нейросети с нечеткой логикой, просчитывающие вероятности, в обозримом будущем снимут большое количество вопросов, связанных с анализом динамических изменений ситуации. Решения могут приниматься просто на основе процентов — вероятность какого исхода выше. Правда, будут случаи, как в «Я — робот», когда робот спас «не того» человека лишь потому, что вероятность была на несколько процентов выше.
Касательно семимильных шагов — я бы пока поостерегся говорить. Разумеется, все эти ходящие роботы и самобеглые гуглавтомобили — очень впечатляют, но это все пока тестовые экземпляры, альфа-версии, существующие в единичных экземплярах.
Пока Адам с Евой жили в Эдеме и были в альфа-версии, тоже все хорошо было. Проблемы начались позже, уже в массовом производстве.
Десять лет назад и этого не было. А представляете, что будет через 20? Конечно, сейчас все по сути находится в зачаточном состоянии — разбросанные крупицы технологий. Кто-то умеет распознавать лица, кто-то — голос, кто-то строит нейронные сети, которые сочиняют «песни Егора Летова». А что будет, когда это все будет объединено воедино? Мне вот сложно представить.
А про Эдем… у роботов, наверное, не будет соблазнов. Я на это надеюсь )
Это банальность, но изначальные успехи технологии вовсе не всегда переливаются в ее торжество. Успехов в построении термоядерных реакторов ждут уже лет 60, а воз если и не там, то сильно еще не доехал до бета-версии.
Самая сложная штука с нейросетями и выращиванием знаний (как противоположность программированию) — то что получившийся продукт будет обладать массой непредсказуемых черт, делающих его уникальным. Как с человеческим интеллектом — прекрасный работник, но курит как паровоз. Талантливая балерина, но гнида — первостатейная.
И удалить из релиза эти самые черты будет нельзя — они составная часть ИИ-личности.
ИИ только в одной сфере или в нескольких будет бесполезен и будут сплошь вот эти вот косяки с выбором кого там давить, кого резать и тд. Для того, что б на него можно было реально полагаться он должен тотально обеспечивать всю жизнедеятельность — то есть, что бы не пришлось маяться вопросами выбора в конкретной ситуации нужно по всем направлениям работать на то, что б ситуаций с подобным выбором не возникало в принципе: никаких случайных бабок или детей на переходах в неположенных местах (может, для этого дороги надо например над землей строить?), никаких чреватых летальностью операций (бессмертие?), никаких вышедших из-под контроля поездов и терористов (с терористами проще всего, мне кажется) ну и всё в таком духе. Короче — сплошное счастье кругом. Да, это замкнутая система, которая накапливает информацию постоянно, как-то сопоставляет, делает выводы… Тут, конечно, наступает простор для авторов различных антиутопий от Терминатора до Матрицы. Но мне кажется, что это единственный путь и именно по нему в итоге всё и двинется… Скорее всего нам с вами до реализации ИИ такого масштаба не дожить, оно и к лучшему.
Мир без случайностей и неприятностей — это мертвый мир. Причем не фигурально, а фактически. Обеспечить отсутствие случайных бабок, террористов и так далее — можно разве что загнав человечество в коматоз, как в Матрице. Или грохнув, как в Терминаторе.
Ну я и говорю — антиутопии ) Еще можно вспомнить такой фильм как Суррогаты с Брюсом Виллисом: там, правда, без ИИ, но зато люди как таковые исключены практически из непосредственного хода жизни.
По началу — не без ошибок. Постепенно мораль ИИ будут улучшать. В связи с этим будут вводить новые правила, законы и общественные договорённости. Но до полной идиллии мы, наверное, не доживем. Может оно и к лучшему. :)
Мы тут уже все пуганы-перепуганы современной и не очень фантастикой )) что характерно, и Стругацких в «Тройке» (кто читал?) Привалов испытывает машину времени, которая путешествует по ОПИСАННЫМ мирам, не по «реальным», а вот тем, которые насоздавали различные писатели. И там есть мир утопический, в котором все прекрасно и стеной от него отделен мир «страха перед будущим». Так вот — там, в основном, инопланетные нашествия в разнообразных проявлениях. И тогда, видимо, даже Стругацким не хватало воображения представить мир, в котором всем управляет непогрешимый ИИ — это уже заслуга более позднего времени. Хотя, если вспомнить Замятина с его «Мы»…
Теперь есть повод прочесть и эти книги )
Замятин вообще предвосхитил многое. Помню, когда читал «Мы», еще не знал ничего про автора и про год написания книги. Был уверен, что произведение почти современное. Потом узнал, что это 1920 год… Мягко говоря, офигел.
Ты ещё забыл про Незнайку на луне)
Артемий, привет! Полностью согласен с твоим анализом. Что касается ИИ в автомобилестроении, то известно же, что практически все аварии, в которые попадал гугл-автомобиль (которые ездит сам) произошли по вине других водителей. Именно поэтому других водителей нужно исключить из этой цепочке: чтобы на дорогах были только роботы, которые друг с другом договорятся на основе алгоритмов. Человек только вредит :).