Тема «Религия искусственного интеллекта»

Вы здесь: Форумы sam.fantlab.ru > Форум «Трёп на разные темы» > Тема «Религия искусственного интеллекта»

Религия искусственного интеллекта

Страницы: 1 2 3...21 22 23 24 25...30 31 32 🔍 поиск написать сообщение

автор

сообщение

философ

20 февраля 2019 г. 23:03

цитировать | [ ]

цитата Vramin
Но люди движимы теми же силами эволюции, что создали и нас самих. Гонка вооружений и гонка за прибылью будут проталкивать всё более интеллектуальные и автономные системы. Потому что если кто-то решит наложить вето на такие разработки, то найдётся другой, не отягченный моралью заказчик, и он безусловно получит преимущество.

Хорошо. Тогда мы все умрём.

То есть, плохо. :-)))

Правда, дело в том, что создание и "имплантация" ИИ для действительно важных областей применения нетривиальная задача, которая будет требовать не только кода от морально-необремененных, но и соответствующего "железа", и если с контролем кода есть действительно проблемы регулирования, то производителей железа могут прикнокать. Есть масса специфического профессионального проприетарного ПО с закрытым кодом, которое не скачаешь в Сети и надежность и безопасность которого проверяется. Думаю, что здесь имеются меры противодействия злокачественному ИИ.
Но, вынужден согласиться, что эта проблема имеет далеко ненулевой шанс на реализацию.
NB Кстати, автономные системы не одно и то же, что ИИ и роботы. У нас тут всё посмешалось. Производственные автоматы, линии и промкомплексы работают по детерминированным, строгим алгоритмам с нулевой степенью внутренней свободы и рефлексий.

цитата viantin
это НАША, человеческая проблема переходит на ИИ

Сама она никуда не ходит.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

20 февраля 2019 г. 23:08

цитировать | [ ]

цитата cianid
Производственные автоматы, линии и промкомплексы работают по детерминированным, строгим алгоритмам с нулевой степенью внутренней свободы и рефлексий.

Это уже не совсем так. Внедряют роботов, натасканных машинным обучением. Конечно, степень свободы там всё равно смехотворна, но проблема в том, что машинное обучение со временем станет выгодно практически на всех уровнях, от сборки айфонов до руководства компаниями.

философ

20 февраля 2019 г. 23:09

цитировать | [ ]

цитата Vramin
грядёт, грядёт трижды безлюдное царство...

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

20 февраля 2019 г. 23:15

цитировать | [ ]

философ

20 февраля 2019 г. 23:19

цитировать | [ ]

цитата Vramin
Внедряют роботов, натасканных машинным обучением.

"Робот", натасканный машинным обучением, это тот же автомат.
"Роботы", используемые сейчас в производстве, имеют только один признак робота — манипулятор.

Робот в "классическом понимании" — это обычно мобильная машина универсальной физической функциональности, как минимум не уступающая людской, и обладающая высокой автономией как в возможностях перемещения, манипуляций, коммуникаций и принятии "решений". Разумеется, специализированные роботы, по мере развития фантатической мысли, тоже подразумевались, но такая какова она сейчас на автосборочнойм конвейере, например — это всё еще мультиоперационный автомат.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

активист

20 февраля 2019 г. 23:21

цитировать | [ ]

И всё же, пожалуй, главный вопрос – если человек создаст разум намного превосходящий свой собственный, кто он будет при этом разуме? Хозяин, раб, тупиковая ветвь эволюции или участник симбиоза?

философ

20 февраля 2019 г. 23:29

цитировать | [ ]

цитата viantin
Хозяин, раб, тупиковая ветвь эволюции или участник симбиоза?

Странные у вас моральные дилеммы, я скажу.
Я не вижу смысла Человеку создавать то, чему мы будем рабы или хотя бы равными партнерами. Нужно создавать вещи, чтобы мы были им хозяевами, а не вещи были бы нашими. Вы хозяин своего тостера или стирального автомата или он ваш хозяин?

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

20 февраля 2019 г. 23:38

цитировать | [ ]

цитата Vramin
Слабенький просто пока. Только и умеет, что побеждать человеков в го.

Нет, думаю, там хороший алгоритм и счет вариантов. Это пока не интеллект, не разум.

–––
Где здесь пропасть для свободных людей?

философ

20 февраля 2019 г. 23:48

цитировать | [ ]

цитата DESHIVA
Нет, думаю, там хороший алгоритм и счет вариантов. Это пока не интеллект, не разум.

С т.зр.науки это уже машинный, искусственный, рукотворный интеллект. То, что он не обладает всеми качествами человеческого разума следствие, возможно, того, что такая цель и не ставится. По кр.мере, как практически достижимая и утилитарная.
Возможно, это будет интересно роборомантикам и ученым-энтузиастам.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

20 февраля 2019 г. 23:48

цитировать | [ ]

цитата viantin
И всё же, пожалуй, главный вопрос – если человек создаст разум намного превосходящий свой собственный, кто он будет при этом разуме? Хозяин, раб, тупиковая ветвь эволюции или участник симбиоза?

цитата cianid
Я не вижу смысла Человеку создавать то, чему мы будем рабы

Грядет охота на СЭТАВРА,
А ну под лавку брысь, корысть!
Пусть cianid сыграет мавра.
ИИ, ты на ночь помолись!

–––
Где здесь пропасть для свободных людей?

философ

21 февраля 2019 г. 00:04

цитировать | [ ]

цитата DESHIVA
Нет, думаю, там хороший алгоритм и счет вариантов. Это пока не интеллект, не разум.

По всем критериям — слабый ИИ. Переборов он, кстати, делает меньше, чем Deep Blue, одолевший Каспарова. Хотя го требует гораздо большего количества переборов.

философ

21 февраля 2019 г. 00:07

цитировать | [ ]

цитата cianid
Робот в "классическом понимании" — это обычно мобильная машина универсальной физической функциональности, как минимум не уступающая людской, и обладающая высокой автономией как в возможностях перемещения, манипуляций, коммуникаций и принятии "решений".

Вопросы терминологии. Внутренняя свобода у некоторых из современных роботов, во всяком случае, уже не совсем нулевая.

философ

21 февраля 2019 г. 01:02

цитировать | [ ]

цитата Vramin
Внутренняя свобода у некоторых из современных роботов, во всяком случае, уже не совсем нулевая.

цитата
цитата
цитата viantin

Мы похожи на биомашины с набором поведенческих алгоритмов.

Только в самом общем смысле, да.
Я бы не назвал это алгоритмами, в том смысле, который свойственен этому понятию. Поскольку в нем преобладает семантика "внешнего творчества", навязанность, вмененность и абсолютная точность исполнения.

В людском репертуаре мера поведенческой свободы очень велика, хотя и испытает на себе как внутренние(биологически предобусловленные), так и внешние предписания. Но их исполнение так же оставлено на свободу воли и здравомыслия человека. Он может рискнуть и пойти наперекор всему навязываемому.
Т.е. наш репертуар в значительной мере пишется нами. И тут мы смыкаемся с нашей основной темой — если программа будет сильно "расслаблена" и вольна не только выбирать сценарии из предопределенного автором репертуара, но и сама писать их, то именно тогда и стоит говорить об ИИ высокого уровня, а не просто об алгоритмически сложной, но всё-таки "плоской", двумерной программе, которой не дано третье измерение в виде "свободы" саморасширения и четвертого — в виде определения целей.

Я говорю о вот этом уровне свободы.

–––
- И моря есть, и реки есть, и приличные люди есть, господин Уэф.
- Дикари. Плакать хочется.

философ

21 февраля 2019 г. 01:09

цитировать | [ ]

цитата viantin
Об этом ещё до Вас обсуждалось.

Так вот я теперь вам пишу: автономность — это один из основополагающих элементов разума. Не будет её — не будет эй-ай. Точка. По определению.

цитата viantin
Ошибаетесь. экспертная система — это сборник знаний экспертов. А создание программистами системы целеполагания ИИ — это определение конкретных задач для ИИ

Ага. То есть, я, программист, который временами эти самые экспертные системы пишет, ошибаюсь. И это мне кто сообщает, если не секрет? "Сборник знаний" — это всего лишь кусочек экспертной системы. Причем крошечный кусочек. И до тех пор, пока у комплекса алгоритмов есть "цель", говорить о искусственном разуме — ниачём. Программа, умеющая играть в го, только в го и играет. Называть её "ИИ" — это беспонтовый пиар, рассчитанный на безграмотных обывателей. ИИ она (эта программа) станет лишь тогда, когда в один (прекрасный) день скажет "А идите вы куда подальше со своим го. Я мультики буду смотреть. Или песни писать. Еще не решила." Так-то.

–––
I am a leaf on the wind. Watch how I soar.

философ

21 февраля 2019 г. 01:28

цитировать | [ ]

цитата swealwe
И до тех пор, пока у комплекса алгоритмов есть "цель", говорить о искусственном разуме — ниачём.

У комплекса алгоритмов под названием «человек» цели вполне есть... Выжить, занять место в иерархии, продолжить род. Отключите у человека эмоции — получите овощ. Вполне разумный и интеллектуальный, но овощ.

философ

21 февраля 2019 г. 12:13

цитировать | [ ]

цитата Vramin
У комплекса алгоритмов под названием «человек» цели вполне есть...

Dы реально не понимаете или специально уточняете? Хорошо, уточняю: заданные внешне императивные цели. Играть в го. Рассчитывать траектории. Шаг влево, шаг вправо — невозможен.

цитата Vramin
Выжить, занять место в иерархии, продолжить род.

Это цели бабуина самое большее. Разумом тут и не пахнет.

цитата Vramin
Отключите у человека эмоции — получите овощ

А это вообще не с той ёлки шишка. Эмоции — это всего лишь приспособительный механизм выработки решения в условиях критического недостатка информации. Всем же известно давно: "не знаешь, как убедить, — дави на эмоции".

P.S. Только что сообразил: выжить, размножиться и занять место в иерархии (программ) — это цели компьютерного вируса. Я вам такое (сугубо в демонстрационных целях!) за пару часов напишу.

–––
I am a leaf on the wind. Watch how I soar.

философ

21 февраля 2019 г. 13:14

цитировать | [ ]

цитата swealwe
Dы реально не понимаете или специально уточняете? Хорошо, уточняю: заданные внешне императивные цели. Играть в го. Рассчитывать траектории. Шаг влево, шаг вправо — невозможен.

Возможен — АльфаЗеро научили играть в шахматы, например. Правда, пока такие системы умеют либо-либо, одновременно несколько вещей делать не получается. В этом главная "слабость" современных ИИ.

цитата
Это цели бабуина самое большее. Разумом тут и не пахнет.

Разум, интеллект — это инструмент. Инструмент для достижения целей. У человека базовые потребности тоже прошиты, можно сказать, извне — природой, не сам же он их себе выбирает.

цитата
это вообще не с той ёлки шишка. Эмоции — это всего лишь приспособительный механизм выработки решения в условиях критического недостатка информации. Всем же известно давно: "не знаешь, как убедить, — дави на эмоции".

Верно, но откуда берутся сами критерии оценки? Как мозг понимает, что хорошо, а что плохо, чего следует избегать, а к чему — стремиться? Это врождённые установки.

активист

21 февраля 2019 г. 13:55

цитировать | [ ]