| автор |
сообщение |
swealwe 
философ
 
|
 27 февраля 2019 г. 21:10 [нажмите здесь чтобы увидеть текст поста]
|
цитата DKart Надо бы разобраться с терминологией.
И закрепить в шапке темы пост с терминологией. Чтобы каждый, кто заходит, сразу видел: присутствуют четкие граничные критерии у обсуждения или происходит общефилософское размазывание каши. |
–––
I am a leaf on the wind. Watch how I soar. |
|
|
Vramin
философ
|
|
27 февраля 2019 г. 21:12 [нажмите здесь чтобы увидеть текст поста]
|
цитата rim_x Вот я бы и обратил внимание, что говоря об ИИ в фантастическом смысле, мы подразумеваем сознание.
Да, есть такой антропоморфизм. Говорим «ИИ» — и сразу выскакивает картинка какого-то гибрида компьютера с человеком. От человека — сознание, воля, а от компьютера — быстрота, мощь интеллекта и безэмоциональность. Всё это к потенциально возможному ИИ, конечно, имеет слабое отношение (разве что быстрота и мощь интеллекта: интеллект единственное, что есть из перечисленного в аббревиатуре ИИ).
цитата Вероятно сознание связано с волей, еще там у экзистенциалистов надо спросить, у Сартра и Камю.
Боюсь, тут один философский термин объясняют другим ) Порочный круг получается.
цитата Или скажем просто, что речь идет о вычислительной машине с некими особыми функциями самообучения или вроде того. Тогда это примерно то же что сейчас и чтоб избежать опасность, наверное достаточно соблюдать технику безопасности. Трактор тоже надо не поставить так, чтоб он покатился :).
Современные системы уже чудят периодически. Но их по крайней мере несложно проконтролировать, потому что они заточены под одну задачу. С «сильным» ИИ это может и не прокатить. |
|
|
rim_x
авторитет
|
|
27 февраля 2019 г. 22:01 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin Современные системы уже чудят периодически
Например? Кажется знаю о чем Вы. Вероятно некоторым ньюсмейкерам приятно выдавать желаемое за действительно и обычный сбой техники и программ приукрашивать для броской новостной ленты. Так можно сказать что и тамагочи чудит и такое сообщение будет повеселее объективного. цитата Vramin Боюсь, тут один философский термин объясняют другим
По-моему, там все в порядке, но консенсуса нет и мы далеки от понимания этих явлений. цитата Vramin Да, есть такой антропоморфизм.
Возможно дело не в антропоморфизме. Мы же говорим о конкретных явлениях, например воля есть и у животных. С другой стороны человеческий разум — образец с качествами недоступными сейчас машинам. Возможно так и останется, но кто же знает сейчас точно. цитата Vramin интеллект единственное, что есть из перечисленного в аббревиатуре ИИ
Вот, по-моему, здесь и неточность сбивающая с толку. Может, конечно, завтра кто-то, например гугл, всех удивит, но сомневаюсь. Может правильнее называть проектами вычислительных машин с новыми возможностями? Или как-то по-другому, мой вариант тоже неточный. ИИ, конечно, эффектно и презентабельно звучит. Может я не в курсе новостей и присутствующие расскажут, что позволяет назвать современные разработки интеллектом, какие признаки. |
|
|
viantin
активист
|
|
27 февраля 2019 г. 22:06 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin От человека — сознание, воля, а от компьютера — быстрота, мощь интеллекта и безэмоциональность.
Скорее всего, развитие ИИ так и будет происходить. В начале, применение в узкозаточенных направлениях, где требуется "быстрота, мощь интеллекта и безэмоциональность", а в последствии, там где будет необходима социальная сторона применения — некое эмулирование эмоций человека. |
|
|
Vramin
философ
|
|
27 февраля 2019 г. 22:46 [нажмите здесь чтобы увидеть текст поста]
|
цитата rim_x Например? Кажется знаю о чем Вы. Вероятно некоторым ньюсмейкерам приятно выдавать желаемое за действительно и обычный сбой техники и программ приукрашивать для броской новостной ленты.
Да вот хотя бы 
https://habr.com/ru/post/392451/
Тут есть важный момент. То, что сейчас называется ИИ, не является, строго говоря, программами. Во всяком случае в традиционном понимании. Это системы, способные к обучению, и результаты этого обучения могут быть непредсказуемыми. |
|
|
rim_x
авторитет
|
|
27 февраля 2019 г. 23:32 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin Это системы, способные к обучению
То есть "обучаемость"? Не могу увидеть в этом параметре машины чего-то исключительного, хотя перспектива многообещающая, но не актуализирует тему обсуждения, по-моему. Мы запускаем программу (допустим на особой машине) и даем ей доступ к новой информации и такая самообучающаяся программа улучшается или, в худшем случае, ухудшается, в самом худшем случае превращается в вирус, но это уже трудно представить. Разве она не остается программой, но избавляет программиста от лишней работы, возможно даже улучшается в пределах недоступных программисту (ему не хватит времени и навыков)? С чего вдруг программа станет чем-то иным? Или, ладно, допустим набор программ станет более сложным набором более сложных программ. Но что это изменит принципиально? Что-то такое чего теоретически не мог бы сделать программист? Возможно я что-то упускаю и недостаточно в теме, но я высказваю свое мнение. |
|
|
Vramin
философ
|
|
28 февраля 2019 г. 08:31 [нажмите здесь чтобы увидеть текст поста]
|
цитата rim_x Что-то такое чего теоретически не мог бы сделать программист?
Для этого и применяют машинное обучение. Программист просто не сможет учесть все возможные варианты, если ситуация, с которой работает программа, может развиваться по практически бесконечному набору сценариев (как в игре го), или если исходные данные слишком велики по объёму (как при распознавании образов). Это проблема комбинаторного взрыва. |
|
|
DKart
магистр
|
|
28 февраля 2019 г. 09:38 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin Это системы, способные к обучению, и результаты этого обучения могут быть непредсказуемыми.
Возьмем только что родившегося ребенка. Что он умеет? Минимальные базовые инстинкты и, назовем ее так, мощная программа по самообучению. В зависимости от среды обитания и подходов к обучению результаты обучения всегда непредсказуемы. То есть в этом плане ИИ мало чем отличается от человека.
Эмоции — вот что может нас разделять. Но тот же ребенок впадет в истерику или использует другие эмоции, чтобы заполучить желаемое, женщина изображает наслаждение и оргазм в сексе, актер кричит с экрана или со сцены "Нееееет!!!" и плачет — это симуляция эмоций. Можно запрограммировать ИИ на симуляцию7 Думаю да. Примеры тому имеются: цитата Евгений Густман — чат-бот, притворявшийся мальчиком из Одессы, прошёл классический тест Тьюринга. Общаясь с чат-ботом, судья проверял его и на эмоции — и не смог определить, что это не человек.
Или бот Cleverbot.
Воля. Вот этого, на мой взгляд ИИ будет не хватать. ИИ по большому счету программа. То есть волю, цель действий закладывает программист. Заложить бесконечное множество целей, ИМХО, невозможно. ИИ будет ограничен теми целями, для которых он создавался. То есть даже гипотетически не может случиться так, что ИИ, созданный управлять заводом, вдруг решит истребить человечество или заняться театром. Он будет развиваться, самообучаться только в тех рамках, которые ему заложат создатели. |
–––
Меня отнесли на поле, проткнули шестом и оставили одного. (Волшебник Изумрудного города) |
|
|
Vramin
философ
|
|
DKart
магистр
|
|
28 февраля 2019 г. 10:55 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin погуглите "максимизатор скрепок"
Я даже в нее играл, потратив часов 6 без перерыва практически. И что вы этим хотели сказать?Максимизатор скрепок все равно не мог делать ничего другого. Итоговое уничтожение вселенной — это не цель, воля или принятое решение, а способ для достижения результата или побочный эффект. Циркулярка тоже частенько пальцы отрубает, но это не значит, что это цель церкулярки. Более того, максимизатор скрепок, если я не ошибаюсь не был ограничен спросом на скрепки, спрос был бесконечным. Фабрика мебели под управлением ИИ не сможет заставить всю планету шкафами, потому что ИИ нужно будет организовать реализацию мебели согласно спросу и рентабельности. То есть учиться и совершенствоваться в производстве и коммерции.
Если заданная воля не будет ограничена извне или вовремя не остановлена, то побочка может доставить неприятности. Но ИИ не биологический вирус или живой организм, в котором заложена "программа" выживания. ИИ должен подчиняться создателю, администратору ИИ. |
–––
Меня отнесли на поле, проткнули шестом и оставили одного. (Волшебник Изумрудного города) |
|
|
Vramin
философ
|
|
28 февраля 2019 г. 11:51 [нажмите здесь чтобы увидеть текст поста]
|
|
А что такое воля? Термин довольно расплывчатый. Можно сказать, что у максимизатора скрепок тоже есть воля — воля к производству как можно большего количества скрепок ) В этом деле он сможет проявлять удивительную изобретательность и научиться обходить противодействие людей (может быть, в этом и заключается воля — стремиться к цели, несмотря ни на какие преграды?)
Что касается ограничений, то максимизатор скрепок, конечно, пример чисто умозрительный, доведённый до крайности, но на самом деле может оказаться не так-то просто контролировать инструмент, который умнее своих создателей, и который может прийти к выводу, что лучше их знает, как достичь ими же заложенных целей )
|
|
|
DKart
магистр
|
|
28 февраля 2019 г. 12:50 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin А что такое воля? Термин довольно расплывчатый. Можно сказать, что у максимизатора скрепок тоже есть воля — воля к производству как можно большего количества скрепок
Мне нравятся два определения "воли":
1. Способность осуществлять свои желания, поставленные перед собой цели.
2. Сознательное стремление к осуществлению чего-н.
Вот именно. Я же говорю цитата DKart То есть волю, цель действий закладывает программист. Заложить бесконечное множество целей, ИМХО, невозможно. ИИ будет ограничен теми целями, для которых он создавался.
Ну не может ИИ-хирург сгенерировать желание баллотироваться в Государственную Думу, стать поп-звездой или замыслить убийство Кеннеди. Его воля ограничена тем, что заложил программист-создатель.
Поэтому ИИ могут быть узкопрофильными, которые будут самосовершенствоваться в своей "профессии". Возможно в будущем, ИИ-физик сможет быстрее и лучше решать имеющиеся проблемы и строить новые гипотезы, чем его "коллеги" люди. ИИ-учитель, обладая всеми накопленными человечеством знаниями, сможет дать более качественное образование детям. ИИ-врач будет ставить максимально точные диагнозы и подбирать самое лучшее и эффективное лечение. |
–––
Меня отнесли на поле, проткнули шестом и оставили одного. (Волшебник Изумрудного города) |
|
|
viantin
активист
|
|
28 февраля 2019 г. 17:32 [нажмите здесь чтобы увидеть текст поста]
|
|
Присутствует нарастающая скорость прогресса, и работает двойной экспоненциальный рост. Во-первых, вычислительные возможности микроэлектроники растут в геометрической прогрессии. Во-вторых, эффективность программного обеспечения, используемого в ИИ, растет в той же прогрессии. Когда в игру вступают двойные экспоненты, почти любое предсказание будет слишком консервативным. Пару лет назад все думали, что компьютер победит чемпиона игры в Го как минимум через 20 лет. Но это уже произошло. И теперь компьютер может играть 50 одновременных матчей против лучших игроков мира.
|
|
|
DKart
магистр
|
|
28 февраля 2019 г. 17:51 [нажмите здесь чтобы увидеть текст поста]
|
цитата viantin Присутствует нарастающая скорость прогресса, и работает двойной экспоненциальный рост.
В наше время уже имеет место замедление роста. Вычислительные возможности уже упираются в физические. |
–––
Меня отнесли на поле, проткнули шестом и оставили одного. (Волшебник Изумрудного города) |
|
|
rim_x
авторитет
|
|
28 февраля 2019 г. 17:52 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin инструмент, который умнее своих создателей
Наверное точнее будет, не умнее а лучше считает. Простой компьютер уже лучше играет в шахматы, чем любой человек, но он не умнее любого ребенка, он просто хорошо считает и выполняет программу. По сути он остался калькулятором. Что тоже не мало, изобретение программирования (и компьютера) — одно из величайших достижений. цитата Vramin А что такое воля? Термин довольно расплывчатый. Можно сказать, что у максимизатора скрепок тоже есть воля
В том и дело, что Вы пытаетесь сымитировать феномен которого мы все еще не понимаем. Если Вы материалист, то недооцениваете природу, если верующий, то недооцениваете Создателя. Когда-то тысячилетия ушли на понимание феномена "энергия" пока Лейбница не озрило, когда он размышлял на темы физики и теологии, и он ввел понятие "живой силы" по-Вашему, вероятно, тоже расплывчатое. После чего прошли еще столетия для оформления понятия. С волей двумя сообщениями на любительском форуме Вы вряд ли преуспеете. Если Ваш пример достаточная имитация воли, тогда и калькулятор достаточная имитация человека, поскольку в процессе вычисления они немного похожи и пришли к одному результату умножая два на три. |
|
|
viantin
активист
|
|
28 февраля 2019 г. 18:12 [нажмите здесь чтобы увидеть текст поста]
|
цитата DKart В наше время уже имеет место замедление роста. Вычислительные возможности уже упираются в физические.
Я вижу наоборот, к примеру в софте создаются новые языки. А железо...вот IBM создала технологию производства чипов с топологией 5 нанометров. (технология фотолитографии в глубоком ультрафиолете) |
|
|
Vramin
философ
|
|
Vramin
философ
|
|
28 февраля 2019 г. 19:47 [нажмите здесь чтобы увидеть текст поста]
|
цитата rim_x Наверное точнее будет, не умнее а лучше считает. Простой компьютер уже лучше играет в шахматы, чем любой человек, но он не умнее любого ребенка, он просто хорошо считает и выполняет программу. По сути он остался калькулятором.
Именно умнее. АльфаГо, выигравшая у Ли Седоля по сути своей — вовсе не калькулятор. Никакой компьютер, даже с учётом закона Мура, не сможет просчитать все варианты ходов в го. На это не хватит всего времени Вселенной ) Приходится идти на упрощения. Нейросети устроены (хотя и очень отдалённо) по принципу работы мозга. Он запоминают информацию не чётко, как обычный компьютер, а приблизительно, и если показать нейросетке что-то похожее на то, что она уже видела, она это распознает. Это очень похоже на человеческую интуицию. Профессиональные игроки часто не могут объяснить, почему они сделали тот или иной ход: мозг вспоминает знакомый расклад (не в точности такой же — это было бы невозможно, но примерно такой) и предсказывает, куда лучше поставить фигуру.
цитата Когда-то тысячилетия ушли на понимание феномена "энергия" пока Лейбница не озрило, когда он размышлял на темы физики и теологии, и он ввел понятие "живой силы" по-Вашему, вероятно, тоже расплывчатое.
Но, если верить Википедии, Лейбниц не использовал термина «энергия» Энергией тогда называлось что-то совсем другое, ничего общего с современным точным физическим определением не имеющее.
цитата Если Ваш пример достаточная имитация воли, тогда и калькулятор достаточная имитация человека, поскольку в процессе вычисления они немного похожи и пришли к одному результату умножая два на три.
Я не претендую на то, чтобы дать точное определение воле, потому что и сам плохо понимаю, что это такое. |
|
|
rim_x
авторитет
|
|
28 февраля 2019 г. 20:39 [нажмите здесь чтобы увидеть текст поста]
|
цитата Vramin Но, если верить Википедии, Лейбниц не использовал термина
Дело не в термине, а в феномене, который обозначается термином. Л-ц будучи философом и физиком, многогранной творческой личностью и, вероятно, гением, понял то, что не понимали до него, хотя само явление все могли наблюдать в повседневности. цитата Vramin Именно умнее
Вы конечно можете пользоваться этим термином. На мой взгляд это подмена. Хотя можно сказать умный (английская аббревиатура "смарт" иногда так переводится) бытовой прибор с программой. Я бы сказал,что любой ребенок умнее такой машины. Между ними принципиальная разница. Эта машина — только инструмент. Он может выйти из под контроля? Реакция на АЭС тоже может выйти из под контроля. Сложная техника и эксперименты с ней требуют аккуратности. Тема на форуме изначально заявлена с акцентом на некое сознание. Как Вы себе это представляете? Зачем машине играющей Го что-то еще? Да, конечно, если подключить машину ко всем возможностям управления материальным миром и дать цель все превратить в эту игру, она попытается, наверное. Но так можно сделать и проще и без машины, наверное. В общем скажу примиряюще, мы увидим как события будут развиваться. Развитие технологий и я тоже приветствую. :) Но наши взгляды на ближайшие перспективы отличаются. Вы считаете возможным создание ИИ в скором времени. Ну, я не уверен вообще в такой возможности и в будущем. Тема в жанре нф, тем не менее, одна из самых любопытных, но часто она преподносится поверхностно и спекулятивно. |
|
|
viantin
активист
|
|
28 февраля 2019 г. 20:43 [нажмите здесь чтобы увидеть текст поста]
|
|
Машинное сознание или синтетическое сознание – это конечно ещё теория. Но имеющая право на существование. Возможно, что под машинным сознанием будут пониматься такие аспекты как:
- определение контекста
- адаптация и обучение
- редактирование, отладка, контроль
- расстановка приоритетов
- принятие решений или исполнительная функция
- механизм внутреннего моделирования («воображение»)
- функция мониторинга
- проверка работоспособности внутреннего функционала
- поиск ошибок, исправление ошибок
- функция автопрограммирования и самообслуживания.
- прогнозирование
|
|
|
цитировать