(данный форум организовал Dmaker в рамках форума "Роботы" - теперь данная проблематика вынесена в отдельный форум)
Вот прочитал статью про организацию уровней создания ИИ и не понял, почему данный алгоритм должен сработать. Почему вообще система должна быть похоже на нас (людей), почему мы хотим, чтобы система, думающая единицами и нулями в конечном итоге стала похожей на нас. Мне кажется, что ошибочно мнение о том, что все миллиарды нейронов человека работают как глобальная система единиц и нулей. И, собственно, почему ИИ на последнем этапе необходимо понять, что надо себя реорганизовывать и совершенствовать (если мы конечно не ставим перед ним такую цель, но какая же это тогда свобода выбора). Скорее всего ИИ придет к логичному выводу, что лишние движения приводят к излишней потери энергии, ну или хотя бы работать только в качестве приемника информации, накапливая ее и используя только в тех случаях, когда это необходимо для своего выживания.
И это при условии, что жизнь будет считаться для него прерогативой, а возможно система в конечном счете решит, что своя жизнедеятельность ничто, по сравнению с важностью служения общему делу (если будут некоторые задатки коллективного разума, как логичного своего совершенствования). А может стоит подойти к этой задаче с другой стороны: попытаться сделать что-то совершенно новое, не похожее на нас, изначально заложить принципы, которые будут на порядок выше нас (психически и физиологически). Есть ведь вариант, что ИИ на каком то этапе решит, что для своей пользы ему неплохо бы контактировать с людьми и попытается понять нашу логику и систему интелекта. Слишком мы ориентированы на свое воспроизведение, заложено в нас самовоспроизводиться на любых доступных уровнях. Вот и пытаемся мы подойти к любой проблеме с точки зрения нашего понимания.
ИИ по своей сути (все же мы его создаем как электрические системы, пусть и с вариациями внедрения биологических имплантантов) быстрее нас, и логичным выводом будет сказать - чтобы ему контактировать с нами, "хошь не хошь", а придется тормозиться до нашего чувства времени. Как могут существовать вокруг нас формы жизни не совместимые с нами по скорости протекания жизни. Нам не суждено полноценно общаться с такими формами (особенно, если счет идет на столетия, ну хотя бы . А вообще мое мнение таково, что рановато нам еще брать на себя роль вершителей, нет у нас такой ни материальной ни моральной базы. Посмотрите вокруг, в мире творится чертовшина, бесконечно кто-то умирает по любым причинам, большинство людей озабочено тем, как жить завтра и у таких людей мысли даже не возникает стать создателями нового поколения "живых" существ.
Почитайте фантастику (пусть даже она расходится с действительностью), даже авторы таких жанров предусматривают попытку создания высокоразвитой цивилизацией себе подобных при условиях, что самим им уже некуда развиваться, т.е. при технологическом тупике и, они используют эту попытку, чтобы дать шанс другим формам стать лучше чем они. А нам еще далеко до этого. Самое целесообразное (про это я также вычитал на вашем сайте и поддерживаю эту точку зрения) - это создание всевозможных вспомогательных устройств для нашей жизнедеятельности. Мобильные, маленькие устройства должны ориентироваться на определенную им область, а не пытаться понять окружающий их мир. Вы можете осудить мои суждения, мол пессимист как есть, в чистом виде, но я скорее реалист и своей задачей ставлю цели по созданию нормальнально функционирующего вокруг меня микромира в соответствии со своими возможностями.
Все кто захочет меня переубедить, просьба писать, с удовольствием прислушаюсь к чужому мнению, сделаю выводы и попытаюсь измениться, если упреки будут основательными.
Здесь рассамтриваются филосовские аспекты проблемы ИИ
..Почему вообще система должна быть похоже на нас (людей), почему мы хотим, чтобы система, думающая единицами и нулями в конечном итоге стала похожей на нас.
на самом деле существует два подхода в проблемах создания искусственного интеллекта - один основывается на моделировании естественных мыслительных процессов? другой - "совсем другой" (построение "чёрного ящика") - критерием интеллектультности может служить известный тест - если система (основанная на любом принципе) сможет убедить вас, ну например по телефону , что она Человек, значит она обладает интеллектом не хуже человеческого.
..Скорее всего ИИ придет к логичному выводу, что лишние движения приводят к излишней потери энергии,
вообще у развития Цивилизации имеется два пути - я бы назвал их так : "Вовнутрь" и "Наружу" или, например, так - по Пути Увеличения Энерговооруженности (традиционный евроамериканский путь) и по Пути Уменьшения Энерговооруженности (классические восточные философии), при этом целью служит, в той или иной степени завуалированное, желание обретения Свободы. Но, наверное, вся фишка в том, что нужны и востребованны оба Пути. Я так думаю, что миниатюризация, как технологическое явление, и является частным случаем Пути "Вовнутрь".
..возможно система в конечном счете решит, что своя жизнедеятельность ничто, по сравнению с важностью служения общему делу
ну лично мое видение проблемы соотношения Частного и Общественного таково: в итоге (успокойтесь пройдет еще очень много времени ) , оба вышеописанные пути развития приведут к потере многих частных свобод (сейчас отголоски этого наблюдаются в самом "сердце свободного мира" - USA). Появится такое явление как "Контролируемая Индивидуальность" или "Контролируемая Свобода", направленная на оптимизацию Свободы Социума вцелом. А за это индивидуальность получит максимум личной Свободы в плане Познания Мира (в широком понимании этого явления - я имею ввиду, например, включение сюда таких проявлений Свободы как условное Бессмертие или Свобода Общения, Передвижения и всё такое прочее..)
Собственно, проблема создания ИИ мне видится не имеет принципиальных трудностей - я исхожу из того, что всё что в подлунном Мире есть, может быть повторено и даже улучшено.
(ну или так - всё что можно "потрогать" может быть воссоздано заново). Более того можно, например, предположить, что Бог (или назовите его Природа) создал (-ла) Человека как родитель ребенка - для того, чтобы он превзошел обычные естественные возможности свои (на самом деле не хочу гневить Бога, чтобы выразится еще более дерзко в плане того, КОГО должен превзойти Человек ведь ласковый и заботливый родитель именно этого желает..
..Как могут существовать вокруг нас формы жизни не совместимые с нами по скорости протекания жизни.
Очень принципиальный вопрос. Мне представляется, что в свете присуствия в Обществе различных социальных слоёв - проблема "самоапгрейда" (ну или в условиях "киборгизации" всего общества ( а это как раз и изменяет Скорость протекания Жизни) ) приведет к очень большим социальным последствиям-напряжениям. И от этого не уйти....
.. вообще мое мнение таково, что рановато нам еще брать на себя роль вершителей, нет у нас такой ни материальной ни моральной базы.
Повторюсь, Прогресс нас не спрашивает, вперёд его гонят Алчность, Лень и Гордыня (..О как сказал!) А нам приходится не отставать - вот ведь какая гнусная штука.. - отстанешь - сожрут. Хотя, наверное, есть и более разумные пути. Вот говорят, что римская империя, завоевав пол мира и Грецию в том числе, тем не менее к грекам относилась с уважением, детей отправляла учиться своих и всё такое прочее... А причиной - культура более высокая у греков была. Хотя, вот варвары взяли и разрушили потом римскую империю..
А один мой знакомый специалиcт по ИИ (Шлихт кажется Борис) давно когда-то говорил. "Да пусть их!" - пусть развивают свою цивилизацию задыхаются в ней - еще прибегут к нам в Сибирь вдохнуть свежего воздуха и заплатят нам сполна за такую возможность. Но чтобы это было возможно, так сказать "с нашего разрешения", а не "без спросу" - нужно хорошо учиться и не гадить в своём жилище.
Я согласен, моя точка зрения далека от совершенства, я просто хотел подчеркнуть, что нам еще рано пытаться создать нечто подобное себе. Дело не в том, что технический прогресс нас гонит, а в том, что мы постоянно пытаемся сделать что-то, что нам не по зубам. По словам автора одной из статей журнала Компьютерра: "..авторам революционных концепций обязательно следует научиться приземлять свои мечтания в соответствии с требованиями и возможностями текущего момента..." Критерий человечности Тьюринга им самим же воспринимался скорее как шутка, да и существует хорошая народная поговорка (простите за такую цензурщину: "на каждую хитрую задницу найдется свой ... винтом" =), т.е. обмануть можно любой тест.
У нас нет четкого определения понятию интеллект, мы скорее воспринимаем его как аксиому. Попытка "кибернизироваться" - это признание собственной слабости, желание улучшить себя (надеюсь хорошее желание). Поверьте, я не пессимист, я просто уверен, что пройдет время и появятся программы эмитации человеческого мышления (могу представить его осознание собственной нечеловечности...). Мне кажется, что тут в пример: "хоть горшком назови, только в печь не ставь" - все имеет свое имя... P.S. если у кого есть ссылки на существующие (или теоретические) модели ИИ, то плз. оставьте.
Еще немного поразмышляв над проблеммой ИИ, пришел к мысли, что мы пытаемся придать человечность компьютеру через наделение его эмитацией чувств. Т.е. наши вопросительные предложения, это ничто иное как интерес, оттенок возмущения, восхищения и т.д. - восклицательные предложения и т.п. Однако системам логического принятия решений (имеется ввиду без участия чувств) свойственно обращаться за информацией, если она им нужна, делать предупреждения, когда это необходимо. Налицо сей факт, что люди считают "нечеловечными" людей, которые берут в расчет только "холодные" (они же правильные, т.к. человеку свойственно делать ошибки) решения. Так что же мы пытаемся создать ? эмулятор человека или систему принятия решений ? необходимы ли нам тесты человечности к машине (или кто-то понимает это больше чем набор электроники) ? попробуйте ответить на это...
Еще немного поразмышляв над проблеммой ИИ, пришел к мысли, что мы пытаемся придать человечность компьютеру через наделение его эмитацией чувств.
Не всё так однозначно. Во первых как мне представляется, люди занимающиеся созданием ИИ - ну я имею ввиду интегральную задачу или философию ИИ, а не частные решенеия типа зрение, ориентация, обучение и т.п., так вот эти специалисты на самом деле большие романтики, едва ли не бо'льшие, чем разного рода "творческие люди" - те что по телевизору говорят о себе так - "мы - творческие люди!"
Так вот эти специалисты, естественно, поднятую вами проблему видят и понимают. Она в общем вполне прогнозируема и очевидна. Однако не нужно думать что проблема чувств и эмоций лежит совсем уж в "пространствах потусторонних". Я уж не говорю о банальных и давно изученных проявлениях чувств типа впрыска доз адреналина или там каких либо гормонов в "систему принятия решений" Человека. И, далее, к чему это всё приводит у нас у людей... Моё мнение, повторюсь, чувства - материальны, а раз так, значит они повторяемы. Не помню говорил ли я об этом ранее - недавно был на семинаре по ИИ один товарищ из РАН сказал, что среди специалистов ИИ есть мнение, что "двигаться" в Мире гораздо сложнее, чем "думать". А что? - "чувствовать" - это ближе к "двигаться" или к "думать", наверное всеже к "двигаться". Я в том смысле, что "чувства" гораздо более древний и отточенный механизм, чем мышление, тем более логическое мышление.
Ну так что ж, разьве это доказывает, что чувства не могут быть воссозданы? И не стоит и пытаться этого делать? Абсолютно согласен, что проблема принятия обществом "чувствующего" ИИ и удаление этих самых кавычек - весьма и весьма не простое дело, не только в технологическом но и в социальном плане - эта проблема стара как Мир - Чувствуют ли ВСЕ остальные так же как Я или может они вообще порождение моего сознания...
Смотрели фильм "двухсотлетний человек"? - там этот филосовский вопрос препарирован весьма красочно. И по поводу Ошибок и даже отношения к Смерти...
Ошибки ведь есть следствие необходимой гибкости поведения в неопределенном Мире, и следовательно, гибкость это свойство любого существа реального Мира, именно к гибкости восприятия окружающего Мира и принятия решений стремятся, например, создатели мобильных роботов - тут без ошибок не обойтись никак ...
Есть ведь вариант, что ИИ на каком то этапе решит, что для своей пользы ему неплохо бы контактировать с людьми и попытается понять нашу логику и систему интелекта
Есть статья на этом сайте, где автор утверждает в ней, что при наличии ИИ в нем можно пробудить ИР (искусственный разум). Мне вот кажется (я соласен с автором), что такие "отступнические" решения сможет принимать как минимум ИР, но не ИИ, так как ИИ будет аппаратно ограничен от такого рода самодеятельности. Его свобода будет принудительна ограничена (если, дерзну предположить, ИИ будет вообще способен мыслить "на лево"). А вот уже в более высоккой и сложной организации как РАЗУМ мы такого ограничения ему сделать не сможем... хотя может я не прав, поправьте мудрые люди .
Самое целесообразное (про это я также вычитал на вашем сайте и поддерживаю эту точку зрения) - это создание всевозможных вспомогательных устройств для нашей жизнедеятельности.
А ИИ сейчас, как мне кажется, и разрабатывается как это самое вспомогательное устройство.
ведь ласковый и заботливый родитель именно этого желает
Сейчас последует вопрос, просьба после которого меня ногами по лицу не бить :а окуда Вы знаете, чего имеено желает именно ЭТОТ ласковый и заботливый родитель? (Заранее прошу прощенья за невежество в теме ИИ, но она мне очень интересна)
Сейчас последует вопрос, просьба после которого меня ногами по лицу не бить :а окуда Вы знаете, чего имеено желает именно ЭТОТ ласковый и заботливый родитель? (Заранее прошу прощенья за невежество в теме ИИ, но она мне очень интересна)
Да это как раз и написано в том смысле - что мы не знаем Целей и Путей Провидения - кто знает что нам предначертано ТАМ? Поэтому и ситуация с ИИ (или с ИР в вашей терминологии) должна рассматриваться с разных сторон: может нас ограничивают, а может и наоборот- ждут от нас "дерзновений разных".
Ведь чаще слышать приходится, как раз только одну точку зрения, типа того - "а кто давал право на такие антигуманные и опасные исследования? Мы еще не доросли!. Вы вообще понимаете куда заведут они? Мы ж, человеки, в итоге будем не нужны!" и все такое..
Но именно в обсуждениях и деформируется постепенно отношение к вопросу о ИИ. ;-)
а кто давал право на такие антигуманные и опасные исследования?
Да, есть такая точка зрения. Один из великих сказал как-то: Мы научились быть богами раньше, чем людьми.
Но, к счастью или к сожалению, прогересс не остановить. Потому, что мы (племя человечексое ) очень любопытны. ИИ поможет в управлении заводами, появятся беспилотные умные машины... разве это не заманчиво?... Еще как! Причем, машины наделенные ИИ, будут гораздо умнее нас. Тоже заманчиво с одной такой пообщаться
Хотя, на счет превосходства по разуму машин над людьми тут не все так просто... С развитием нанотехнологии человеку откроется возможность усовершенствовать самого себя - беспрецедентная до селе возможность и истории!
Вот, что отвечает по этому поводу заведующий кафедрой Таганрогского государственного радиотехнического университета, председатель Совета Российской ассоциации нечетких систем, академик РАЕН, профессор, доктор технических наук Леонид БЕРШТЕЙН на вопрос корреспондента:
Тогда может отпасть необходимость в человеке, он не выдержит конкуренции и ему придется уступить место новому виду...
Ответ:
Это нормальный путь эволюции. Когда появляются более совершенные существа, менее приспособленные уступают им дорогу. Более сильный вид вытесняет более слабый.
Абсолютно согласен с Nickola_af
Хочется добавить все-таки такую вещь: Если внимательно рассмотреть вопрос о смене поколений разумных существ, то в принципиальном плане страхам Человека не остается места. Это же будут поколения выращеные можно сказать "выпестованные" людьми, Они будут так же как малые дети наши - Человек будет следить за их успехами с не меньшим чувстов надежды на будущее.
Но, конечно, в локальном плане - страхов хоть отбавляй - всем известно - "в семье не без урода" И что за уродцы могут появиться, одному Богу известно!. Вот, например, робот Да Винчи распилил ведь одного пациента уже - у нас на сайте об этом - здесь http://www.microbot.ru/index.php?module=Static_Docs&func=view&;%20 затем Robotics -> Profeccionals -> 010111_lps_robot_surgeon
Но, правда у Да Винчи - мозгов то сових - совсем немного
Хорошо, что разделили понятия ИИ и ИР. ИИ и так уже повсеместно применяется (ведь искусственный интеллект - не значит равный человеческому да еще и во всех сферах) Интеллект - как способность решать частные задачи обработки информации - есть даже в автопилоте, системе управления городскими светофорами или плате для распознавания образов. Можно построить машину, решающую тест IQ со скоростью молнии и стопроцентной точностью. Так что ИИ это по сути не фанастика, а бурно развивающаяся индустрия. Что же касается ИР..
Представляется, что для создания ИР и усовершенствования обычного человеческого разума требуется примерно одинаковый уровень технологии. Поэтому коммуникация между естествеными и искусственными устройствами вряд ли будет проблемой, скорее дело идет к их конвергенции.
Еще на форуме был затронут интересный вопрос сравнения разумов разной природы. Наверняка можно создать невообразимое множество по-разному устроенных и работающих разумов, в том числе совершенно диковинных. При этом такие параметры как тактовая частота или тесты типа IQ не подходят для объективной оценки (а ведь еще надо назначить какой-то из разумов арбитром! Можно сравнить такие разумы как это делалось в фантастических книгах - путем состязания, где все они в одинаково неудобной для всех среде, противостоя дрг дружке борются за некий результат, хотя бы за то же выживание.
Тогда можно определить наиболее приспособленный и совершенный в дарвиновском смысле разум. Но тут возникает проблема того, что этот разум может оказаться лучшим в битве именно с этим набором противников. И кто лучше, если в попарном бою А побивает Б, Б расправляется с В, но В один на один способен расквитаться с А? Налицо философская проблема критерия сравнения разумов, естственный результат того, что количество существующих типов разума впервые готовится перешагнуть единицу.
И наконец, "родитель" если и существует, то наверняка чего меньше всего опасается так это нашего развития (если бы опасался - вряд ли мы имели бы честь собраться на этом форуме Попытки использовать религию как оправдание страху и бездействию внутренне противоречивы, потому что используются как прикрытие иных мотивов, ведь если бы Создатель стремился ограничить могущество человека, то можно не сомневаться что это не совершенно не составило бы для него технических трудностей. А в реальности мы видим лишь все новые задачи возрастающей сложности, которые ждут того чтобы их решали. И в случае если Создатель существует и ему что-то от нас вообще нужно (интересно - зачем?), то это уж наверняка не индивиды, забивающиеся в угол и страшащиеся взять на себя управление новыми все более могущественными инструментами цивилизации.
Еще на форуме был затронут интересный вопрос сравнения разумов разной природы. Наверняка можно создать невообразимое множество по-разному устроенных и работающих разумов, в том числе совершенно диковинных.
У меня давно уж родилась такая (еще не совсем оформленная) мысль по поводу сравнительных возможностей ИР разной природы:
как бы разум не был устроен в плане своего базиса он скорее всего должен быть основан на очень простых и одинаковых правилах (что ли)
2 разница которая однако ж может один Разум поднять на недосигаемою высоту над другим обуславливается экстенсивными возможностями.. Типа - бол'ьшими объемами памяти, большими скоростями обработки большими одновременно обрабатываемыми уровнями ощущений и т.д. , Но ! любой из Разумов одинаково решит задачу о 2х2 и более того наверное в итоге любой из разумов решит ЛЮБУЮ задачу (но за разное время)
Ну в общем это не совсем оформленная мысль пока - просто она здесь "в тему" оказалась.
Да, вот еще правильно поднята проблема Interplatz -ом о назначении арбитра в состязании разумов. Как выявить-то "лучшего", даже задав им решать одну и ту же проблему? Ведь решение 2×2 это 4 и только 4, но для проверки целого разума такой проблемой явно не отделаешься. Придется задать что-нить по-сложнее, где может быть множество решений и тогда уже по скорости разрешения этой задачи нельзя будет судить - решения могут быть лучше и хуже. А вот еще вопросик на засыпон: а что если испытуемый разум окажется гораздо УМНЕЕ арбитра? Как, напрмер, ребенок может судить о правильности принятого решения своего взрослого отца?
Мне что еще хотелось уточнить: понимаете, я не то чтобы хочу затормозить дорогу развитию, не давая дорогу молодым =) просто мне кажется, что найдется много людей, которые не захотят сбрасывать себя со счетов. Как женщины борятся за равноправие ;-) так и мы до конца будем бороться за свое существование и возможно далеко не самыми гуманными методами. Я принципиально согласен, что двигателем прогресса во многих вопросах является наша пресловутая лень, но если (как admin считает) чувства можно приписать к процессам материальным, то почему бы не попытаться урезать свои недостатки, сделать себя совершенством (убрав правда один из важнейших двигателей прогресса, надеюсь к тому моменту появятся другие, например накопление знаний и энергии). Зачем человеку нужны вспомогательные средства, это же признание собственной неуверсальности, давайте лучше подкорректируем себя =) Иногда вообще становятся преследуемые некоторыми цели, ведь большинство из нас очень не любят конкурентов.
Кто-то говорит: да как же, конкуренция - это отлично, именно зарождение духа соревнований приводят к наилучшим идеям, наиболее живучим. Но почему же мы так не любим конкурентов, если они приносят столько блага в конечном счете ? (наверно бывали ощущения злости, когда видите любимую женщину, мило разговаривающую с чужим молодым человеком , согласитесь, не совсем гуманное чувство ) И еще немного: почему собственно не может быть такого варианта, что один интеллект будет решать задачу 2х2 логическиски, а второй подойдет к ней с точки интуиции. Никто не может опеределить какой путь правильней, если они ведут к одним результатам. Но из наших дебатов, я как понял определилось, что ИИ - это не есть интеллект в понимании человеческого, а нечто определенное специальным термином ИИ?
На счет вопроса о превосходстве на некотором этапе "дитяти" над родителем, так мне кажется это только должно радовать и создателей, т.к. это говорит и о переходе на новый уровень своих способностей: смогли же они создать что-то лучше себя, это уже о многом говорит, да и вообще, например мои родите только радуются когда видят что я разбираюсь в каких-то вопросах лучше чем они :-)
Источник: http://www.microbot.ru/
(MicRobot's Forum)
ИИ от Prof
E-mail
© Prof 2003-2004
23.02.2004
1/2