Послано - 04 Авг 2004 : 22:34:51
Лем подходит к искусственному интеллекту реалистичней и мрачней Азимова. "3 закона" не только ставят вопрос об опасности таких разработок, но и предлагают конкретные пути решения. "Дознание" полимизирует с этим решением - объявляя его нереализуемым на практике. Что не отменяет важности проблемы. Лем не считает возможным подчинить разум простым формальным правилам - и говорит об объективных интересах, которые могут влиять на поведение разумного существа(постольку, поскольку оно нормально). Можно учитывать, также, влияние моральных систем и врождённых склонностей, но только до тех пор, пока те не подвергнутся слишком серьёзному испытанию.
Цитата:Лем не считает возможным подчинить разум простым формальным правилам
А почему? Если даже человеку можно внушить какие-то максимы, которые будут безусловно управлять его поведением, то что говорить об искусственном интелекте.
Мой вам совет: не слушайте ничьих советов. И этого тоже.
Цитата: Если даже человеку можно внушить какие-то максимы, которые будут безусловно управлять его поведением, то что говорить об искусственном интелекте.
Проще сделать человека фанатичным христианином, чем предсказать, ударится ли он после этого в "непротивление злу насилием", или бросится жечь еретиков. Точнее, долговременно предсказуемый человек, чьими мыслями и поступками можно надёжно управлять, не многого стоит в интеллектуальном плане. Лем перенёс это правило на искусственный интеллект. То есть, заявил, что тот робот, который способен, скажем, управлять работой завода, как-нибудь разберётся в том, как и в каких целях пытаются манипулировать им самим.
Это утверждение ничем не доказано - но вполне логично. А недоброжелательное осознание самыми мощными из ИИ попыток манипуляции будет, вероятней всего, воспринято, как порабощение. Только лиги борьбы за права роботов нам и не хватало ;).
Цитата:Проще сделать человека фанатичным христианином, чем предсказать, ударится ли он после этого в "непротивление злу насилием", или бросится жечь еретиков.
Если контролировать с детства воспитание этого человека, то вполне можно не только предсказать, но и направить. А программирование ИИ, мне представляется чем-то похожим на воспитание человеческой личности. Так что, 3 закона, ИМХО, рулят! :)
Оффтопик:
Цитата:ИМХО, рулят!
Написал и вспомнил: -Папа, а правда говорят, что форумы и чаты оглупляют человека? -Гыыы, сына, LOL !
Мой вам совет: не слушайте ничьих советов. И этого тоже.
Цитата:Если контролировать с детства воспитание этого человека, то вполне можно не только предсказать, но и направить.
Так, с чем же мне сравнить воспитание человека с детства и как на этого человека будет влиять окружающий мир. Ага, возьмем камешек на дороге и мчащееся транспортное средство. Скажем, велосипед. Объедет. Это раз. Наткнется и перекувырнется. Это два. Ну и просто руль свернется. Это три. Тут уж как повезет? Или зависит от мастерства? Или от марки велосипеда? Или от величины камешка? А если все-все одинаково? Так можно еще или передним или задним колесом наехать, слева на него наехать или справа, наткнуться или слегка задеть. Марка машины, величина ее и камешка, и мастерство водителя. Это все, конечно, влияет. Но как ты не контролируй воспитание человека с детства, вот такой камешек на жизненном пути может повернуть, развернуть и перекувырнуть все вбитое голову и контролируемое с детства. С роботами-то дело обстоит все же попроще.
Послано - 09 Авг 2004 : 09:27:32
Когда я создавал эту тему, я больше думал не о "Дознаниии", а о "Несчастном случае". В "Дознании" поведение роботов было более запрограммировано. Их настраивали на достижение успеха, а это порождает соревнование, и тут уже все зависит от того, кто-какие цели себе поставит и какими средствами воспользуется. В "Несчастном случае" робота никто на скалу не гнал, тут показано более определенное "своеволие" машины. Машина сама создала ситуацию соревнования, игры. Может Лем и хотел показать, что в основе разумной деятельности лежит игра (homo ludens)? Азимовские роботы, несмотря на все их человекоподобие никогда ни в какие игры не играют, и сразу чувствуется их нечеловечность, а у Лема наоборот, его роботы более человечны именно из-за способности играть. P.S. Саймаковские роботы ("Город" и др.) практически копия азимовских, со всей их гипертрофированной серьезностью. P.P.S. после прочтения "Охоты на сэтавра" и "Терминуса" "Дознание" воспринимается совершенно иначе.
Послано - 01 Сент 2004 : 10:45:06
Мне кажется, что Азимов всеми своими произведениями хочет показать, что робот, каким бы сложным он ни был, не может заменить человека. Взять хотя бы тетралогию об Элайлже Бейли и Р.Дэниеле Оливо. Дэниелу в расследованиях Бейли достается неблагодарная роль доктора Ватсона, потому что он "руководствуется логикой, но не здравым смыслом". А когда приходит пора самому Дэниелу возглавить расследование (Роботы и Империя), он его блистательно запарывает.
Версия для печати
Послано - 04 Авг 2004 : 09:46:59
