Перейти на главную страницу форума Перейти на главную страницу форума
Перейти на главную страницу форума Перейти на главную страницу форума WILMARK - ПРОДВИЖЕНИЕ, СОЗДАНИЕ, ПОДДЕРЖКА САЙТОВ

мегапоиск библиотека фильмотека каталог фэнтези & фантастики читательский профиль Кубики Архивы Кубикуса

реальные миры фэнтези & фантастики
мегапоиск библиотека фильмотека каталог фэнтези & фантастики читательский профиль Кубики Архивы Кубикуса


Последние 10 сообщений | Активные форумы | Тематические разделы | Хранители | Инквизиторы | Правила | Поиск | FAQ
Логин:
Пароль:
Запомнить  
Забыли пароль?
Регистрация »
 
  Все форумы
  Мысли вслух
  Новые законы Вудса-Мерфи о роботехнике
      Версия для печати
 
Автор Предыдущая тема Темы Следующая тема  
suhai
Мастер Слова



2731 сообщений
Послано - 30 Июля 2009 :  23:01:08  Показать инфо об авторе  Ответить с цитатой
http://mk.ru/science/publications/327503.html
Ну собственно законы:
"1. Никакой человек не может внедрить или активизировать робота без системы взаимодействия "робот-человек", сопряженной с высочайшими юридическими и профессиональными стандартами безопасности и этики.

2. Робот обязан отвечать людям соответственно заданной ему функциональной роли.

3. Робот должен быть обеспечен адекватной ситуации автономией, чтобы защитить свое собственное существование до тех пор, пока такая протекция обеспечивает бесконфликтную передачу контроля за ним, не противоречащего Первому и Второму Законам. "
На мой взгляд нынешняя цивилизация стоит на пороге "чего-то такого". Носители информации давно превзошли накопительнуют емкость человеческого мозга, компьютер давно обыграл человека в шахматы (причем человека, который за умение играть в шахматы пожертвовал большей частью мыслительных способностей). Не за горами как говорится.


Я не злой. Я все тот же! Это вы чета раздобрели!

LOKI
Мастер Слова


Грузия
1296 сообщений
Послано - 30 Июля 2009 :  23:12:39  Посмотреть инфо об авторе  Посетить домашнюю страницу LOKI Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Законы Азимова мне более симпатичны)).

Imperare sibi maximum imperium est.(с) L.A. Seneca.


suhai
Мастер Слова



2731 сообщений
Послано - 30 Июля 2009 :  23:46:12  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
да мне тоже. Но действительность то гораздо хуже

Я не злой. Я все тот же! Это вы чета раздобрели!

Mat
Мастер Слова



9976 сообщений
Послано - 31 Июля 2009 :  00:11:55  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
В действительности, такая попса, как Терминатор - в сто раз ближе к нашей грешной Земле, чем робоэтика Азимова...

Mat, if you don't mind

suhai
Мастер Слова



2731 сообщений
Послано - 31 Июля 2009 :  00:17:56  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Да, видел по Дискавери фильм про военных роботов и тех кто их проектирует. Там один из конструкторов об этих законах (законах Азимова) отзывается чуть ли не с презрением

Я не злой. Я все тот же! Это вы чета раздобрели!


Отредактировано - suhai 31 Июля 2009 00:18:57

LOKI
Мастер Слова


Грузия
1296 сообщений
Послано - 31 Июля 2009 :  00:20:04  Посмотреть инфо об авторе  Посетить домашнюю страницу LOKI Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Mat
Мда?
Вот:
"Первый Закон:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй Закон:
Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

Третий Закон:
Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму законам."

Всё просто и ясно, в чем тут ирреальность? Очень интересно.


Imperare sibi maximum imperium est.(с) L.A. Seneca.



Отредактировано - Хеймдаль 31 Июля 2009 00:22:00

El
Мастер Слова


Россия
6213 сообщений
Послано - 31 Июля 2009 :  09:38:51  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Хеймдаль, что есть вред? Что есть добро и зло? Что есть истина? ой... Это меня уже куда-то занесло

Тролль я, тролль (с) WebFX

LOKI
Мастер Слова


Грузия
1296 сообщений
Послано - 01 Авг 2009 :  12:32:08  Посмотреть инфо об авторе  Посетить домашнюю страницу LOKI Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
El
Думаю тебе не нужны мои ответы на эти вопросы. Так-как все эти понятия относительны, а значит для нас с тобой(вместе!) они не существуют.
Но это не значит что они не могут существовать для роботов. Ведь робот не человек, робот - машина.
Думаю ты согласишься что эти три закона всего лишь оболочка, кроме этих 3 главных законов там еще уйма "подзаконов". Слово вред для всех роботов будет иметь одинаковое значения(в отличии например от нас с тобой), которое люди для него создадут. Это не просто, многое надо учесть, но уверен это возможно.
Да и истину ему тоже можно придумать.
З.Ы Если не смог донести то что хотел сказать попробую еще раз)).

Imperare sibi maximum imperium est.(с) L.A. Seneca.



Отредактировано - Хеймдаль 01 Авг 2009 12:36:48

Петруххха
Хранитель-дебютант - 2009


Россия
6032 сообщений
Послано - 01 Авг 2009 :  13:13:10  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Хеймдаль пишет:



El
Думаю тебе не нужны мои ответы на эти вопросы. Так-как все эти понятия относительны, а значит для нас с тобой(вместе!) они не существуют.
Но это не значит что они не могут существовать для роботов. Ведь робот не человек, робот - машина.
Думаю ты согласишься что эти три закона всего лишь оболочка, кроме этих 3 главных законов там еще уйма "подзаконов". Слово вред для всех роботов будет иметь одинаковое значения(в отличии например от нас с тобой), которое люди для него создадут. Это не просто, многое надо учесть, но уверен это возможно.
Да и истину ему тоже можно придумать.
З.Ы Если не смог донести то что хотел сказать попробую еще раз)).

Imperare sibi maximum imperium est.(с) L.A. Seneca.


Азимов попытался сформулировать законы роботехники весьма компактным образом, однако в этих законах имеются некие неопределяемые понятия типа "вред", "бездействие", "приказ", "безопасность", "человек" наконец.
Характерно, что в силу теорем Гёделя о неполноте исчерпывающее и непротиворечивое определение этих понятий не может быть дано (точнее хотя бы одного из этих понятий). Кстати большинство рассказов Азимова о роботах как раз этому и посвящены.

ЗЫ: К вопросу об истине (см. теорему Тарского о невыразимости истины). Так что иррациональность этих понятий есть вполне доказанный факт.

Нет Петрухххи, Абдулла зарезал (с)


Отредактировано - Петруххха 01 Авг 2009 13:17:36

LOKI
Мастер Слова


Грузия
1296 сообщений
Послано - 01 Авг 2009 :  13:18:16  Посмотреть инфо об авторе  Посетить домашнюю страницу LOKI Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой

Азимов попытался сформулировать законы роботехники весьма компактным образом, однако в этих законах имеются некие неопределяемые понятия типа "вред", "бездействие", "приказ", "безопасность", "человек" наконец.
Характерно, что в силу теорем Гёделя о неполноте исчерпывающее и непротиворечивое определение этих понятий не может быть дано. Кстати большинство рассказов Азимова о роботах как раз этому и посвящены.

Согласен. Просто я считаю что роботу можно "объяснить" что для него должно значить "вред", "бездействие", "приказ", "безопасность", "человек".И для нас эти понятия когда-то были не определёнными. Это ведь не просто три предложения в конце концов. Если робота не "научить" ходить он и ходить не сможет.
Об истине полностью согласен, потому и сказал придумать.


Imperare sibi maximum imperium est.(с) L.A. Seneca.



Отредактировано - Хеймдаль 01 Авг 2009 13:22:09

Mat
Мастер Слова



9976 сообщений
Послано - 01 Авг 2009 :  17:20:01  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Хеймдаль

"ирреальность" в том, что роботов в первую очередь будут внедрять там, где они будут причинять человеку вред действием, а не только бездействием. Насчёт приказов человека, это не учитывает не только такого понятия, как "свой-чужой", но и прав собственности... и прочих "мелочей"

Mat, if you don't mind

Abs
Мастер Слова


Russia
1326 сообщений
Послано - 01 Авг 2009 :  19:01:28  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat

это не учитывает не только такого понятия, как "свой-чужой", но и прав собственности... и прочих "мелочей"

Если исключить такое понятие, как "приоритет приказа".

Истина размножается спорами...

Mat
Мастер Слова



9976 сообщений
Послано - 01 Авг 2009 :  22:12:25  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Ну, разве - отрицательный приоретет приказа

Грубо говоря, замок на двери - не должен предлагать свою помощь взломщику. А потенциальным взломщиком он обязан считать каждого, о чьём праве на вход его не проинформировали так, или иначе (ключ - за пароль сойдёт ).

Mat, if you don't mind

Abs
Мастер Слова


Russia
1326 сообщений
Послано - 01 Авг 2009 :  22:28:31  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat
Ну почему сразу отрицательный? Попытка отменить приказ "не пущать", отдаваемая с меньшим приоритетом, чем сам приказ, просто обязана обломаться. Загонять приоритет в минус для этого совсем не обязательно.

Истина размножается спорами...

Mat
Мастер Слова



9976 сообщений
Послано - 02 Авг 2009 :  03:52:31  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
А вот, не отдано приказа "не пущать!" Хуже того. Когда замок может подняться и куда-то почапать, ему не нужно пытаться отдать приказ "пущать". Его достаточно услать на море и обратно. Типо, держи купюру - и купи своему хозяину пива

Короче говоря, на фиг хозяину робота каждый раз состязаться с недругами в остроумии?
Охрана хаты - стандартная ситуация, там многое можно и предусмотреть. В менее стандартных ситуациях - запаришься предусматривать!

Mat, if you don't mind

Abs
Мастер Слова


Russia
1326 сообщений
Послано - 02 Авг 2009 :  11:54:47  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat

А вот, не отдано приказа "не пущать!"

А вот не запер хозяин дверь, побежав за пивом.

Его достаточно услать на море и обратно. Типо, держи купюру - и купи своему хозяину пива

Приказ "не пущать" подразумевает необходимость физической возможности не пущать. Стало быть, приказ "скачи за пивом" входит с ним в прямое противоречие. Здравствуй, новый конфликт приоритетов.

В менее стандартных ситуациях - запаришься предусматривать!

Владение интеллектуальной техникой может помочь человеку, но отнюдь не избавляет от необходимости думать самостоятельно. Если владелец компьютера не озаботился его защитой, кто ж ему будет виноват, если таковой превратится в спам-бота?

Истина размножается спорами...

Mat
Мастер Слова



9976 сообщений
Послано - 02 Авг 2009 :  19:43:20  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой

Владение интеллектуальной техникой может помочь человеку, но отнюдь не избавляет от необходимости думать самостоятельно. Если владелец компьютера не озаботился его защитой, кто ж ему будет виноват, если таковой превратится в спам-бота?

Угу. В этом, мы, программеры - уже всех, практически, ламеров убедили

Суть же состоит в том, что не надо с больной головы - на здоровую перекладывать. Клаент-сайд (со стороны "клиента") должны решаться проблеммы, которые действительно сложнее решить на сервере.
Спам - классический контрпример. Дабы рассылать тонны хоть немного, хоть ссылкой, хоть торговой маркой похожих писем, нужно выдавать лицензию (СМИ, ага) - и именно в деле массовых рассылок - не терпеть анонимности. Тонны анонимного похожего спама - на стороне сервера определить - в сто раз проще и удобней. А борьба со стороны клиента - она проблемм спам-траффика не может решить в принципе, спам должен первый же сервер маршрута определять и "гасить"

Так и тут. Не надо проблемы создавать. Человек покупает робота, кровные бабки платит. Закон может потребовать, чтобы его робот подчинялся ещё и представителям властей. По предъявлении. И с немедленным информированием хозяина - и "абьюзной" службы - на предмет выявления возможных злоупотреблений. В остальных случаях, хозяин должен более-менее явно дать указания. По "лицам". Или хоть "по группам" (скажем, кого я двадцать раз в дом впустил - можешь впускать... если я - дома и не сплю, а кого двести раз впустил... ;) ).

Ровно как и с Виндой. Лох имеет полное право дать доступ каждому жулику на свой комп. Но по умолчанию, сеттинги должны стоять достаточно секьюрно.

Mat, if you don't mind

Abs
Мастер Слова


Russia
1326 сообщений
Послано - 02 Авг 2009 :  20:21:14  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat

А борьба со стороны клиента - она проблемм спам-траффика не может решить в принципе, спам должен первый же сервер маршрута определять и "гасить"

Остались совсем мелочи - научиться безошибочно выделять спам.
А с DoS-атаками через ботов что делать будем?

В остальных случаях, хозяин должен более-менее явно дать указания.

Вот именно. Грамотное разграничение прав доступа и приоритетов приказов. А не трактовка Второго Закона в плане "подчиняйся сразу всем и каждому". Компьютер тоже должен подчиняться юзеру, но лишь до тех пор, пока желания того не входят в противоречие с установками админа.

Истина размножается спорами...

Mat
Мастер Слова



9976 сообщений
Послано - 03 Авг 2009 :  01:38:36  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой

Остались совсем мелочи - научиться безошибочно выделять спам.
А с DoS-атаками через ботов что делать будем?

А зачем его определять-то?
Идёт массовая рассылка, идёт - анонимно, или от лица, не предъявившего лицензию на массовые рассылки (вот, скажем, на мэйлре рассылки организовываются - и ещё куча подобных сервисов есть). Ничего не проверяем, не доказываем - трём и всё

Боты проблемма, если их - миллионы, или хоть сотни тысяч. А так, серверы бэкбона интернета могут определить атаку на конкретный Ай Пи. И на час-другой блокировать клиентов, обращающихся к атакуемому серверу подозрительно часто. А во второй раз - уже на день-другой блокировать. Ессно, в случае миллионов ботов это - не спасёт. Но и тогда можно вести статистику обращений. Показывает статистика, что комп, похоже, в трёх различных атаках участвовал - перекрыть ему доступ ко всем серверам во время атаки на них. Как положение атаки регистрируется - так сразу блокировать доступ вероятным ботам - до конца атаки

Mat, if you don't mind

Abs
Мастер Слова


Russia
1326 сообщений
Послано - 03 Авг 2009 :  02:06:37  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat
Это всё общие слова - "массовая рассылка", "подозрительно часто", "похоже, участвовал". Засада прорежется при попытке чётко их формализовать. Либо дыра останется, либо честные клиенты пострадают.

Истина размножается спорами...

Admin
Администратор
Mat
Мастер Слова



9976 сообщений
Послано - 03 Авг 2009 :  12:25:02  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Дыры - всегда будут

Только для рассылки спама - тож ботовые сети потребуются. Словом, не для ламера это дело станет

Mat, if you don't mind

serg0
Мастер Слова



1527 сообщений
Послано - 04 Авг 2009 :  23:21:29  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
А теперь практическое истолкование этих законов:

1. Никакой человек не может внедрить или активизировать робота без системы взаимодействия "робот-человек", сопряженной с высочайшими юридическими и профессиональными стандартами безопасности и этики.
1.а Никакой человек не может внедрить или активизировать робота не сделав массу дорогих подарков надзирающим инстанциям и не заплатив гору денег адвокатам за ведение судебных процессов следующих за активацией

2. Робот обязан отвечать людям соответственно заданной ему функциональной роли.
2.а Робот обязан отвечать людям соответственно заданной ему функциональной роли. Но делать этого не будет.

3. Робот должен быть обеспечен адекватной ситуации автономией, чтобы защитить свое собственное существование до тех пор, пока такая протекция обеспечивает бесконфликтную передачу контроля за ним, не противоречащего Первому и Второму Законам.
3.а Робот должен быть обеспечен адекватным количеством технического персонала для создания коротких периодов временной автономии, адекватным количеством охраны для того чтобы предотвратить кражу его средств самозащиты, и адекватным количеством адвокатов для победы в юридических конфликтах следующих за передачей контроля за ним, не противоречащей Первому и Второму Законам.



Отредактировано - serg0 04 Авг 2009 23:22:23

Mat
Мастер Слова



9976 сообщений
Послано - 05 Авг 2009 :  00:18:44  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
serg0

Да. В теории - именно так. На практике, мы юзаем АЭС - да и простые авто и самолёты - без всего этого. А от них (от авто, особенно) - народу гибнет - как не во всякую войну.

Откуда мораль. Мы живём в "реальном мире". В том самом, про который Шекли писал. Те же "Страж-Птицы". Страж-Птицы, Терминаторы - наша реальность. Столетняя обкатка технологий на безопасность - ненаучная фантастика

Mat, if you don't mind

   
Перейти к:
поиск по теме:
  

Ответить на тему "Новые законы Вудса-Мерфи о роботехнике"

Экран:   
Логин:  
Пароль:  
Авторизовать на форуме:  
Форматирование:   Жирный Курсив Подчеркнуть Зачеркнуть Вставить кавычки Выравнивание по левому краю Центрировать Выравнивание по правому краю Горизонтальная линия Вставить ссылку Вставить E-mail Вставить картинку Вставить цитату Спойлер Вставить список
   
Сообщение:  
* HTML разрешен
* Внутренний язык включен


радость [:)]
радость!!! [:D]
стыд [:I]
язык [:P]
злость [}:)]
подмигивание [;)]
шутка [:o)]
черный глаз [B)]
грусть [:(]
скромность [8)]
шок [:O]
гнев [:(!]
смерть [xx(]
поцелуй [:X]
одобрение [^]
несогласие [V]

  Отметьте для добавления собственной подписи из вашего профайла.
Отметьте для получения ответов по e-mail.
     


Последние 10 сообщений | Активные форумы | Тематические разделы | Хранители | Инквизиторы | Поиск | Вопросы и ответы
      Rambler's Top100     
© Wilmark Пользовательское соглашение
Политика конфиденциальности
Snitz Forums 2001
Русификация: Wilmark Design