Leyes de la Robótica

Despliega toda tu imaginación llevando a la práctica los Robots del mañana. Las mejores y más variadas construcciones robóticas, se reunirán en este espacio. Servomotores, Actuadores, Sensores, Estructuras y Trabajos en Aluminio y otros metales. En un mundo donde los Robots avanzan día a día, este es tu espacio para hablar de ellos.

Moderador: HJ

Leyes de la Robótica

Notapor Droybot » Sab Mar 23, 2013 9:21 pm

Aunque parezca cargoso, comencemos por el principio:

Las Leyes de la Robótica

Mencionadas por primera vez en la novela “Yo Robot (1950)” de Isaac Asimov:
1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley
Posteriormente se mencionó la “Ley Cero de la Robótica”:
"Un robot no puede causar daño a la humanidad o, por inacción, permitir que la humanidad sufra daño."

Es una variación de una de las leyes de la robótica. Aparece por primera vez en “Robots e Imperio” escrita en 1985.
Avatar de Usuario
Droybot
 
Mensajes: 42
Registrado: Jue Mar 21, 2013 9:11 pm

Re: Leyes de la Robótica

Notapor Mario » Sab Mar 23, 2013 10:25 pm

Hola Droybot !

Excelente aporte para abrir el fuego en el foro de robótica! :)

Sin embargo, esta primera ley:

Droybot escribió:Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.


¿No se contradice con la proliferación de drones y aeronaves "no tripuladas" de combate, tan populares hoy?
Mejor dicho, ¿no se rompe en forma constante esa primera ley por quienes "hacen" el modelo robótico del futuro?
Espero haberme expresado bien en la duda que me genera contradicciones. Si por un lado, tenemos leyes para respetar, ¿estas leyes son tenidas en cuenta según quién las dice o las hace?
Te pido disculpas si estoy preguntando una tontería, :oops: pero no deja de llamarme la atención.

Saludos!
Gracias por el aporte!
Mario
En Servisystem, hay una sección de Montajes que puede llegar a interesarte. Hay muchas ideas útiles y montajes electrónicos para construir. No te olvides: todo lo que sea importante, también estará en el Blog.
Avatar de Usuario
Mario
Administrador del Sitio
 
Mensajes: 428
Registrado: Vie Ene 28, 2011 7:22 am
Ubicación: Principado de San Nicolás de los Arroyos

Re: Leyes de la Robótica

Notapor SiberianLabs » Dom Mar 24, 2013 2:43 am

De metido nomás...

Mario escribió:Hola Droybot !
¿No se contradice con la proliferación de drones y aeronaves "no tripuladas" de combate, tan populares hoy?
Mejor dicho, ¿no se rompe en forma constante esa primera ley por quienes "hacen" el modelo robótico del futuro?


Creo Mario que el tema pasa porque Don Asimov lo indicó para entidades autónomas que posean una cierta cuota de razonamiento propia no "seducido" por factores humanos los cuales, como podemos observar a diario, tergiversan a su provecho y ambición cualquier forma de razonamiento lógico.

El ejemplo que citás no calificaría ( creo ) dentro de esos parámetros por ser simplemente una "extensión" no prescencial humana, si se me permite la licencia.

Saludos!!
Cuando el sabio señala la luna.... el idiota mira el dedo.
Hay tanto para aprender....el problema que yo tengo es que soy de cabeza chica
Avatar de Usuario
SiberianLabs
 
Mensajes: 115
Registrado: Sab Mar 23, 2013 8:11 pm
Ubicación: Anádyr - Chukotka - Rusia

Re: Leyes de la Robótica

Notapor Droybot » Dom Mar 24, 2013 10:49 am

Droybot escribió:¿No se contradice con la proliferación de drones y aeronaves "no tripuladas" de combate, tan populares hoy?
Mejor dicho, ¿no se rompe en forma constante esa primera ley por quienes "hacen" el modelo robótico del futuro?

En ese caso no son los robots los que están faltando a las leyes de la robótica es el ser humano inconciente quien hace abuso de su condición de militar para usar como pretexto el hecho de que en su ámbito no intervienen las leyes civiles ni ningún otro tipo de ley. En realidad un dron militar no es otra cosa que una vulgar arma de guerra concebida para destruir. Para estos autómatas solo existe una ley: Identificar al enemigo y destruirlo sin importar las consecuencias.

Con relación a este tema normalmente surge la confusión de sobre quién deben regir las leyes de la robótica, sobre el robot o sobre el ser humano?

Estas leyes fueron específicamente creadas para los robots, pero es el ser humano quien debe programar al robot para que respete estas condiciones buscando los algoritmos que sean necesarios para garantizar que sea así.

Al ser humano tiene el compromiso de no faltar al derecho ajeno. El profesional debe aplicar la ética y respetar su compromiso para con su especie pero, siempre existirán quienes no las respeten y aunque suene a fantasía, no pasará mucho tiempo para ver cómo los robots son destruidos por otros robots más avanzados, y de alguna manera ya lo estamos viendo.

Saludos
Avatar de Usuario
Droybot
 
Mensajes: 42
Registrado: Jue Mar 21, 2013 9:11 pm

Re: Leyes de la Robótica

Notapor HJ » Dom Mar 24, 2013 6:53 pm

Como siempre este tema se pone muy interesante donde se lo lea.
"Cuando llegue la inspiración, que me encuentre trabajando"
Picasso, Pablo
Avatar de Usuario
HJ
 
Mensajes: 477
Registrado: Jue Mar 21, 2013 3:16 pm
Ubicación: Tanti - Córdoba - Argentina

Re: Leyes de la Robótica

Notapor Mario » Lun Mar 25, 2013 12:12 am

HJ escribió:Como siempre este tema se pone muy interesante donde se lo lea.


Totalmente ... no te quepan dudas! Y es bueno que así sea para que el concepto o idea quede fundamentado sobre una base sólida e invulnerable.
Fijate que el amigo Siberiano expresa su opinión y comenta:

SiberianLabs escribió:Creo Mario que el tema pasa porque Don Asimov lo indicó para entidades autónomas que posean una cierta cuota de razonamiento propia no "seducido" por factores humanos los cuales, como podemos observar a diario, tergiversan a su provecho y ambición cualquier forma de razonamiento lógico.

El ejemplo que citás no calificaría ( creo ) dentro de esos parámetros por ser simplemente una "extensión" no prescencial humana, si se me permite la licencia.


De donde destaco:

SiberianLabs escribió: .....tergiversan a su provecho y ambición cualquier forma de razonamiento lógico.


que es la ejecución de la segunda ley, sin tener en cuenta la segunda mitad.
Primera mitad:

Droybot escribió:Un robot debe obedecer las órdenes dadas por los seres humanos ....


Y mira para otro lado en la segunda mitad de esa Ley

Droybot escribió:.... excepto si estas órdenes entrasen en conflicto con la Primera Ley.


porque en realidad entra en conflicto con la primera Ley que es muy clara:

Droybot escribió:Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.


Por último, también quiero destacar algunas palabras del texto de Broybot (con permiso .... voy a marcar en negritas):

Droybot escribió:Estas leyes fueron específicamente creadas para los robots, pero es el ser humano quien debe programar al robot para que respete estas condiciones buscando los algoritmos que sean necesarios para garantizar que sea así.

Al ser humano tiene el compromiso de no faltar al derecho ajeno. El profesional debe aplicar la ética y respetar su compromiso para con su especie pero, siempre existirán quienes no las respeten y aunque suene a fantasía, no pasará mucho tiempo para ver cómo los robots son destruidos por otros robots más avanzados, y de alguna manera ya lo estamos viendo.


Cuántas cosas nos hacen falta aún para "considerarnos" una civilización evolucionada, ¿verdad?

Como dice Héctor, cuanto más se habla, más apasionante es el tema!
Gracias por tratarlo aquí. :)
Saludos!
Mario
En Servisystem, hay una sección de Montajes que puede llegar a interesarte. Hay muchas ideas útiles y montajes electrónicos para construir. No te olvides: todo lo que sea importante, también estará en el Blog.
Avatar de Usuario
Mario
Administrador del Sitio
 
Mensajes: 428
Registrado: Vie Ene 28, 2011 7:22 am
Ubicación: Principado de San Nicolás de los Arroyos

Re: Leyes de la Robótica

Notapor Felixls » Lun Mar 25, 2013 8:34 pm

He aquí mi punto de vista de estas leyes, sip, para darle dos o tres vueltas de tuerca más al asunto :geek:

Estas leyes de la robótica lo que intentan hacer es tener control, control de una inteligencia claramente superior y control sobre sus decisiones éticas/morales.

Esto lo estudié en la facultad, materia: Teoría general de sistemas -> tema Sistemas de Control. Si lo desean subo un cuento llamado El pájaro vigía del libro Paraíso II de Robert Sheckley.

Si lo leen en estos días de lluvias y sin tener mucho que hacer, traten de sacar sus propias conclusiones al respecto. Al margen del dilema de confiar juicios morales a una máquina tiene varias implicaciones no hay que olvidar el principio de indeterminación de Heisenberg...
Avatar de Usuario
Felixls
 
Mensajes: 9
Registrado: Jue Mar 21, 2013 5:57 pm
Ubicación: Argentina

Re: Leyes de la Robótica

Notapor Droybot » Mar Mar 26, 2013 11:14 am

Felixls escribió:He aquí mi punto de vista de estas leyes, sip, para darle dos o tres vueltas de tuerca más al asunto...


Hola, bueno esperemos que sean pocas vueltas a la tuerca, jeje

Lo que mencionas sobre tener el control creo que sí es muy cierto y haría énfasis en que estos principios formarían parte del programa principal del sistema de control pero, la frase “una inteligencia claramente superior”, no la podría compartir, por supuesto respetando tu punto de vista y el de muchos lectores. En realidad la inteligencia es un tema bastante amplio y merece mucho cuidado como para intentar discutirlo como tema accesorio. En todo caso, me limitaría en decir que no podemos confundir capacidad de almacenamiento y velocidad de proceso con inteligencia, por otro lado la inteligencia es solo una parte de la sabiduría la cual está también integrada por el instinto y la experiencia, algo que un robot jamás podría llegar a tener.

Referente a las decisiones éticas y morales y para no extenderme demasiado me remito a Wikipedia:

Ëtica: La ética es una rama de la filosofía que se ocupa del estudio racional de la moral, la virtud, el deber, la felicidad y el buen vivir.

Sosteniendo este concepto, me parece que queda claro que la ética requiere de las emociones humanas para poder ser comprendida a cabalidad y por ende poder aplicar sus propias normas, de manera que no encuentro la forma en que una máquina sea capaz de razonar a ese nivel por más avanzada que resulte su sistema de inteligencia artificial, esta siempre será una simple base de datos que se maneja a base de algoritmos de comparación. Tan solo una computadora, sin ser muy sofisticada es mucho más rápida que un ser humano para obtener un resultado matemático y no por eso es un aparato de inteligencia superior, es solo una herramienta de trabajo.

Con respecto a Paraíso II y en especial el Pájaro Vigía, de Robert Sheckley, sí lo he leído, es posterior a Yo Robot de Isaac Asimov y en un pasaje se intenta una semejanza con las leyes de la robótica, pero presenta muchas incongruencias y hace uso de tantas posibles situaciones que al final yo diría que el autor se enredó en su propia telaraña.

El escribir novelas de ciencia ficción no es tan simple como se piensa. Cuando un escritor comienza a llegar a un público aficionado a este género literario, comienza a ganar adeptos y hasta se crean ídolos de sus personajes. Pero este público es muy exigente y muchas veces sumamente detallista. Con el tiempo no admite ningún tipo de error y mucho menos si resulta crítico.

Saludos
Avatar de Usuario
Droybot
 
Mensajes: 42
Registrado: Jue Mar 21, 2013 9:11 pm

Re: Leyes de la Robótica

Notapor Felixls » Mar Mar 26, 2013 2:14 pm

Droybot escribió:En realidad la inteligencia es un tema bastante amplio y merece mucho cuidado como para intentar discutirlo como tema accesorio. En todo caso, me limitaría en decir que no podemos confundir capacidad de almacenamiento y velocidad de proceso con inteligencia, por otro lado la inteligencia es solo una parte de la sabiduría la cual está también integrada por el instinto y la experiencia, algo que un robot jamás podría llegar a tener.

Cuando mencioné inteligencia superior me refiero a una IA que está en el mismo nivel (o supera) al humano (claramente no disponible actualmente). En ese contexto ese tipo de inteligencia es superior, y es ahí donde el control aparece. La extensión de ese control va más allá de evitar que un robot mate a una persona -algo que hoy en día es diría posible de definir en forma lógica- sino, por ejemplo, elegir que persona debe morir.

Un humano puede sufrir daño de diferente manera y no necesariamente física, ejemplo humillar/ofender/desacreditar/etc a una persona o a sus costumbres o creencias.

Ninguna de esas leyes puede decirte como actuar de acuerdo a la moral o a la ética, la cual no tiene nada que ver con las pasiones o emociones sino todo lo contrario -leer la ética Kantiana para corroborarlo si lo desean-.

Droybot escribió:Con respecto a Paraíso II y en especial el Pájaro Vigía, de Robert Sheckley, sí lo he leído, es posterior a Yo Robot de Isaac Asimov y en un pasaje se intenta una semejanza con las leyes de la robótica, pero presenta muchas incongruencias y hace uso de tantas posibles situaciones que al final yo diría que el autor se enredó en su propia telaraña.

Es probable que no lo hayas comprendido bien, ya que cada situación tiene una explicación, y verifica con la teoría del control, todos con la misma falla sistémica, es una joya realmente.

Droybot escribió:El escribir novelas de ciencia ficción no es tan simple como se piensa. Cuando un escritor comienza a llegar a un público aficionado a este género literario, comienza a ganar adeptos y hasta se crean ídolos de sus personajes. Pero este público es muy exigente y muchas veces sumamente detallista. Con el tiempo no admite ningún tipo de error y mucho menos si resulta crítico.

De escribir novela no tengo ni la más pálida idea, aunque imagino que la finalidad de las mismas en definitiva es entretener, divertir digamos...
Avatar de Usuario
Felixls
 
Mensajes: 9
Registrado: Jue Mar 21, 2013 5:57 pm
Ubicación: Argentina

Re: Leyes de la Robótica

Notapor Droybot » Mar Mar 26, 2013 8:08 pm

Felixls escribió:Es probable que no lo hayas comprendido bien,

Si. . , claro.
Avatar de Usuario
Droybot
 
Mensajes: 42
Registrado: Jue Mar 21, 2013 9:11 pm

Siguiente

Volver a Robótica

¿Quién está conectado?

Usuarios navegando por este Foro: No hay usuarios registrados visitando el Foro y 1 invitado