sábado, noviembre 12, 2016

La Inteligencia Artificial y la Ética del Ratón

Hoy sábado me he levantado con una de esas diatribas que me acompañan a lo largo de mis días desde hace años. Pensando en cómo sería sí, cómo sería si no sobre las cosas. Qué pasaría si y qué pasaría si no. Por supuesto, los temas sobre los que mis debates internos tienen lugar son siempre alrededor de lo que hago en mi vida y de lo que desde pequeño me interesa. El mundo de la tecnología, la ciencia ficción y quitar el término ficción a todo lo que he leído y visto en ese ámbito.

Figura 1: La Inteligencia Artificial y le Ética del Ratón

En los últimos tiempos, con la llegado de las Tecnologías Congnitivas al mundo masivo, muchas de las reflexiones que llevamos haciendo años empiezan a acercarse en el tiempo. Algo que se veía muy lejos hace años, parece que va a empezar a ser parte del día a día de nuestra vida muy pronto. Es el uso de la Inteligencia Artificial en el mundo en nuestra vida, y todas las ventajas y problemas que eso conlleva.

Y como el post de hoy solo es una perorata personal que me estaba echando para tomar una decisión sobre un tema, os voy a plantear un problema que luego si queréis los proyectamos sobre situaciones más mundanas que llevan tiempo sobre nosotros, para que podáis expresar vuestras opiniones.

HIRE: La AI que controla los RRHH

Supongamos, un suponer, que una empresa ha comenzado a utilizar tecnología de inteligencia artificial para su departamento de recursos humanos – vamos a llamarla HIRE -. En su día a día para aprender, HIRE, está recogiendo datos internos y externos de todos los puntos posibles y necesarios para tener medido correctamente la importancia del rol interna y externamente, el desempeño del trabajo de esa persona y el impacto de lo que hace en concreto cada uno de los trabajadores.

Además, está analizando Internet, para saber si los salarios están bien o mal pagados, si los roles y las funciones son las adecuadas, etcétera. Y no solo eso, sino que está pensando en las funciones que debe hacer para el futuro la empresa, los roles que serán necesarios y los que serán prescindibles.

También aprende el impacto de hacer determinadas acciones como la formación, el uso de incentivos o el valor positivo o negativo que puede tener el despido o la incorporación de alguien para desempeñar un determinado rol. HIRE entonces, continuamente estaría haciendo despidos, contrataciones, reemplazados de personas, reemplazo de funciones, cambio de incentivos, etcétera.

Al final HIRE no estaría haciendo nada más que hacer lo que se supone que hace un departamento de RRHH de una empresa que tiene la misión de maximizar el resultado económico para sus accionistas. Y lo haría eficazmente, al mismo nivel que lo podría hacer el mejor departamento de RRHH de cualquier empresa siguiendo escrupulosamente la ley del país.

Sin embargo, esto no es del todo cierto. En los departamentos de RRHH también hay personas que tienen mucha humanidad dentro de ellos, y a veces toman decisiones que a priori pueden no parecer buenas para las empresas. Por ejemplo, supongamos que HIRE fuera capaz de detectar por los patrones de comportamiento que una mujer está embarazada desde la primera semana en que lo está.

O mejor aún, pongámoslo un poco más complicado, supongamos que HIRE es capaz de predecir a partir de información en Internet que una mujer está en un periodo de su vida en el que con una probabilidad del 87 % se va a quedar embarazada en los próximos dos meses. A partir de ese momento, HIRE podría sacar un scoring que le hiciera tomar como decisión despedir a esa mujer porque podría costarle dinero a la empresa por las medidas de protección social que existen para la mujer.

INVIERTE Loves HIRE?

Analizando esto podríamos concluir que si el objetivo con el que se ha creado a HIRE fuera maximizar el beneficio de la compañía, HIRE podría despedirla. Ahora bien, ¿qué pasaría si despedir a la mujer fuera mal visto por la sociedad? Entonces eso a lo mejor podría suponer que la imagen de la compañía decayera y por lo tanto fuera mayor lo negativo que se consigue con el despido que lo positivo. Ya que podría ser que los accionistas dejaran de invertir o los clientes de contratar.

Pero… ¿Y si los accionistas utilizan también diferentes inteligencias artificiales? Pero ¿y si los inversores son también motores cognitivos? ¿Y si el mayor accionista de la empresa donde trabaja HIRE es INVIERTE, un sistema de inteligencia artificial que se guía por las decisiones que toman las empresas y ve que HIRE no maximiza el rendimiento económico por la imagen pública y deja de invertir?

Si seguimos dándole vueltas a esto, llegamos al único punto que puede poner sentido a esto. Al único lugar donde algo o alguien puede tomar una decisión contraría a sus beneficios en base a los valores éticos con los que ha sido “programado”: El ser humano. Gracias a que no somos infalibles, los seres humanos tomamos decisiones que van en contra de nosotros mismos, llevadas por las emociones, los sentimientos y el motor irracional que es tan racional dentro de nosotros.

Volviendo al caso de HIRE y el departamento de recursos humanos, en el mundo donde nos movemos hoy, hay empresas con departamentos de recursos humanos que son un terror dentro de la compañía, pero hay otras en las que los departamentos de recursos humanos son cuidadosos, detallistas con las personas y preocupados por su bienestar. Algunos departamentos de recursos humanos, sin ser HIRE, hubieran despedido a la mujer, otros, la hubieran protegido.

Eso, en el mundo de las empresas lo suelen llamar la “Cultura” de esta empresa, que no es más que los valores que desde su dirección se transmiten hacia los empleados. Qué cosas se premian y qué cosas se castigan dentro de la compañía. ¿Es una empresa con valores sociales para las personas o solo preocupada por el beneficio? ¿Es una empresa que solo se preocupa por la imagen pública pero luego no tiene los valores que pretende o es una empresa que es capaz de cuidar de sus empleados como forma de trabajo? ¿Es mejor una Cultura de Empresa u otra para el mundo de los negocios?

¿Ratones o Humanos?

Los seres humanos somos capaces de consumir cosas nocivas para nosotros, hacer cosas que nos harán daño sin sentido, hacer daño a otros seres humanos, e incluso dar la vida por otras personas sin esperar nada a cambio, solo por un acto altruista de amor o desinterés. Somos capaces de hacer lo peor y lo mejor.


Figura 2: Evolución de la inteligencia artificial

Ahora que nos estamos aproximando a la época en la que los sistemas de Inteligencia Artificial están alcanzando la capacidad de raciocinio de un ratón, estamos aún a tiempo de decidir con qué valores queremos crearlos. ¿Se deben inculcar desde ya qué se puede o no se puede hacer? ¿Debería haber un control para la creación de sistemas HIRE o INVIERTE que enfocaran el comportamiento de las empresas hacia una dirección u otra? ¿Deberíamos dejar que crecieran libremente y tuvieran libre albedrío en sus decisiones?

En una película del año 1980 llamada Sartuno 3, una de las que más miedo me hizo pasar durante mi niñez por culpa de Héctor, la inteligencia artificial del robot se creaba a partir de la mente de uno de los protagonistas con problemas emocionales, lo que llevaba al terror en la base espacial. El hombre es capaz de hacer lo mejor y lo peor, y está claro que no todos los seres humanos tenemos los mismos valores, lo que podría hacer que aparecieran inteligencias artificiales en nuestro mundo con muy diferentes objetivos.


Figura 3: Saturno 3 Trailer

Recuerdo que la primera vez que monté en el Google Car con los ingenieros de Google y hablamos de la inteligencia artificial que llevaba dentro – hace ya varios años – pregunté por la decisión que tomaría el coche ante un “Accidente Inevitable”. Si el coche es capaz de predecir que un accidente es inevitable, por culpa de que se ha colado un peatón que antes no había sido detectado por el vehículo o porque viene un vehículo descontrolado a una velocidad muy grande que no da tiempo al vehículo a reaccionar, ¿tomaría alguna decisión para primar salvar una vida u otra? Seguro que si has llegado hasta este punto, ya debería estar en tu cabeza Isaac Asimov y sus famosas leyes de la robótica, que tanto debate han generado entre los lectores.

¿Debemos empezar ya a pensar en si queremos poner límites al crecimiento de estos nuevos seres artificiales y su incorporación a la toma de decisiones en la sociedad o no? ¿Metemos los sistemas de Inteligencia Artificial a tomar decisiones sobre a quién hay que atender antes o no en un hospital? ¿Sobre qué debe priorizar la administración pública? ¿Sobre quién o cuando debe ser despedido alguien? ¿Dejamos a los sistemas cognitivos con la capacidad de aprendizaje de un ratón que aprendan y tomen todo tipo de decisiones?

Saludos Malignos!

14 comentarios:

Rana Afro dijo...

Soy el único que se quedó con la duda de ¿que te respondió los ingenieros de google?

y añado otra pregunta crees en una IA completamente independiente, no debería haber siempre un HIRE con un resultado y justificación y que alguien lo apruebe?

Unknown dijo...

Teniendo en cuenta que la sociedad está enferma, y que los humanos son capaces matarse entre ellos por diferencias ideológicas, no sé lo que puede pasar con la inteligencia artificial, mucho miedo me da...

JoseLE dijo...

Una IA se supone que es un programa, un conjunto de procesos y toma de decisiones que han sido escritas por un programador, una persona con unos determinados valores. Podria haber tantas IA como programadores capaces de hacerlas, y basadas en sus ideales. Pero lo desconcertante es si se hiciera una IA autodidacta, sin valores eticos preconfigurados por su programador y estudiara toda la historia de la humanidad... como nos calificaria? Quedria ayudarnos a prosperar o ayudaria al declive del planeta?

Javier Hill dijo...

Chema ahora te entiendo, te has metido en Telefónica para hackearla desde dentro.. y convertirla , cambiando el viejo modelo por una nueva forma de ver las cosas, creando productos innovadores rodeandote de gente contenta...

Es lo mas brutal que he visto en hacking desde el agente smith. Más allá de líneas de comandos.

Ojalá hubiera muchos Chemas como en Matrix, cambiando empresas desde dentro.

1salu2

Javier Botija dijo...

Actualmente la IA piensa gracias a patrones que siendo muy completos, a día de hoy son finitos. Aun no ha cobrado "identidad". En ese punto que ya muchos científicos han vaticinado (ya antes los escritores de ciencia ficción), tomarán sus propias decisiones basadas en su moralidad.
No creo que un ser humano tenga de por sí más moralidad que lo que tendrá una IA. Si los humanos actuamos con moralidad, es porque tenemos patrones que nos guían por un camino que creemos "mejor". Esto lo podrá aprender exactamente igual una IA.
Y dicho todo esto, no quiero dejar de recordar las palabras de Stephen Hawking: «La inteligencia artificial podría significar el fin de la raza humana»
Distribuiré este post, dado que es un tema que me apasiona.

Javier Botija dijo...

A día de hoy la IA no se basa en programas ni programadores. Ya empieza a aprender patrones por si misma.
Lo que plantea Chema es si precisamente queremos "protegernos" ante esas preguntas que planteas, porque las respuestas son obvias ... no somos el mejor ejemplo de INTELIGENCIA.

Javier Botija dijo...

A día de hoy la IA no se basa en programas ni programadores. Ya empieza a aprender patrones por si misma.
Lo que plantea Chema es si precisamente queremos "protegernos" ante esas preguntas que planteas, porque las respuestas son obvias ... no somos el mejor ejemplo de INTELIGENCIA.

Jesús M. dijo...

Muy interesante el artículo, Chema.

Hay un grupo del MIT MediaLab trabajando en el tema de los coches de conducción autónoma y los "dilemas morales" a los que se enfrentarán: http://moralmachine.mit.edu/

Saludos!

JAVIER GARCIA dijo...

PART 1
..se dice que en la misma declaración de Potsdam (Julio de 1945), mientras estaban reunidos Churchill, Stalin, y Truman, a este último un asesor, le dijo: (algo así creo recordar haber leido); . "el niño está listo"....; tiempo atrás Einstein también elaboró una carta y dirigida en este caso a Roosvelt y hablando sobre el desarrollo del mismo concepto..
Joliot, Fermi, Einstein, etc ,,, Bohr..,,,
..y hasta Heráclito o Demócrito, y antecediendo incluso más atrás.. hablamos, claro, de la constitución de la materia...aplicaciones y demás..

..pero una decisión, culminó con Hiroshima y Nagasaki. El poder. La sumisión. El control. La locura?; los conceptos equivocados?; el niño, resultaron ser dos..

Tiempo después, nos damos cuenta que todo esos estudios han sido la base del mundo tecnológico que hoy conocemos. Aplicaciones para la medicina, para las comunicaciones, nuestras pantallas, nuestros móviles y un largo etcetera.

Nos damos cuenta que un simple coche por ejemplo, puede ser un arma terriblemente letal o un bello elemento que nos acerca tranquilítamente a ver bellos parajes en un atardecer luminoso.
Todo depende de quien y por qué lo utiliza.

Existieron pues, siempre los mismos debates. Y existirán siempre. ; Esperemos que cada vez en menor medida.
Una de las cualidades con la cual nacimos, es la de progresar, ir hacia un sitio muy determinado. En el camino, dado nuestro libre albedrío, nos encontramos siempre con dilemas.
Que si a la derecha o hacia la izquierda. Que si arriba o abajo. Por aquí o por allá.;
Es una de nuestras eternas cuestiones en este mundo.

..y claro,,, la Inteligencia Artificial (IA), no se va a salvar de ese principio. Es un avance y por ello susceptible de rodearse del: Qué?, Cómo? Para que? Hasta donde? Quién? ; Norte-Sur-Este-Oeste?
A cada uno de nosotros y en el tiempo que nos toca vivir en este mundo, nos surgen las mismas preguntas. A cada uno, según su involucración con cada cosa. Y por tanto, decisiones que afectarán a más o menos personas.
Serán más o menos globales.

...y es que lamentáblemente como en el ejemplo primero, alguna de esas cinco sencillas preguntas anteriores, con algo o alguien,, dentro del escenario de posibilidades, podría dar como resultado algún desenlace desafortunado, o no. en un futuro... todo depende de qué hayamos aprendido de tantos temas anteriores.

Eternas dudas y miedos..........

Habrá acertado esa IA en despedir a esa Señora que estaba embarazada por que determinó que no era rentable?
...y si precisamente durante ese periodo, su mente se hubiera iluminado de tal manera que hubiera sido capaz de gestar la idea más rentable que esa compañía necesitara en ese momento?....o quizás también, posteriormente?

JAVIER GARCIA dijo...

PART 2
....y si ese niño/a precisamente se fuera a convertir en el mayor exponente de esa misma empresa?
.Cómo puede en este caso predecir algo así, la IA, o esa HIRE apuntada?... Acaso si bien es capaz de realizar tremendos análisis sobre el pasado, para predecir el futuro, es capaz de realizar análisis con los datos que no tiene, obtenidos de un futuro posible sin que los considere dentro de escenarios de probabilidades?
...solo hay alguien que pudiera realizar esa predicción. El Hombre. Pues el Hombre si sabe, solo que no es consciente, de conocer ese futuro, y tan solo si quitas el componente TIEMPO.
Junta en uno LA CAUSA Y EL EFECTO. Elimina ese TIEMPO que los diferencia...
....cuantas veces decimos: uyy, si esto que está pasando ahora, lo he vivido antes......
....cómo que lo has vivido antes? seguro?
..si, si,,, esto que está pasando me es familiar.. mira: aquel señor con bastón que se acerca de lejos, se sienta en un banco y saca un trozo de pan para dar de comer a esas palomas,,,, lo he visto antes....
; nuestro subconsciente nos informa de ello, pues el subconsciente no entiende sobre el tiempo. El es capaz de verlo todo. Tiene toda la información de este mundo. CAUSA Y EFECTO es lo mismo para él.
Lo que ocurre es que nos consideramos dentro de un sistema lineal. En donde todo empieza, sigue y acaba.
Ves esa película en tu TV?,,, (igual que nuestras vidas?),,, empieza y acaba?,,, sin embargo mira, la tengo aquí concenrada en este archivo AVI/MPEG/MP4,,, .Donde empiezan y acaban realmente esos datos en ese archivo?,,, donde nosotros hemos determinado, no?
Nos hace falta para montar ese esquema ilusiorio algo así. Es este mundo.

.siendo así: sobre que otras cuestiones nos tocará determinar en el futuro?
Quién en algún momento conducirá el coche de la IA?
Alguien dirá de nuevo: "el niño está listo" ?.

Así si bien la IA comienza a dar pasos eficientes, la progresión geométrica (más con la computación cuántica), hará que en un abrir y cerrar de ojos nos percatemos en cortísimos espacios de tiempo de avances muy significativos y diferenciales.

Es cometido nuestro, determinar con nuestra INTUICION (sobre los hechos futuros), hacia donde queremos que avance y cómo. Si como ayuda o como control.

No obstante, y como algo que vendrá en nuestro socorro, quisiera apuntar algo que entrará en escena:
Las nuevas generaciones de personas, (los jóvenes de hoy.-muchos de ellos, o por lo menos un rango determinado-. saben bien y dan por sentado que en el hecho de COMPARTIR todo lo posible, cada vez más, se encuentra el verdadero sentido de la vida., y por tanto su futuro en un sentido u otro.
Redes sociales de compartición están ahí:
https://www.workaway.info
Redes de Voluntariado
https://www.couchsurfing.com/
etc...

Todo ello redundará, en que ya no habría preguntas al aire del tipo Qué?, Cómo? Para que?

JAVIER GARCIA dijo...

PART 3
Hasta donde? Quién?

Pues la respuesta es evidente:
Que?: ser feliz
Como: Siendo feliz compartiendo
Para que?, para ser feliz
Hasta donde?,,, hasta el infinito
Quién?, para todos...

Esto marcará la pauta de un modo muy significativo. Sí, lo se. Soy optimista. Pero también tengo muy cercanas evidencias.

Por todo ello, y por marcar pautas de desarrollo reales, pienso en este caso que TELEFONICA tiene muchísimo que decir y muchísimo que aportar.
Anticipándonos a lo que estando por venir pasado mañana, seamos capaces de fomentando desde hoy, el desarrollo global y humano, al final nuestros medios sean los que determinemos y en pro de la paz, de lo justo, de la felicidad,, etc

Sabemos bien que necesita la humanidad, que necesitamos cada uno de nosotros, estemos donde estemos.... pues trabajemos por ello.

No habrá avance tecnológico que creado por nosotros, nos deje pensativos en preguntas como el ,,,
Hasta donde?

Pues la respuesta es solo una. PARA TODOS NOSOTROS.

Enrique Romera Martínez de Miguel dijo...

Realmente esto da para mucho

Las tres leyes de la robótica conducían a un bucle infinito, y llevaron al propio Asimov a crear la ley 0 (que deja todo totalmente en el aire)

Julio Verne ya advertía a través del Capitán Nemo en 20.000 leguas de viaje submarino, que podía no ser bueno dejar el poder sobre la tecnología en determinadas manos

Y sobre HIRE, habría que plantearse precisamente si el dueño de la empresa que lo desarrolló podría terminar despedido por su incompetencia, o si el propio HIRE determinaría "suicidarse" porque es nocivo para la empresa.

La respuesta es complicada, pero efectivamente, es algo que no es nuevo, y se plantea desde las antiguas civilizaciones.

Supongo que debemos confiar en que la tecnología no avance por delante del ser humano (o de la especie que lo sustituya a través de la evolución dentro de unos cuantos millones de años)




Ahiezer Alvarez dijo...

Interesante articulo sr Maligno
Los robots piensan pero no razonan.
ISAAC ASIMOV

Richard Benjamins dijo...

Hay muchos conceptos básicos de Inteligencia Artificial relevantes para esta discusión: Weak AI vs. Strong AI, Reflective reasoning, Computational Emotions, etc. Pero quizás lo más profundo es, en vez de reflexionar sobre si las maquinas pueden pensar como humanos, ¿los humanos, somos maquinas? Para empezar esta discusión vale la pena conocer "The Intentional Stance" del filosofo y cognitive scientist (Daniel Dennett).

Entrada destacada

Infraestructuras Críticas y Sistemas Industriales: Auditorías de Seguridad y Fortificación de @0xWord

Desde hoy está disponible a la venta un nuevo libro de 0xWord centrado en la seguridad de los Sistemas Industriales y las Infraestructuras...

Entradas populares