miércoles, septiembre 02, 2020

Entrevista con Idoia Salazar, coautora del libro “El Mito del Algoritmo: cuentos y cuentas de la inteligencia artificial”

Hoy, aprovechando la publicación del nuevo libro de "El Mito del Algoritmo: cuentos y cuentas de la inteligencia artificial", tenemos una entrevista con Idoia Salazar, que es presidenta, cofundadora, y codirectora del Área de Ética y Responsabilidad  del Observatorio del Impacto Social y Ético de la Inteligencia Artificial, OdiseIA. Es doctora en periodismo, especializada en Ética e Inteligencia Artificial, profesora, en grados internacionales, en la Universidad CEU San Pablo, e investigadora principal en el grupo SIMPAIR (Social Impact of Artificial Intelligence and Robotics)


Idioia Salazar, además de su último libro ‘El Mito del Algoritmo: cuentos y cuentas de la Inteligencia Artificial’ escrito junto con el Dr. Richard Benjamins), ha escrito mucho sobre este tema. Tiene libros publicados como 'La Revolución de los robots: Cómo la Inteligencia Artificial y la robótica afectan a nuestro futuro' y 'Las profundidades de Internet: Accede a la información que los buscadores no encuentran y descubre el futuro inteligente de la Red’. Hoy tenemos una entrevista sobre su último libro y sobre el mundo en el que estamos y que viene.


Además, si quieres conocer más sobre ella, el libro, o esta temática, el día 23 de Septiembre a las 19:00 de la tarde en el Espacio de la Fundación Telefónica se presentará este libro en Madrid, pero podrás seguirlo vía streaming. Ya te daré más info de este evento más adelante. Y ahora las preguntas.

¿Por qué habéis escrito este libro? ¿Hay tantos “cuentos” sobre la inteligencia artificial?

La idea de escribir ‘El Mito del algoritmo’ y de aclarar los ‘cuentos’ y las cuentas sobre la Inteligencia Artificial, nace de una necesidad social cada vez más acuciante: el conocimiento real en torno a las implicaciones sociales de la IA. Cada vez es más frecuente el uso de sistemas de IA, por parte de empresas y organizaciones, que apuestan por las promesas de estas tecnologías en torno a la maximización de la eficiencia y reducción de costes y tiempos. Pero los conceptos siguen muy ambiguos, difuminados, en muchas ocasiones, por los prejuicios de la ciencia ficción o las expectativas desmesuradas. 


Es importante su aclaración, y también la explicación detallada e inteligible de cada uno de estos ‘cuentos y cuentas’. Y esto es lo que hacemos Richard Benjamins y yo en ‘El Mito del algoritmo’ apoyados por 25 expertos internacionales en la temática. Respecto a la pregunta de si ‘hay tantos cuentos sobre IA’, la respuesta es que aún demasiados. Y los seguirá habiendo en un futuro. Pero los debemos reconocer como CUENTOS por mucho que se ‘disfracen’ en los telediarios. 

Figura 4: Contactar con Richard Benjamins,
coautor del libro "El mito del algoritmo"


Y ¿cómo se hace esto? Pues educando a la sociedad en general, mediante una labor importante divulgativa –como hace este libro- y así conseguir que la mayoría de la gente adquiera criterio para opinar sobre ello, con una capacidad crítica real.

El libro habla de ocho grandes áreas (cada capítulo una) donde la IA va a tener un impacto importante. ¿Puedes poner algunos ejemplos?

Una de las áreas más relevantes donde tendrá más repercusión la IA es aquella relacionada con los temas de salud. Actualmente ya hay hospitales que usan sistemas de IA para ‘predecir’ enfermedades de sus pacientes y así incentivar la ‘medicina preventiva’. Igualmente, cada vez hay más sistemas de IA en la ‘lucha contra el cáncer’, no solo para dar diagnósticos precisos en un tiempo récord, sino también para personalizar tratamientos en función de la persona, y así aumentar la eficacia. En la mayoría de los casos estudiados en esta área se ha constatado que la eficacia y la eficiencia no se consigue solo por la IA, sino por la colaboración estrecha entre la IA y el médico o profesional sanitario en cuestión.

Esta COLABORACIÓN es una palabra que repetimos muchas veces en el libro. Lo mismo ocurre en Justicia, Defensa y cualquier otra área de gran impacto. Hay que estudiar caso por caso, viendo la autonomía que es necesario delegar en la IA en cada uno de ellos y sin estirar demasiado para que no se acabe rompiendo la cuerda;). En ciertos casos habrá que pecar de cautos (por ejemplo, en los casos de Defensa y Seguridad) y siempre con la idea de mantener al humano como centro (human in the loop).

Relacionado con el tema sanitario, hemos visto, en los últimos meses, el desarrollo de aplicaciones de IA en todo el mundo para combatir el COVID-19. En ‘El Mito del algoritmo’ hay un capítulo específico sobre este tema. Sobre sus pros y sus contras. Y sobre la realidad en torno al establecimiento de políticas reales sobre el uso de los datos de empresas privadas para estas aplicaciones por parte los distintos gobiernos. Aquí se ha visto claramente cuál es la realidad. El verdadero apoyo por parte de las autoridades competentes hacia estas tecnologías, sus ‘miedos’ reales y también los de la población.

Las herramientas de IA contra el COVID-19, cualquier otro tipo de pandemia o un desastre natural pueden ser, sin duda, de una gran ayuda. Pero aún falta concienciación al respecto (principalmente por parte de los órganos de decisión), políticas públicas claras y efectivas respecto al uso de los datos de empresas privadas y educación a la población: la IA ya no es ciencia ficción. Ni, como Terminator, viene a acabar con la Humanidad. 


Debemos verla como una simple (o compleja…) herramienta que viene a ayudarnos en un momento de la Historia en el que vivimos rodeados de datos que, como humanos, no somos capaces de procesar. Igual que ahora no nos imaginaríamos cogiendo asfalto con nuestras manos y poniéndolo en una carretera, ni de vuelta a los lavaderos de los ríos para limpiar nuestra ropa, dentro de unos años no concebiremos nuestra vida sin el acompañamiento de la IA.

Sin duda nos supondrá un alivio eficaz en nuestras rutinas. Pero también hay que tener cuidado del camino que la hacemos tomar…y mantener siempre el control. Como se explica en el libro, a las grandes ventajas que trae la IA, se le unen grandes inconvenientes o ‘peligros’ de los que se debe ser consciente.

¿Es realista pensar que las máquinas pueden llegan a tener una inteligencia como los humanos?

Para responder a esta pregunta habría que preguntarse primero cuál es la definición de ‘inteligencia’. Según la Real Academia Española (RAE) es la ‘capacidad para entender y comprender’. Para entender algo normalmente, los humanos, necesitamos algo más que ‘analizar los datos’ de los que dispone nuestro cerebro. Normalmente, influye también el contexto de la situación, o incluso nuestras emociones o empatía -con el caso o persona- en ese momento concreto (esto último para bien o para mal). La máquina, por ahora, solo procesa datos. Sin embargo, hay una cosa clara sobre este aspecto. NUNCA puedes decir que ALGO puede o no puede llegar a pasar.

Estamos viviendo un momento de la historia de la Humanidad en el que, en función del camino que tomemos, puede llegar a pasar cualquier cosa. El límite no tiene por qué estar en la capacidad de desarrollo tecnológico, sino en la expectativa y deseos del ser humano. Si nosotros, los humanos, queremos conseguir una ‘máquina’ que incluya capacidades humanas más allá de la memoria y el procesamiento de datos, como pueden ser las emociones o la empatía, no me cabe duda de que sí lo llegaremos a conseguir, aunque queda aun muchísimo por avanzar.

De hecho, las ‘máquinas empáticas’ es uno de los retos actuales del marketing. De esta manera, por ejemplo, los chatbots, consiguen conectar mejor con los clientes, al aportar una interacción más cálida humana, y completamente personalizada. Por tanto, parece que este desarrollo de aportar ‘emociones’ y ‘empatía’ a los algoritmos de IA sí puede llegar a ser útil. Conclusión: Si se demuestra que es útil sí llegará a hacerse. La respuesta, pues, a esta pregunta, es que SÍ es realista pero, probablemente, estos desarrollos tengan aplicaciones muy concretas en función de la necesidad del producto o servicio.


Eso sí… si esto llega, es importante que se establezca una base ética de interacción entre seres humanos y máquinas. En todo momento debemos saber que aquel con el que interactuamos ‘sin ver’ es una persona o una máquina. Quizá llegue un momento en que esa ‘identificación’ sea necesaria, como en la película película Blade Runner en los llamados ‘replicantes’ –seres creados mediante bioingeniería- llevan una marca para distinguirlos de los ‘humanos reales’.

¿Es un cuento o una cuenta que la inteligencia artificial nos va a dejar sin trabajo?

En ‘El Mito del Algoritmo’, tenemos un capítulo entero sobre este tema porque, tanto Richard como yo, consideramos que es uno de los aspectos que más preocupa a la sociedad, en general. La IA es una tecnología de gran impacto que, sin duda, va a incidir en todos los sectores y va a causar conmoción en el mercado laboral.

Sin embargo, no será muy diferente de lo que ya ocurrió con Internet y el comercio electrónico. Cuando estas últimas tecnologías se popularizaron hubo mucha pérdida de puestos de trabajo. Ya entonces desaparecieron multitud de empleos, sin embargo, se crearon incluso nuevas profesiones: como webmaster, community manager, todos aquellos relacionados con el e-commerce, protección de datos o ciber seguridad…. Solo por citar algunos. Solo hizo falta una cosa: REINVENCIÓN. Esta palabra ya se repite constantemente en esta nueva Era de la Inteligencia Artificial.

Actualmente, ‘nos golpean’ innumerables y constantes inventos de gran impacto que provocan un reajuste casi continuo de las necesidades laborales. La adaptación gradual, generacional, se ha acabado. Una misma generación debe afrontar este gran reto si quiere mantenerse competitivo en la actualidad. 


Zygmunt Bauman bautizó 'modernidad líquida' a este periodo que vivimos en el que las realidades solidas hasta mediados del Siglo XX, como el trabajo y el matrimonio para toda la vida, se ha desvanecido en la mayoría de los casos. Así, se ha dado paso a un mundo más 'provisional', cargado de novedades continuas. El trabajador actual debe de ser capaz de ‘reinventarse’ continuamente para adaptarse a los cambios. Esto requiere esfuerzo pero también supone grandes oportunidades como, por ejemplo, poder crear empleos cuyo nombre está aún por definir. Y será ese ‘trabajador líquido’ el que lo defina, trabajando en su propia creación.

Pero para que este modelo pueda llevarse a la práctica con éxito hace falta también un cambio de paradigma en el campo de la Educación –y de las políticas activas de los gobiernos en este sentido-. Para propiciar esta adaptación continua, se requiere una formación continua, a todos los niveles y un cambio de mentalidad. Esto requiere un esfuerzo colectivo también por parte de toda la comunidad educativa, colegios y, sobre todo, Universidades. Y no solo en los grados asociados con la tecnología, sino en todos, ya que el impacto incidirá en prácticamente cualquier área. ¡Hay que estar preparados! Y no es una opción…


Me ha parecido muy acertado que el libro empiece con una ‘Nota de la máquina’, además de la nota de los autores. Además, en la web del libro se puede escuchar esta nota. ¿Por qué lo habéis puesto?

De hecho, la idea la cogimos prestada de Telefónica de un video que se preparó para el MWC 2019 y otro para el proyecto LEIA con la RAE. Nos pareció muy adecuado. Las peculiaridades de la IA y los prejuicios adquiridos de la ciencia ficción ofrecen a esta tecnología cierto halo de misterio y expectativas desmesuradas muy aprovechables a la hora de sorprender. 


Figura 8: Queridos Humanos de Telefónica

Además, una de las ideas que más se recalcan en el libro es la de una IA que ACOMPAÑA, no SUSTITUYE. Es decir, que debemos aprovechar la IA para complementar a los humanos, como se ha hecho con otras tecnologías a lo largo de la Historia. ¿Por qué en este caso iba a ser diferente? En realidad, sí que hay una diferencia. En un momento en el que los desarrollos ocurren a una velocidad exponencial, debemos pararnos a pensar en lo siguiente: ‘No porque tengamos la capacidad para desarrollar algo, debemos hacerlo’. Lo primero que debemos preguntarnos es si a medio-largo plazo nos beneficiará. En el caso de que no lo hagamos, las consecuencias para la humanidad pueden ser desastrosas. Tal y como dice la ‘Nota de la Máquina’ en el libro y en la ‘Web’:

(…) Mi futuro depende de vosotros.

 De las decisiones que toméis en este momento tan crucial para mí. Os pido que me acompañéis desde ahora. Que aprendáis de mis errores, por mi propia inexperiencia y corta vida. Que corrijáis mi camino hacia vuestro beneficio. Que extraigáis todo mi potencial para fomentar el bien y el confort de la raza humana. Esta ha sido desde siempre mi premisa. ¿Por qué ahora iba a ser diferente? Avanzad conmigo. De la mano. Sin soltarme. Yo os mostraré un mundo que ahora tan solo podéis imaginar.

El libro termina con un cuento de verdad sobre IA. ¿Porqué?

La IA no hace más que hacernos soñar con ‘cuentos’ y se nos ocurrió acabar así. Con una historia del futuro que, en el momento actual, es irreal, pero ¡Quién sabe si llegará a ocurrir dentro de unos años!

Mucha de la tecnología actual ha sido creada a partir de novelas inspiradoras, por ejemplo, las de Julio Verne, Isaac Asimov, o incluso de ¡La Guerra de las Galaxias! Son también muchas las Universidades que ofrecen clases inspiradoras de ciencia ficción a sus aspirantes a ingenieros. La creatividad y la originalidad es un arte cada vez más necesario, y las novelas y el cine nos inspira y, en ocasiones, nos ayuda a imaginar el futuro que deseamos y el camino para llegar a él.

Así, la imaginación, y estos ‘cuentos’, forman parte de la propia IA, para bien y para mal. Acabar con un ‘cuento’ era lo lógico y lo que nos pidió la propia ‘máquina’, a cambio de hacernos la ‘Nota de la máquina’ ;).

¡En realidad lo cuenta ella! No nos miréis ni a Richard Benjamins, ni a mí….;) Es una historia sorprendente. ¡No os la perdáis! Esperamos que también sirva de inspiración.


Junto con Richard Benjamins y otros ocho profesionales, habéis montado OdiseIA, el Observatorio del Impacto Social y Ético de la Inteligencia Artificial. ¿Tiene que ver el libro algo con OdiseIA?

La verdad es que tiene mucho que ver. Una de las labores fundamentales de OdiseIA es la divulgación y la concienciación. Tratamos de ‘educar’ en cuáles son las verdaderas ventajas e inconvenientes de la IA, a todos los niveles. En nuestro futuro, no solamente los profesionales deberán saber de IA, sino también la sociedad, en general. Estos últimos, no en cuanto a la parte técnica, sino a las implicaciones. De esta manera, serán capaces de realizar exigencias, con razonamiento fundamentado, sacando el máximo provecho a esta tecnología, y dejando de lado posibles inconvenientes reales.

Figura 9: OdiseIA

El libro ‘El Mito del algoritmo’ tiene esta misma misión. Usa un lenguaje divulgativo para acercar la IA a cualquier persona, independientemente de sus conocimientos técnicos. La idea es que el lector abandone sus prejuicios, comience a tomar conciencia de los riesgos reales y confianza en las increíbles ventajas, también reales.

Respecto a los profesionales, son muchos también los que pueden verse beneficiados por el conocimiento claro sobre esta tecnología para poder impulsar sus negocios, gracias a ellas, de una manera segura y confiable. Estas tareas de concienciación las hace el libro y OdiseIA. Por ejemplo, en el Observatorio, hemos lanzado una iniciativa junto con Telefónica y Compromiso Empresarial para premiar las mejoras iniciativas de inteligencia artificial con impacto social y ético. Queremos que las grandes empresas, como Telefónica, se unan, como socios, públicamente a nosotros en nuestra lucha activa por conseguir un uso ético y responsable de la IA.

Como dices, desarrollas una labor constante de sensibilización y concienciación. ¿tenéis, Richard Benjamins y tú otros libros en proyecto sobre esta temática?

Por supuesto. Esta tecnología está en evolución constante. Y un libro, una vez que se imprime o publica, no es modificable. Ya tenemos firmado otro con la misma editorial (ANAYA) para el próximo año, sobre una temática más concreta, dentro del uso responsable y ético de la IA. No adelanto más porque ¡será una sorpresa! ;) . Pero sí puedo decir que pretendemos que se sea un libro de ‘consulta obligada’ al menos durante unos cuántos años.

Y una pregunta final. ¿Cuáles son las dos razones principales por las qué tengo que leer vuestro libro?

La primera es porque por fin vas a entender el impacto real de la IA en los sectores claves que marcarán nuestro futuro. El libro es muy divulgativo y muy accesible para todos los públicos. De esta manera, pretende acabar con los prejuicios asociados a esta tecnología y dar una visión real tanto del momento actual como de su previsión de futuro. Además, Richard Benjamins y yo no somos los únicos que aportamos nuestra visión. El ‘Mito del Algoritmo’ está complementado con 25 grandes expertos a nivel internacional en la materia, incluyéndote a ti, por supuesto, Chema;).

La segunda: ¡¡el final sorprende!! No te puedes perder el Cuento sobre Inteligencia Artificial. Quizá te inspire para tus próximos proyectos de un apasionante e imprevisible futuro que ya estamos pisando.

Saludos Malignos!

1 comentario:

ageironmx dijo...

Estará a la venta por Amazon? O en México? Suena delicioso !!

Entrada destacada

ESET te consigue 100 Tempos de MyPublicInbox para consultar con los expertos de seguridad informática @eset_es @mypublicinbox1

La compañía de seguridad ESET , especializada en soluciones de seguridad personal y empresarial, ha puesto activa una campaña de concienciac...

Entradas populares