Nadie cuestiona una futura convivencia del ser humano con formas de Inteligencia Artificial (IA). Mucho menos los más iniciados y los más inmersos en el mundo de esta tecnología.
La IA es una consecuencia inevitable de la ley de Moore, y va a cambiar nuestras vidas en una forma difícil de imaginar para los humanos actuales. Las únicas incertidumbres sobre el futuro se arrojan sobre hasta dónde la ciencia y la tecnología nos van a permitir llegar.
Estas dudas se plasman en la práctica en dos corrientes de pensamiento. Unos creen que las máquinas llegarán a tener plena inteligencia (“IA fuerte”), frente a otros que piensan que las máquinas tan solo llegarán a actuar como si fueran inteligentes (“IA débil”).
Los defensores de la “IA fuerte” tampoco se ponen de acuerdo al tratar de determinar cuándo se alcanzará ese nivel referente de inteligencia en las máquinas que hemos venido llamando «singularidad».
Una de las más famosas predicciones es la de Ray Kurzweil, basada en curvas exponenciales de crecimiento de las tecnologías de la computación. Sus conclusiones apuntan a que una máquina será capaz de pasar por primera vez el test de Turing en 2029 y que la singularidad se alcanzará plenamente en 2045.
Un conjunto de predicciones recogido por la Acceleration Studies Foundation, organización dedicada a predecir y estudiar futuros cambios tecnológicos, sitúan la singularidad entre 2030 y 2080.
Quizás la más acertada de las predicciones sea la del Future of Life Institute, que tras realizar varias encuestas preguntando a distintos colectivos de investigadores, todas llevan a la misma conclusión: nadie lo sabe.
Riesgos y temores de la IA
Vivimos en un mundo absolutamente competitivo. Competimos en el deporte, en el trabajo, en nuestras relaciones sociales… El que destaca en un campo, el número uno, es el que ostenta el poder.
¿Podemos imaginar un mundo en el que una súper inteligencia dominara todas las disciplinas de nuestra vida? Podría enriquecerse invirtiendo en bolsa, apoderarse de los medios de comunicación, generar información falsa, manipular opiniones e incluso derrocar gobiernos. Quien estuviera detrás de esa súper inteligencia gozaría de un poder absoluto.
"Recreando el proyecto Manhattan, que diseñó la primera bomba atómica, el equipo Omega desarrolla una súper inteligencia artificial, Prometheus."
Max Tegmark es profesor del MIT, presidente del Future of Life Institute y a la vez reconocido divulgador científico. Su última publicación, Life 3.0, editada hace apenas unas semanas, es una didáctica a la vez que amena introducción al mundo de la Inteligencia Artificial (IA). En ella se contemplan tanto aspectos científicos como sociales, y es una lectura recomendada para todo aquel que desee profundizar en esta materia.
Comienza Life 3.0 con un relato tan ficcionado como verosímil. Recreando el proyecto Manhattan, que diseñó la primera bomba atómica, el equipo Omega desarrolla una súper inteligencia artificial, Prometheus, capaz de aprender y de reinventarse a sí misma.
Bajo estrictas medidas de seguridad, Prometheus se mantiene aislado del mundo exterior, pero es alimentado localmente con abundante información procedente de Internet y de otras fuentes (Wikipedia, la Biblioteca del Congreso, redes sociales, etc.). En tan solo unas pocas horas es capaz de rediseñarse en la forma en que lo hubieran hecho miles de programadores trabajando durante más de un año.
Su primera competición con el ser humano se produce en el Amazone Mechanical Turk, un punto de encuentro donde miles de tareas se ponen a disposición de decenas de miles de trabajadores que acceden a ellas remotamente. Prometheus es capaz, en tan solo unas horas, de ejecutar más de la mitad de las tareas y generar ingresos superiores a un millón de dólares diarios.
A partir de ahí, esta súper inteligencia gana terreno en otros campos y se hace con el control de los principales medios de comunicación. Es capaz de modular la opinión pública, manipular elecciones y controlar gobiernos. En definitiva, el equipo Omega se hace con el poder en el mundo.
La historia de Prometheus es una ficción, pero revela los temores que albergan los más implicados en el mundo de la IA.
Cuando en los años cuarenta se inició la carrera nuclear, el único freno a la hegemonía de quien tomó la delantera y dio el primer paso lo puso el propio armamento nuclear. La bomba atómica en manos de muchos es un tremendo riesgo para la humanidad, pero un mal menor si consideramos la posibilidad de que estuviera en manos de solo uno. Del mismo modo, una súper inteligencia monopolística sería algo catastrófico.
"Personajes tan reputados como el propio Stephen Hawkin han manifestado públicamente su preocupación por los riesgos de la IA."
Incluso en un escenario en el que en este terreno existiera también un equilibrio de fuerzas, ¿qué riesgos habría de que una de esas súper inteligencias escapara al control humano?
No creo que nadie sea capaz de afirmar con rotundidad que no existe riesgo alguno. Es cierto que las máquinas responden siempre a los principios para los que han sido creadas. Un ordenador concebido para diseñar interiores es difícil que desencadene una guerra contra el ser humano. Pero también es cierto que ese tipo de situaciones pueden darse en la realidad. No sería la primera vez que un virus informático escapa al control de sus creadores, o que un dron vuela más allá del alcance de su dueño.
Tampoco es descartable que ocurra un fallo de programación. La historia está llena de casos, y sus consecuencias son bien conocidas: naves espaciales que se desintegran al entrar en la atmósfera de Marte (Mars Climate Orbiter, 1998) o al despegar (Mariner 1, 1966), vehículos inteligentes que se precipitan contra camiones en la autopista (Tesla, mayo de 2016), aviones que se estrellan (Air France 447, 2009), apagones que dejan sin luz a millones de personas en Estados Unidos y Canadá (Centro de control de Ohio, agosto 2003). Y no mencionemos los casos en que fallos de programación en las máquinas nos han llevado al borde de un conflicto nuclear.
Las futuras realizaciones de la IA se van a diseñar con el objetivo de que funcionen sin intervención humana, que se mejoren a sí mismas y que tomen decisiones de forma autónoma. Si el diseñador no correlaciona bien las capacidades de la máquina que ha creado con los límites entre los que debe moverse, es perfectamente posible que escape de su control y cause daños inimaginables. El mismo riesgo existe si no se extreman los cuidados en la prevención de fallos de programación.
Esta visión negativista no es fruto de una imaginación desbordada ni de temores infundados. Personajes tan reputados como el propio Stephen Hawking han manifestado públicamente su preocupación por este riesgo.
Muchos piensan que establecer códigos éticos, profesionales y de ingeniería entre los investigadores, así como mecanismos de seguridad por parte de organismos gubernamentales debería ser prioritario. Otros, por el contrario, opinan que todas estas medidas no harían sino retrasar el desarrollo de estas tecnologías.
"Los taxistas se quejan porque usamos Uber, los que operan servicios de telecomunicaciones porque los taxistas utilizan WhatsApp y los que se ganaban la vida revelando fotografías porque hacemos fotos con el móvil."
Esta preocupación, compartida por los que más cerca viven el mundo de la IA, reunió en Puerto Rico, en enero de 2015, a los principales investigadores de la IA, tanto de universidades como de la industria, con expertos en economía, leyes y ética. En este encuentro, organizado por el Future of Life Institute, se trataba de identificar líneas de investigación y códigos de conducta que pudieran ayudar a maximizar los beneficios futuros de la IA y a evitar al mismo tiempo sus riesgos. La conferencia se cerró con la publicación de una carta abierta que cualquiera puede suscribir.
Afortunadamente, la propia evolución tecnológica tiende siempre a autorregularse. La historia nos dice que cada avance tecnológico ha inducido paralelamente un mecanismo para contrarrestarlo. El descubrimiento del fuego hizo necesario inventar el extintor, y el freno existe solo porque aprendimos a fabricar vehículos veloces.
La sociedad que nos aguarda
Olvidémonos por un momento de estos temores e imaginemos un mundo seguro y controlado en el que formas de inteligencia artificial superdotadas conviven con el ser humano. ¿Cómo cambiarían nuestras vidas?
El primer impacto en nuestra sociedad lo estamos viviendo ya desde hace tiempo. Desgraciadamente, la tecnología sustituye el trabajo por riqueza. Viene sucediendo desde que las máquinas se han introducido en las cadenas de producción, en las labores agrícolas y en tantas otras industrias. Internet nos ha regalado grandes satisfacciones, pero también grandes desencantos. Los taxistas se quejan porque usamos Uber, los que operan servicios de telecomunicaciones porque los taxistas utilizan WhatsApp, y los que se ganaban la vida revelando fotografías porque hacemos fotos con el móvil.
Me sentiría realmente incapaz de explicar a mis abuelos en qué trabajan hoy en día mis hijos, y en la misma medida tengo la seguridad de que el oficio de mis futuros nietos todavía no se ha inventado.
La tecnología cambia aceleradamente nuestra sociedad y nos cambia a nosotros mismos. Genera bienestar y también dinero, pero desgraciadamente no a todos por igual.
No estoy seguro de compartir esa imagen idílica que algunos quieren dibujar sobre un futuro próspero, en el que las máquinas inteligentes hacen el trabajo y los beneficios repercuten en todos nosotros, ofreciéndonos una vida fantástica y opulenta.
La realidad nos dice que en los últimos cuarenta años toda la riqueza con la que nos ha obsequiado la revolución tecnológica ha repercutido en beneficio de tan solo un 1% de la población mundial. Actualmente, ocho hombres poseen tanto como otros 3.600 millones (Oxfam Intermón, 2017).
"Si en el futuro que nos espera convivimos con robots inteligentes que hacen las tareas no existirá trabajo para nadie y, en consecuencia, tampoco riqueza, salvo para unos pocos."
Lo que ha sucedido tradicionalmente es que la tecnología ha permitido producir más barato y en más cantidad a costa de sacrificar puestos de trabajo. De esta forma, aunque los bienes se han multiplicado y abaratado, la población no ha tenido dinero para acceder a ellos.
Esto no es un problema achacable a la automatización, sino a la forma en que se distribuye la riqueza. Hemos creado un sistema económico en el que la riqueza se distribuye exclusivamente como recompensa por el trabajo. Si en el futuro que nos espera convivimos con robots inteligentes que hacen las tareas, no existirá trabajo para nadie y, en consecuencia, tampoco riqueza, salvo para unos pocos. La sociedad que nos espera requerirá forzosamente un cambio drástico en el sistema económico y un nuevo modelo de distribución de la riqueza.
Y no podemos esperar mucho tiempo para acometer este cambio, porque el futuro está a la vuelta de la esquina. La adopción de la IA en un amplio rango de industrias es ya una realidad. Las compañías que se dedican al desarrollo e implantación de esta tecnología están disparando sus ingresos. Este sector prevé multiplicar en tres años por seis los 8.000 millones de dólares que generó el pasado año en todo el mundo.
Titulares como este son reveladores de todo esto que venimos comentando:
Expansión : https://www.expansion.com/2014/07/03/empresas/tmt/1404368951.html
03/07/2014: “Associated Press reemplaza a los periodistas por robots para escribir teletipos”
En un estudio muy completo realizado en 2013 por dos profesores de Oxford, Benedikt Frey y Michael Osborne, se especula con que el 47% de los puestos de trabajo en EEUU corren ya riesgo de ser sustituidos por máquinas.
"Hay muchas otras consecuencias de la convivencia con las máquinas que van a afectar a nuestra forma de vida. ¿Qué podemos decir, por ejemplo, de los aspectos legales?"
Si en este momento tuviera que aconsejar a algún joven lector sobre qué oficio escoger o qué habilidades desarrollar para competir dentro de diez años en el mercado de trabajo le diría que se olvide de oficios basados en análisis objetivos o en acciones estructuradas, repetitivas y predecibles, porque todo eso va a ser fácilmente asumible por máquinas (jueces, analistas, consultores financieros, contables, cajeros, conductores…). Le aconsejaría que piense en oficios que requieran interactividad con la gente, identificación de emociones, creatividad, trabajo en equipo y adaptabilidad a entornos imprevisibles (científicos, profesores, maestros, artistas…).
Hay muchas otras consecuencias de la convivencia con las máquinas que van a afectar a nuestra forma de vida. ¿Qué podemos decir, por ejemplo, de los aspectos legales?
Si fuéramos capaces de crear una máquina consciente, con libre albedrío y con sentimientos, ¿en qué se diferenciaría de un ser humano? ¿No debería ser igualmente acreedora de derechos y estar protegida en la misma medida por las leyes?
"El gran enigma es hasta dónde podrá llegar el hombre en su creación. Si será o no capaz de replicar en una máquina funciones intrínsecamente asociadas a lo que hemos llamado siempre alma."
Supongamos que un vehículo súper inteligente de mi propiedad, dotado de consciencia y de libre albedrío, causara un accidente. ¿De quién sería la responsabilidad? Si recayera sobre el vehículo, ¿debería entonces responder legalmente y tener un seguro a su nombre? En tal caso, estando el autómata sometido a la obligación de pagar indemnizaciones, ¿por qué no también acogido al derecho de ganar dinero? ¿Podría la riqueza caer en manos de entidades no humanas? En realidad, esta circunstancia no debiera escandalizarnos. Actualmente la riqueza está ya gestionada por unas entidades no humanas que hemos dado en llamar empresas.
Llevando las cosas al extremo, si la máquina se hiciera acreedora a los mismos derechos que el ser humano, podría también votar, manifestar libremente sus ideas o defender su vida.
En un mundo como este, en el que el ser humano se viera rodeado de máquinas con inteligencia y habilidades superiores y los mismos derechos dejaría automáticamente de ser competitivo y se convertiría irremediablemente en su esclavo, sin que mediara en ello ningún tipo de rebelión.
Conclusión
La Inteligencia Artificial poco a poco se va instalando entre nosotros. Unas veces sorprendiéndonos y otras sin que casi nos demos cuenta.
El gran salto cualitativo se dará cuando el ser humano esté en disposición de crear una máquina inteligente capaz de aprender por sí sola, de reinventarse y de mejorarse a sí misma. Hemos identificado ya la tecnología necesaria para dar ese salto y solo es cuestión de esfuerzo y dinero, pero seguramente pasarán algunos años antes de que lo veamos.
El gran enigma es hasta dónde podrá llegar el hombre en su creación. Si será o no capaz de replicar en una máquina funciones intrínsecamente asociadas a lo que hemos llamado siempre alma.
Cuando llegue el momento de convivir con robots súper inteligentes deberemos estar preparados para asumir el riesgo de perder el control de nuestra propia creación y adaptarnos a vivir en una sociedad muy distinta de la que en estos momentos somos capaces de imaginar.
Zenda es un territorio de libros y amigos, al que te puedes sumar transitando por la web y con tus comentarios aquí o en el foro. Para participar en esta sección de comentarios es preciso estar registrado. Normas: