Los grandes expertos que son escépticos sobre la inteligencia artificial: del “es puro marketing” al “no ha avanzado en 30 años”

Los gigantes maestros que son escépticos sobre la inteligencia artificial: del

Hay titulares -como el de este artículo- que pueden ser malentendidos. Como con la inteligencia artificial (IA), conviene no dejarse llevar por las apariencias. Frente a lo que pueda parecer, este no es un capítulo contra la IA, sino contra su mitificación y mistificación, y contra las visiones apocalípticas. Algo imprescindible en este instante de 'hype', de bombo excesivo de esta tecnología, de extremos y de exageración tanto de su potencial como de sus potenciales riesgos.

La historia se repite. "Al equivalente que 'la nube' o 'big data' antes, el término 'inteligencia artificial' ha sido secuestrado por mercadólogos y publicistas. Gran parte de lo que la masa llama 'inteligencia artificial' es realmente analítica de datos. En otras palabras: mas de lo mismo", comentaba ya en 2016 Om Malik -fundador del clan mediático de medios en tecnología GigaOm y miembro de TrueVentures- en un artículo en New Yorker. "Si la exageración te lleva a preguntarte qué es la IA en realidad, no te preocupes, no estás solo", añade. Él mismo pidió a varios maestros que definieran el término y encontró que, en lo que todos parecían estar de acuerdo, es en que la inteligencia artificial es un conjunto de tecnologias que intentan imitar o ampliar la inteligencia humana. "Para mí, el énfasis esta en el aumento, en el que el software inteligente nos ayuda a interactuar y lidiar con el planeta cada vez mas digital en el que vivimos", afirma.

Los científicos llevan ya mas de medio siglo tratando de inventar sistemas medio decentes de IA. "Las técnicas de IA disponibles recientemente son básicamente las mismas que hace treinta años. Lo que ha variado es la infraestructura y la disponibilidad de los datos", expone Alexandra Kirsch, científica independiente experta en inteligencia artificial. "Gracias a internet(www) y al desarrollo de computadores mas rápidos -que aceleran la capacidad de cómputo- logramos contestar a nuevas necesidades y utilizar técnicas como el aprendizaje automático estadístico que estaban disponibles antes sin embargo no eran tan notables como lo son hoy", agrega la investigadora.

Alexandra Kirsch Alexandra Kirsch

Precisamente por ello, es ahora cuando están emergiendo las programas mas atrayentes de la IA y aquellas con mas proyección. Al mismo tiempo, el frenesí en torno a su potencial se ha disparado. Como Kirsch, varios científicos se revelan escépticos. Piden cautela ante este hype y aclaran algunos malentendidos.

De inteligente, poco

“El 99% de las operaciones que efectua la mente humana no compensa en terminos económicos”

¿Es inteligente la IA? No. No en terminos de inteligencia humana. "No existe ninguna inteligencia artificial que equivalga a la mente de una persona ni es lo que se pretende", asegura Pablo Gervás, jefe del grupo de exploración en Interacción Natural inspirada en el Lenguaje y el Instituto Tecnología del Conocimiento de la Universidad Complutense de Madrid. Gervás muestra que "el desarrollo de la IA se hace por dinero" y que por eso se centra en cosas muy concretas y potencialmente rentables, como la traducción automática de Google.

El maestro en IA argumenta que el desarrollo de estas tecnologias es “carísimo” y solicita mucho sacrificio en investigación, por lo que, para que merezca la pena económicamente, tiene que dar varios beneficios. “El 99% de las operaciones que efectua la mente humana no compensa en estos términos”, asegura. "Por eso se van fabricando funcionesmuy aisladas, que no son extrapolables a otras facetas, por muy afines que sean. No es que porque sepan conducir autos vayan a conquistar el mundo", afirma.

De hecho, ni siquiera saben conducir coches. "Estamos poniendo vehículos en la carretera que no es que sepan conducir sino que saben girar el volante como tienen que realizarlo para no salirse del carril, y algunas otras actividades básicas", expone Gervás. "Un conductor humano hace muchísimas mas cosas que no están contempladas por estos sistemas", añade. Señala que, si bien para nosotros conducir es un todo, la IA solo sabe una parte, ciertas actividades que se han conseguido desarrollar. “Hay que explicar a la masa que las máquinas no son como nosotros, que tenemos algunas cualidades y entendemos como combinarlas, convertir de una a otra, etc

Pablo Gervas Pablo Gervás

En la misma línea, Joshua Bengio, profesor de computación en la Universidad de Montreal, que lidera uno de los grupos mas prominentes a nivel internacional en el desarrollo de técnicas de aprendizaje profundo, asegura en una conferencia en MIT Technology Review que "hay individuos que están sobreestimando enormemente el progreso que se ha hecho en este campo". "Hay muchos, varios años de diminutos mejoras atras que la masa subestima, y es complicado separar el hype de la realidad porque estamos viendo gigantes mejoras que, a simple vista, parecen magia", añade.

Otro indiferente es Gary Markus, científico y emprendedor, creador de la start-up de aprendizaje automático Geometric Intelligence, adquirida por Uber. "La masa esta muy entusiasmada con algo que simboliza solo una pequeña parte de lo que realmente necesitamos lograr. Ha habido progresos, por ejemplo, en el reconocimiento de voz. Pero eso no es comprensión del lenguaje, es sólo transcripción", constata en una entrevista.

Gervás, por su parte, insiste en que, si bien cada una de las capacidades de la IA por separado puede considerarse un ingrediente para la inteligencia, no lo son por sí solas: "Además, ni siquiera entendemos qué es ser inteligente. A lo preferible le pusimos mal el nombre porque llamarle 'inteligencia es muy engañoso.

Al pionero español de la IA Ramón López de Mántaras, jefe del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC, esto de las definiciones no parece preocuparlo mucho. "Es muy complicado definir inteligencia. No hay una definición universal consensuada. Nos cuesta poco reconocerla y mucho definirla. Pero tampoco es tan importante, no hay una definición clara y universal de los que es vida y la biología no parece afectada por ello", comentaba en el primer capítulo del nuevo podcast de Xataka: Captcha. Entonces, ¿qué es la IA? "No hay una definición oficial, equivalente que cada cual tiene sus propios estándares para definir lo que es 'inteligencia'", asegura Kirsch.

Débil y limitada

Lo que existe ahora es una IA débil no general, apto de resolver muy bien una unica tarea, una vez contextualizada

Para contextualizar lo que se entiende por inteligencia artificial, López de Mántaras se remonta a 1980, cuando el que el filósofo John Searle introdujo el concepto de 'IA fuerte' para diferenciar el software y hardware apto de procesar como una mente humana (incluso de tener consciencia) de aquellos que pueden simular cada aspecto de esta, sin embargo no toda en su conjunto. "Antes no se hablaba de eso, sin embargo pese a que el propio Turing y los pioneros de la IA no lo mencionasen, se referían a ello implícitamente. Creo que tenían en mente que una maquina no solo se limitaría a emular una capacidad concreta sino que sería muy genérica, multitarea y que inclusive tendría territorios mentales, conciencia", enfoca el investigador.

Tal y como comentan los expertos, lo que existe ahora es una IA débil no general, apto de resolver muy bien una unica tarea, una vez contextualizada. Es decir, es limitada, incapaz de sumar aprendizajes como las personas: un metodo de IA puede saber jugar muy bien al ajedrez sin embargo ser incapaz de hallar un tumor en una imagen. Y, si practica a reconocer tumores, se olvidará de como jugar al ajedrez. Es lo que se conoce como 'olvido catastrófico', uno de los primordiales talones de Aquiles para una IA general, fuerte.

Se habla de un test de Turing total que tenga en cuenta otros aspectos (motores, de percepción, etc.) que el clásico no recoge

Además, López de Mántaras aclara que ningun software o maquina ha pasado siquiera el test de Turing, que evalúa si una maquina puede tener un comportamiento indistinguible al de un humano por vía textual. Y también asegura que, pese a que lo pasase, eso no significaría que es inteligente. "Remitirse solamente a todo aquello que es verbalizable, que se puede expresar por el medio escrito, como son las preguntas del test de Turing, es delimitar muchísimo lo que es la inteligencia. La inteligencia es mucho mas que la capacidad de sostener un diálogo coherente. En todo caso, es un test sobre aquellos aspectos de la inteligencia que puedan ser expresados mediante palabras", explica.

Por eso se habla de un test de Turing total que tenga en cuenta otros aspectos (motores, de percepción, etc.) que el clásico no recoge, comenta el experto. También menciona otras opciones como el test de Winograd para reconocer si una maquina tiene sentido común. "Este para mí es mucho mas atrayente y convincente. Significaría que la maquina que lo pasase tendría una comprensión profunda de la semántica del lenguaje", afirma.

Ramon Lopez de Mantaras Ramon López de Mántaras

Al equivalente que Gervás, López de Mántaras puntualiza que en la sociedad científica no se trabaja con el objetivo de suceder estos test. "En todo caso sería un resultado colateral de los mejoras en este campo. Si un dia hubiera una IA general y fuerte, como consecuencia pasará cualquiera de estos test, sin embargo no son la fuerza que tira de la investigación", asegura. ¿Llegará ese día? “Lo dudo mucho. Veremos mejoras en sistemas que hagan algunas cosas y todas ellas muy bien, sin embargo esto esta muy lejos de una auténtica IA general fuerte”, muestra el maestro del CSIC.

Gervás tampoco lo cree: " Una inteligencia general es el santo grial. No tiene solucion inmediata y todo lo que se ha avanzado en mas de 6 décadas de exploración recomienda que solicita de la mezcla de muchísimas piezas, algunas de las cuales ni siquiera están desarrolladas ni entendemos como combinar". En ese camino, López de Mántaras asegura que le sorprendería que se lograse inventar una teoría de la mente computacional , es decir, una arquitectura cognitiva implementable por una máquina. "Sería un paso significativo para tener una IA general y quiza fuerte", sostiene.

No da miedo

Para continuar desmitificando a la IA, otro 'escéptico' agrega leña al fuego. Se intenta de Luciano Floridi, profesor de Filosofía y Ética de la Información en la Universidad de Oxford, donde dirige el Laboratorio para la Ética Digital. "Después de tanto hablar sobre los riesgos que plantean las máquinas ultrainteligentes es hora de poner luz sobre el asunto, dejar de preocuparnos acerca de escenarios de ciencia ficción", señalaba en un experimento publicado enAeon en 2016.

Entre esos escenarios, por ejemplo, el temor a que la IA pueda recorrer y automejorarse de tal forma y que se vuelva complicado de controlar. Algo que descarta Bengio: "No es así como se construye la IA. El aprendizaje automático solicita de un proceso lento y minucioso para adquirir información a través de millones de ejemplos. "Una maquina se mejora a sí misma, sí, sin embargo muy, muy lentamente, y de maneras muy especializadas. Y el tipo de algoritmos usados no se parece en nada a diminutos virus que se autoprograman", aclara.

Otro de los temores acerca de la IA es su uso bélico para inventar robots asesinos intelligent y autónomos. El debate en la sociedad científica se da entre quienes piden la prohibición de tales zombies y quienes sospechan que su uso es conveniente para eludir lo que eufemísticamente se llama 'daños colaterales'. El razonamiento es que, si una bomba inteligente se dirige solamente a la persona o clan a combatir, no morirán individuos inocentes.

Kirsch se muestra escéptica: " No hay motivos para pensar que la inteligencia artificial hará de la guerra algo mejor. Quien discuta acerca de estas cuestiones razones realizarlo sobre la base de la tecnología habilitada hoy día, no sobre una fantasía que podría o no materializarse en un futuro distante". Gervás agrega también un punto de prudencia tecnológica, ya que –dice- "las tasas de fallo de los sistemas de visión artificial son considerables. Reconoce que utilizar estas tecnologias con fines bélicos "es una enorme tentación" sin embargo se muestra reacio a dedicar la exploración científica "al videojuego de la guerra".

Frente a ello, Floridi pide " empezar a centrarnos en los desafíos reales de la IA". Retos como el que plantea Kirsch: resolver problemas reales mas allá de la optimización. "Las técnicas de IA recientemente no son distintos de cualquier otro algoritmo. Son una caja de tools que aplicar a definidos problemas, comúnmente de optimización. Sin embargo, los problemas del planeta real suelen requerir ir mas allá", muestra la investigadora. "El dilema -prosigue- es que estos algoritmos deben recibir precisamente una variable para incrementar o minimizar. Por ejemplo, para calcular la ruta mas corta o mas rápida para llegar a un punto. Pero si buscamos algo distinto conforme a lo que tenemos en mente, la maquina no podrá adivinarlo porque no logramos poner esta intuición en números".

LA inteligencia artificial no tiene poder

El ejemplo de Kirsch es solo uno de los varios que muestran, como dice Floridi, que " la realidad de la IA es mas trivial de lo que pensamos". Por eso critica los desplazamientos que profetizan sobre la singularidad tecnológica: que los individuos algún dia seremos superados por máquinas artificialmente intelligent o por una inteligencia biológica renovada cognitivamente, o por ambas. A juicio del filósofo e especialista de la Universidad de Oxford, la que denomina 'Iglesia de los Singularitarios' esta "distrayendo irresponsablemente" con la publicación de sus ideas.

Floridi también critica al bando contrario -la 'Iglesia de los Ateos'- por enredarse con los 'singularitarios' en una discusión "sin sentido". Como el propio Turing escribió en 1950 en su conocido capítulo '¿Puede una maquina pensar?', la propia pregunta es demasiado inutil para merecer una discusión. Y, también -dice el filósofo- ambos se equivocan. "Una IA que piense de verdad, general y fuerte, no es lógicamente imposible, sin embargo sí completamente inverosímil. No tenemos idea de como diseñarla, sobre todo porque tenemos muy poca comprensión de como sirve nuestra propia inteligencia y vuestro cerebro", asegura.

Esto significa -en su opinión- que no deberíamos perder el sueño en la factible apariencia de una ultrainteligencia. " Cualquier visión apocalíptica de la IA puede ser ignorada", afirma. "Lo que realmente importa es que la progresivo presencia de tecnologias mas intelligent esta teniendo gigantes efectos en cómo nos concebimos a nosotros mismos, el planeta y nuestras interacciones. Lo significativo no es que las máquinas sean conscientes, intelligent o capaces de saber algo como lo hacemos nosotros. No lo son. Ninguna entidad consciente emergerá de una maquina de Turing", sostiene el experto.

En su opinión, lo notable es que cada vez hay mas tecnologias que son capaces de lidiar con mas actividades preferible de lo que lo hacemos los humanos, y que eso nos desplaza de nuestra posición de antropocentrismo. Es lo que denomina "la Cuarta Revolución de vuestro propio entendimiento". "Ni somos el centro del cosmos (Copérnico), ni del reino biológico (Darwin), ni de la racionalidad (Freud). Y ahora tampoco los somos de la infoesfera (Turing) sino que la compartimos con las tecnologias digitales, que define como "artefactos ordinarios que nos superan en cada vez mas tareas, a pesar de no ser mas intelligent que una tostadora". "Sus cualidades son humildes y nos crean reevaluar la excepcionalidad humana y vuestro papel especial en el Universo , que continua siendo único", añade.

Incluso obviando el asunto de cuán inteligente es la IA -comenta Markus por su parte- "lo realmente notable es cuánto poder tienen los sistemas basados en estas técnicas: qué pueden manejar directamente". Y eso es algo en manos de los humanos: de deciden y rigen su uso. Como suele pasar, el dilema no es la tecnología, sino como se utiliza.

Así que tenemos una inteligencia artificial que ni es inteligente, ni pasa el test de Turing, ni da miedo. Que, además, es débil y limitada, y su poder no es propio sino otorgado por los humanos. Pero, ojo, no es una IA inútil. Solo hay que saber dirigirla sin perder el norte. Floridi, a modo de 'carta a los Reyes Magos', reivindica los pilares que cree que deben regir su desarrollo: debe ser una IA mas ecológica, cuyo centro (su fin, y no su medio) sean las personas, "cuya estupidez funcione en favor de la inteligencia humana" y que nos haga mas humanos.

También te recomendamos

Moravec tenía razón: es mas sencillo anunciar un cohete que reconocer a un gato en una imagen (Captcha 1×03)

Las leyes de Asimov no logran para el debate ético que tenemos con la IA y los robots (Captcha 1×02)

Cinco curiosidades sobre la piel del bebé que nos encantará detectar inclusive antes de su nacimiento


La novedad Los gigantes maestros que son escépticos sobre la inteligencia artificial: del “es puro marketing” al “no ha avanzado en 30 años” fue publicada originalmente en Xataka por Esther Paniagua .


Xataka



Agradecemos a la fuente original por la información que nos ayudo a crear este articulo.

También puedes revisar estas noticias relacionadas.

Tags: #¿puro #años #Artificial #avanzado #escépticos #expertos #grandes #Inteligencia #marketing #sobre

Deja un comentario

Author: 
    author