¿Necesita un alma la IA? | NTT DATA

ju., 31 enero 2019

¿Necesita un alma la IA?

Una de las grandes analogías que Andrew NG, gurú de la Inteligencia Artificial, ha acuñado es que la “la Inteligencia Artificial es la nueva electricidad”. Desde luego, el impacto que la IA va a tener en todos los sectores de actividad de nuestra sociedad va a ser comparable (si no mayor) que el que tuvo la electricidad en la Segunda Revolución Industrial.

Como vemos en la siguiente ilustración, publicada en un medio estadounidense en el año 1889, la percepción de la tecnología en aquel momento era comparable a cierta “tecnofobia” o “tecnoescepticismo” que estamos viendo en torno a la IA en los últimos tiempos.

 

 

Aunque muchos de los grandes expertos en el campo de la IA coinciden en que nos encontramos todavía en una fase muy temprana de su desarrollo, y en que estamos lejos de lograr una Inteligencia Artificial universal, es un momento clave en el que debemos establecer un marco claro de trabajo en torno a nuestra responsabilidad ética. ¿Por qué la ética es tan relevante para el desarrollo de la Inteligencia Artificial? Partimos de la base de que cualquier tecnología es neutra hasta que como humanos decidimos el uso que hacemos de ella. Sin embargo, la Inteligencia Artificial presenta unas características que la hacen especialmente peligrosa si se utiliza con fines poco éticos:

  • Escala: cuando combinamos la Inteligencia Artificial con otras tecnologías de gran alcance como las redes sociales, el resultado de sus algoritmos puede tener un impacto muy elevado en grandes colectivos sociales. Sirvan de ejemplo los recientes escándalos en torno a Facebook, Cambridge Analytica y las supuestas manipulaciones de resultados electorales.
  • Secretismo: hoy en día, muchos de los algoritmos en los que se basa el desarrollo de la IA, se apoyan en redes neuronales. Uno de los inconvenientes de las redes neuronales es que se comportan como cajas negras, es decir, sabemos las entradas que recibe el algoritmo y la salida que genera, pero no es posible explicar qué razonamiento ha seguido la IA para llegar a la recomendación que nos hace. Esto es especialmente sensible cuando de forma voluntaria o no, un determinado algoritmo provoca un sesgo con derivadas éticas o sociales en sus resultados. En estos casos es muy difícil establecer a día de hoy mecanismos de detección y realimentación automáticos que palien el problema. Por poner un ejemplo extremo de a qué nos referimos por caja negra, la inteligencia artificial de Google es capaz detectar con una tasa de acierto muy elevada, el género de una persona únicamente con una imagen de su retina. A día de hoy, los médicos harían esa clasificación de forma completamente aleatoria, ya que los humanos somos incapaces de saber en qué patrón se ha fijado la IA para conocer, en base a la foto de su retina, si una persona es hombre o mujer. Debido a estos dos puntos, la Inteligencia Artificial presenta un elevado riesgo de impacto negativo en la sociedad si se utiliza a escala masiva y sin prestar atención a los datos con los que se entrena. Un ejemplo representativo, aunque por suerte controlado, sucedió cuando Microsoft publicó su asistente virtual Tay.ai en twitter. En menos de un día, y al aprender de los comentarios de la gente que interactuaba con él, Tay adquirió los propios sesgos racistas de ciertas personas, y de forma muy acelerada debido a la escala de interacciones a nivel mundial.
La necesaria respuesta global como sociedad al impacto de la ausencia de ética en la IA

Anteriomente, ya analicé en otro artículo las distintas iniciativas, tanto públicas como privadas, que se están llevando a cabo para crear marcos de trabajo éticos en torno al desarrollo de la Inteligencia Artificial, donde apunto que muchos de los retos que como sociedad nos plantea la Inteligencia Artificial sólo van a poder ser resueltos con una colaboración global.

En definitiva, nos encontramos en un momento clave para el desarrollo de esta tecnología, con resultados científicos reales y con interés en la aplicación empresarial directa, pero a la vez de cierta inmadurez, expectativas desmesuradas y donde las derivadas relacionadas con el impacto social y ético de esta tecnología son claves. ¿Va a transformar nuestras empresas y nuestra sociedad la Inteligencia Artificial? Sin duda, la respuesta es sí. ¿Va a hacerlo de forma ética y contribuyendo al desarrollo y mejora de nuestras empresas y sociedad? Esa respuesta la siguiente teniendo, al menos por ahora, el cerebro humano.


¿Quieres saber más?

Ponte en contacto con nosotros.

Contacta