LAS IA DEBERÍAN PODER RAZONAR TODAS SUS EXPLICACIONES

La capacidad de aprender de la inteligencia artificial es enorme. Sin embargo, esta novedosa tecnología aún no está capacitada para poder explicarnos el proceso de razonamiento que ha seguido para poder llegar a obtener una respuesta.

- 

H ace aproximadamente un año, una pequeña compañía estadounidense perte

Hneciente al ámbito médico, Geisenger, publicó unos resultados sorprendentes sobre la aplicación de una inteligencia artificial (IA) para estimar el riesgo de muerte a corto plazo de pacientes con ciertas patologías cardíacas, todo ello a partir de su electrocardiograma.

Para ello, entrenaron a una red neuronal con casi dos millones de electrocardiogramas de cerca de 400.000 personas. Al final esta IA, basada en una técnica conocida como ‘aprendizaje profundo’, obtuvo unos resultados mejores que los de los cardiólogos. Los médicos, además, no fueron capaces de encontrar con posterioridad ningún patrón o señal de riesgo en aquellos electrocardiogramas que la máquina había identificado correctamente donde ellos habían fallado. La IA había encontrado algo en la señal electrocardiográfica que los expertos humanos no eran capaces de detectar.

El problema es que la inteligencia artificial solo fue diseñada para obtener la mejor respuesta posible, pero no para dar una razón de la misma. Es lo que en el campo se llama como ‘caja negra’ por su falta de transparencia y, por tanto, de capacidad para conocer y dar una explicación de sus resultados.

Además de buenas, necesitamos que las respuestas que nos ofrecen las inteligencias artificiales sean lo suficientemente entendibles, sobre todo si estas nos afectan significativamente. Si eso no sucede así, no confiaremos en ellas.