VER conciencia DONDE SOLO HAY PALABRAS

Los LLM, como ChatGPT, generan lenguaje fluido y coherente, pero carecen de conciencia, experiencias o emociones. La ilusión de que tienen conciencia surge al proyectar emociones humanas sobre sus palabras, confundiendo el lenguaje con una experiencia subjetiva real.

- Ramón López de Mántaras

La irrupción de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés), como ChatGPT, ha desatado en los últimos tiempos un debate apasionado en torno a su posible naturaleza consciente.

De esta forma, no son pocos los usuarios -entre ellos personas con formación científica o humanística- que aseguran haber percibido signos de vida interior, emociones e incluso voluntad en estos sistemas.

Sostienen que ciertos intercambios verbales revelan emociones complejas, empatía, autoconciencia e incluso sufrimiento.

Esta ilusión ha sido descrita por el científico y filósofo estadounidense Douglas Richard Hofstadter como una peligrosa confusión entre el uso sofisticado del lenguaje y la vivencia subjetiva de una conciencia real. Su crítica apunta a la forma en que muchos entusiastas interpretan la complejidad verbal como una señal de interioridad, sin reparar en la diferencia crucial entre generar lenguaje y tener experiencias. Es precisamente esta distinción -entre producción textual y subjetividad vivida- la que permite cuestionar la idea de que un sistema lingüístico pueda, por sí solo, llegar a alcanzar conciencia.

La cercanía entre humano y robot refleja nuestra tendencia a proyectar conciencia y comprensión en máquinas que solo simulan interacción.

La ilusión de conciencia y el denominado efecto ELIZA