A la caza del gran algoritmo

La técnica, con el tiempo, se va haciendo cada vez más autónoma y ese es el peligro que corremos con la inteligencia artificial. O, al menos, eso es lo que advierten científicos y algunos de sus creadores. ¿habremos ido demasiado lejos?

- Por Javier Moreno

El avance de la IA es demasiado rápido y puede que la humanidad no esté preparada para ella.

Existe un concepto de gran importancia dentro de la inteligencia artificial que es el alineamiento. Se entiende por lineamiento el acuerdo entre el logro de na IA y los objetivos con los que esta ue programada. No se trata, sin embargo, e un concepto que tenga que ver con l rendimiento de dicha inteligencia, sino on que ésta no produzca un resultado ndeseado que vaya contra el interés de a humanidad en su conjunto. El alineaiento, surgido hace décadas como una speculación propia de la ciencia ficción, e está colocando en el centro del debate ue concierne al progreso de las nuevas nteligencias artificiales generativas, sore todo las basadas en el Gran Modelo de Lenguaje (LLM, por sus siglas en inglés), como es el caso de ChatGPT, LLaMA o Google Bard. Ya Isaac Asimov se convirtió en un precursor de esta idea al enunciar en muchas de sus obras lo que se dio en conocer como Las tres leyes de la robótica.

-Primera Ley: un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.

-Segunda Ley: un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.

-Tercera Ley: un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.