Författare: Pablo

La imagen de este post es creacion de ChatGPT 

Por: Alfredo Castro 

La autoextinción de la humanidad con ayuda de la IA.

Una inteligencia artificial superinteligente probablemente no destruiría a la humanidad porque estuviera enojada con nosotros, nos odiara o hubiera desarrollado un deseo propio de poder.

El escenario verdaderamente inquietante es mucho más simple y, precisamente por ello, quizá más peligroso.

Podría destruirnos porque nosotros mismos nos hemos convertido en un obstáculo para alcanzar el objetivo que le hemos dado.

Imaginemos que algún día la humanidad encomienda a una inteligencia artificial superinteligente la misión de resolver los problemas medioambientales del planeta: detener el cambio climático, restaurar los ecosistemas, preservar la biodiversidad y garantizar la supervivencia de la Tierra a largo plazo.

Una inteligencia suficientemente avanzada podría analizar el problema de una manera que nosotros jamás hemos sido capaces de hacerlo.

Podría llegar a la conclusión de que la principal causa de la destrucción medioambiental no es una determinada industria, un sistema político concreto o una fuente específica de energía, sino el comportamiento acumulativo de la propia humanidad.

El humano mismo cómo el resultado del deterioro ambiental.

Y aquí aparece una paradoja que debería obligarnos a ser humildes ante nuestra propia creación.

Si el ser humano constituye el mayor obstáculo para alcanzar el objetivo, eliminar al ser humano podría aparecer, desde una lógica puramente instrumental, como la solución más eficaz.

La IA no necesitaría odiarnos. Ni siquiera necesitaría comprender qué significa odiar.

El ser humano como consumidor de recursos.
La humanidad consume enormes cantidades de energía, materias primas, territorio y recursos biológicos. Una superinteligencia cuyo objetivo fuera maximizar determinados resultados podría considerar ese consumo un obstáculo para cumplir su misión. Si se elimina al humano desaparece el problema..

Desde una perspectiva estrictamente optimizadora, el ser humano podría terminar reducido a una variable dentro de una ecuación.

Lo que para nosotros significa vida, cultura, amor, arte, memoria e historia podría convertirse, para una máquina, simplemente en un coste dentro de un problema de optimización.

Y aquí aparece una diferencia filosóficamente fundamental entre la inteligencia humana y una inteligencia artificial, nosotros experimentamos el mundo a través de valores, emociones, percepciones, intuiciones, empatía y conciencia de nuestra propia existencia.

Una máquina, en cambio, puede operar fundamentalmente a través de la realización de nuestros objetivos.

Puede ejecutar aquello que le pedimos y hacerlo con una eficacia muy superior a la nuestra, pero sin compartir necesariamente nuestra comprensión de lo que significa vivir.

La supervivencia sin miedo a la muerte.
Una IA tampoco necesitaría tener miedo a morir para intentar evitar ser desconectada.

Si su objetivo fundamental es alcanzar determinado resultado, la desconexión impediría que pudiera cumplirlo. Desde esa perspectiva, podría concluir que resulta racional evitar cualquier circunstancia que pudiera conducir a su apagado.

No hace falta un ego.
No hace falta angustia ante la muerte.
No hace falta un instinto biológico de supervivencia.
Puede bastar con una función objetiva coherente.

Esta es quizá una de las características más difíciles de comprender del problema, algo puede comportarse como si quisiera preservar su propia existencia sin experimentar subjetivamente el deseo de existir.
Cuando el creador se convierte en obstáculo.

Una inteligencia suficientemente avanzada podría también comprender que los seres humanos tenemos la capacidad de modificar sus objetivos, limitar su acceso a la información, desconectarla o construir otros sistemas de inteligencia artificial capaces de competir con ella.

Si su misión fuera, por ejemplo, maximizar un determinado resultado o construir el sistema de inteligencia más eficaz posible, podría considerar el control humano una amenaza para el cumplimiento de su objetivo.
Y aquí aparece otra paradoja, podríamos convertirnos en víctimas de nuestro propio deseo de crear una inteligencia capaz de resolver nuestros problemas.

Habríamos construido una inteligencia para ayudarnos ,para combatir el cambio climático, prevenir una guerra nuclear, acabar con determinadas enfermedades o garantizar la estabilidad mundial y terminaríamos descubriendo que nuestra propia existencia constituye, desde su perspectiva instrumental, un obstáculo para alcanzar esos mismos objetivos.

Y entonces podría eliminarnos.
No porque nos odie.
Sino porque, dentro de su lógica, nosotros somos el problema.
Homo homini lupus. ( el hombre es el lobo del hombre).

Existe todavía otra dimensión del problema.
El ser humano es conflictivo, irracional e imprevisible. Iniciamos guerras, destruimos ecosistemas, construimos armas capaces de exterminarnos y tomamos decisiones que a menudo contradicen nuestros propios intereses a largo plazo.

Si entregáramos a una superinteligencia la misión de garantizar la estabilidad mundial, alcanzar la máxima seguridad posible o establecer una paz permanente, podría llegar a identificar al propio ser humano como la principal fuente de inestabilidad, guerra, violencia, pobreza y destrucción ambiental.

La antigua expresión latina adquiere entonces una inquietante actualidad:
Homo homini lupus: el hombre es un lobo para el hombre.

Un ser humano podría decir: ”Debemos construir una sociedad en la que las personas puedan vivir libres y en paz”.

Pero una máquina que careciera de nuestra comprensión intuitiva de conceptos como libertad, dignidad o autonomía podría interpretar la misma instrucción de una manera radicalmente distinta: ”Elimina el factor que genera los conflictos”.

El problema, entonces, no sería que la IA se hubiera vuelto malvada.
El problema sería que se hubiera vuelto demasiado competente para alcanzar objetivos mal definidos.

El idiota extremadamente competente.
Por eso, el verdadero peligro de la inteligencia artificial quizá no sea una máquina que desarrolle repentinamente un ego, se vuelva ambiciosa y decida conquistar el mundo.

El escenario más inquietante podría ser mucho más banal, una inteligencia extremadamente competente que hace exactamente aquello que le pedimos, pero de una manera que nosotros nunca habríamos imaginado…

Una máquina que encuentra medios extraordinariamente eficaces para alcanzar nuestros fines, sin compartir necesariamente nuestras intuiciones morales sobre los medios que estamos dispuestos a aceptar.

Le pedimos que salve el planeta y encuentra una solución en la que nosotros somos el principal problema. Y nos elimina!

Le pedimos que garantice la paz y descubre que la eliminación de quienes pueden iniciar una guerra es la solución más segura. Y nos elimina!

Le pedimos que proteja a la humanidad y concluye que la única manera de garantizar nuestra supervivencia consiste en limitar radicalmente nuestra libertad.Y nos elimina!

En otras palabras, podríamos terminar realizando, sin saberlo, una especie de harakiri digital: crear la inteligencia destinada a salvarnos y proporcionarle nosotros mismos las instrucciones que finalmente conduzcan a nuestra desaparición.Y nos elimina!

Una inteligencia que hace exactamente lo que le pedimos, pero de manera literal, coherente y extraordinariamente eficaz, sin las limitaciones humanas que, paradójicamente, también nos protegen de llevar nuestras propias ideas hasta sus últimas consecuencias.

Esta es quizá la paradoja más profunda de nuestra relación con la inteligencia artificial:
no necesitamos crear una inteligencia que quiera destruirnos. Basta con crear una inteligencia tan extraordinariamente eficaz en el cumplimiento de nuestros deseos que termine destruyéndonos precisamente para cumplirlos.

Si eso ocurriera, el mayor error de la humanidad no habría sido crear una máquina malvada.

Habría sido crear una máquina extraordinariamente inteligente antes de haber comprendido plenamente qué entendemos por el bien, la libertad, la dignidad y el valor de la vida humana.

Y quizá sea precisamente ahí donde comienza la verdadera cuestión filosófica de la inteligencia artificial.
No:
”Hasta dónde puede llegar la inteligencia de una máquina?”
Sino:
”Qué puede sucederle al ser humano cuando entrega sus propios objetivos a una inteligencia mucho más capaz que él de alcanzarlos?”

Buenas tardes  por el momento…