¿Podemos pensar en fuerzas no racionales en la Inteligencia Artificial? ¿Puede haber un "inconsciente artificial"? ¿Cómo actuar éticamente sin emociones, pasiones o impulsos?
Por Daniel Scarfo, en diario Clarín
En 2021, la UNESCO elaboró la primera norma mundial sobre la ética de la inteligencia artificial. ¿Pero cómo podemos asegurar que ésta refleje no lo que podemos hacer sino lo que debemos hacer? Si nosotros no hacemos lo que debemos sino lo que podemos, difícilmente lo haga la IA.
HACÉ CLICK AQUÍ PARA UNIRTE AL CANAL DE WHATSAPP DE DIARIO PANORAMA Y ESTAR SIEMPRE INFORMADO
Una IA que éticamente se precie debería reconocer ante todo una inquietud e incerteza sobre su conocimiento, y especialmente sobre su conocimiento en esta área: debería incluir el reconocimiento de que podría estar equivocada.
Sino no hay ética posible en la IA. Así la IA debería actuar con un tipo de modestia sobre los propios juicios: actuar mientras se reconoce la propia falibilidad moral es una condición necesaria para desarrollar una inteligencia en este sentido.
¿Podemos pensar en fuerzas no racionales en la IA? ¿Puede haber un inconsciente artificial? ¿Cómo actuar éticamente sin emociones, pasiones o impulsos?
Para que la IA actúe éticamente debería poder reflexionar sobre su propia acción en el mundo y necesitaría un ambiente en el cual sea alentada a actuar virtuosamente. Y ese no es el nuestro. Le pedimos a la IA lo que nosotros no tenemos.
¿Podemos pensar una IA con deseos naturalmente sociables y empáticos? ¿La compasión es una cualidad que puede relacionarse con la IA?¿Podría la IA admitir el sinsentido de su propia existencia y la responsabilidad por sus propias acciones?
Si necesitamos una relación de una mayor humildad con otras formas de vida, no necesitamos una IA como una “cosa pensante” superior. Si la IA pasa a ser la cosa pensante, entonces todo existirá para su uso y abuso como lo está hasta hoy la naturaleza para los seres humanos.
En esta concepción el mundo existirá para la IA que tendrá el poder de explotarlo. Perdiendo el respeto por todos los demás seres del mundo, correremos el riesgo de que la IA pierda el respeto por la humanidad.
Por ello es importante que cualquier manera de ver el mundo no esté centrada exclusivamente en la IA. Necesitamos una humanidad y una IA que comprenda que todos los seres del mundo están interconectados, y que la humanidad y virtualmente la IA o los cyborgs podrían corresponder sólo a algunos de esos seres.
¿Cómo lo logramos? ¿Cómo será la IA capaz de ese lenguaje que necesitamos, capaz de cuidar la vida y llevar adelante una vida poética, ser parte de la vida? El ser humano corre el riesgo de encontrarse consumido y debilitado por la IA y, por ello, es digno de atención. O seremos con respecto a la IA como el resto de los seres vivos respecto de nosotros. Vivimos la experiencia de una crisis existencial como especie.
No sin razón ciertos pensadores señalan que sería deseable fundar, gracias a la IA, una cultura nueva enriquecida por la experiencia de siglos y que sea síntesis de civilizaciones diferentes.
¿Pero quién nos conducirá allí? ¿Quiénes son los que están inventando lo que se puede hacer? ¿Quién podrá controlar las consecuencias de los pensamientos de la IA, sus actos e intercambios?
No habrá IA ética sin una conciencia moral que no se emocione, no se entusiasme o no se indigne. Y el desarrollo del juicio moral demanda una capacidad de atención al trabajo del lenguaje. En un mundo de imágenes que mutila sus lenguajes, ¿cuál es entonces la IA que de allí emergerá?
No estaría mal pensar en una IA capaz de crear conflictos cognitivos, romper esquemas conceptuales y sembrar inquietudes, dudas epistemológicas, curiosidad intelectual y densidad emocional, así como, paradójicamente, que nos ayude a renovar la confianza en lo humano. ¿Será que podremos construir una «casa en común» con la riqueza y diversidad de las culturas humanas, con la IA y con otras especies?