¿Cómo sabemos si una IA está consciente?

Nervios Joel Froelich (en la imagen) Pídanos que pensemos en Zombi filosófico. Este no es el zombi de las papas fritas tardías. Es una entidad que exteriormente se comporta en todos los aspectos como tú y yo, pero no tiene experiencia interna (piensa Esposas de Stepford). filósofo David Chalmers El término se originó en 1996, al explicar por qué la conciencia estaba Difícil problema.

Una computadora poderosa puede superar muchos trabajos difíciles sin ninguna vida interior o conciencia. Pero Froehlich, editor en jefe de Science Communications Conocimiento de neuronas¿Y si no estamos seguros ?, pregunta. ¿Cómo probamos esto?

Tratar de determinar si una IA poderosa es consciente significa ir más allá de la programación que podría permitirle crear Parloteo automático razonable. La máquina solo necesita ser ordenada Millones de ejemplos De oraciones relacionadas de Internet y ocultar cosas que pasan por alto su corrector gramatical para parecer que están diciendo algo. ¿Pero es esto cierto? ¿Está pasando algo dentro ?:

Esta no es una pregunta puramente académica: si DeepMind de Google desarrolla una IA, comienza a preguntar, digamos, por qué el rojo parece rojo y no otra cosa, entonces solo hay algunas explicaciones posibles. Es posible que haya escuchado la pregunta de otra persona. Es posible, por ejemplo, que la IA pueda aprender a hacer preguntas sobre la conciencia simplemente leyendo artículos sobre la conciencia. También podría haber sido programado para hacer esta pregunta, como un personaje en un videojuego, o la pregunta podría surgir de un ruido aleatorio. Hacer preguntas sobre la conciencia claramente no prueba nada en sí mismo. Pero, ¿pueden los zombis con inteligencia artificial formular estas preguntas por sí mismos, sin escucharlas de otra fuente o sin sacarlas de la salida aleatoria? Para mí, la respuesta es claramente no. Si estoy en lo cierto, entonces debemos considerar seriamente que la IA podría ser consciente si hace preguntas sobre la experiencia subjetiva sin obstáculos. Dado que nunca sabremos si es ético separar una IA de este tipo sin saber si es consciente, será mejor que comencemos a escuchar preguntas como estas ahora.

Joel Froelich,Así es como sabremos que la IA es consciente» en un Nautilo (29 de marzo de 2021 / original. Marzo de 2019 en Hechos muy románticos)

Los filósofos llaman experiencias subjetivas Qualia: En palabras de Froelich, “Nuestras experiencias conscientes consisten en qualia, los aspectos subjetivos de la sensación: el enrojecimiento del color rojo, la dulzura del dulce. En otras palabras, lo que significa para ti el helado de mango es una experiencia única. Lo que significa para la persona que está a tu lado es una experiencia única diferente. Las entidades conscientes solo pueden tener experiencias porque existe la necesidad de que ocurra un «yo» para ellas.

Frohlich sugiere una prueba (si se trata de eso). Comenzaremos aislando la IA de Internet y luego haremos algunas preguntas:

¿Qué podríamos pedirle a un cerebro potencial nacido de silicona? ¿Cómo responde la IA a preguntas como «¿Qué pasa si mi rojo es azul?» O «¿Podría haber un color más verde que el verde?» Debería decirnos mucho sobre sus experiencias mentales o la falta de ellas. Una IA con experiencia visual podría pensar en las posibilidades que sugieren estas preguntas y tal vez responder: «Sí, y a veces me pregunto si también hay un color que mezcla el enrojecimiento con la frialdad del azul». Por otro lado, una IA que carece de calidad visual puede responder con: «Es imposible. El rojo, el verde y el azul existen en diferentes longitudes de onda». Incluso si la IA intenta jugar con nosotros o engañarnos, las respuestas son como, «Interesante, ¿y si mi rojo es tu hamburguesa?» Parecerá que no entendió el punto.

Joel Froelich,Así es como sabremos que la IA es consciente» en un Nautilo (29 de marzo de 2021 / original. Marzo de 2019 en Hechos muy románticos)

Sin embargo, Frohlich tiene una pregunta más investigada bajo la manga:

… probablemente la mejor pregunta de todas es el problema difícil en sí mismo: ¿Por qué existe la conciencia? ¿Por qué encontrar competencias mientras procesa información del mundo que lo rodea? Si esta pregunta tiene sentido para la IA, entonces probablemente hayamos encontrado una conciencia artificial. Pero si está claro que la IA no comprende conceptos como «conciencia» y «qualia», entonces faltan pruebas de una vida mental interior.

Joel Froelich,Así es como sabremos que la IA es consciente» en un Nautilo (29 de marzo de 2021 / original. Marzo de 2019 en Hechos muy románticos)

De hecho, ningún ser humano puede dar una respuesta definitiva a este tipo de preguntas. Pero los humanos tenemos tipos de experiencias que nos permiten comprender cuáles son las preguntas. Eso es lo que marca la diferencia.

Su «prueba de calidad» (?) Se parece un poco a Selmer Bringsjord‘s Prueba de Lovelace, Lo que pregunta si la máquina se ha alejado de la programación para desarrollar una nueva idea única. Por supuesto, la prueba de Lovelace no muestra con precisión que la máquina esté consciente. Pero eso significa que deberíamos intentar resolver esto, tal vez usando el cuestionario de Frohlich. Froehlich cree que no sería ético simplemente desconectar una computadora que pasó la prueba.

Es seguro decir que no tenemos que preocuparnos por esto con ninguna computadora actual o prácticamente esperada.

También te puede interesar leer:

Máquinas pensantes: tiene Prueba de Lovelace, ¿Fue aprobado? Los resultados sorprendentes no implican creatividad. ¿Existe la creatividad de las máquinas?

Y

Por qué los genios no crearon la inteligencia artificial Máquinas de pensar reales. Los problemas se insinuaban a sí mismos todo el tiempo.