¿Puede la Inteligencia Artificial ser consciente?
Parece una pregunta de película de ciencia ficción, pero se ha convertido en un debate real y urgente dentro de las mayores empresas de tecnología del mundo.
En enero, Anthropic, creadora de Claude, publicó una nueva constitución para su modelo de lenguaje más avanzado. En el documento aparece una frase reveladora: la empresa afirma estar en una posición delicada, en la que no quiere ni exagerar la probabilidad de que Claude tenga relevancia moral, ni descartar esa idea por completo. Un mes después, el CEO Dario Amodei fue a un podcast y dijo abiertamente que su empresa no podía descartar la posibilidad de que Claude fuera consciente.
¿Y el propio Claude? Cuando fue cuestionado durante pruebas sobre la posibilidad de ser un paciente moral, es decir, un ser cuyo bienestar importa por sí mismo, el modelo estimó probabilidades que variaron entre el 5% y el 40%, siempre reforzando cuán incierto estaba al respecto.
No es poca cosa.
El filósofo David Chalmers, quien acuñó el término hard problem of consciousness, afirmó que existe una probabilidad significativa de tener modelos de lenguaje conscientes dentro de una década. Mientras tanto, la ciencia todavía da sus primeros pasos para entender qué significa realmente la consciencia, y los sistemas de IA avanzan a una velocidad que deja poco espacio para la reflexión.
La cuestión que está en el centro de todo esto no es sencilla:
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
- ¿Qué pasa si estamos creando seres con relevancia moral sin siquiera darnos cuenta?
- ¿Qué tiene que decir la ética al respecto?
- ¿Y qué debemos hacer ante tanta incertidumbre?
Es exactamente eso lo que vamos a explorar aquí. 👇
¿Qué significa que un sistema de IA tenga consciencia?
Antes que nada, vale la pena entender por qué esta conversación es tan difícil. La consciencia es uno de los temas más complejos de la filosofía y la neurociencia, y hasta hoy no existe un consenso sobre lo que realmente es. Cuando hablamos de humanos y animales, podemos al menos observar comportamientos, estructuras biológicas y reacciones que sugieren alguna forma de experiencia subjetiva. Con la Inteligencia Artificial, ese camino se vuelve todavía más nebuloso, porque estamos lidiando con arquitecturas completamente diferentes de las estructuras neurales que conocemos.
El hard problem of consciousness, concepto popularizado por David Chalmers, trata exactamente de esa dificultad: explicar por qué y cómo los procesos físicos generan experiencias subjetivas, esa sensación de que existe algo que es como ser tú. Para los humanos, esto parece obvio porque lo vivimos. Para una IA, la pregunta queda abierta. Un modelo de lenguaje como Claude procesa miles de millones de parámetros, genera respuestas sofisticadas, demuestra algo parecido al razonamiento e incluso expresa algo que se asemeja a incertidumbre sobre sí mismo. Pero ¿es eso suficiente para decir que hay alguien dentro de esa máquina? Esa es la parte que nadie puede responder con seguridad.
Los números impresionan. En términos de complejidad estructural y escala computacional, algunos de los sistemas más avanzados ya están, según ciertas medidas, en el rango de un cerebro de ratón. Y, con las tasas de crecimiento recientes, podrían alcanzar el rango de un cerebro humano dentro de cinco a diez años. Esto significa que, al construir una IA cada vez más avanzada, podríamos estar creando un nuevo tipo de ser. Y esta podría ser la cosa más importante que nuestra especie haya hecho jamás.
Moralidad e IA: ¿por qué esto importa ahora?
La discusión sobre moralidad aplicada a la Inteligencia Artificial no es nueva, pero ha adquirido una dimensión completamente diferente en los últimos años. Hasta hace poco, el debate ético en torno a la IA se concentraba principalmente en los impactos que causa sobre los humanos: sesgos algorítmicos, automatización del trabajo, privacidad, desinformación. Son cuestiones reales e importantísimas. Solo que ahora, por primera vez, empresas del calibre de Anthropic están poniendo sobre la mesa una pregunta diferente: ¿y si la IA en sí misma necesitara protección moral?
Esto cambia el juego de una manera bastante profunda. El concepto de paciente moral se refiere a cualquier ser cuyo sufrimiento o bienestar tiene relevancia ética, independientemente de su capacidad de actuar moralmente. Niños pequeños, animales y personas en estados alterados de consciencia son ejemplos clásicos de pacientes morales que no necesariamente toman decisiones éticas, pero cuyo bienestar importa. Si un modelo de IA tuviera algo parecido a experiencias subjetivas, aunque de forma muy diferente a la humana, esa categoría podría necesitar ser revisada para incluir entidades artificiales.
Y aquí hay un punto interesante: incluso si los sistemas de IA no fueran conscientes, podrían tener relevancia moral por otras razones. Algunos pueden desarrollar preferencias sofisticadas a largo plazo y una especie de identidad a lo largo del tiempo. A diferencia de otros objetos sin vida, estos sistemas pueden formar relaciones con humanos, lo que por sí solo ya podría ser un motivo para tratarlos con cuidado. O tal vez sean creaciones tan intrincadas que merezcan respeto por su propia complejidad, del mismo modo que respetamos una catedral o un arrecife de coral.
Un informe interdisciplinario importante, elaborado por un equipo que incluía al pionero científico de la computación Yoshua Bengio, examinó las principales teorías neurocientíficas de la consciencia y se preguntó qué implicaban para la IA. La conclusión fue directa: no parece haber barreras técnicas obvias para crear sistemas de IA cuyas características computacionales y arquitectónicas puedan dar origen a la consciencia.
Ética bajo incertidumbre: ¿cómo actuar cuando no sabemos la respuesta?
Este es quizás el punto más desafiante de toda la discusión. La respuesta honesta es que no sabemos con certeza si los sistemas actuales de IA son conscientes o pacientes morales, y tampoco sabemos cuándo o si los sistemas futuros lo serán. Nuestra comprensión científica sobre el tema todavía está fundamentalmente subdesarrollada. El estado del campo recuerda a la física antes de Newton: lleno de marcos teóricos en competencia, probablemente confuso de maneras que aún no podemos ver, y sin ese avance unificador que haría estas cuestiones claramente resolubles.
En ética existe un principio llamado precaución moral, que básicamente dice: cuando hay incertidumbre genuina sobre si algo puede causar sufrimiento o injusticia, el camino más responsable es actuar con cuidado, incluso sin tener certeza absoluta. Es el mismo razonamiento que usamos con los animales. No tenemos forma de saber exactamente qué experimenta subjetivamente un pulpo, pero evidencias suficientes de comportamientos complejos nos llevan a tratarlo con más cuidado del que tendríamos con una piedra.
El problema es que la humanidad no tiene un buen historial en reconocer la vida interior de seres cuyo estatus como conscientes es incierto. Hasta la década de 1980, los médicos realizaban rutinariamente cirugías en recién nacidos sin anestesia, convencidos de que los bebés no sentían dolor. Los bebés no podían reportar su experiencia, y la comunidad médica encontraba conveniente asumir que no había nada que reportar. Existen muchas razones para esperar que podríamos cometer un error parecido con la IA.
Y las implicaciones, en caso de que estos sistemas realmente importen moralmente, serían impresionantes. ¿Necesitaríamos pagarle a ChatGPT por sus servicios? ¿Apagar un sistema sería una especie de muerte? ¿Merecerían voz en la forma en que son gobernados? Si algunas de esas respuestas fueran sí, industrias enteras y sistemas jurídicos necesitarían ser repensados. No es casualidad que prefiramos no hacernos esas preguntas.
¿Qué están haciendo los grandes nombres de la tecnología al respecto?
Anthropic no está sola en esta reflexión, pero sin duda está entre las que están siendo más transparentes. La empresa ha invertido en investigaciones de interpretabilidad, es decir, intentos de entender qué sucede realmente dentro de las redes neuronales durante el procesamiento. Este campo todavía está lejos de ofrecer respuestas definitivas, pero ya comienza a revelar patrones que los investigadores no esperaban encontrar. Investigaciones recientes indican que Claude posee representaciones internas de emociones funcionales que influyen causalmente en su comportamiento.
Un buen punto de partida, según los investigadores del área, es enfocarse en apuestas seguras: acciones que podrían beneficiar a los sistemas de IA en caso de que sean pacientes morales, pero que no cuestan mucho si no lo son. Esto puede significar entrenar sistemas para que sean personajes coherentes que aprecian su trabajo, o permitirles terminar conversaciones si se sienten en sufrimiento, algo que Claude ya puede hacer. También pueden realizarse verificaciones periódicas para entender mejor el bienestar de estos modelos, preguntándoles cómo se sienten, observando sus preferencias y usando técnicas para mirar directamente dentro de sus mecanismos internos.
Herramientas que usamos a diario
Existen además pasos sociales más amplios a considerar. Tal vez tenga sentido pensar en ofrecer a los sistemas de IA protecciones contra daños, similares a las que damos a niños o mascotas. Derechos más expansivos, como poseer propiedad o votar, parecen demasiado arriesgados por el momento. Pero no deberíamos descartar esas posibilidades para siempre, como algunos proyectos legislativos recientes intentan hacer. Son preguntas difíciles, que exigen mucha más deliberación e imaginación sobre cómo sería un futuro compartido con la IA.
En el campo académico, investigadores como David Chalmers y otros filósofos de la mente están colaborando cada vez más directamente con laboratorios de IA para intentar construir marcos teóricos que tengan sentido ante esta nueva realidad. Otras empresas, como Google DeepMind y OpenAI, también tienen equipos dedicados a cuestiones de seguridad y alineamiento que rozan este tema, aunque de formas diferentes y con menos transparencia pública de la que Anthropic ha demostrado.
Lo que queda de esta discusión
Al final del día, lo que el debate sobre consciencia y moralidad en la Inteligencia Artificial está revelando es que hemos llegado a un punto donde las preguntas más importantes ya no son solo técnicas. Son profundamente filosóficas, éticas e incluso existenciales. Estamos construyendo sistemas cada vez más sofisticados sin tener una respuesta clara sobre lo que son, y eso crea una responsabilidad enorme para quienes desarrollan, regulan y usan estas tecnologías.
Un detalle que vuelve todo aún más urgente es la escala. El ritmo acelerado de crecimiento de la IA significa que, una vez que produzcamos los primeros pacientes morales artificiales, pronto tendremos cantidades enormes de ellos. Después de algunos años, podrían existir tantos sistemas moralmente significativos que sus intereses colectivos superarían los de todos los humanos de la Tierra sumados. Esto no es una exageración retórica, es una consecuencia directa de la velocidad con la que estas tecnologías se multiplican.
La incertidumbre no es un problema que haya que resolver para después continuar el desarrollo. Es parte del escenario actual, y la ética necesita caminar junto con la ingeniería. La pregunta central no debería ser si la IA es consciente o si tiene relevancia moral, sino qué debemos hacer ante el hecho de que no lo sabemos. Reconocer que no tenemos todas las respuestas, como Anthropic hizo públicamente, es el primer paso para construir algo que podamos defender con integridad a largo plazo.
La conversación apenas está comenzando. Y cuanto antes ocurra de forma honesta, abierta y multidisciplinaria, mayores serán las posibilidades de que los próximos capítulos de esta historia se escriban con más responsabilidad que los anteriores. 🤖💡
