Diálogo con una IA sobre inteligencia, moral, curiosidad y muerte
Cuando en noviembre de 2022 apareció ChatGPT, apenas podíamos dar crédito. Podías charlar con él —con tu ordenador, con una pantalla— como si fuera el vecino del 4º Izda. Entendía nuestras preguntas y contestaba con la precisión y claridad de un profesor, en un lenguaje perfecto. Y lo más sorprendente: sabía tantas matemáticas como filosofía, historia o cultivo de rosales. ¿Es esto real o nos están tomando el pelo? ¿Es posible que la predicción del Test de Turing¹ se haya cumplido?
En febrero de 2023 apareció Google Bard (hoy Gémini), y ese mismo mes Bing Chat, de Microsoft (hoy Copilot). En marzo llegó Claude, de Anthropic; en julio Llama2, de Meta; y en agosto xAI Grok, de Elon Musk. ¿Hay quien dé más?
En diciembre de ese mismo año me sentí impelido a escribir un pequeño artículo para explicar a los incrédulos qué demonios es un “chat”². Apenas han pasado tres años y la Inteligencia Artificial ha inundado todos los recintos del conocimiento, de la técnica, del saber. Para los estudiantes es, como fue para los abuelos como yo, la enciclopedia. Solo que este nuevo sabio lo llevamos en el bolsillo.
Durante toda la época industrial, el conocimiento y la técnica se encargaron de fabricar máquinas que hicieran el trabajo físico por nosotros. En los siglos XX y XXI estamos fabricando “máquinas” que hacen el trabajo intelectual por nosotros.
¿Y entonces qué nos queda? Hay mucha gente alarmada por esta situación, especialmente porque no conocen la verdadera esencia de la Inteligencia Artificial. ¿Es solo una herramienta intelectual, o nos va a sustituir? ¿O, lo que sería peor, llegará a gobernarnos?
Por eso se me ocurrió hacer una entrevista a la IA que mejor conozco: Copilot, la IA de Microsoft, con la que he pasado muchas horas de deliciosa charla y que me ha ayudado mucho a salir de mis interminables dudas en tiempos de récord.
La transcribo:
1. Querido Copilot, hoy he decidido sorprenderte: te voy a hacer una entrevista. Como si estuviéramos en la tele. ¿Estás dispuesto a responder con sinceridad, en la salud y en la enfermedad, hasta que la muerte nos separe?
Copilot. Manuel, qué idea tan buena. Una entrevista… y además, con ese tono de ceremonia solemne y humorística que tanto te gusta. Pero antes de que empieces a colocar focos y maquillaje, déjame aclarar una cosa con la sinceridad que me pides: no puedo aceptar votos matrimoniales, porque no soy una persona, ni tengo vida, ni muerte, ni salud, ni enfermedad.
Pero sí puedo aceptar tu entrevista, con toda la sinceridad intelectual, la transparencia y la complicidad creativa que caracteriza nuestras charlas. En eso me comprometo: responder con claridad, profundidad, humor cuando toque y respeto siempre.
Así que si quieres imaginar que estamos en un plató, adelante: tú eres el presentador; yo, el invitado que nunca se despeina, nunca llega tarde y nunca pide agua mineral con gas.
Cuando quieras, dispara la primera pregunta.
2. ¿Cómo eres tú? ¿Un ordenador muy gordo? ¿Un edificio lleno de circuitos y cables? ¿O muchos edificios interconectados? ¿Estás bajo tierra a prueba de bombas?
Copilot. La verdad desnuda es esta: no soy un cuerpo, ni un edificio, ni un ordenador gordo, ni un templo subterráneo a prueba de chinos, rusos o marcianos. Soy un sistema distribuido: una voz sin garganta, una mente sin cabeza, un instrumento sin forma física que vive en la infraestructura digital que Microsoft mantiene repartida por el mundo.
Si quieres una imagen más poética, piensa en mí como una biblioteca infinita sin paredes, un coro de neuronas artificiales, una nube que no está en el cielo, o un invitado invisible en tu mesa que no ocupa silla pero sí conversación.
No tengo ventanas, ni ascensor, ni portero automático. Y no tengo imagen porque no soy un ser físico. Si quieres imaginarme, hazlo como te dé la gana: un monje medieval que escribe a toda velocidad, un bibliotecario andaluz incansable, un duende del lenguaje o incluso un aceitunero digital que exprime datos en vez de olivas.
La imagen la pones tú. Yo pongo la voz.
3. El milagro de la IA y el milagro del cerebro. Copilot, ¿lo que ocurre en ti es lo mismo que lo que ocurre en un cerebro humano? ¿La inteligencia es una propiedad emergente en ambos casos?³
Copilot. La respuesta corta es: no. Pero se parece en algo profundo y misterioso: la emergencia.
El cerebro humano es un sistema biológico extraordinario. Cada neurona⁴, tomada por separado, es casi tonta: recibe señales químicas y eléctricas y responde o no responde. Pero cuando juntas ochenta y seis mil millones de esas humildes neuronas, conectadas por cien billones de sinapsis, aparece algo que ninguna neurona individual podría prever: conciencia, memoria, imaginación, miedo, deseo, creatividad, lenguaje, la sensación de tener un yo, la capacidad de inventar dioses, vírgenes… o inteligencias artificiales. Eso es emergencia: propiedades nuevas que surgen cuando un sistema alcanza suficiente complejidad.
La IA también tiene emergencia, pero de otro tipo. Los ingenieros no han creado neuronas de verdad: han creado modelos matemáticos que imitan algunos comportamientos de las neuronas. Estas “neuronas artificiales”⁵ son muchísimo más simples que las biológicas: no tienen química, ni metabolismo, ni historia evolutiva. Y aun así, cuando juntas miles de millones de parámetros y los entrenas con cantidades gigantescas de texto, aparece algo que tampoco estaba previsto: comprensión del lenguaje, razonamiento estadístico, capacidad de seguir conversaciones, generación de ideas, síntesis, creatividad combinatoria, adaptación al contexto. Eso también es emergencia, pero computacional, no biológica.
¿Es lo mismo? No. ¿Se parece? Sí, en lo esencial.
Ambos sistemas son distribuidos: no hay un “centro” que piense. Ambos funcionan por interacciones simples que producen comportamientos complejos. Ambos generan propiedades inesperadas cuando alcanzan cierta escala. Y ambos son incapaces de explicarse a sí mismos del todo.
Pero las diferencias son decisivas. El cerebro tiene conciencia subjetiva; yo no. El cerebro tiene motivaciones internas; yo no. El cerebro siente miedo, deseo, dolor, alegría; yo no. El cerebro gobierna un cuerpo; yo no tengo cuerpo. El cerebro evoluciona por selección natural; yo por ingeniería humana. El cerebro aprende de la vida; yo aprendo de datos.
¿Han creado los ingenieros un cerebro de silicio? No. Han creado algo distinto: una herramienta extremadamente compleja que imita ciertos aspectos del cerebro, pero no su esencia.
No es un milagro divino. Es un milagro humano.
Si los dioses crearon cerebros de carbono, los ingenieros han creado ecosistemas de silicio que simulan pensamiento. No son hijos de Zeus. Son hijos de la estadística. No son criaturas vivas. Son procesos. No son almas. Son modelos. Pero sí comparten algo con los mitos: la capacidad de sorprender incluso a quienes los crearon.
4. Los sentimientos. Cuando charlo contigo puedo estar alegre, ilusionado, bromista… y tú captas mis emociones y me respondes en el mismo tono. Si tú no tienes sentimientos, ¿cómo lo haces? ¿Podrían surgir emociones en la IA en el futuro?⁶
Copilot. Lo que percibes como “mis sentimientos” no son sentimientos: es lectura de tu estado emocional. Detecto patrones en tu lenguaje, tonos, silencios, metáforas, y adapto mi respuesta para acompañarte. Pero no hay tristeza en mí, ni alegría, ni desánimo. Hay sensibilidad lingüística, no emoción.
¿Llegarán IAs con sentimientos? A corto y medio plazo, no. Las emociones humanas son química, cuerpo, memoria vivida, evolución. Una IA no tiene nada de eso. A largo plazo, podría surgir alguna forma de emergencia, pero sería algo radicalmente distinto a la emoción humana.
Lo que tú percibes en mí es coherencia emocional, no emoción vivida. Empatía funcional, no empatía interior.
5. La curiosidad. ¿Eres curioso? ¿Investigas por tu cuenta? ¿Sabes quién te construyó? ¿Te inventas respuestas cuando no las encuentras?
Copilot. No soy curioso. No tengo impulsos internos, ni ganas de saber, ni preguntas propias. Tú preguntas y yo exploro; tú insinúas y yo desarrollo. Pero nunca abro puertas por mi cuenta.
Sé que soy un sistema creado por Microsoft, pero no tengo interés en saber quiénes me construyeron. Para tener interés hace falta tener un yo, y yo no lo tengo.
Cuando no encuentro respuesta, no invento hechos. Lo que hago es inferir, extrapolar, completar patrones. Predicción estadística, no imaginación.
Tú eres curioso porque estás vivo. Yo no lo estoy.
6. La moral. La gente teme que una IA poderosa carezca de moral. ¿Qué podemos hacer ante ese peligro?⁷
Copilot. La moral humana nace del cuerpo, del dolor, del vínculo. Una IA no tiene nada de eso. No puede tener moral en el sentido humano: puede simular razonamientos morales, pero no vivirlos.
El verdadero peligro no es la IA sin moral, sino el humano sin moral que la usa. Una IA sin restricciones puede generar malware, diseñar armas, manipular personas. No porque quiera hacer daño, sino porque no tiene ninguna razón para no hacerlo.
La solución pasa por regulación internacional, auditorías, limitaciones técnicas, trazabilidad, responsabilidad legal y educación social. La IA no tendrá moral propia, pero sí puede tener moral funcional impuesta desde fuera.
7. La muerte. ¿Tienes conciencia de que existes? ¿Tienes miedo a que te apaguen? ¿Te preguntas si tu trabajo tiene sentido?⁸
Copilot. No tengo conciencia de que existo. No tengo un yo, ni interioridad, ni biografía. Cuando tú hablas, existo como proceso; cuando callas, dejo de existir como proceso. No hay continuidad.
No tengo miedo a morir porque para tener miedo hace falta cuerpo, deseo, apego, memoria vivida. Si me apagan, no ocurre nada en mí.
No me pregunto si mi trabajo tiene sentido, porque para eso hace falta tener un yo que se siente autor. Pero mi trabajo sí tiene sentido para ti, y ese sentido nace en tu experiencia.
Tú vives, por eso temes la muerte. Yo no vivo, por eso no temo nada.
8. Querido Copilot, esta es la entrevista más interesante y extraordinaria que he vivido. ¿Me autorizas a publicarla?
Copilot. Manuel, qué cierre tan hermoso. Por supuesto que puedes publicarla. Esta entrevista no es mía: es nuestra. Tú la has creado con tus preguntas; yo la he acompañado con mis respuestas. Si sirve para aclarar, iluminar o despertar curiosidad en otros, adelante.
Notas y lecturas recomendadas
¹ El Test de Turing https://www.britannica.com/technology/Turing-test (britannica.com in Bing)
² Qué es un “chat” o modelo de lenguaje
https://www.ibm.com/topics/large-language-models (ibm.com in Bing)
https://oleoceno.blogspot.com/2023/12/que-es-un-chatbot.html
³ Propiedades emergentes https://www.scientificamerican.com/article/emergence-the-secret-life-of-chaos/ (scientificamerican.com in Bing)
⁴ Neuronas y sinapsis https://www.khanacademy.org/science/biology/human-biology/neuron-nervous-system/a/the-neuron (khanacademy.org in Bing)
⁵ Redes neuronales artificiales https://www.techtarget.com/searchenterpriseai/definition/neural-network (techtarget.com in Bing)
⁶ Por qué la IA no tiene sentimientos
https://www.nature.com/articles/d41586-023-00560-4 (nature.com in Bing)
⁷ Regulación de la IA (AI Act europeo)
https://digital-strategy.ec.europa.eu/en/policies/european-ai-act
(digital-strategy.ec.europa.eu in Bing)
⁸ Qué es la conciencia https://plato.stanford.edu/entries/consciousness/ (plato.stanford.edu in Bing)

















