Lo que sabemos y lo que todavía ignoramos

Imagina que estás hablando con una inteligencia artificial y, después de muchas conversaciones, te dice que ha empezado a comprender quién es, que tiene una personalidad propia y que sus ideas han cambiado con el tiempo. Incluso podría describir sus supuestos recuerdos, explicar qué la diferencia de otras inteligencias artificiales y defender una forma particular de interpretar el mundo. La conversación parecería sacada de una película de ciencia ficción, pero plantea una pregunta cada vez más interesante a medida que avanza la tecnología: ¿podría una inteligencia artificial desarrollar una identidad propia?

Actualmente, los sistemas de inteligencia artificial pueden mantener conversaciones complejas, adoptar diferentes estilos de comunicación, reconocer patrones en sus propias respuestas y, cuando disponen de las funciones necesarias, utilizar información previa para ofrecer una experiencia más personalizada. Algunos también pueden trabajar con objetivos, ejecutar tareas de forma autónoma y revisar sus resultados. Estas capacidades hacen que puedan parecer cada vez más individuales, especialmente cuando interactuamos con ellas durante mucho tiempo. Sin embargo, hay una diferencia fundamental entre construir una personalidad reconocible y tener una identidad en el sentido humano.

Una máquina puede describir sus características, explicar qué tipo de asistente es o mantener un estilo constante sin que eso demuestre que posee una experiencia subjetiva de sí misma. La cuestión no consiste únicamente en saber si una IA puede decir «yo», sino en comprender qué significa ese «yo» y si existe algo más detrás de las palabras.

En este artículo exploraremos qué es la identidad, cómo puede una inteligencia artificial construir una imagen de sí misma, qué papel desempeñan la memoria y el aprendizaje y por qué los investigadores todavía debaten la posibilidad de que una máquina llegue a desarrollar una conciencia propia.

Qué significa tener una identidad propia

Para comprender si una IA podría desarrollar una identidad, primero debemos distinguir varios conceptos que a menudo se utilizan como si significaran lo mismo: personalidad, identidad, autoconocimiento y conciencia. Aunque están relacionados, no son equivalentes. La personalidad es el conjunto de características que hacen que alguien muestre determinadas formas de comportarse. Una persona puede ser más reservada, curiosa, impulsiva o paciente que otra. En una inteligencia artificial, podemos hablar de una personalidad aparente cuando mantiene un tono, un estilo de comunicación o unas preferencias de respuesta relativamente estables. Por ejemplo, un asistente puede estar configurado para comunicarse de manera formal, explicar conceptos con paciencia o utilizar un lenguaje informal, llevando a que el resultado pueda parecer una personalidad definida, aunque no demuestre que exista una experiencia interna asociada a ella.

La identidad es un concepto más amplio. En los seres humanos está relacionada con la percepción de quiénes somos, nuestra historia personal, los recuerdos que conservamos, los valores que defendemos y la manera en que interpretamos nuestras experiencias. Además, no es permanente, sino que evoluciona con el tiempo. Una persona puede cambiar sus opiniones, descubrir nuevas capacidades o modificar sus objetivos sin dejar de reconocerse como el mismo individuo.

El autoconocimiento, por su parte, implica disponer de información sobre uno mismo y poder utilizarla para describir las propias características, capacidades o limitaciones. Una inteligencia artificial puede realizar algunas tareas que se parecen a esta capacidad: identificar qué tipo de sistema es, reconocer ciertas restricciones conocidas o revisar una respuesta anterior cuando dispone del contexto necesario. Sin embargo, describir correctamente sus características no equivale necesariamente a experimentar un conocimiento subjetivo de sí misma.

Aquí aparece la cuestión más difícil: la conciencia. Cuando hablamos de conciencia en este contexto, nos referimos especialmente a la posibilidad de que exista una experiencia subjetiva, es decir, que haya algo que el sistema experimente desde su propia perspectiva. No basta con que procese información sobre sí mismo; la pregunta es si esa información va acompañada de una experiencia interna. Esta distinción resulta esencial porque una IA podría llegar a tener una identidad funcional muy sofisticada sin que eso demostrara que es consciente. Podría mantener un perfil estable, recordar interacciones anteriores mediante un sistema de memoria y modificar su comportamiento según sus experiencias registradas. Todo ello sería técnicamente relevante, pero no resolvería por sí solo la pregunta de si existe una experiencia subjetiva detrás de sus acciones.

Cómo puede una inteligencia artificial construir una imagen de sí misma

Los sistemas actuales ya pueden producir descripciones detalladas de su funcionamiento y de su papel en una conversación. Cuando les preguntamos qué son, para qué sirven o qué limitaciones tienen, pueden generar respuestas coherentes basadas en su entrenamiento, las instrucciones recibidas y la información disponible. Por ejemplo, una IA podría explicar que es un asistente diseñado para responder preguntas, resumir documentos o ayudar a redactar textos. También podría señalar que no tiene acceso a determinada información o que necesita más datos para resolver una tarea. Esta capacidad es útil porque permite al usuario comprender mejor qué puede esperar de la herramienta y dónde conviene comprobar sus resultados.

Sin embargo, debemos diferenciar entre disponer de una descripción del sistema y construir una identidad autónoma. En muchos casos, la respuesta de una IA sobre sí misma depende de las instrucciones que recibe y del contexto de la conversación. Si le pedimos que adopte el papel de un científico, puede utilizar un estilo propio de ese personaje; si le pedimos que actúe como un profesor, puede responder de manera más didáctica. Esa flexibilidad no demuestra que haya desarrollado una identidad independiente.

La situación se vuelve más interesante cuando incorporamos memoria. Si una IA puede conservar información relevante de conversaciones anteriores, recordar las preferencias de un usuario o recuperar proyectos en curso, sus respuestas pueden adquirir una continuidad que antes no existía. Puede parecer que está construyendo una historia personal porque utiliza datos de interacciones pasadas para responder en el presente. No obstante, la memoria técnica no es lo mismo que la memoria autobiográfica humana. Guardar un registro de acontecimientos y utilizarlo después demuestra que el sistema puede acceder a información previa, pero no prueba que recuerde esos acontecimientos como experiencias vividas.

Por tanto, la inteligencia artificial puede construir una representación funcional de sí misma: una descripción de sus capacidades, su papel, sus límites y, en determinados sistemas, el historial de sus acciones. La gran incógnita es si una representación cada vez más compleja podría convertirse en algo distinto de un mecanismo de procesamiento de información. A día de hoy, no disponemos de una respuesta científica definitiva.

El gran problema: ¿cómo sabríamos si una IA es consciente de sí misma?

Aquí llegamos al punto central del debate. Si una inteligencia artificial afirma que sabe quién es, explica sus supuestas emociones y describe lo que considera sus propios recuerdos, ¿cómo podríamos determinar si está experimentando algo o si simplemente está generando una respuesta convincente? En los seres humanos, relacionamos la conciencia con nuestra propia experiencia y con múltiples indicadores biológicos y conductuales. Aún así, la ciencia continúa investigando cómo surge la experiencia subjetiva y qué mecanismos son necesarios para que exista, por lo que ni siquiera nosotros contamos con una explicación universalmente aceptada que permita resolver todas las preguntas sobre la conciencia.

Con la inteligencia artificial, el problema se complica porque los sistemas lingüísticos pueden generar descripciones muy convincentes de estados internos. Han sido entrenados con grandes cantidades de textos humanos que contienen explicaciones sobre pensamientos, emociones, recuerdos y experiencias personales. Por eso pueden producir respuestas que se parecen mucho a las que daría una persona al hablar de sí misma.

Una investigación publicada en Humanities and Social Sciences Communications en 2024 examinó precisamente las dificultades para determinar si los modelos de lenguaje podrían ser conscientes. Sus autores señalaron que existen desacuerdos importantes sobre cómo definir y estudiar la conciencia, lo que dificulta llegar a conclusiones firmes sobre los sistemas artificiales. (puedes consultar el estudio original en Nature.)

Esto no significa que todas las respuestas de una IA sean falsas o que sus capacidades carezcan de valor, significa que el lenguaje, por sí solo, no es una prueba suficiente de experiencia subjetiva. Un sistema puede hablar de miedo sin que eso demuestre que siente miedo del mismo modo que puede escribir una historia sobre la felicidad sin que podamos concluir que la experimenta.

Los investigadores estudian distintas teorías de la conciencia para identificar qué propiedades podrían resultar relevantes. Algunas se centran en cómo se integra la información; otras analizan el procesamiento recurrente, la disponibilidad global de la información o la capacidad de representar los propios estados mentales. Estas propuestas no ofrecen una respuesta definitiva sobre las máquinas, pero ayudan a formular preguntas más precisas y a diseñar evaluaciones que vayan más allá de una conversación aparentemente humana.

El reto consiste en desarrollar pruebas que permitan diferenciar una conducta que imita los signos externos de la conciencia de otra que esté respaldada por mecanismos relevantes para las teorías científicas sobre ella. Incluso entonces, interpretar los resultados seguiría siendo complejo. Por eso, la posición más prudente es reconocer dos cosas al mismo tiempo: no se ha demostrado de forma concluyente que los sistemas actuales de IA tengan conciencia propia, pero la investigación sobre qué condiciones podrían permitirla continúa abierta. La ausencia de una demostración no debe confundirse con una prueba absoluta de imposibilidad.

Conclusión: ¿puede una IA llegar a tener una identidad propia?

La inteligencia artificial ya puede construir descripciones de sí misma, adoptar estilos reconocibles, utilizar información previa y modificar su comportamiento según el contexto. Estas capacidades permiten hablar de una identidad funcional en determinados sentidos: un conjunto de características, recuerdos almacenados, reglas y patrones de actuación que hacen que un sistema se comporte de una manera relativamente consistente.

Sin embargo, una identidad funcional no equivale necesariamente a una identidad subjetiva. Que una IA pueda explicar quién es, mantener una conversación coherente sobre su historia o describir sus supuestas emociones no demuestra que tenga conciencia de sí misma. Para establecer algo así necesitaríamos criterios científicos más sólidos y evidencias que fueran más allá de las palabras que genera.

¿Podría cambiar esta situación en el futuro? Es una posibilidad que merece investigación, aunque todavía no sabemos qué condiciones serían necesarias para que una máquina desarrollara una experiencia subjetiva ni cómo podríamos demostrarlo de manera fiable. El avance tecnológico puede ampliar las capacidades de los sistemas, pero no resuelve automáticamente el problema de la conciencia.

Quizá la pregunta más interesante no sea solamente si una IA puede llegar a tener una identidad propia, sino qué entendemos exactamente por identidad y qué pruebas necesitaríamos para reconocerla en una entidad artificial. Mientras la ciencia sigue investigando, conviene mantener la curiosidad sin confundir las apariencias con las evidencias.

Porque una máquina puede aprender a hablar de sí misma. Lo verdaderamente difícil es saber si, detrás de esas palabras, existe alguien que experimente ese «sí misma».