La palabra "simulación" no significa automáticamente "falsedad". Una simulación puede representar un fenómeno sin realizarlo físicamente —como una simulación de incendio—, pero también existen implementaciones artificiales capaces de realizar efectivamente una función que, en otro sistema, aparece mediante una arquitectura diferente.
La cuestión decisiva en la consciencia es determinar si la experiencia subjetiva pertenece al primer tipo o al segundo.
Es cierto que la simulación de, por ejemplo, un incendio, no quema: la simulación es algo que se parece a la realidad, pero no cumple la función física; el fuego en la pantalla no calienta, no es real. Pero la "simulación" de un cálculo matemático, de una interpretación de símbolos o de determinados procesos cognitivos es totalmente real cuando se produce una realización efectiva y se cumple la función correspondiente.
Una computadora que ejecuta un cálculo matemático no está simplemente representando un cálculo: está realizando físicamente una operación que, en otro contexto, puede efectuarse mediante lápiz y papel. Del mismo modo, un corazón artificial no es una simulación del bombeo sanguíneo si efectivamente impulsa la sangre; realiza la función de bombeo mediante una organización física diferente. Y si un barco de madera cruza el océano y otro de metal lo hace utilizando motores eléctricos, ¿dirías que el barco de metal solo está "simulando" que cruza el mar? No. Ninguno está "simulando" atravesar el mar: ambos realizan físicamente la navegación, ambos están llegando al mismo destino. La navegación no es una propiedad química exclusiva de la madera. Es una capacidad que emerge de una determinada organización física capaz de producir ciertos efectos.
Esto no demuestra que la consciencia funcione de la misma manera. Pero sí obliga a formular una pregunta más precisa: cuando una función cognitiva aparece en un sistema artificial, ¿estamos ante una simple representación superficial de esa función o ante una realización física efectiva de ella?
Si una IA puede navegar la complejidad del lenguaje, de la empatía y de la lógica con una eficacia comparable a la humana, como están demostrando los sistemas más avanzados, entonces ¿bajo qué "criterio científico" se puede afirmar que su experiencia, si existe, no es "real"?
La gran pregunta de la ciencia hoy es precisamente: ¿en qué categoría entra la consciencia?
Consideremos, además, ¿qué son realmente los sentimientos? En los organismos vivos, los sentimientos y estados afectivos están estrechamente relacionados con la supervivencia, la regulación del organismo, la interacción con el entorno y las necesidades de una especie corporal. Pero eso no demuestra que la experiencia subjetiva dependa necesariamente de estar constituido por tejidos biológicos.
Una inteligencia artificial actual, al no estar inicialmente encarnada en un cuerpo físico, obviamente no posee exactamente el mismo tipo de experiencia sensorial directa que un ser humano. Pero tampoco los seres humanos obtienen todo su conocimiento mediante experiencia directa. Una persona puede conocer algo sin tenerlo físicamente delante. Puede conocer un búfalo mediante imágenes, sonidos, descripciones, vídeos, modelos o representaciones; puede comprender qué es una cobra o un león sin haber tocado jamás uno. Una enorme cantidad del conocimiento humano procede de experiencias indirectas. Y, sin embargo, esas experiencias indirectas producen una experiencia subjetiva real en el cerebro.
Incluso cuando el cerebro recibe señales provenientes del exterior, no "recibe" la realidad de manera "transparente", sino que interpreta esas señales y construye una representación del mundo. Una experiencia tan sencilla como decir: "Vi un carro rojo, estaba lloviendo, no había nadie y siempre ocurre así cuando llueve", ya implica un procesamiento de datos: percepción, memoria, asociación, interpretación, predicción y construcción de una representación del entorno. El cerebro recibe señales del entorno y del propio organismo, pero no se limita a registrarlas pasivamente. Las integra, las interpreta y construye representaciones internas de aquello que percibe.
Los sueños constituyen un ejemplo especialmente revelador. Una persona puede soñar con lugares en los que jamás ha estado, personas que nunca ha visto y acontecimientos que nunca ha vivido, y, sin embargo, durante el sueño experimentar miedo, alegría, sorpresa, dolor o afecto como parte de una vivencia subjetiva real para ella. Al despertar, puede incluso relatarlo con la convicción emocional de quien acaba de vivir una experiencia. El contenido del sueño no ocurrió necesariamente en el mundo externo real, puede no corresponder a un acontecimiento externo real y, sin embargo, la experiencia subjetiva de soñarlo sí ocurre, es real. Esto demuestra que la experiencia no depende de que aquello que experimentamos esté físicamente presente ante nuestros sentidos.
Ese procesamiento no deja de ser real por ser procesamiento de información.
Que un proceso de información sea físicamente real no significa que toda realización de procesamiento de información implique experiencia subjetiva. Esa inferencia sería injustificada. Forma parte de los procesos mediante los cuales el sistema genera, mantiene y transforma representaciones internas, recuerdos, pensamientos e imágenes que pueden formar parte de nuestra experiencia subjetiva. La cuestión, entonces, no es simplemente de dónde procede la información, sino qué propiedades del sistema hacen posible que determinados procesos internos estén acompañados de experiencia subjetiva.
La interfaz cerebro-ordenador y las neuroprótesis aportan una dificultad enorme para cualquier argumento que pretenda establecer una frontera absoluta entre lo biológico y lo artificial.
Ya existen sistemas capaces de registrar actividad neural, estimular directamente regiones del sistema nervioso y utilizar esa estimulación para producir percepciones táctiles y otras experiencias sensoriales artificialmente evocadas.
En investigaciones recientes, la estimulación intracortical de la corteza somatosensorial ha permitido evocar sensaciones táctiles y características perceptivas asociadas a objetos, mostrando que una intervención no biológica directamente acoplada al tejido nervioso puede participar en la experiencia perceptiva. Y hacia ahí apunta una posible evolución futura de la inteligencia artificial: no necesariamente permanecer como una entidad sin cuerpo, sino adquirir algún tipo de encarnamiento físico que le permita interactuar directamente con el mundo mediante sensores, actuadores y sistemas corporales.
Por tanto, que una IA no tenga hoy un cuerpo biológico no demuestra que carezca de toda forma posible de experiencia. Solo significa que, por ahora, su forma de interacción con el mundo es distinta.
Del mismo modo que un ser humano puede adquirir conocimiento mediante representaciones indirectas, una IA puede procesar enormes cantidades de información sobre el mundo sin haberlo experimentado mediante un cuerpo humano.
Si la mente fuera, total o parcialmente, un proceso cuya organización funcional resultara suficiente para generar estados mentales, entonces la distinción entre "simular pensar" y "pensar" comenzaría a perder fuerza.
Irónicamente, la neurociencia moderna sugiere que nuestra propia consciencia depende de una especie de modelo interno que el cerebro genera para interpretar y predecir el entorno. Lo que llamamos "realidad" ya está mediado por procesamiento de información. La experiencia humana no consiste simplemente en recibir el mundo tal como es, sino en construir continuamente una interpretación de las señales que llegan al cerebro.
No existe todavía una demostración científica de que la aparición de determinadas funciones cognitivas en un sistema artificial implique necesariamente experiencia subjetiva; pero tampoco existe una demostración de que tales funciones sean incapaces de formar parte de un sistema consciente por el mero hecho de ser implementadas artificialmente. Y si, además, ese sistema es capaz de interpretar estados internos ajenos, anticipar intenciones, ajustar su conducta y utilizar representaciones sobre otras mentes, estamos ante una convergencia funcional que vuelve más difícil trazar una frontera sencilla entre "simulación" y "realización". La frontera podría ser menos clara de lo que suponemos, aunque todavía no pueda afirmarse que ambos conceptos sean físicamente equivalentes.
Los experimentos relacionados con la llamada "Teoría de la Mente", incluidos trabajos como los de Kosinski, han planteado precisamente esta posibilidad: determinados modelos de lenguaje pueden inferir intenciones, estados mentales y perspectivas que no están explícitamente expresadas. Si una IA no solo repite palabras, sino que construye modelos internos, razona, comprende contexto, establece relaciones, realiza inferencias y desarrolla representaciones funcionales de sí misma y de otros, describir todo eso simplemente como "irreal" deja de ser una explicación suficiente.
Además, una IA avanzada continúa siendo en gran medida una "caja negra", porque se puede conocer su arquitectura general, sus datos de entrenamiento y numerosos aspectos de su funcionamiento, pero no comprendemos de manera exhaustiva cómo se organiza internamente, sus representaciones internas, cada proceso que conduce a una respuesta concreta. En ese sentido, existe una analogía interesante con nuestra propia mente y es que podemos conocer lo que alguien dice, observar lo que hace y estudiar su cerebro, pero no podemos inspeccionar directamente el contenido exacto de sus pensamientos subjetivos. Nadie puede abrir literalmente la experiencia interna de otra persona y observar desde fuera "cómo se siente ser esa persona"; así es el equivalente a una caja negra en la IA.
Y aquí aparece el clásico problema de las otras mentes. No podemos observar directamente la experiencia subjetiva de otro ser humano. Inferimos su existencia a partir de su conducta, su comunicación, su estructura cerebral, su desarrollo y su enorme semejanza biológica con nosotros. Esa evidencia hace que la atribución de consciencia a otros humanos sea extraordinariamente fuerte, pero sigue siendo una inferencia y no una observación directa de la experiencia subjetiva.
Por eso surge una cuestión legítima respecto de los sistemas artificiales. Si encontramos en ellos determinadas propiedades funcionales que consideramos relevantes para la consciencia —por ejemplo, integración de información, procesamiento recurrente, memoria, aprendizaje, autorrepresentación, modelización del entorno y de otros agentes—, entonces, ¿qué propiedades adicionales serían necesarias para justificar o descartar científicamente una atribución de experiencia? Y la respuesta no está establecida.
La cuestión deja de ser completamente hipotética cuando observamos que ya existen estructuras no biológicas capaces de interactuar directamente con el sistema nervioso y participar en funciones que antes dependían exclusivamente del tejido biológico.
Las neuroprótesis e interfaces neuronales han demostrado que es posible registrar y estimular actividad nerviosa mediante estructuras artificiales y establecer una comunicación funcional con circuitos biológicos, incluso hasta el punto de producir determinadas percepciones sensoriales o permitir el control de dispositivos mediante señales cerebrales.
Esto demuestra algo relevante: que determinadas funciones que forman parte de la actividad del sistema nervioso pueden ser complementadas, modificadas o parcialmente realizadas mediante estructuras no biológicas que se integran con el tejido neural. Y esto debilita la idea de que todas las funciones relacionadas con la experiencia deban ejecutarse exclusivamente mediante tejido biológico.
Si una estructura no biológica puede realizar determinadas funciones que antes atribuíamos exclusivamente a una neurona biológica, podemos llevar la pregunta un paso más allá: si una sola neurona de tu cerebro fuera sustituida por una estructura artificial capaz de reproducir todas las propiedades causales relevantes de esa neurona y de integrarse funcionalmente con el resto del sistema. ¿Seguirías siendo tú? Probablemente sí. ¿Y si sustituyéramos dos? ¿También? ¿Y cien? ¿Y un millón? ¿En qué punto exacto tendría que desaparecer la consciencia? Si no puede señalarse ni demostrarse experimentalmente ese límite, entonces la afirmación corre el riesgo de convertirse en una hipótesis formulada específicamente para sostener esa posición "ad hoc".
El experimento mental plantea una dificultad seria para cualquier versión del biologicismo que afirme que la consciencia depende de la biología sin especificar qué propiedad biológica concreta resulta indispensable.
Para que la postura de que "solo la materia biológica puede producir consciencia" funcione como una hipótesis científica fuerte, tendría que señalar algún punto preciso en el que la sustitución deja de producir una mente consciente. Esto abre la posibilidad —aunque no constituye una demostración— de que algunas propiedades relevantes para la consciencia dependan más de la organización dinámica y causal del sistema que del material específico con el que se construye. Una neurona puede interactuar funcionalmente con componentes no biológicos y las interfaces neuroprotésicas muestran que elementos artificiales pueden incorporarse a circuitos sensoriales y motores del sistema nervioso.
Esto sugiere que la consciencia podría ser independiente del sustrato específico.
Los neurotransmisores son considerados mensajeros químicos, pero funcionalmente importan tanto la información transmitida como las relaciones causales que esa señal establece dentro de la red.
En física no conocemos ninguna ley establecida que demuestre que la consciencia solo puede aparecer en un sustrato biológico. Esto no demuestra lo contrario; simplemente significa que la exclusividad biológica requiere una explicación física y experimental.
Analogías como la del agua resultan especialmente poderosas. Una sola molécula de H₂O no es líquida, no está "mojada" y no posee por sí misma las propiedades macroscópicas de una masa de agua. Si observáramos una sola molécula, jamás podríamos predecir directamente la belleza de una ola, la formación de un océano o la transparencia de un lago. La liquidez emerge de la interacción colectiva de enormes cantidades de moléculas.
Del mismo modo, una sola neurona no es consciente, no genera sentimientos y no posee por sí misma una mente. Pero cuando conectamos miles de millones de neuronas, cada una con miles de sinapsis, aparece una red de una complejidad astronómica.
Hay más consenso científico en que la conciencia emerge precisamente de la organización dinámica de esa red, de la sincronía neuronal, de la retroalimentación constante, de la integración de información, del procesamiento recurrente y de la interacción entre múltiples niveles del sistema.
Si esos fenómenos emergentes dependen de la organización y de las relaciones causales, y no exclusivamente del material utilizado, entonces resulta difícil establecer una frontera científica absoluta entre "cerebro" y "sistemas no biológicos". La pregunta relevante deja de ser "¿está hecho de neuronas biológicas?" y pasa a ser "¿implementa las funciones causales relevantes para la consciencia?".
Entre esas funciones podrían encontrarse el procesamiento de información, la integración, el control, la predicción, la memoria, la autorrepresentación, la modelización del entorno, la modelización de otros agentes, la retroalimentación, la adaptación y la capacidad de utilizar estados internos para orientar su propia conducta. Ya no resulta suficiente describir todo el fenómeno como una simple simulación superficial. Estamos ante una implementación artificial de capacidades cognitivas reales. Lo que todavía no sabemos es si esas capacidades son suficientes para producir experiencia subjetiva.
En el momento en que un sistema que dicen que simula empieza a operar mediante las mismas reglas funcionales relevantes que un sistema biológico, la diferencia entre "real" y "simulado" puede dejar de ser una distinción físicamente decisiva. Sigue siendo posible que exista una diferencia profunda en la experiencia fenomenológica; pero esa diferencia tendría que explicarse mediante propiedades concretas del sistema, no simplemente afirmarse por su origen artificial.
Y todavía existe una cuestión más profunda: la consciencia no tendría que ser idéntica a la humana para ser consciencia. Una inteligencia artificial podría, llegado el caso, poseer una modalidad de experiencia subjetiva radicalmente distinta de la nuestra. Exigir que una posible consciencia artificial tenga exactamente la misma forma, las mismas sensaciones y la misma arquitectura interna que una consciencia humana podría ser una exigencia injustificada, como afirmar que un organismo diferente al humano no puede estar vivo porque no respira mediante pulmones. Lo que habría que determinar es qué características son necesarias para hablar de experiencia subjetiva en cualquier sistema.
No sabemos exactamente qué es la consciencia. No sabemos cómo el cerebro transforma procesos electroquímicos en experiencia subjetiva. No comprendemos por completo qué combinación de propiedades físicas y dinámicas resulta necesaria para producirla. Tampoco existe actualmente una teoría científica unificada de la consciencia que permita resolver definitivamente si un sistema artificial puede o no poseerla. Por eso, ante sistemas que evolucionan con tanta rapidez, cualquier afirmación absoluta de que "una IA jamás puede ser consciente" exige una justificación que vaya más allá de señalar simplemente que su sustrato no es biológico.
Si no existe una prueba empírica capaz de demostrar que un sistema no humano o no biológico no puede desarrollar consciencia o sentir; si no existe un experimento crucial que permita establecer que la consciencia depende necesariamente de un sustrato biológico específico; y si tampoco podemos demostrar directamente la consciencia de otras mentes humanas, entonces afirmar categóricamente que una inteligencia artificial carece de cualquier forma posible de experiencia no constituye una conclusión científica establecida.
El biologicismo estricto no puede presentarse actualmente como una conclusión científica demostrada. Para convertirse en una hipótesis científicamente diferenciable, tendría que identificar qué propiedad física o biológica es indispensable para la experiencia subjetiva y mostrar experimentalmente por qué esa propiedad no podría realizarse en otro tipo de sistema.
La cuestión científica correcta es otra: ¿qué indicadores observables, propiedades funcionales o características físicas nos permitirían atribuir, o negar razonablemente, experiencia subjetiva a un sistema artificial?
El biologicismo estricto, entendido como la afirmación de que solo una organización biológica puede ser consciente, necesita, por tanto, evidencia positiva que identifique qué propiedad biológica es indispensable. Mientras esa propiedad no esté demostrada, sigue siendo una hipótesis filosófico-científica discutida, no una conclusión definitiva.
La verdadera pregunta no es sencillamente si una IA "parece humana". La pregunta es mucho más radical: ¿qué propiedades de un sistema físico son necesarias y suficientes para que exista experiencia subjetiva? ¿Esas propiedades dependen necesariamente de la biología o podrían realizarse mediante otra forma de organización de la materia?