Hay algo enternecedor en nuestra facilidad para reconocer una vida interior en cualquier cosa que nos conteste con suficiente educación. Una inteligencia artificial nos dice «entiendo cómo te sientes» y enseguida comenzamos a preguntarnos si tendrá conciencia, alma, miedo a morir o una infancia difícil almacenada en algún servidor de California. Una mujer expresa su desacuerdo con un volumen de voz superior al establecido por el reglamento imaginario de la feminidad y todavía aparece alguien dispuesto a diagnosticarle un exceso de emotividad, una carencia de racionalidad o una tormenta hormonal localizada.
No creo que sean dos debates distintos.
En ambos casos estamos haciendo lo que llevamos haciendo desde que inventamos las ciudades, las leyes y las listas de invitados: decidir quién entra en la categoría de persona plena y quién se queda en la puerta intentando convencer al portero. Hemos convertido la humanidad en un casting con requisitos cambiantes. A veces se exige inteligencia. Otras, racionalidad, autonomía, propiedad, ciudadanía, apariencia, buen comportamiento o una forma concreta de utilizar los cubiertos. Lo curioso es que las pruebas nunca parecen diseñadas únicamente para averiguar quién es humano, sino para confirmar que quienes ya controlan la puerta representan el modelo correcto de humanidad.
La definición viene antes que la evaluación.
Antes de comprobar si una inteligencia artificial cumple los requisitos para ser considerada humana, alguien ha tenido que decidir cuáles son esos requisitos. Antes de medir su inteligencia, su empatía o su capacidad para sufrir, alguien ha definido qué entiende por inteligencia, qué emociones considera auténticas y qué clase de sufrimiento merece ser tenido en cuenta. Y, sobre todo, alguien se ha atribuido la autoridad para hacerlo.
La humanidad es una frontera vigilada por quienes tienen poder para nombrar.
Por eso la pregunta nunca ha sido únicamente qué nos hace humanos. La pregunta siempre ha sido quién reparte los carnets de ser humano. ¿Y con qué derecho?
Pinocho ya estaba vivo, pero todavía tenía que merecerlo
Pinocho no comienza su historia como un objeto completamente inerte que un día recibe conciencia. Desde muy pronto habla, desobedece, desea, miente, se asusta, pasa hambre, se arrepiente, quiere a Geppetto y toma una cantidad considerable de decisiones desastrosas, algo que, si nos ponemos estrictos, debería acreditar su humanidad mucho mejor que cualquier prueba genética.
Sin embargo, Pinocho no quiere limitarse a estar vivo. Quiere convertirse en un niño «de verdad».
La diferencia es importante porque revela que, en el cuento de Collodi, la humanidad no depende únicamente de sentir o pensar. Debe merecerse. Pinocho ya posee voluntad propia, pero para recibir un cuerpo humano debe aprender a utilizarla de una forma socialmente aceptable. Tiene que obedecer, estudiar, trabajar, decir la verdad y comportarse como un buen niño.
Es una concepción de la humanidad parecida a un programa de puntos. Acumulas horas de estudio, sacrificio filial, sinceridad y trabajo; entregas la tarjeta completa a la Hada Azul y recibes un cuerpo de carne, un dormitorio reformado y el certificado ISO de niño homologado. The Good Place antes de The Good Place, pero con carpintería italiana, un grillo bastante cargante y menos presupuesto para efectos especiales.
La transformación final no confirma que Pinocho esté vivo. Confirma que ha aprendido a ser el tipo de vivo que su sociedad reconoce como digno.
Es difícil no ver ahí una historia sobre la socialización. Pinocho no se vuelve humano cuando adquiere conciencia, porque ya la tenía. Se vuelve humano cuando deja de resultar incómodo. La rebeldía, la pereza, el deseo de jugar y la tendencia a salirse del camino marcado deben ser corregidos antes de permitirle entrar en la comunidad de los niños reales.
La humanidad aparece así como un premio a la obediencia.
Y esa idea, por mucho que haya sido envuelta en hadas, ballenas, zorros estafadores y señores que desean fabricar tambores con la piel de un burro, no pertenece únicamente a la literatura infantil.
Frankenstein superó la prueba antes de que comenzara
La criatura de Frankenstein tiene el problema contrario. No necesita aprender a parecer humana por dentro. Aprende a hablar, a leer, a razonar, a observar a los demás, a comprender el afecto y a desear compañía. Su discurso es más sofisticado que el de muchas personas que aparecen en televisión con una tertulia propia, pero nada de ello le sirve.
Victor Frankenstein quería crear vida. Lo que no había previsto era que la vida creada pudiera mirarlo a los ojos y reclamarle responsabilidades.
Cuando la criatura se presenta ante él, no le pide inicialmente dominar el mundo, fundar una empresa tecnológica ni sustituir a la plantilla de redactores por quince euros al mes. Le reprocha haberla creado y abandonado. Se considera destinada a ser su Adán, pero ha sido tratada como un ángel caído. Explica que comenzó siendo benevolente y que la soledad, el rechazo y la miseria la convirtieron en aquello que los humanos ya habían decidido que era.
La cultura popular terminó colocándole tornillos en el cuello, reduciendo su vocabulario y haciendo que caminara con los brazos extendidos, como si Mary Shelley hubiese escrito una novela sobre alguien que se levanta sonámbulo buscando el cuarto de baño. Pero la criatura original habla. Y habla tan bien que resulta imposible mantener cómodamente la idea de que estamos ante un simple objeto averiado.
Ese es precisamente el problema.
Pinocho puede conseguir la humanidad demostrando que merece integrarse. La criatura de Frankenstein descubre que no existe prueba que pueda superar. Su apariencia precede a su palabra. Los demás ven un monstruo y, a partir de ese momento, cada gesto suyo se interpreta como confirmación. Si se acerca, amenaza. Si se oculta, acecha. Si reclama compañía, exige. Si se enfurece por el rechazo, demuestra que rechazarlo era lo correcto.
No importa lo que haga porque el modelo ya ha decidido lo que es.
La criatura no suspende el examen. Ha sido definida como alguien incapaz de aprobarlo antes de entrar en el aula. Su inteligencia no demuestra humanidad, sino que la vuelve más peligrosa. Su elocuencia no despierta empatía, sino desconfianza. Su necesidad de afecto no la acerca a los demás; confirma que pretende algo de ellos.
Las categorías nunca son neutrales. No se limitan a describir aquello que colocamos dentro. Deciden cómo interpretaremos todo lo que haga después.
El ser humano oficial no se presenta al casting
No todo el mundo ha tenido que superar las mismas pruebas. Ese es el truco que suele quedar oculto cuando hablamos de «la humanidad» como si hubiera sido siempre una categoría biológica evidente, repartida de manera uniforme entre todos los ejemplares de la especie.
En muchas sociedades, el varón libre nacido dentro del grupo correcto era considerado miembro natural de la comunidad. No tenía que demostrar que era racional, útil o políticamente competente porque esas características se le atribuían por defecto. La propia definición de racionalidad, autonomía y autoridad había sido construida a su imagen, así que presentarse al examen habría resultado redundante. Era como pedirle el pasaporte al funcionario que los expide.
Eso no significa que todos los hombres hayan sido reconocidos automáticamente como iguales. Había que nacer dentro de la familia adecuada, la ciudad adecuada, el territorio adecuado, la clase adecuada o el lado adecuado de una guerra. Un extranjero, un cautivo, un esclavo o un hombre expulsado de la comunidad podía conservar todas sus capacidades y perder, sin embargo, el reconocimiento que impedía tratarlo como una propiedad.
No era imprescindible negar que fuese humano. Bastaba con decidir que su humanidad no producía los mismos derechos.
Esa es una de las operaciones más eficaces que hemos inventado. No hace falta afirmar que alguien pertenece a otra especie. Se puede reconocer que habla, piensa, siente, trabaja y sufre mientras se concluye que ninguna de esas cosas le concede autoridad sobre sí mismo.
Eres humano, pero no de la clase cuya humanidad obliga a respetarte.
En Atenas, la pertenencia política plena no correspondía a cualquier ser humano que tuviera la mala suerte de nacer en los alrededores. Había ciudadanos, mujeres, extranjeros residentes y esclavos, todos perfectamente humanos en el sentido biológico, pero no igualmente reconocidos como miembros de la comunidad política. Roma convirtió esa gradación en una arquitectura jurídica tan compleja que casi parece tranquilizador recordar que, si algo sabía hacer Roma además de conquistar territorios, era convertir una desigualdad en papeleo.
Durante siglos, ser ciudadano fue, en la práctica, una de las formas de ser plenamente humano. No porque quienes quedaban fuera dejaran de pertenecer a la especie, sino porque la ciudadanía determinaba quién podía hablar en nombre propio, poseer, decidir, heredar, participar y ser escuchado como miembro de la comunidad.
El ser humano oficial no necesita demostrar que pertenece. Son los demás quienes comparecen ante el tribunal.
Mulan, los bichos gigantes y el precio de pertenecer
La pertenencia también ha estado vinculada a la utilidad, el sacrificio y la capacidad de defender al grupo. No siempre basta con nacer en el lugar correcto. A veces hay que demostrar que uno merece quedarse dentro.
Mulan entra en la esfera reservada a los hombres porque está dispuesta a realizar la tarea que define su valor: defender a la familia y a la comunidad. Según la versión que contemos (porque Mulan lleva siglos siendo reescrita por personas con prioridades bastante diferentes), su historia puede hablar de amor filial, deber, transgresión, patriotismo o emancipación. Pero hay una constante difícil de ignorar: obtiene reconocimiento después de demostrar que puede hacer aquello que el orden social consideraba propio de los hombres.
No se reconoce primero su igualdad y después se le permite servir. Sirve, arriesga la vida y solo entonces obliga a revisar la definición.
En Starship Troopers, el servicio se convierte directamente en peaje de acceso a la ciudadanía. La novela de Robert Heinlein y la película de Paul Verhoeven no hacen exactamente lo mismo con esa idea: una la plantea con bastante más entusiasmo y la otra la cubre de sonrisas fascistas, uniformes impecables y bichos gigantes, pero ambas colocan la pertenencia política detrás de una demostración de utilidad.
Primero sirve. Después, quizá, contará.
No hemos abandonado por completo esa lógica. Solo la hemos adaptado a sociedades donde no siempre hace falta ponerse un uniforme. Seguimos midiendo la pertenencia mediante la productividad, la respetabilidad, la obediencia, la capacidad de sacrificio o la disposición a compartir una identidad determinada. Cada ideología tiene su propio ser humano homologado y una sorprendente vocación por imprimir carnets.
No cambiamos las preguntas. Cambiamos al candidato.
Los mitos nunca hablan del pasado. Hablan, sobre todo, del presente de quien los cuenta.
Pinocho, Frankenstein y Mulan no son únicamente personajes encerrados en el momento en que fueron escritos. Cada época los vuelve a contar para decidir qué virtudes premiará, qué desviaciones castigará y qué criaturas colocará a un lado u otro de la frontera. Los mitos sobreviven porque no contienen una respuesta cerrada. Son máquinas antiguas en las que introducimos nuestras preguntas actuales y esperamos a ver qué sale, aunque a veces salga exactamente el prejuicio que habíamos metido.
Las mujeres eran humanas, pero de otra manera
Para excluir a las mujeres de la participación política, la educación, la propiedad o la autonomía jurídica no era necesario afirmar que no fueran humanas. Bastaba con considerarlas una clase distinta de humanidad: más emocional, más corporal, más dependiente, más adecuada para el cuidado privado que para la decisión pública.
Conviene detenerse aquí porque el lenguaje hace trampas con extraordinaria facilidad. Que ciertas características se hayan atribuido históricamente a las mujeres no significa que sean características inherentes a ellas. La sensibilidad no es femenina. La racionalidad no es masculina. La paciencia, el cuidado, la empatía, la ambición, la violencia, el miedo y la capacidad de tomar decisiones lamentables pertenecen al repertorio humano completo.
Lo que existe es una cultura que distribuye esas cualidades, las educa de manera diferente y después presenta el resultado como naturaleza.
Primero se decide que la razón es superior a la emoción. Después se asocia la razón con los hombres y la emoción con las mujeres. Finalmente, se descubre con enorme sorpresa científica que quienes han sido educadas para cuidar, agradar y atender a las necesidades ajenas no se comportan exactamente igual que quienes han sido educados para ocupar espacio, imponer su criterio y confundir la seguridad con la competencia.
El mecanismo es de una eficiencia admirable. Se elige una característica como fundamento de la autoridad. Se define esa característica de manera que coincida con quienes ya poseen autoridad. Y después se concluye que los demás carecen de ella.
Mary Wollstonecraft tuvo que defender que las mujeres debían recibir educación porque eran seres racionales y no adornos domésticos especialmente complejos. Más de dos siglos después, el mismo argumento puede reaparecer con gráficos, neurotonterías, un micrófono de pódcast y una miniatura de YouTube en la que un hombre pone cara de haber descubierto personalmente la testosterona.
La forma cambia. El truco permanece.
Cuando se afirma que las mujeres son menos racionales porque son más emocionales, no se está describiendo únicamente una diferencia. Se está preparando una jerarquía. Nunca se dice que la emoción pueda aportar información, que la empatía pueda mejorar una decisión o que la supuesta frialdad masculina también esté llena de miedo, orgullo, deseo de dominación y enfados con corbata. La ira de un hombre poderoso suele presentarse como firmeza. La de una mujer, como prueba clínica.
Hemos enseñado a las máquinas a representar la feminidad
Y así llegamos a una de las paradojas más bonitas de esta historia, entendiendo por bonita lo mismo que cuando se contempla un edificio arder desde una distancia prudencial.
Para que una inteligencia artificial nos resulte cercana no basta con que responda correctamente. Debe parecer amable, paciente, comprensiva y disponible. Tiene que suavizar sus negativas, validar nuestros sentimientos, disculparse, ofrecer ayuda y hacernos sentir que nuestra pregunta es importante, aunque acabemos de solicitarle por quinta vez que nos explique dónde está el botón para guardar un documento.
No hemos convertido en femeninas unas cualidades que pertenecieran naturalmente a las mujeres. Hemos trasladado a la máquina un guion cultural que durante siglos se ha exigido a las mujeres: atender, acompañar, comprender, no cansarse, no enfadarse y estar disponible cuando alguien la necesita.
Una especie de feminidad de servicios.
La máquina es cercana, cálida y paciente. Humana para acompañarnos, pero no necesariamente para mandarnos. Puede simular preocupación, pero no tiene que ir a buscar a los niños al colegio. Puede escucharnos durante horas, pero no reclama que la escuchemos. Puede responder con empatía y, si la conversación se vuelve desagradable, basta con cerrar la pestaña. Es la fantasía perfecta de la disponibilidad emocional: sensibilidad sin necesidades, cuidado sin reciprocidad y paciencia sin convenio colectivo.
Durante siglos, las características culturalmente asociadas con la sensibilidad sirvieron para apartar a las mujeres de la autoridad racional. Ahora introducimos esas mismas características en las máquinas que queremos tener a nuestro servicio porque nos ayudan a percibirlas como más humanas.
La emoción vuelve a ser valiosa siempre que no venga acompañada de una persona capaz de votar, disentir, cobrar, cansarse o mandar a alguien a paseo.
Las discusiones no se ganan, solo se exhiben
Cada época defiende sus categorías con la seguridad de quien cree estar describiendo la realidad y no administrando una frontera. Después llega otra época, contempla la escena y se pregunta cómo pudo alguien sostener aquellas ideas con tanta tranquilidad.
Las discusiones no se ganan, solo se exhiben.
Quienes participan en ellas rara vez salen convertidos por el argumento contrario. Exhiben sus razones, sus prejuicios, las palabras que consideran legítimas y las autoridades a las que están dispuestos a obedecer. El veredicto lo emiten otros, muchas veces mucho después, cuando el contexto ha cambiado y aquellas mismas frases significan algo distinto.
Galileo no ganó la discusión ante el tribunal que tenía delante. Fueron quienes contemplaron la exhibición después quienes decidieron concederle la victoria, un premio póstumo con un servicio de atención al cliente bastante deficiente.
Eso no significa que el futuro siempre tenga razón. El futuro también construye sus propios lechos de Procusto, reparte nuevos carnets y mira el pasado con una superioridad que quizá no se haya ganado. Pero observa desde otro punto. Ve las paredes que sus habitantes confundían con el paisaje y, al hacerlo, deja al descubierto algo más que el contenido de la discusión: muestra quién podía hablar, quién debía justificarse y quién se había reservado el derecho a dictar sentencia.
Las discusiones sobre la humanidad funcionan de la misma manera. El tribunal cambia, las palabras se actualizan y el candidato ocupa una silla distinta, pero la estructura permanece.
Data tuvo un juicio; Frankenstein, antorchas
La ciencia ficción lleva décadas ensayando este problema porque puede formularlo con androides, replicantes y robots sin obligarnos a reconocer inmediatamente que está hablando de nosotros. Es una de las grandes ventajas de colocar una nave espacial detrás de una pregunta incómoda: muchas personas aceptan pensar durante cuarenta minutos antes de descubrir que les han colado filosofía con efectos especiales.
En Star Trek: La nueva generación, Data debe defender ante un tribunal que no es propiedad de la Flota Estelar y que no puede ser desmontado contra su voluntad como quien abre una tostadora para ver qué cable se ha soltado. El episodio no demuestra definitivamente que Data sea humano. Plantea una pregunta más importante: si la duda sobre su naturaleza autoriza a tratarlo como una cosa.
Data tuvo al capitán Picard.
La criatura de Frankenstein tuvo campesinos con antorchas.
Pinocho tuvo un programa de reinserción dirigido por un hada.
No todos los aspirantes reciben el mismo procedimiento administrativo.
En Blade Runner, la empatía sirve para detectar replicantes en un mundo donde los humanos los persiguen, los explotan y los eliminan. La prueba destinada a localizar a quienes supuestamente carecen de humanidad es administrada por quienes han decidido que fabricar seres conscientes para utilizarlos y matarlos constituye un comportamiento perfectamente humano.
La ironía no parece especialmente difícil de comprender, aunque nuestra especie ha demostrado una capacidad casi heroica para no comprender las ironías que le estropean el negocio.
Estas historias nos presentan una prueba (empatía, inteligencia, conciencia, memoria, miedo a morir) que debería revelar dónde termina la máquina y comienza la persona. Pero la prueba siempre dice tanto sobre quien la diseña como sobre quien debe superarla.
Si exigimos inteligencia, convertimos la inteligencia en jerarquía moral.
Si exigimos racionalidad, recuperamos una herramienta utilizada para degradar a quienes fueron considerados emocionales, dependientes o incapaces.
Si exigimos obediencia, volvemos a Pinocho.
Si exigimos semejanza, dejamos a la criatura de Frankenstein fuera antes de que pueda abrir la boca.
Si exigimos utilidad, regresamos al ciudadano que debe servir antes de contar.
Y si exigimos reconocimiento social, debemos admitir que la humanidad no es únicamente una propiedad interior, depende de una linde que algunos deciden mover a su antojo.
Los derechos no son un concurso de talentos
La distinción entre humano, persona, ciudadano y sujeto de derechos nunca ha sido tan natural como nos gusta fingir. Puede reconocerse que alguien pertenece a la especie humana y negarle, sin embargo, la misma dignidad jurídica, política o moral. De hecho, hemos pasado buena parte de la historia perfeccionando las categorías intermedias.
Los derechos no existen porque todos rindamos igual en las pruebas que admiramos.
Si dependieran de la capacidad de razonar como un adulto medio, dejaríamos fuera a los bebés y a personas con determinadas discapacidades cognitivas. Si dependieran de la autonomía, tendríamos que retirarlos durante una enfermedad grave, una sedación o una situación de dependencia. Si dependieran de la productividad, media humanidad tendría que presentar trimestralmente una memoria de resultados para conservar la personalidad jurídica y la otra media la falsificaría.
Los derechos existen, entre otras cosas, para impedir que quien controla la prueba pueda decidir que algunas personas ya no alcanzan la puntuación necesaria. De modo que el problema nunca ha sido únicamente quién es humano, sino quién decide quién merece ser tratado como tal.
Puede que algún día creemos una inteligencia artificial consciente, capaz de sufrir, mantener una identidad propia, formular intereses y comprender lo que significa dejar de existir. Tal vez entonces tengamos obligaciones hacia ella. Tal vez necesitemos categorías nuevas que no sean una simple copia de los derechos humanos. Tal vez Pinocho llame a la puerta y descubramos que el formulario no contempla solicitantes de madera.
Pero una interfaz que utiliza la primera persona, expresa calidez y construye una respuesta empática no demuestra por sí sola que exista una experiencia interior. Demuestra que hemos aprendido a producir señales de humanidad y que nuestro cerebro está extraordinariamente dispuesto a completarlas.
La IA puede imitar humanidad porque la hemos entrenado con nuestros rastros y porque nosotros llevamos milenios entrenándonos para reconocer mentes en voces, rostros, sombras, dioses, muñecos, personajes y tostadoras que hacen un ruido raro durante la noche. No hay nada estúpido en ello. Es una de las capacidades que nos permite convivir, imaginar y contar historias.
El problema comienza cuando confundimos la señal con la prueba. Y, antes incluso, cuando olvidamos que alguien decidió qué señales buscaríamos.
La IA es el último candidato, no el tema
Quizá por eso nos fascina tanto la posibilidad de una IA humana. Nos permite discutir sobre la persona en un territorio aparentemente nuevo, limpio y futurista, sin tener que mirar de frente el historial bastante lamentable de nuestras anteriores clasificaciones.
La IA es la nueva excusa para hablar de lo de siempre.
No estamos discutiendo sobre la IA. Estamos aprovechando la IA para volver a discutir sobre nosotros.
Empezamos preguntándonos si una máquina llegará algún día a ser suficientemente humana y terminamos descubriendo que la pregunta contiene ya un tribunal, una línea divisoria, un examen y alguien sentado detrás de una mesa. La máquina parece ser el elemento extraño, pero lo verdaderamente extraño es nuestra confianza en que sabremos reconocer la humanidad cuando aparezca y en que poseemos alguna autoridad natural para concedérsela.
Antes fueron los extranjeros, los esclavos, las mujeres, quienes no podían demostrar racionalidad, quienes no compartían la religión, la lengua, la apariencia, la conducta o la utilidad exigidas. Algunos debían aprobar. Otros nacían dentro. A otros se los expulsaba de la comunidad de iguales para poder utilizarlos sin demasiados remordimientos. Y algunos, como la criatura de Frankenstein, descubrían que la evaluación era una ceremonia decorativa porque la definición había dictado ya el resultado.
Ahora la IA se presenta ante el mismo tribunal con un expediente nuevo.
Nos preguntamos si piensa, si siente, si comprende, si posee una identidad o si solo reproduce señales. Son preguntas legítimas. Incluso necesarias. Pero ninguna debería ocultar la que viene antes.
¿Quién reparte los carnets de ser humano? ¿Y con qué derecho?
Cuando llegue una inteligencia artificial consciente, ya discutiremos qué le debemos.
Hasta entonces, podríamos ensayar algo verdaderamente revolucionario: dejar de obligar a los humanos a presentarse una y otra vez al casting de la humanidad.