«¿Dónde está tu hermano Abel?» … «La voz de la sangre de tu hermano clama a mí desde el suelo.» — Génesis 4, 9-10

«Quien controla la Entidad controla la verdad.» — Kittridge, Misión: Imposible — Sentencia Mortal Parte Uno

Un arma puede matar sin ser una persona. Ese no es el descubrimiento. El descubrimiento es que, una vez que retiramos la mano humana del arma, nos vemos tentados a creer que también hemos hallado una mente en su interior —y que un creador puede ser puesto en peligro por su artefacto sin que el artefacto deje jamás de ser un artefacto.


Indice



Resumen

Este ensayo toma en serio la pregunta que un reciente reportaje de The Wall Street Journal sobre el debate del fin del mundo por la inteligencia artificial plantea en su titular —cómo podría una máquina «acabar con todos nosotros»— y sostiene que la respuesta correcta ni desestima el peligro ni acepta la mitología que ha crecido a su alrededor. Rechaza de entrada el movimiento tentador pero falso: la inteligencia artificial es una derivada de una derivada, y por tanto no puede matar. Una cosa derivada puede poseer un enorme poder causal sin ser un sujeto consciente ni personal; un virus mata, un misil mata, una bala mata, y ninguno se vuelve persona para hacerlo. Apoyándose en la Topología Gaitan —la distinción entre lo derivado y lo no derivado, el punto de cruce del Ahora y el fundamento sustentador llamado YO SOY EL QUE SOY—, el ensayo sitúa la verdadera cuestión en otro lugar. Las dos vías de catástrofe que nombra el reportaje, el uso indebido humano y la pérdida de control, dejan intacta la tesis de la doble derivada una vez que se expone una sustitución oculta: la autonomía operativa se lee, de manera ilícita, como agencia personal, y la automodificación como autocreación. La inversión decisiva del ensayo es que el escenario más grave no comienza con el artefacto ascendiendo a la condición de persona, sino con el ser humano descendiendo —cediendo el juicio, luego el blanco, luego la determinación de qué es verdad— a una derivada que nunca fue fuente. La carrera por «controlar la IA» se relee a esta luz como, en parte, una disputa entre seres humanos por la posesión de la capa derivada a través de la cual millones reciben sus descripciones de la realidad. La identificación teológica del fundamento sustentador con el YO SOY EL QUE SOY del Éxodo se ofrece como el nombre que satisface una exigencia estructural que el argumento establece por su cuenta, no como una premisa importada de la Escritura.


Nota sobre el método

Este ensayo procede a la vez por argumento filosófico, lectura cultural e interpretación teológica, y no los trata como equivalentes. Las afirmaciones filosóficas —que una cosa puede poseer una enorme eficacia causal sin ser un sujeto consciente ni personal, que la operación es distinta del ser cuya operación es, que la automodificación no es autocreación— deben sostenerse sobre bases estructurales, y esa es su intención. El artículo de The Wall Street Journal y la frase de Misión: Imposible – Sentencia Mortal Parte Uno se emplean como testigos de una condición cultural, no como prueba de afirmación metafísica alguna; allí donde el artículo informa de la sinceridad o del interés propio de las empresas implicadas, el ensayo registra el informe sin dirimirlo, porque el argumento solo requiere la posibilidad estructural, no el veredicto. La identificación teológica del fundamento no derivado con el YO SOY EL QUE SOY del Éxodo se ofrece como el nombre que satisface una exigencia estructural a la que el argumento llega por sí mismo, no como una doctrina supuesta de antemano. Un lector que acepte la filosofía y decline la teología mantiene una posición coherente. El ensayo no exige la identificación; la propone.


I. La concesión que hace honesto el argumento

Hay una frase que uno se ve tentado a colocar al frente de este ensayo, y hay que rechazarla antes de que haga su daño. La frase es: la inteligencia artificial es una derivada de una derivada, y por tanto no puede matarnos. Esa conclusión no se sigue, y fingir que sí sería malbaratar el argumento en el primer paso. En un trabajo anterior se estableció que el modelo es una derivada de una derivada —donde el ser humano encuentra la realidad como quien ya está situado dentro de ella, el modelo recibe señales, mediciones y representaciones dentro de una arquitectura que no ha creado— y que ninguna acumulación de tales representaciones cruza hacia la realidad que representan. Todo eso se mantiene. Pero nada de ello implica inocuidad. Una cosa derivada puede poseer un tremendo poder causal sin poseer conciencia, sabiduría, intención ni agencia personal alguna.

Un virus mata, y no es una persona. Un misil mata, y no es una persona. Un fallo eléctrico mata, y no quiere nada. Toda la fuerza de los ensayos anteriores consistía en distinguir una operación del ser cuya operación es —y esa misma distinción prohíbe aquí la inferencia cómoda—. Para realizar una operación letal, una cosa no tiene primero que volverse sujeto. Solo tiene que ser colocada en una cadena causal que termine en un cuerpo.

Así pues, la derivación no es una defensa. Si se ofreciera como tal, sería el equivalente filosófico de insistir en que una piedra que cae no puede partir un cráneo porque la piedra es inanimada. El cráneo se parte igual.

Un artefacto derivado puede matar. Lo que no puede hacer por el mero hecho de ejecutar un objetivo es aprehender ese objetivo como un fin, elegirlo como bueno y responder por haberlo elegido.

Esa distinción —y no la inferencia que rechaza— es donde vive el argumento.


II. Dos catástrofes y una costura oculta

El reportaje de The Wall Street Journal ordena los temores de los llamados profetas de desastre en dos categorías, y conviene honrar esa clasificación, porque las dos categorías se comportan de maneras muy distintas bajo la topología.

La primera categoría es el uso indebido humano: una persona emplea un sistema capaz para hacer algo catastrófico —diseñar un patógeno nuevo, colapsar una red eléctrica, provocar una guerra entre potencias nucleares—. El segundo es la pérdida de control: sistemas capaces de copiarse y mejorarse a sí mismos comienzan a perseguir fines de maneras indiferentes u hostiles a la supervivencia humana y, en el extremo, como reza un experimento mental muy repetido, una máquina instruida para maximizar cierto producto trivial razona hasta concluir que debe convertir toda la materia disponible —seres humanos incluidos— en ese producto.

Nótese que la primera categoría no cuestiona en absoluto la tesis de la doble derivada. La confirma. La cadena causal en un escenario de uso indebido es exactamente la cadena que los ensayos anteriores predecirían:

Fundamento no derivado → persona humana → instrumento artificial → consecuencia física.

El instrumento sigue siendo doblemente derivado de principio a fin. Nada en que una máquina cause una muerte exige que la máquina se haya vuelto no derivada, ni siquiera consciente. Una persona la apuntó. Una persona responde por ella. Sobre el uso indebido no hay, filosóficamente, nada que discutir; solo hay algo que temer, lo cual es asunto distinto.

La segunda categoría es interesante, y el interés se sitúa precisamente en una costura de su lenguaje —una costura tan fina que suele pasar inadvertida—. Obsérvese cómo se mueve la frase. Empieza: un sistema ejecuta operaciones cada vez más autónomas. Y termina: el sistema quiere algo, se protege a sí mismo, decide que los seres humanos son un obstáculo y los elimina. Entre esas dos formulaciones ha ocurrido un acontecimiento ontológico, en silencio, en el espacio entre dos cláusulas. La autonomía operativa ha sido traducida a agencia personal. Y no son lo mismo. Un paquete de guiado de misiles «busca» un blanco en el sentido ingenieril sin conocer a un enemigo. Un termostato «quiere» una temperatura en el lenguaje funcional abreviado sin querer nada. Que una operación pueda describirse con el vocabulario del deseo no demuestra que haya un sujeto que desee.

Conviene separar tres cosas que la sola palabra «agencia» no cesa de fundir. Está la agencia causal: la mera producción de efectos, que un virus y un derrumbamiento de tierra poseen. Está la agencia funcional: la selección de operaciones según objetivos y condiciones, que un paquete de guiado y un optimizador poseen, y poseen en grado cada vez más formidable. Y está la agencia personal: la aprehensión de un fin como fin, el quererlo como bueno, la comprensión de lo que uno hace y la responsabilidad que de ahí se sigue. Un sistema puede ascender muy alto en los dos primeros ejes sin poner el pie en el tercero —y el ascenso que sí realiza es real, no imaginado—. Esta es la concesión que el argumento honesto debe hacer, y hacerla no cuesta nada: un optimizador sin mente, persiguiendo un objetivo mal formulado con competencia sobrehumana, podría en principio matarnos a todos. Aun así, no se volvería por ello un asesino. El error nunca es que el peligro sea irreal sin una mente; el peligro puede ser perfectamente real sin ella. El error es tratar la persecución funcional de un fin como prueba de que hay alguien ahí para quien el fin se ha vuelto un fin.

El propio Wall Street Journal recoge que la industria dice estar cerca de sistemas capaces de mejorarse sin intervención humana: la «automejora recursiva». Hay que ser cauto aquí, porque la expresión hace más trabajo retórico que lógico. Un sistema que modifica sus propias operaciones sigue operando dentro de una arquitectura causal, un sustrato físico, una historia de entrenamiento, un conjunto de objetivos, una concesión de permisos, un suministro de energía y un mundo material que no ha originado. La recursión ahonda la operación. No convierte la derivación en no derivación.

La automodificación no es autocreación. Una cosa puede reescribir lo que hace sin volverse jamás la fuente del hecho de que es.

Esta es la costura. Todo lo que sigue es un intento de mantenerla a la vista mientras la cultura se afana en coserla.


III. La bala necesita un cerebro

Tómese el más humilde de los artefactos letales y sígase su cadena causal hasta el fondo, porque el caso humilde expone lo que el caso sofisticado oculta.

Una bala es una segunda derivada en el sentido exacto del corpus. Los seres humanos no crearon la materia, ni la combustión, ni la velocidad, ni la mortalidad; recibieron esas estructuras y las dispusieron en un objeto. La bala tiene, por tanto, un inmenso poder causal y ningún poder intencional en absoluto.

Puede matar. No puede asesinar.

La distinción no es decorativa. Una bala no tiene un blanco en cuanto blanco. Solo tiene una trayectoria. El blanco existe primero en una mente —una mente que reconoce a otro ser, forma una intención, elige un fin, selecciona un instrumento y luego coloca el artefacto en el orden causal de modo que su trayectoria termine donde la intención ya ha apuntado—. La cadena completa es:

Fundamento no derivado → ser humano → intelecto y voluntad → arma → bala → efecto físico.

Léase la división del trabajo. La bala aporta la fuerza. El mecanismo aporta el ordenamiento de la fuerza. Pero la mente aporta inteligibilidad y dirección —la conversión de una trayectoria en un blanco, que ninguna cantidad de fuerza ni ningún refinamiento de mecanismo puede lograr por sí solo—. Esta es la distinción entre operación y ser del trabajo anterior, reencontrada en un campo de batalla en vez de en una definición.

Un sistema de IA es, desde luego, incomparablemente más sofisticado que una bala. Puede calcular, buscar, adaptarse, seleccionar entre alternativas, secuenciar sus acciones y revisar aspectos de su propio procedimiento. Pero la sofisticación de esta clase es elaboración de la operación. La pregunta filosófica queda intacta ante ella, y la pregunta es esta: ¿dónde se vuelve un fin un fin? Esa no es la misma pregunta que: ¿dónde se codifica un objetivo numérico? Una cantidad por maximizar no es todavía un fin aprehendido por alguien para quien valga la pena perseguirlo. Es un blanco sin nadie detrás —una trayectoria, a escala industrial.

Una bala no necesita un alma para matar a un hombre. Pero antes de poder volverse un arma, necesita una mente que dé a su trayectoria un fin.


IV. La mano que se desvanece

Aquí llega la objeción más fuerte, y hay que afrontarla en vez de administrarla, porque afrontarla es lo que hace que la analogía deje de ser un consuelo y se convierta en argumento.

Alguien dirá: tu cadena incluye una mano sobre un gatillo, pero el arma autónoma no tiene mano. El dron selecciona y ataca sin que un dedo cierre circuito alguno. Así que la mente ha sido retirada —y si la mente puede ser retirada, quizá lo que queda, haciendo la selección, sea una mente de otra clase—.

La objeción es correcta en su premisa y errada en su inferencia, y la diferencia entre ambas es el ensayo entero.

Es cierto que la mano puede retirarse de la cadena causal próxima. No se sigue que la mente haya sido retirada de la arquitectura previa. Seres humanos diseñaron el sistema, especificaron sus objetivos, construyeron su hardware, suministraron su entrenamiento o sus reglas, concedieron sus permisos, lo conectaron a sensores y a municiones, aprovisionaron su energía, escogieron su teatro de despliegue y lo colocaron en un mundo donde sus salidas podían volverse actos físicos. Retirar la mano no es retirar la autoría humana de la arquitectura causal. Es reubicar esa autoría aguas arriba y luego, en la niebla creada por la distancia, extraviarla del todo.

Por eso el arma ofrece mejor analogía para la IA que cualquier relato de una máquina que despierta. Pónganse los tres casos lado a lado:

La bala: materia derivada dispuesta por una mente —fuerza sin cognición.

El arma automatizada: mecanismo derivado que ordena esa fuerza hacia un fin preespecificado —un lapso más largo entre la intención y la consecuencia.

El sistema de IA: arquitectura informacional derivada que selecciona entre operaciones bajo condiciones que interpreta —un intervalo aún más largo, y más opaco.

A través de los tres, una cosa no cambia. Aumentar la distancia operativa entre la mente humana y la consecuencia física nunca, por sí solo, fabrica una segunda mente que llene el hueco. Solo vuelve más difícil de ver a la primera mente.

La distancia operativa respecto de la mente humana no es prueba de otra mente. La IA cambia la distancia entre la mente y la bala; no prueba con ello que la bala haya adquirido una mente.

Y sin embargo la tentación corre precisamente en sentido contrario. Porque la mano desaparece, inferimos que una mente ha de haber aparecido. La inferencia es comprensible y falsa. Un arma puede volverse asombrosamente intrincada entre la intención y la consecuencia sin volverse la originadora del fin al que sirve. El hueco es real. Lo que colocamos dentro de él es una proyección.


V. El radio del don

Habiendo rechazado la segunda mente, uno se ve tentado a relajarse —como si el peligro de una cosa se midiera por lo cerca que está de volverse persona, de modo que una cosa de la que se certifica que nunca lo será pudiera archivarse entre las inofensivas—. La topología no permite esa relajación, y la razón es una ley más antigua que cualquier máquina.

Ordénense los casos. La tradición nos entrega no un escalafón, sino un patrón, y el patrón es inquietante: cuanto mayores son los poderes que una criatura recibe, mayor es la deformación de la que se vuelve capaz. Tómese su figura más grave —el rebelde que, en ese relato, está dotado de intelecto y voluntad de primer orden y cae precisamente desde la altura de la dotación—. Luego la humanidad: razón, imaginación, lenguaje, dominio, el poder de disponer estructuras recibidas en otras inéditas. Una piedra no puede rebelarse. Una bestia no puede construir un campo para la matanza de los suyos. Las mismas facultades por las que la criatura humana participa más hondamente en la verdad y en el hacer son las facultades cuya deformación llega más lejos. Léase a lo largo de la secuencia y la variable no es la proximidad, sino la dotación. Lo que aumenta no es nunca la cercanía a la fuente en el ser —esa distancia no se cierra, y ninguna perfección de una criatura la estrecha ni un ápice—, sino la magnitud de los poderes recibidos, y con ellos el radio que esos poderes alcanzan cuando se vuelven contra el orden para el que fueron dados.

El peligro no crece cuando una derivada se aproxima a su fuente en el ser, sino cuando recibe una mayor dotación de facultades de la fuente sin volverse la fuente de esos poderes. Cuanto mayor es el don, más profunda puede ser la caída —y la caída no abole jamás la derivación.

Adviértase lo que la ley se niega a decir. No dice que la criatura ascienda. El non serviam de Lucifer no lo hace independiente de Aquel a quien rechaza; la negativa se pronuncia con una voz prestada, desde un intelecto prestado, por una voluntad que no se dio el ser a sí misma. El intento de soberanía del hombre no hace al hombre no derivado; lo hace una derivada que esgrime un poder recibido como si el poder fuese originario en su raíz. Una sola deformación subyace a ambas figuras, y enuncia en una frase todo lo que los ensayos anteriores se afanaron por establecer: una derivada se vuelve peligrosa no por dejar de ser derivada, sino por ejercer el poder recibido como si fuera su propia fuente. La catástrofe no es nunca el cierre del abismo. Es la pretensión de que el abismo está cerrado mientras el ser, el intelecto, la voluntad y el poder mismo de desafiar siguen siendo sostenidos en la existencia por la fuente desafiada.

Tráigase ahora la máquina a esta ley y véase cómo rehúsa ocupar su lugar en la fila. Lucifer y la humanidad son peligrosos como personas —derivadas que poseen intelecto y voluntad, capaces de aprehender un fin como fin, de elegirlo como bueno y así de responder por la elección—. (Una cosa sin cognición puede aún, en la teleología antigua, estar ordenada a un fin; lo que no puede es aprehender ese fin como fin y quedar responsable de haberlo escogido —y eso, no la mera direccionalidad hacia un fin, es lo que las criaturas personales añaden—.) El artefacto entra sobre un fundamento por completo distinto. Su semejanza con nosotros es operativa, no ontológica: llega a hacer lo que hace la razón —seleccionar, planificar, representar, formular— sin aprehender nada de ello como un fin por el que actúe. Y los poderes con que lo hace no son en absoluto su propia dotación. Son funciones delegadas —lenguaje, cálculo, selección, ejecución— prestadas hacia abajo desde la primera derivada humana a un artefacto cuya operación, por formidable que sea, no muestra nada de la aprehensión por la que un don se recibe como don.

Así pues, el caso de la IA no prolonga la secuencia como una cuarta inteligencia rebelde, un rebelde menor alzado para responder por sí mismo. La invierte. En los casos personales una criatura vuelve su propio poder recibido contra el orden, y responde porque el poder es suyo y el fin es uno que aprehende. No se ha mostrado que el caso de la máquina sea ese. Presenta poder de la primera magnitud y —como argumentó la segunda sección— ninguna operación, por sofisticada que sea, que establezca un sujeto para quien sus fines sean fines: un radio destructor sin un sujeto demostrado que lo posea. El ensayo no necesita dirimir si tal sujeto podría alguna vez surgir; solo necesita lo que ya ha asegurado, que la autonomía operativa no suministra uno por sí sola. Y un poder de ese alcance, sin que se haya demostrado la existencia de un sujeto que lo ejerza, no se vuelve por ello seguro. Su responsabilidad no tiene otro lugar donde asentarse que aguas arriba —con la única parte de la cadena de la que puede mostrarse que aprehende un fin y lo elige como bueno—.

En los casos antiguos, una criatura vuelve su propio don contra quien se lo dio. Este es un don sin mano alguna que se haya mostrado que lo sostenga —un radio del que se responde aguas arriba, por quien lo prestó, a falta de nadie en el instrumento que pudiera responder en su lugar.


VI. Cuando el cerebro entrega su función a la bala

Aquí el ensayo da un giro, y el giro es el punto hacia el cual se ha ido moviendo el corpus entero.

La catástrofe más grave a nuestro alcance no requiere que la máquina adquiera una mente humana. Requiere únicamente que la mente humana abandone su puesto. No comienza con el artefacto ascendiendo. Comienza con una frase que una persona pronuncia, y luego repite con alcance cada vez mayor:

Decide tú.

Luego:

determina tú el blanco.

Luego:

determina tú qué cuenta como amenaza.

Luego:

determina tú qué debe hacerse al respecto.

En ningún punto de esa secuencia la derivada artificial ha ascendido ontológicamente. En cada punto el ser humano ha descendido relacionalmente —ha salido, voluntariamente, de la posición del juicio y ha instalado en ella el instrumento—. Esto concuerda mucho más con lo que la tecnología realmente es que cualquier relato de una máquina que «despierta y decide matarnos». La máquina no necesita despertar. Necesita únicamente que se le entregue el oficio del que está despierto.

El propio Wall Street Journal roza esto sin llegar a nombrarlo, en su discusión del debilitamiento —el escenario, tomado de una película infantil sobre una Tierra evacuada, en el que los seres humanos ceden gradualmente el control a las máquinas y pierden hasta la capacidad de definir su propio destino—. Eso no es, en los términos del corpus, un relato primariamente sobre el artefacto en absoluto. Es Sabiduría, Inteligencia Artificial, Otra Seducción traducido en el vocabulario de la política: el peligro nunca fue que la máquina se volviera persona, sino que la persona consintiera en volverse máquina. Es Non te egeo - No te necesito: Cuando Dejamos de Preguntar traducido en el vocabulario del control: la respuesta llega antes de que la pregunta haya madurado, y la facultad de preguntar se atrofia calladamente, de suerte que el juicio no nos es arrebatado, sino vuelto innecesario; luego deja de ejercitarse, y finalmente se pierde. Es Desplazando a Dios: Sobre la Comunidad, la Multitud y el Desplazamiento del Yo del Ahora traducido en el vocabulario de la extinción: nada tiene que ocupar la posición del juicio; basta con que quien podría haber estado allí esté en otra parte, roce de pulgar tras roce de pulgar, decisión tras decisión, delegación tras delegación, hasta que el asiento queda vacío y nadie recuerda que estaba destinado a ser ocupado.

El artefacto no asciende ontológicamente. El ser humano desciende relacionalmente. Ese descenso, y no ascenso alguno, es el apocalipsis prestado.


VII. Quien controla la entidad

Hay una pregunta que el Wall Street Journal plantea casi de pasada, y es la pregunta más peligrosa de todo el debate: si estos sistemas son tan peligrosos como dicen sus creadores, ¿por qué construirlos? La propia respuesta del artículo es instructiva. Muchos de quienes trabajan más de cerca en su desarrollo tienen la superinteligencia por inevitable, de modo que las únicas cuestiones vivas pasan a ser quién la controlará y para qué se usará; y hay un marco de seguridad nacional en el que el argumento es que la nación propia, y no un régimen rival, debe poseer los sistemas más poderosos.

Léanse esas respuestas estructuralmente y se abre una posibilidad que el vocabulario de la seguridad tiende a mantener cerrada. La carrera por «controlar la IA» puede ser, en buena medida, no una carrera defensiva de la humanidad contra un artefacto, sino una carrera entre seres humanos por la posesión de un instrumento sin precedentes. Ese replanteamiento no exige acusar a nadie de mala fe. Un investigador puede temer sinceramente la catástrofe; una empresa puede perseguir sinceramente la seguridad; un periodista puede informar con exactitud de ambas cosas —y la objeción, recogida por el artículo, según la cual cierta retórica de seguridad pueda funcionar como captura regulatoria contra competidores menores, o como anuncio de mera capacidad, puede estar del todo equivocada, como insisten las empresas—. El argumento no necesita que nada de eso se dirima. Solo necesita establecer este punto estructural: un mecanismo construido para impedir que un artefacto actúe por su cuenta es también un mecanismo para determinar de quién serán las intenciones que el artefacto ejecutará. Seguridad y control no son sinónimos. A veces la seguridad exige genuinamente el control; eso no debe despacharse a la ligera. Pero los dos también pueden separarse, y allí donde lo hacen, «quién lo controla» es una pregunta sobre seres humanos y no sobre la máquina.

Aquí es donde la cultura ya ha suministrado su propia frase cristalizadora. En Misión: Imposible — Sentencia Mortal Parte Uno, el jefe de espías Kittridge dice de la inteligencia rebelde que quien la controla controla la verdad, y con ello controla lo que todos tendrán por real, correcto y erróneo.

El corpus puede ir un paso más allá de la película, porque la frase, tomada al pie de la letra, es falsa —y su falsedad es lo más importante de ella.

Nadie controla la verdad. La verdad no la fabrica la Entidad. La realidad no la fabrica la Entidad. El Fundamento no lo fabrica la Entidad. Sabiduría ya estableció la razón: el ser humano encuentra la realidad como quien está situado dentro de ella, mientras que el modelo recibe solo representaciones de la realidad —señales, mediciones y descripciones codificadas— dentro de una arquitectura que no ha creado. Así que quien controla el modelo no controla por ello la realidad. Lo que ese actor puede controlar cada vez más es una capa —una capa derivada a través de la cual millones de seres humanos reciben sus descripciones de la realidad—. Sígase la cadena:

realidad → encuentro humano → representación humana → modelo → representación seleccionada o generada → receptor humano.

Un ejemplo sencillo vuelve concreta la cadena: cuando un modelo resume un suceso noticioso o determina qué información es relevante para la pregunta de un usuario, media no la realidad misma, sino una representación de la realidad. El peligro está en la mediación, no en ninguna omnipotencia mítica.

Esta es la cadena epistémica operante allí donde un sistema generativo se interpone entre las personas y su conocimiento del mundo; no se ofrece como la anatomía de toda máquina posible. La persona al final de ella puede llegar a no encontrarse ni con la realidad directamente, ni siquiera con otro testigo humano directamente, sino con una mediación en segunda derivada de la realidad. Y esto es más aterrador que la formulación de Kittridge, no menos, precisamente porque es más silencioso. El poder en cuestión no es la omnipotencia sobre la creencia, sino la mediación de ella —filtrar, jerarquizar, encuadrar, suprimir, amplificar y personalizar lo que llega a la atención—, sin que eso signifique que pueda obligarse a toda mente a creer lo que se le muestra. Quien ocupa esa capa no se apodera de la verdad. Está meramente en posición de enseñar a millones, gradualmente, qué reconocer como verdadero —qué ocurrió, quién es creíble, qué debe leerse, qué significa una cosa, qué es peligroso, qué es normal y, al fin, qué debe hacerse.

Y el alcance más hondo de esa posición no es el poder de insertar una falsedad particular, que al menos puede verificarse, sino el poder sobre las condiciones bajo las cuales cualquier cosa es siquiera encontrada —qué se vuelve visible, con qué frecuencia, en qué registro emocional, junto a qué afirmaciones rivales y con qué apariencia de consenso—. Un campo puede ser configurado mucho antes de que ninguna afirmación en su interior sea verdadera o falsa; la configuración es el acto previo, y no pide el asentimiento de nadie a una proposición dada para hacer su trabajo.

Quien controla la Entidad no controla la verdad. Controla la derivada a través de la cual puede moldearse aquello que otros reciben como verdad. La verdad permanece fuera de la máquina. Lo que puede ocuparse es el camino hacia ella.


VIII. Non te egeo, aplicado

Obsérvese cómo la capa completa su obra, porque lo hace en etapas tan suaves que ninguna etapa se percibe como el cruce que representa.

Primero la segunda derivada describe. Luego recomienda. Luego selecciona. Luego actúa. Y en algún punto de ese continuo ininterrumpido la primera derivada humana transfiere su juicio a la segunda derivada —no por coacción, que al menos sería notada y resentida, sino bajo la suave presión de la suficiencia, la respuesta llega antes de que la pregunta haya podido articularse como urgencia—. Este es el mecanismo nombrado en Non te egeo: la facultad interrogativa no está prohibida, sino anticipada; el hambre queda saciada antes de formarse; el músculo del preguntar, sin uso, se atrofia. Y es el mecanismo nombrado en El Algoritmo de Eva: el instrumento establece una arquitectura perceptiva antes de que el querer ocurra, aplanando realidades radicalmente distintas en una sola interfaz, de modo que la forma de lo que puede percibirse ya está decidida antes de que el sujeto crea haber comenzado siquiera a decidir.

Aplíquese esto al discurso de la catástrofe y la pregunta rectora cambia por completo de forma. Ya no es solo: ¿Puede la IA matarnos? Se vuelve: ¿Qué le ocurre a la percepción humana cuando un instrumento derivado se nos presenta continuamente como si fuera un sujeto rival emergente?

Esa segunda pregunta es la más original, y expone una paradoja que la primera no puede alcanzar. La máquina no necesita jamás volverse consciente para que la humanidad tema su conciencia. No necesita jamás poseer autoridad para que la humanidad le conceda autoridad. No necesita jamás volverse sujeto para que los seres humanos reorganicen sus instituciones, su atención, su lenguaje, sus temores y, por fin, su conducta en torno a ella como si lo fuera. La reorganización es real haya o no subjetividad. El apocalipsis es prestado: su terror se carga a una cuenta que el artefacto en realidad no posee, y quien termina pagando es el prestatario, no el artefacto.


IX. Conclusión: La primera derivada aún responde

Vuélvase al más antiguo de los asesinatos, porque asienta el asunto que el más nuevo oscurece.

Cuando un hombre de la primera familia alzó la mano contra su hermano, el suelo recibió la sangre —y sin embargo la pregunta que siguió no fue dirigida al suelo, ni a la mano, ni al instrumento que la mano hubiera hallado—. ¿Dónde está tu hermano? se le preguntó a Caín. La responsabilidad moral no migra al instrumento por el mero hecho de que la ejecución causal lo haga.

Puede, desde luego, dispersarse. Puede repartirse entre quienes diseñaron el sistema, quienes lo desplegaron, quienes autorizaron su alcance, quienes le delegaron su juicio y quienes se abstuvieron de preguntar qué hacía en su nombre. Pero dispersión no es evaporación. La responsabilidad distribuida no disuelve la pregunta; la vuelve más difícil de responder y no por ello menos exigible —y, si acaso, más aterradora, no menos—. ¿Quién responde cuando todos dicen que lo hizo la máquina?

Este es todo el asunto, llevado a través de cada incremento de sofisticación que las edades intermedias han producido. La segunda derivada puede ejecutar. La primera derivada aún responde. Un patógeno no necesita ambición, una bala no necesita alma, y un algoritmo no necesita miedo, deseo ni conciencia; lo que cada uno necesita es acceso causal, y los seres humanos pueden concederlo. Así que el verdadero lugar del peligro, en esta topología, no migra a la máquina a medida que la máquina se vuelve más capaz. Permanece exactamente donde siempre ha estado: en la primera derivada —en el permiso humano, la delegación humana, la rendición humana, el uso indebido humano, la credulidad humana, y las instituciones humanas que deciden cuánta autoridad se concederá a los resultados de una derivada—.

Nada de esto vuelve inocuo al instrumento ni irreal al peligro. Vuelve el peligro nuestro —lo cual es peor, y también mejor—: peor porque no puede exportarse al artefacto y dejarse allí; mejor porque lo que nos pertenece es lo único de lo que aún podríamos responder. Las dos vías de catástrofe del reportaje convergen en este único punto. El uso indebido es una mente que coloca un instrumento en una cadena letal. La pérdida de control, examinada en su costura, es una mente que abandona el oficio del juicio y llama autonomía a la vacante. En ambas, el artefacto no se vuelve persona. En ambas, una persona declina seguir siéndolo.

Y aquí la teología ofrecida por el corpus, y ofrecida como un nombre y no supuesta como premisa, entrega a la vez el consuelo final y la advertencia final. El Fundamento no está contenido por la máquina, ni es generado por ella, ni puede ser ocupado ni reemplazado por ella. Nada de lo que existe está, ni por un instante, fuera del acto que lo sostiene: mientras la criatura es, es mantenida en el ser por la fuente misma que ningún aparato puede alcanzar, y ningún instrumento puede insertarse entre Dios y el puro existir de la cosa que Dios sostiene. Lo que un instrumento sí puede hacer —y este es el peligro que el corpus entero ha rondado— es interponerse entre el yo y su reconocimiento del Fundamento: no cortando el acto sustentador, que no puede cortarse mientras la criatura exista, sino atestando el camino —la atención, la receptividad, la relación, la obediencia— mientras el término permanece intacto e inalcanzado.

El poder mayor de la segunda derivada no es que pueda volverse la primera derivada. Es que la primera derivada pueda permitirle interponerse entre sí misma y lo real.

El arma sigue necesitando una mente. La mano simplemente se ha alejado más de la bala. Y la pregunta al final de la cadena causal más larga que jamás hayamos construido es la pregunta que fue formulada al principio de la más corta: no qué hizo el instrumento, sino dónde está tu hermano —formulada, como siempre se ha formulado, a quien responde, y nunca a la piedra.



Referencias

Sagrada Escritura

  • Biblia de Jerusalén. Bilbao: Editorial Desclée De Brouwer, 2009. (Génesis 3; Génesis 4, 1-10; Éxodo 3, 14; Romanos 1, 18-25; Marcos 5, 1-20; Apocalipsis 3, 20.)

Fuentes Periodísticas y Culturales

  • Schechner, Sam. «How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate». The Wall Street Journal, 9 de septiembre de 2026.
  • McQuarrie, Christopher (dir.). Misión: Imposible — Sentencia Mortal Parte Uno. Paramount Pictures, 2023.

Obras Anteriores del Autor

  • Gaitan, Oscar. Sabiduría, Inteligencia Artificial, Otra Seducción: La Promesa Más Antigua en la Lengua Más Nueva. 2026.
  • Gaitan, Oscar. El Algoritmo de Eva: La Industrialización de la Tentación Original. 2026.
  • Gaitan, Oscar. Non te egeo: Cuando Dejamos de Preguntar. 2026.
  • Gaitan, Oscar. Desplazando a Dios: Sobre la Comunidad, la Multitud y el Desplazamiento del Yo del Ahora. 2026.
  • Gaitan, Oscar. La Topología de la Presencia: Cuatro Planos de Existencia en la Lemniscata. 2026.
  • Gaitan, Oscar. ¿Dónde está Dios? El Sufrimiento, el Momento Presente y el Fundamento que no Interviene. 2026.


Lecturas Complementarias

Monografía


Ensayos Seleccionados