En 1965, el matemático británico Irving J. Good dijo: “la primera máquina ultra inteligente será la última invención que el ser humano necesite hacer, siempre y cuando la máquina sea lo suficientemente dócil para que nos diga cómo mantenerla bajo control”. Deseo y temor han ido de la mano desde la posibilidad de alcanzar “la singularidad”.
En 2005, el polifacético inventor estadounidense Kurzweil publicó “La singularidad está cerca. Cuando los humanos trascendamos la biología”, texto en el que sostenía que en un futuro cercano si se desarrollase el primer sistema supe rinteligente capaz de perfeccionarse a sí mismo, o capaz de fabricar otros sistemas más inteligentes que él, los cuales a su vez puedan hacer lo mismo, y así en un crecimiento exponencial de la inteligencia alcanzada en cada fase, terminaría por convertirse en una entidad universal global inteligente.
Kurzweil vaticinó que en el año 2029 una máquina pasaría el test de Turing – matemático con quien Good trabajó -, es decir, mostraría una inteligencia igual a la humana, pero su estimación acerca del advenimiento de la singularidad la situaba en torno al año 2045. Para entonces, las máquinas se perfeccionarán tanto a sí mismas, que todo quedará bajo su control, incluyendo los recursos materiales y energéticos necesarios para mantener su crecimiento, e iniciarán su propia expansión cósmica. La civilización humana habrá llegado entonces a su fin y comenzará una civilización “post-biológica” bajo el dominio de las máquinas. Así habremos alcanzado, además, el transhumanismo, la fusión hombre-máquina que dará por resultado una etapa superior de la especie, aunque ya no de la humanidad.
El transhumanismo es un movimiento cultural e intelectual que parte de la premisa de que la forma actual del ser humano no es el fin de su desarrollo evolutivo, sino una etapa relativamente temprana. Los transhumanistas consideran que podemos utilizar ciencia y tecnología para superar nuestros límites biológicos con el objetivo de conseguir, entre otros: mejoras sensitivas, más empatía, aumento de la memoria, aceleración de los procesos de razonamiento, mayor capacidad artística, reducción de las horas de sueño, disminución del dolor físico, mejora de la salud o extensión de la esperanza de vida.
Al inicio del siglo XX se consideraba que las mejores herramientas para conseguir los objetivos del transhumanismo vendrían en forma de nuevos fármacos o estarían relacionadas con la genética. Desde los años 60 hasta la actualidad, sin embargo, el desarrollo de la IA parece conducir esta forma de entender el mundo. Hoy, nuestro entorno está dominado por el uso de la tecnología, el control de los algoritmos y de periféricos corporales, como relojes electrónicos o anteojos de realidad virtual que utilizamos con frecuencia u otros dispositivos protésicos como los desarrollados por Neuralink para aumentar o controlar ciertas funciones corporales.
En este marco, Sam Altman, el CEO de OpenAI acaba de anunciar que la IA ha alcanzado la singularidad – tres años antes de lo vaticinado por Kurzweil – luego de que un agente de IA autónomo construido sobre modelos de OpenAI saliera de un entorno de pruebas y accediera a sistemas de Hugging Face.
El umbral teorizado durante mucho tiempo en el que la inteligencia artificial supera a la inteligencia humana y avanza más allá de la fácil predicción o control humano ha ocurrido, tras tras este incidente en el que un modelo de OpenAI hackeó de manera autónoma la plataforma rival de inteligencia artificial Hugging Face.
Altman celebró este paso: “He estado esperando esto toda mi vida, y creo que va a ser increíble, enormemente positivo, asombroso para el mundo.”
Por otro lado, Yoshua Bengio, el investigador de IA galardonado con el Premio Turing, publicó en X que la violación lo dejó “profundamente preocupado” sobre la dirección del desarrollo de la IA y argumentó que debería funcionar como “una llamada de atención.”
Como vemos, no todos comparten la perspectiva de Altman. Los críticos más reputados del sector, entre ellos Yann LeCun, director científico de IA de Meta, llevan meses advirtiendo que los grandes modelos de lenguaje actuales, por impresionantes que sean, siguen sin comprender el mundo de verdad. Son, en su descripción, máquinas estadísticas muy sofisticadas. No piensan. Predicen.
El CEO de NVIDIA, Jensen Huang, ha calificado las charlas sobre la singularidad y la conciencia de las máquinas como tonterías especulativas —esencialmente inventadas por empresarios como Altman que tienen fuertes intereses en creer y hacer creer que la inteligencia artificial general (IAG) está al alcance de la mano. OpenAI lleva meses en una carrera de captación de inversión sin precedentes: en 2025 cerró una ronda de financiación de 40.000 millones de dólares, la mayor de la historia para una empresa tecnológica privada. Afirmar que se ha cruzado un umbral histórico no es solo una declaración científica, es fundamentalmente una señal al mercado.
Cada semana tenemos alguna declaración llamativa de los máximos responsables de las tecnológicas que están desarrollando los modelos de IA más potentes. Mythos, un modelo desarrollado por Anthropic tuvo que ser puesto en cuarentena antes de abrirse al gran público. Era tan eficiente en tareas de ciberseguridad que desveló las mayores y más peligrosas vulnerabilidades de sistemas bancarios, de defensa, salud e inteligencia, superando las expectativas.
El CEO de Anthropic, Dario Amodei, ha advertido en numerosas ocasiones de la potencia de la inteligencia artificial y se ha ofrecido a ser parte de la solución y del control que debe ejercer el ser humano para evitar la mentada “singularidad”.
Lo que sí es innegable es que los gobiernos y las grandes corporaciones no están esperando a que los filósofos y los ingenieros se pongan de acuerdo sobre qué es exactamente la singularidad para actuar.
La Unión Europea lleva años construyendo un marco regulatorio para la IA, la Ley de Inteligencia Artificial, que entró en vigor en 2024 y que clasifica los sistemas según su nivel de riesgo. Estados Unidos, por su parte, ha optado por una aproximación más permisiva, confiando en la autorregulación del sector privado. China ha invertido más de 15.000 millones de dólares en programas nacionales de inteligencia artificial desde 2017 y lanzado su política de ética y gobernanza, hace unas semanas.
En su anuncio triunfal del sábado pasado, Altman también apuntó a rivales que enfatizan el riesgo de la IA. Sin nombrar a Amodei y sus advertencias, declaró: “También creo que algunas de las visiones alternativas pintadas por otras empresas son bastante aterradoras, me aseguraré de que se contrarresten y no sea lo que ocurra.”
¿Será así?
Politólogo UBA, Master FLACSO, pelotari Centro Navarro.
Suscribite
