La IA podría acabar con la humanidad. ¿Cómo se supone que los humanos deben asimilar eso?
La tecnología está lejos de ser el único riesgo existencial al que se enfrenta nuestra especie. Pero sopesar tales temores cósmicos puede convertirse en un ejercicio mental complejo.
The New York Times. William J. Broad y Cade Metz, 10.09.2026
Podría lanzar un ataque con armas biológicas o una guerra global con drones. Podría detonar una bomba nuclear. O podría destruir la sociedad humana de forma más gradual, acaparando todos los recursos económicos del mundo y privándonos de alimentos, vivienda o medicinas.
Estos son los tipos de pensamientos sombríos que ahora rodean a la inteligencia artificial, una tecnología que ya ha demostrado ser un gran avance en los logros humanos, pero que, según algunos, también tiene el potencial de extinguir por completo a la humanidad.
Estas inquietudes acapararon los titulares mundiales esta semana cuando un investigador de Anthropic abandonó el sector, alegando el temor de que su laboratorio y otros similares estuvieran construyendo máquinas superinteligentes que los humanos no podrían controlar.
Las posibles amenazas que plantea la IA son, comprensiblemente, aterradoras. Pero el mundo moderno está plagado de multitud de riesgos existenciales. La humanidad también se enfrenta a la perspectiva de una catástrofe provocada por asteroides asesinos, pandemias, guerra termonuclear, cambio climático, enormes masas de material incandescente expulsadas del sol, colapso ecológico y el inicio de una repentina era glacial.
Según científicos y expertos en políticas públicas, el problema no reside tanto en estas amenazas, de las cuales la IA es solo la más reciente, sino en la dificultad humana innata de ponerlas en perspectiva.
“Toleramos los riesgos a los que estamos acostumbrados, pero tememos los nuevos”, dijo James K. Hammitt , director del Centro de Análisis de Riesgos de Harvard .
Según él, viajamos en coche con más frecuencia que en avión, por lo que "las aerolíneas se perciben como peligrosas en comparación con los vehículos de motor, cuando en realidad no lo son".
La inteligencia artificial, señaló, "obviamente no se comprende ni está bajo nuestro control, por lo que genera una enorme preocupación social".
Entre los ejecutivos tecnológicos e investigadores que desarrollan sistemas de IA, siempre ha existido un sector que ha advertido sobre el potencial de la IA para destruir a la humanidad.
A corto plazo, algunos afirman que la inteligencia artificial podría ayudar a personas inexpertas pero malintencionadas a crear virus o sustancias tóxicas capaces de causar enfermedades y muertes generalizadas. Precisamente el jueves, Anthropic anunció haber frustrado varios intentos de científicos que realizaban investigaciones que podrían conducir al desarrollo de armas biológicas.
A largo plazo, quienes advierten sobre los peligros potenciales de la IA argumentan que las empresas tecnológicas podrían otorgarles mayor autonomía, conectarlos a internet e incluso integrarlos en infraestructuras vitales, como redes eléctricas, mercados bursátiles y armamento militar. Una vez conectados a estas infraestructuras, sostienen, los sistemas de IA podrían causar problemas de maneras imprevistas.
Hoy en día, cuando los sistemas de IA se descontrolan, empresas como OpenAI simplemente pueden desactivarlos. Pero a algunos expertos les preocupa que los sistemas futuros se resistan a los intentos de desactivarlos.
Por ahora, estas son preocupaciones hipotéticas.
«Estamos muy lejos de eso», dijo Oren Etzioni, profesor de la Universidad de Washington y director ejecutivo fundador del Instituto Allen para la Inteligencia Artificial. «Si tuviera que preocuparme de que una IA escapara del laboratorio y matara a millones de personas o de que un virus escapara y matara a millones, no hay comparación. La preocupación es el virus».
Resulta que incluso el ántrax tiene una probabilidad razonable de acabar con la humanidad.
El ántrax existe desde la antigüedad, pero más recientemente se ha convertido en uno de los favoritos de naciones rebeldes que desarrollan programas de armas biológicas.
Los científicos saben desde hace tiempo que un solo galón de ántrax, si se distribuye adecuadamente, podría acabar con la vida humana en la Tierra. Pero eso no ha sucedido, a pesar de que Corea del Norte y otros estados beligerantes (incluido Irán ) han sido sospechosos desde hace tiempo de albergar este germen letal.
Lo que a menudo se olvida en el pánico frenético de la vida moderna es que, al menos ante amenazas intencionadas, la simple disuasión puede ser la solución. Los actores estatales se muestran reacios a usar ántrax contra un enemigo porque se enfrentarían a represalias —convirtiendo un ataque en un suicidio—, lo que crea un incentivo para la moderación.
El Centro Harvard, fundado en 1989, busca poner en perspectiva estos numerosos escenarios catastróficos, especialmente los inevitables, como los riesgos ambientales y las graves amenazas para la salud humana. Su objetivo es aplicar la ciencia de la decisión, la economía y la evaluación de riesgos para analizar y mejorar la formulación de políticas.
De igual modo, la NASA utiliza supercomputadoras en su Proyecto de Evaluación de Amenazas de Asteroides . En general, la agencia espacial considera que el riesgo de un impacto de asteroide que ponga en peligro la existencia humana durante este siglo es prácticamente nulo. Además, calcula que los habitantes de la Tierra pueden (con toda probabilidad) respirar tranquilos durante al menos los próximos 1000 años.
¿Y cómo evalúan los científicos expertos el riesgo de una pandemia mundial que acabaría con la mayor parte de la vida humana?
Consideran que la amenaza es baja, si no nula. Toby Ord , investigador de la Universidad de Oxford, en su libro de 2020 "El precipicio: riesgo existencial y el futuro de la humanidad", estimó que el riesgo de una catástrofe existencial derivada de una pandemia en un plazo de 100 años es de una entre 30, o aproximadamente un 3 por ciento de probabilidad.
Lo que distingue a los agoreros de la industria tecnológica de, por ejemplo, un científico de aerolíneas que evalúa los riesgos de accidentes, es que muchos ejecutivos e investigadores de IA ya compartían esas creencias tan funestas incluso antes de que la tecnología comenzara a demostrar su potencial. Creen que el riesgo existencial es un problema grave, en parte porque siempre lo han creído.
«Yo estaba allí cuando se desarrolló esta subcultura», dijo Zack Korman, fundador de Embroidery, una empresa de seguridad de IA. Se refería a su época en la Universidad de Oxford, cuando esta era un foco del movimiento del «altruismo eficaz», donde se gestaron muchos de estos temores sobre el riesgo existencial de la IA. Según Korman, muchos pensadores actuales sobre el tema «interpretan todos los acontecimientos a la luz de esta narrativa que se ha contado durante más de una década».
Sin embargo, muchos de los principales investigadores del mundo no comparten esas creencias. Afirman que los temores son exagerados. Y los científicos fuera de Silicon Valley tienden a tener una visión muy diferente sobre la amenaza de la IA.
«El debate tiene un marco, y es un marco muy particular. Ese es el marco que existía antes de que el aprendizaje profundo despegara, y se ha mantenido», dijo Branton DeMoss, investigador de IA en Oxford, refiriéndose al auge de las redes neuronales. «Y no estoy de acuerdo con él».
En una reciente publicación de blog , el Dr. Ord resumió los diferentes riesgos mundiales como fluctuantes: una catástrofe climática en descenso, un desastre nuclear en ascenso. Su opinión sobre las pandemias y la IA es ambigua: muchos cambios, pero sin una dirección clara en los riesgos generales.
Los expertos señalan que los riesgos catastróficos y existenciales también pueden mitigarse con planes sólidos y sistemas de alerta temprana. Ante un peligro claro e inminente (como un asteroide en trayectoria de colisión con el planeta), la humanidad bien podría unirse contra un enemigo común, dejando de lado las disputas.
El Dr. Ord espera que llegue el día en que se logre lo que él llama seguridad existencial.
«Se trata de un estado futuro hipotético del mundo donde el riesgo existencial es bajo y se mantiene bajo», escribió en su publicación. El Dr. Ord añadió que la humanidad no solo extinguiría los incendios actuales, sino que «implementaría los mecanismos necesarios para garantizar que el fuego ya no represente una amenaza sustancial».
William J. Broad ha escrito artículos sobre ciencia para The Times desde 1983. Reside en Nueva York.
Cade Metz es un reportero del Times que escribe sobre inteligencia artificial, coches autónomos, robótica, realidad virtual y otras áreas tecnológicas emergentes.
No hay comentarios:
Publicar un comentario