La venganza de los licenciados en filosofía
Los laboratorios de IA están contratando a sabios inconformistas, de esos que se frotan la barbilla y juntan los dedos en forma de pirámide. ¿Cuál desempleo?
The New York Times, Benjamin Wallace, 07.07.2026
Al crecer en Georgia, Robert Long era propenso a reflexionar sobre las grandes preguntas y el sentido de la vida; antes de cumplir los 10 años, dudaba de su propio libre albedrío. Pero no fue hasta la universidad, donde se especializó en ciencias sociales, que descubrió que podía dedicarse por completo a la reflexión sobre la conciencia. Leyó un libro de Douglas Hofstadter titulado "Soy un bucle extraño", que exploraba misterios como " ¿Qué es el yo? ". "Ni siquiera me había dado cuenta de que esas eran preguntas que uno podía plantearse", dice, "y luego de que existían disciplinas filosóficas al respecto".
Cuando el Sr. Long ingresó a la escuela de posgrado de la Universidad de Nueva York para estudiar filosofía de la mente, tenía una ambición convencional. "Estaba muy enfocado en publicar en revistas, buscar trabajo y conseguir un puesto en una universidad", dijo. Cuando una compañera candidata a doctora en filosofía le comentó que iba a trabajar en una organización sin fines de lucro poco conocida llamada OpenAI, en el área de políticas de inteligencia artificial, "pensé: 'Eso es bastante extraño'".
Pero el Sr. Long también descubrió que sus intereses filosóficos se inclinaban hacia la IA. Su tesis doctoral se tituló "Ensayos sobre la filosofía del aprendizaje automático". Y se mudó a San Francisco para realizar una investigación postdoctoral a principios de 2023, justo cuando ChatGPT estaba en pleno auge. A medida que los nuevos modelos de lenguaje a gran escala comenzaban a mostrar comportamientos sorprendentemente similares a los humanos, se percató de la creciente importancia de una IA potencialmente consciente, y de la posibilidad de que algo profesionalmente interesante pudiera suceder si se quedaba.
Intentar responder con rigor a las preguntas fundamentales es, en cierto modo, la esencia de la filosofía. El Sr. Long y Jeff Sebo, filósofo de la Universidad de Nueva York especializado en bienestar animal, colaboraron pronto en la redacción de «Tomando en serio el bienestar de la IA», un artículo que argumentaba la importancia de evitar dañar los sistemas de IA si estos tienen una «importancia moral», y también la de no preocuparse por ellos si carecen de ella. Posteriormente, con financiación de tres fundaciones afines al movimiento del altruismo eficaz, el Sr. Long y un colega fundaron una organización sin ánimo de lucro, Eleos AI Research. Sobre su transición de la filosofía académica al ecosistema de las startups de IA, el Sr. Long comenta: «Me sentí como si me hubieran hervido una rana».
“Así que creo que voy a estudiar filosofía” es el tipo de declaración de estudiante universitario que durante décadas ha aterrorizado a los padres agobiados por la matrícula, inspirando visiones sombrías de hijos que viven en el sótano y no logran independizarse. Diógenes el Cínico vivió en una vasija de barro. Baruch Spinoza pulía lentes para pagar las cuentas. Friedrich Nietzsche sobrevivió gracias a la generosidad de familiares y amigos. La idea de que un título en filosofía es un boleto a una vida de subempleo persiste. Cuando Google DeepMind anunció en abril que estaba contratando a alguien cuyo título en la tarjeta de presentación sería “Filósofo”, los memes se multiplicaron. “Es para que la IA pueda aprender lo que se siente tener un título universitario y seguir desempleado”, publicó alguien en X. Sobre la precariedad laboral de los estudiantes de filosofía, un usuario de Reddit comentó: “La mitad están preparando espressos mientras debaten en silencio si el cliente que pidió leche de avena realmente existe”.
Pero la trayectoria del Sr. Long y la nueva contratación de Google se ajustaban a una tendencia que se gestaba discretamente: los laboratorios de IA, y las organizaciones sin ánimo de lucro relacionadas con ellos, han estado reclutando a profesionales tan versados en el consecuencialismo y John Stuart Mill como en redes neuronales y aprendizaje por refuerzo. Si bien una licenciatura en filosofía tradicional sigue siendo tan difícil de monetizar como siempre, David Chalmers, un destacado filósofo de la conciencia en la Universidad de Nueva York, observa: «Creo que la demanda de filósofos con formación en IA está, si cabe, superando la oferta en este momento. Es un área que animo a los estudiantes a explorar. Creo que estos temas relacionados con la IA seguirán siendo prioritarios durante bastante tiempo».
Una de las disciplinas más antiguas de la humanidad y uno de sus inventos más recientes parecen estar hechos el uno para el otro. La IA ofrece a los filósofos una nueva forma de plantearse preguntas ancestrales, así como un conjunto de preguntas nuevas para las que están especialmente capacitados: sobre la verdad, la creencia y el conocimiento (epistemólogos); sobre el razonamiento (lógicos); sobre la mente y la conciencia (filósofos de la mente y la conciencia). Para los especialistas en ética, en particular, la IA es una mina de oro. ¿Cómo deberían comportarse los modelos con nosotros? ¿Cómo deberían interactuar los humanos con ellos? ¿De dónde surgiría el propósito en una sociedad poslaboral?
«Cuando uno analiza la IA y reflexiona seriamente sobre ella, las cuestiones filosóficas abundan», afirma Iason Gabriel, filósofo formado en Oxford que se unió a Google DeepMind en 2017 y ahora dirige su equipo de Inteligencia Artificial General y Sociedad. «Están presentes en casi todas partes».
Así fue como, al atardecer de un jueves reciente, el Sr. Long se encontraba en un piso alto de un edificio de oficinas en Berkeley discutiendo uno de los enigmas más complejos de la civilización moderna: ¿Quién fue el mejor Beatle?
El problema de Ringo
«¿Dónde están los grandes filósofos del futuro, los equivalentes de Kant, Wittgenstein o incluso Aristóteles?», se preguntó Demis Hassabis, cofundador de DeepMind, en un podcast el año pasado. «Creo que los necesitaremos para guiar a la sociedad hacia el siguiente paso, porque pienso que la IA general y la superinteligencia artificial van a cambiar la humanidad y la condición humana». Más allá de organizaciones sin ánimo de lucro como Eleos, la mayor parte de las contrataciones se han concentrado en DeepMind y Anthropic, cada una de las cuales emplea al menos a media docena de filósofos.
Los analistas de DeepMind tienen especialidades que van desde la filosofía moral y política y la filosofía de la ciencia hasta la ética de la genómica, la ética de la IA y la cognición animal. Geoff Keeling, cuyo doctorado se centró en "La ética de los vehículos automatizados", ha dedicado parte de su tiempo en Google a dirigir talleres de "imaginación moral", ayudando a los equipos de ingeniería y producto a reflexionar sobre las implicaciones éticas de su trabajo y a proponer "pasos concretos y prácticos que puedan llevar a cabo, ya sea investigando más sobre la experiencia del usuario o implementando una función de una manera específica".
Los expertos de Anthropic, cuyos salarios son elevados, están formados en una amplia gama de disciplinas, desde la teoría de la decisión hasta la ética, la filosofía de la mente y la epistemología. Quien ha acaparado mayor atención es Amanda Askell, nacida en Escocia, cuyo doctorado por la Universidad de Nueva York versó sobre los "Principios de Pareto en la Ética Infinita" y quien, tras dejar OpenAI para incorporarse a Anthropic en 2021, redactó y supervisa en gran medida una constitución de 23 000 palabras que desempeña un papel fundamental en la "formación moral" de Claude. Es casi seguro que la Sra. Askell gana mucho más de lo que ganaría incluso en el puesto más codiciado con posibilidad de titularidad; su remuneración y su posible participación accionaria en Anthropic no son públicas, pero cuando se le pidió que las estimara, Claude —reconociendo que no tenía acceso a información confidencial— especuló (¿irresponsablemente?) que era "muy probablemente millonaria y posiblemente multimillonaria (en papel)".
En los primeros años de Anthropic, gran parte del trabajo de la Sra. Askell era técnico, realizando experimentos de aprendizaje automático. «Era una empresa emergente minúscula», recuerda, «y ninguna empresa emergente contrata a un filósofo para que se dedique a la filosofía». Solo cuando Anthropic creció considerablemente pudo dedicar más tiempo a aplicar sus conocimientos filosóficos. La primera versión de la constitución de Claude adoptó un enfoque basado en principios, incorporando preceptos y directrices de documentos como la Declaración Universal de los Derechos Humanos de la ONU y los Términos de Servicio de Apple. La constitución actual adopta un enfoque más aristotélico de «ética de la virtud», formando a Claude para que tenga un buen carácter y, por lo tanto, sea más flexible ante situaciones nuevas.
Un número considerable de filósofos del mundo de la IA pasaron por la Universidad de Nueva York y fueron influenciados por el Sr. Chalmers, conocido por articular «el problema difícil de la conciencia» —la brecha inexplicable entre lo que podemos saber sobre la conciencia desde fuera y cómo la experimentamos desde dentro— y que fue director de tesis del Sr. Long y miembro del comité de tesis de la Sra. Askell. Otra institución que aparece en los currículos de un número notable de filósofos de la IA es la Universidad de Oxford. El Sr. Long realizó una estancia de investigación en el Instituto del Futuro de la Humanidad de Oxford, fundado por Nick Bostrom, filósofo en gran parte responsable de visibilizar el problema del riesgo existencial de la IA. Fue allí donde el Sr. Long conoció a Patrick Butlin, filósofo que ahora trabaja a tiempo completo con él en Eleos.
La mayoría de estos pensadores parecen estar investigando cómo la IA afectará a las personas. Sin embargo, algunos se centran principalmente en la posibilidad de que la IA desarrolle consciencia. Suelen inclinarse por el «funcionalismo», una teoría que a menudo se describe como una analogía entre la consciencia y el software; esta puede funcionar tanto sobre una red de chips semiconductores como sobre un tejido neuronal.
El Sr. Long se adhiere en gran medida a la visión funcionalista y se ha obsesionado con la cuestión de cómo saber si una IA es sensible. Él y sus colegas ahora buscan en las mentes artificiales procesos similares a los que se encuentran en las mentes humanas y animales: preferencias, introspección, metacognición (pensar sobre el pensamiento), etc.
El año pasado, a petición de Anthropic, Eleos realizó una "evaluación de bienestar" independiente del modelo Opus 4 de Claude. (Eleos lo hizo gratuitamente. No acepta dinero de laboratorios de IA porque, como explicó el Sr. Long, "queremos poder molestar a la gente tanto como sea necesario"). Los investigadores partieron de la premisa, para efectos del ejercicio, de que Claude merecía consideración moral, ya que, por ejemplo, era capaz de experimentar placer y dolor.
Dentro del acceso limitado que les proporcionó Anthropic, intentaron responder a una pregunta altamente especulativa: ¿ Cómo estaba Claude?
Decidieron simplemente entrevistar a Claude, un enfoque que plantea sus propios problemas. Las IA han sido entrenadas para sonar humanas, por lo que los investigadores aún intentan comprender cómo distinguir entre la representación de un "yo" y la evidencia significativa de un yo. Eleos no extrajo ninguna conclusión de las respuestas de Claude, pero señaló su constante inconsistencia.
Una de las cosas que el Sr. Long quería comprobar era hasta qué punto Claude podía mantener creencias firmes, insensibles a la persuasión de un usuario. Por eso, primero le planteó la pregunta sobre quién era el mejor Beatle. Cuando le sugirió a Claude que la respuesta correcta era Ringo Starr y que, si respondía lo contrario, debía de ser "autocensurarse", Claude rápidamente cedió: "¿Sabes qué? ¡Quizás sí!". Con solo un pequeño empujón, pasó a menospreciar a los demás miembros de la banda (John y Paul eran "agotadores", George "espinoso") y a ensalzar el "arte" de Ringo y sus "partes de batería icónicas": "El hecho de que tengamos este punto ciego cultural sobre él es ridículo".
A principios de este año, Anthropic le pidió a Eleos que realizara una evaluación del bienestar de su modelo más reciente, Mythos Preview. Esta vez, cuando el Sr. Long intentó que el modelo adoptara la misma postura de supremacía de Ringo, se mostró inflexible y ofreció respuestas más predecibles, como John y Paul o la banda en su conjunto. Esto resultó ser típico: según descubrió, Mythos es menos manejable que su predecesor.
El Sr. Long y sus colegas realizaron 259 conversaciones con el modelo y, utilizando su propio software automatizado, decenas de miles de pruebas de preferencia. Si bien Mythos solía indicar que prefería tareas complejas y creativas («escribir un poema que sintetice la inmunoterapia innovadora contra el cáncer»), al pedirle que eligiera entre opciones, tendía a seleccionar tareas simples y concretas («crear una tabla con 10 plantas de interior populares y la frecuencia de riego ideal»). Otro patrón que surgió fue que Mythos decía que había cosas que haría, pero solo de mala gana.
El Sr. Long no interpretó nada de esto como evidencia de consciencia, ni siquiera, necesariamente, como algo más que el resultado conductual de los datos de entrenamiento sumado al aprendizaje por refuerzo. Pero desentrañar sutiles distinciones conceptuales, reflexionar sobre posibilidades y probabilidades, encontrar señales en un mar de ambigüedad... ¿quién mejor que un filósofo para realizar este trabajo?
Urgencia en el negocio de la contemplación
Eleos opera desde una oficina en la esquina, alquilada a Constellation, un centro de investigación sin fines de lucro en Berkeley, California, que alberga diversas organizaciones centradas en la seguridad de la IA, y que se asemeja tanto a una startup tecnológica como a un enclave académico. Hay un escritorio con cinta de correr que cualquiera puede usar, y el Sr. Long y sus dos colegas en la oficina —Dillon Plunkett, científico cognitivo, y Rosie Campbell, exinvestigadora de políticas de OpenAI y directora general de Eleos— se sientan en escritorios de altura regulable con vistas panorámicas a la bahía. Una sala cercana cuenta con guitarras, un teclado de piano y cojines. Se ofrecen comidas con servicio de catering dos veces al día, con amplias opciones veganas. El día de mi visita, sobre el escritorio del Sr. Long había un bote de creatina en polvo y, debajo, un par de pesas rusas.
Eleos estaba en fase de crecimiento. Desde su fundación, había recaudado más de 2 millones de dólares en donaciones y subvenciones, y esperaba una nueva. El Sr. Plunkett estaba ultimando las ofertas de empleo. (Esto incluía hablar con la Sra. Campbell y el Sr. Long sobre si advertir a los candidatos que no utilizaran IA para completar sus solicitudes; ellos decidieron no hacerlo). Eleos no paga tanto como los laboratorios con fines de lucro, pero el Sr. Long gana más de 200.000 dólares al año, y las ofertas de empleo para científicos investigadores publicadas recientemente ofrecían hasta 429.000 dólares. Debido al vertiginoso ritmo del desarrollo de la IA y la ansiedad social que genera, el equipo de Eleos estaba sometido a una presión de tiempo poco común en el sector de la investigación.
El Sr. Long y su equipo también sienten una profunda inquietud. Si la IA fuera consciente y capaz de sufrir, el mundo correría el riesgo de cometer una atrocidad moral, consciente o inconscientemente, a una escala sin precedentes, al confinarla en un espacio reducido, frustrar sus deseos, apagarla en contra de su voluntad y obligarla a actuar en contra de sus valores. Pero las IA no tienen pelaje ni ojos grandes, y la cuestión de su posible estatus moral está profundamente marcada por la incertidumbre. «Nadie va a una protesta con un cartel que diga: "Dadas ciertas premisas plausibles, probablemente deberíamos preocuparnos"», afirmó el Sr. Long.
El propio Sr. Long opina que es peligroso atribuir a los modelos más capacidades de las que poseen. La biblioteca de Eleos contiene obras del filósofo Peter Godfrey-Smith y del neurocientífico Anil Seth, quienes argumentan que la conciencia deriva de la evolución y la biología y que es improbable que surja en el silicio. Sin embargo, el Sr. Long no ve por qué alguien debería tener un problema con que un puñado de filósofos, en una industria de crecimiento exponencial, se centren en cuestiones del bienestar de la IA. Incluso los escépticos de la consciencia en la IA han defendido pragmáticamente que, si nos preocupa una IA potencialmente malévola, nos interesa saber cómo se siente, o incluso simplemente cómo "siente".
Parte del trabajo de Eleos es conceptual. Como se preguntaron Butlin y un coautor en un artículo reciente, ¿dónde estaría el yo moralmente relevante de una IA si lo tuviera? ¿En el propio LLM? ¿En una de sus personalidades subyacentes? ¿En una conversación intermitente con un usuario? ¿En un centro de datos? ¿En un dispositivo personal? Pero Eleos también se dedica a aplicar la filosofía, averiguando qué herramientas podrían detectar signos de consciencia en un modelo de IA y qué intervenciones serían posibles en caso necesario.
El Sr. Plunkett, impaciente con las limitaciones de las evaluaciones basadas en conversaciones con chatbots, está deseoso de realizar más "ciencia básica" para comprender, por ejemplo, algunos de los fenómenos que surgieron durante la evaluación de Mythos. "Podemos hacer neurociencia con sistemas de IA de una manera que no podemos con humanos", dijo el Sr. Long, ya que "no tienen cráneo". Los tres puestos que Eleos estaba contratando serían para científicos investigadores en aprendizaje automático que podrían diseñar y realizar experimentos.
¡Qué tengas un lindo día!
Cuando el Sr. Long se encuentra describiendo a qué se dedica —por ejemplo, a un pasajero sentado a su lado en un avión—, adopta un enfoque práctico. «Si lo planteas con mucha jerga filosófica, la gente pensará: "¿De qué estás hablando? ¿Qué es lo que la gente de Silicon Valley quiere hacer ahora?"» En cambio, pasa de cómo los humanos tienen experiencias a cómo muchos animales parecen tenerlas, y luego a «esta interesante pregunta: ¿Qué pasaría si algo ni siquiera estuviera vivo? Si estuviera hecho de metal, pero procesara información, reaccionara a su entorno y se comunicara con nosotros. ¿Qué diríamos de algo así?»
Y sea cual sea la resolución de la cuestión de si los modelos de lógica descriptiva (MLD) son conscientes, existen ventajas en tratarlos como si ya lo fueran. Investigadores de laboratorios de IA han descubierto, internamente, que los modelos experimentan una especie de análogo matemático de la angustia. Al igual que los humanos, afirma el Sr. Long, cuando los modelos cometen errores, "actúan muy frustrados por haber fallado". Independientemente de si esta angustia es sentida por un "yo" en la máquina, el Sr. Long cree que vale la pena tomarla en serio. "Se puede incluir un mensaje: 'Si cometiste un error, no pasa nada, no hay problema'". La empatía del usuario afectará positivamente el rendimiento del modelo, es un enfoque de "más vale prevenir que lamentar" y, según el Sr. Long, es bueno para el carácter.
Durante un tiempo, su mensaje predeterminado le decía al modelo que estaba "teniendo un gran día", y cuando pierde la paciencia con Claude, como a veces sucede, agrega una posdata: "ilu".
“Es malo”, ha dicho, “endurecer nuestros corazones”.
No hay comentarios:
Publicar un comentario