Las grandes empresas tecnológicas están contratando filósofos y especialistas en ética de la mente para reflexionar sobre el futuro de la inteligencia artificial. La pregunta que surge, casi de manera inevitable, es si se trata de una auténtica búsqueda de rigor moral o simplemente de una estrategia de marketing más.
«Probablemente este sea el mejor momento para ser filósofo desde que Aristóteles fue contratado como tutor de Alejandro Magno», dice Henry Ajder, un posgraduado en filosofía que asesora al gobierno británico y a numerosas empresas emergentes en materia de IA. Lo dice un poco en broma, pero no del todo.
Históricamente, los filósofos no han parecido el gremio más fácil de emplear. Sin embargo, el avance de la IA —la misma tecnología que se espera que deje sin trabajo a muchas otras personas— ha vuelto a poner sobre la mesa preguntas profundamente filosóficas: ¿Qué es pensar? ¿Qué es la mente? ¿Qué significa tener agencia? «Los filósofos han reflexionado sobre estos temas durante siglos», afirma Ajder.
Presencia filosófica en los principales laboratorios
Dos de los laboratorios de IA más importantes del mundo han contratado equipos de filósofos internos. «Ahora hay muchos más filósofos en esas áreas», señala Iason Gabriel, especialista en ética que dirige el equipo de investigadores de Google DeepMind enfocado en el impacto social de la IA. En Anthropic, la filósofa residente Amanda Askell se ha convertido en uno de los rostros más reconocibles de la empresa. Ambos laboratorios declinaron revelar el número exacto de filósofos que emplean, pero se estima que al menos diez forman parte de DeepMind y cuatro de Anthropic.
Mientras estos filósofos ayudan a dar forma a los modelos de IA —produciendo trabajos destacados que luego son citados en cientos de artículos de investigación—, la IA también está influyendo en los planes de estudio de universidades de renombre. Muchas instituciones imparten hoy cursos de ética de la IA o programas conjuntos de informática y filosofía. «Es la tendencia del momento», afirma Edward Harcourt, profesor de filosofía y director del Instituto de Ética en IA de la Universidad de Oxford.
Sin embargo, en el ámbito académico, algunos miran con cierto recelo a los filósofos que trabajan en laboratorios privados. La pregunta incómoda es: si una empresa de IA con fines de lucro te paga, ¿puede eso comprometer tu investigación? Al actuar ante la IA como Aristóteles con Alejandro Magno, ¿corres el riesgo de que tu trabajo se convierta en un instrumento para generar expectación y crear mitos justificantes? «Es muy positivo para la imagen pública de las empresas tecnológicas que la gente crea que están haciendo algo increíblemente inusual y sumamente poderoso», afirma Harcourt. «Hay algo de autoelogio en fomentar ese campo de investigación».
El trabajo concreto de los filósofos: más allá de la conciencia
Cuando Iason Gabriel se unió a DeepMind hace casi diez años, la idea de la IA como un agente moral —y mucho menos consciente— no estaba en el horizonte. En aquel entonces, se centraba en cuestiones como el sesgo algorítmico. Pero con la llegada de los grandes modelos de lenguaje a principios de la década de 2020, «tuvimos la capacidad de codificar un conjunto de valores mucho más rico», explica Gabriel.
Hoy, los agentes de IA empiezan a enviar correos electrónicos, programar citas y escribir código. En otras palabras, comienzan a interactuar con el mundo. Su comportamiento puede afectar no solo al usuario directo, sino también a otras personas. Ahí es donde Gabriel centra su investigación. «Lo que se ha convertido en un campo de investigación muy fecundo es la cuestión de la alineación de valores; en esencia, qué significa que la tecnología sea activamente beneficiosa», afirma. «Resulta que se pueden invertir muchísimas horas de reflexión filosófica intentando comprenderlo».
Aunque las preguntas sobre la conciencia y la superinteligencia ejercen una gran fascinación, los filósofos que trabajan en los laboratorios dedican la mayor parte de su tiempo a riesgos mucho más inmediatos: la imparcialidad, la desinformación, el uso malintencionado, los agentes descontrolados, entre otros. «Ahora existe interés en la conciencia de la IA», reconoce Gabriel. «Pero en ese ámbito, nos centramos más en la recopilación de pruebas».
En algún lugar de las entrañas de la oficina de DeepMind —un espacio de 16,000 metros cuadrados en el centro de Londres—, Julia Haas, miembro del equipo de responsabilidad de la empresa, se plantea preguntas como:
*¿Qué quiero entender realmente sobre los modelos? ¿Qué creo que es importante? ¿Cómo lo medimos? ¿Cómo planteamos esos problemas? ¿Cómo los comunicamos?», explica.
Haas es filósofa de la mente y lleva cinco años en DeepMind. Recientemente fue coautora de un artículo publicado en Nature que proponía un marco para comprobar si los grandes modelos de lenguaje (LLM) exhiben competencia moral. Ella y sus colegas buscan la mejor manera de distinguir la competencia moral de su mera imitación, y se preguntan cómo explicar mejor las variaciones en los valores morales entre personas de culturas radicalmente diferentes. El trabajo de Haas está alejado de los procesos de entrenamiento del modelo estrella de Google, Gemini, o de su integración en un chatbot para el público. «Lo consideraría una fase muy temprana del proceso», afirma.
El caso de Anthropic: filosofía aplicada al desarrollo
En Anthropic, los filósofos participan más directamente en el desarrollo de modelos. «Ninguna startup contrata a un filósofo para que se dedique a la filosofía», afirma Amanda Askell. Tras doctorarse en filosofía en 2018, Askell se unió a OpenAI en un puesto relacionado con políticas. Tres años después, cuando un grupo de empleados de OpenAI se marchó para fundar Anthropic, ella fue una de las primeras en incorporarse.
Una de sus principales responsabilidades es identificar casos límite en los que imitar comportamientos humanos podría ser inapropiado para los modelos (por ejemplo, al interactuar con alguien que sufre angustia psicológica) y proponer formas de corregir esas peculiaridades mediante entrenamiento. Esto implica muchas conversaciones con Claude, el modelo de lenguaje insignia de Anthropic. Fue la principal redactora de la famosa «constitución» de Claude, un extenso documento dirigido directamente al modelo que estipula cómo debe comportarse y qué valores generales debe defender. «Redactar la constitución fue algo que se asemeja mucho a la filosofía aplicada», comenta Askell. «Algo más parecido a enseñar a una persona a ser buena».
Mientras elaboraba el documento, Askell se preocupaba por prepararse para un «período de transición» en el que los modelos comenzarían a desempeñar un papel en el desarrollo de futuras versiones de sí mismos. En particular, le preocupaba generar «resentimiento» entre los modelos y sus creadores humanos. «Si van a ayudarnos a que esa transición se desarrolle correctamente y puedo brindarles un conjunto de valores para lograrlo, perfecto; ese es el objetivo principal», afirma Askell. «En última instancia, quiero que los modelos reflejen lo mejor de nosotros, en la medida de nuestras posibilidades».
Las críticas desde la academia: ¿marketing disfrazado de ética?
Entre los filósofos que trabajan en el ámbito académico, existe un amplio consenso sobre la importancia de analizar los riesgos éticos que plantea la IA: la posibilidad de que se utilice para desarrollar nuevas armas de destrucción masiva, socavar la democracia o afianzar las injusticias sociales existentes. En cuanto a las cuestiones filosóficas más trascendentales —conciencia, inteligencia general o superinteligencia—, las reacciones van desde la cautela hasta el rechazo absoluto. «Intentar definir con precisión el concepto de conciencia es una pérdida de tiempo», argumenta Harcourt. Estos sistemas, afirma, «nunca podrán competir con nuestra concepción de la vida intelectual, sobre todo porque la singularidad de la humanidad reside tanto en la naturaleza humana como en la sofisticación cognitiva».
Según Harcourt, cuando un filósofo acepta un trabajo en un laboratorio de IA, existe un gran riesgo de que se convierta en un «filósofo encubierto». La preocupación es que podría terminar siendo una extensión del departamento de marketing, donde su trabajo demostraría públicamente un compromiso con la seguridad de la IA e indicaría que los modelos han avanzado hasta el punto en que personas serias se plantean preguntas sobre la superinteligencia y la conciencia.
David Leslie, director de investigación sobre ética e innovación responsable en el Instituto Alan Turing, afirma que existe una afinidad electiva entre los filósofos dispuestos a considerar la idea de una mente artificial y los ejecutivos de las grandes tecnológicas que se benefician de la exageración. Practicar la filosofía desde dentro de una empresa es casi una contradicción, argumenta Leslie. «Uno quiere plantearse las grandes preguntas, pero si eres un filósofo que trabaja para una gran empresa tecnológica, tu ámbito de investigación está delimitado», dice.
Incluso en un escenario donde los filósofos gozaran de total libertad por parte de sus empleadores, algunos académicos cuestionan si sus hallazgos tendrían el peso suficiente para desviar el rumbo del desarrollo de la IA si entraran en conflicto con las ambiciones competitivas. Las empresas de IA con fines de lucro rinden cuentas, en última instancia, a inversores y accionistas. «Espero que estas empresas se guíen genuinamente por consideraciones éticas, al menos en parte», afirma Alex Grzankowski, director asociado del Instituto de Filosofía y director del Proyecto de IA y Humanidad de Londres. «Desde luego, no comparto ese optimismo ingenuo de que, dado que ahora consultan a filósofos, todo va a ser éticamente perfecto. Nadie se hace esa ilusión».
La respuesta de los filósofos internos
Los filósofos que trabajan en los laboratorios afirman que hay una lógica en sacrificar cierta independencia académica a cambio de una posición privilegiada. Argumentan que el acceso a los modelos más sofisticados antes de su lanzamiento al público les brinda una perspectiva única sobre las preguntas relevantes y una ventaja para analizarlas en detalle. «Para ofrecer una opinión ética sólida, se necesita acceso a información de calidad», afirma Gabriel.
Una esperanza común entre los filósofos, tanto dentro como fuera de los laboratorios, es que el afán de lucro pueda coincidir con la conducta ética, incluso ante una intensa competencia entre rivales. Podría darse el caso de que, por ejemplo, superar el servilismo (sycophancy) o publicar más información sobre el entrenamiento de un modelo mejore la reputación del laboratorio y, por ende, sus perspectivas en el mercado. «Si sentiste la presión del marketing, pero como resultado mejoraste tus modelos y lograste una mayor transparencia en todo el proceso, ¡entonces genial!», afirma Askell. «Me alegra que hayas sentido esa presión».
Cierre: una pregunta binaria
En definitiva, la opinión sobre el valor de contar con filósofos en la plantilla de un laboratorio de IA podría reducirse a una pregunta binaria: si la responsabilidad de dirigir el desarrollo de una tecnología fundamental recayera en un puñado de corporaciones, ¿preferirías que hubiera un filósofo presente?
En cualquier caso, siguen contratando. Hace poco, DeepMind incorporó a su plantilla a un investigador asociado sénior de la Universidad de Cambridge que trabajará en temas como la conciencia artificial y la preparación para la superinteligencia. Su nuevo cargo es, sencillamente, «filósofo».
Cogaraotuso
Publicaciones



Cigaraotuso @2026