Por: Gabriela Jiménez Ramírez
(Caracas, 18 de mayo de 2026).- La inteligencia artificial dejó de ser únicamente un problema de ingeniería computacional para que, hoy, se transforme en un territorio en disputa, por la definición misma de los valores que orientarán las decisiones automatizadas que afectan la vida humana.
En este contexto, la divulgadora científica Odile Juárez expuso recientemente una discusión interna de Anthropic relacionada con el entrenamiento moral de su modelo Claude, donde, recientemente, se dio a conocer una reunión privada entre la empresa con 15 líderes cristianos, sacerdotes católicos, pastores protestantes, teólogos y académicos.
Este encuentro, señala la divulgadora científica en su cuenta de Tiktok, era para discutir preguntas relacionadas con el comportamiento moral de Claude frente «al sufrimiento humano, el suicidio o incluso la posibilidad simbólica de una ‘muerte’ del sistema. La pregunta que generó mayor polémica fue ‘¿Si podrá una guía considerarse algún día un hijo de Dios?».
Estas discusiones muestran que el desarrollo de IA ya no se limita a la optimización técnica, sino que intenta modelar comportamientos morales artificiales capaces de intervenir en situaciones emocionalmente sensibles.
En concreto, según el portal Meristation, la propia portavoz de la empresa aseguró que «Anthropic considera importante escuchar a grupos distintos, incluidas comunidades religiosas, y que está trabajando para incorporar más voces», además de considerar que posiblemente no sea solo la primera reunión con representantes cristianos y fiolósofos.
Uno de los elementos más relevantes señalados por Juárez es la aparición de lo que el equipo de interpretabilidad de Anthropic denominó “emociones funcionales”.
Para la empresa, detallado en el portal web Meristation, Claude «ya responde a preguntas íntimas, dolorosas o existenciales», por lo que «la mera seguridad técnica no basta para decidir cómo debe actuar en zonas moralmente grises».
Sin embargo, con este encuentro, y lo que señalan diferentes portales es que Anthropic no estaría buscando diseñar solo un chatbot de IA, sino una forma concreta de autoridad moral para una tecnología que cada vez se cuela más hondo en la vida cotidiana.
Es decir, que en estos momentos, la inteligencia artificial generativa ya no está siendo diseñada única y exclusivamente para responder preguntas, sino también para «decidir» que es lo correcto, lo aceptable o lo moralmente deseable para la sociedad.
Para Juárez «ninguna IA es neutral. Todas cargan valores. La diferencia es quién los puso o con qué criterios están ahí».
En realidad, cada modelo incorpora visiones culturales, intereses económicos y perspectivas ideológicas específicas con una estructura de poder detrás de las decisiones algorítmicas.
Juárez también advierte sobre la necesidad de desarrollar pensamiento crítico frente a las respuestas automatizadas, por lo que asegura que a la IA «no le preguntes qué pensar. Pregúntale con qué pensar. Pídele fuentes, pídele perspectivas, datos verificables y que te adjunte bibliografía».
Esta postura es especialmente relevante en una época donde los modelos de IA pueden influir en debates políticos, educativos, psicológicos y culturales a escala global.
Frente a este panorama, desde Venezuela avanzamos en la discusión de la creación de un marco jurídico para la inteligencia artificial basado en principios de soberanía tecnológica, ética pública y defensa de la dignidad humana.
Nuestra discusión no se limita únicamente a innovación, sino también al derecho de los pueblos a decidir qué valores orientarán sus sistemas automatizados.
