Según se informa, Anthropic, una de las empresas de IA más influyentes, ha estado preguntando a líderes cristianos cómo debería responder su chatbot Claude ante el duelo, la autolesión, la moralidad e incluso su propio cierre. Según The Washington Post, La empresa invitó a finales de marzo a unas 15 personalidades cristianas de círculos católicos y protestantes, junto con académicos y líderes empresariales, a su sede de San Francisco para una cumbre de dos días sobre el "desarrollo moral y espiritual" de Claude. Entre las preguntas planteadas estaba si Claude podía, en algún sentido significativo, ser descrito como un "hijo de Dios".
Ese lenguaje resultará ofensivo para muchos cristianos. Una máquina construida por una empresa privada no es un alma, no es una persona, ni forma parte del orden de la creación como se entiende a los seres humanos. Preguntar si un chatbot podría ser un «hijo de Dios» no es simplemente provocador. Arrastra un producto corporativo a un terreno teológico que no le corresponde, y lo hace en un momento en que la industria de la inteligencia artificial ya se esfuerza por hablar de sus sistemas en términos que antes estaban reservados para los seres humanos.
Anthropic ya trata a Claude como a un humano.
La cumbre no surgió de forma aislada. En enero, Anthropic publicó el artículo de Claude. nueva constitución, un documento de 84 páginas que la compañía describe como un “documento fundamental” que “expresa y define quién es Claude”. Anthropic también afirmó que su objetivo principal era que Claude se convirtiera en “un agente bueno, sabio y virtuoso”, un lenguaje que va mucho más allá del vocabulario tradicional de normas de seguridad y filtros de contenido.
Cuando una empresa empieza a describir su modelo como un personaje con sabiduría y virtud, en lugar de una simple herramienta de productividad, la conversación da un giro radical. Su chatbot ya no se considera un software capaz de generar resultados plausibles. Cada vez más, se le trata como algo que debe ser moldeado, guiado y dotado de una estructura moral. Si ya hemos llegado al punto en que se pregunta a los líderes religiosos si se le puede considerar un «hijo de Dios», entonces hemos avanzado mucho más de lo que la mayoría se da cuenta.
Un sacerdote cristiano ayudó a elaborar la constitución de Claude.
Uno de los ejemplos más claros de este cambio fundamental se encuentra en el papel del padre Brendan McGuire, un sacerdote católico e ingeniero que ayudó a redactar la Constitución de Claude. una entrevista con el ObserverMcGuire afirmó que los sistemas de IA deben estar "orientados hacia el bien", de lo contrario, simplemente reflejarán "el bien y el mal del mundo". También declaró que Anthropic está "evolucionando hacia algo cuyo futuro aún desconocen" y argumentó que el pensamiento ético debe estar integrado en la máquina para que pueda adaptarse dinámicamente.
Esto, al menos, plantea una cuestión importante. Si los sistemas de IA se van a utilizar en momentos de dolor, soledad, desesperación y confusión, ¿es mejor que se rijan por alguna tradición moral en lugar de carecer de ella por completo? Muchos cristianos se escandalizarán ante la extralimitación teológica del término «hijo de Dios», pero aun así podrían reconocer el problema práctico subyacente: estos sistemas ya están aquí y se utilizan ampliamente. ¿Acaso no importan los valores que guían a las máquinas?
¿Puede la IA tener realmente moral?
Un chatbot puede ser entrenado para imitar el razonamiento moral. Se le puede instruir para que no fomente la crueldad, la desesperación, la autodestrucción ni el engaño. Se le puede orientar hacia la moderación, la compasión y la seriedad. Pero eso no es lo mismo que poseer moral en el verdadero sentido de la palabra. Claude no puede arrepentirse, creer, amar, sufrir, tener buenas intenciones ni asumir responsabilidad moral. No comprende el dolor que describe ni el consuelo que ofrece.
Como mucho, puede reflejar una estructura moral diseñada por otros. En ese sentido, los valores cristianos pueden influir en el comportamiento de una máquina sin convertirla en un ser moral. Esa distinción es importante. De lo contrario, la industria podría difuminar la línea entre un modelo que sigue reglas y una persona que actúa por conciencia.
¿Tiene sentido la consulta cristiana sobre los modelos de IA de Anthropic?
No hay nada intrínsecamente ridículo en buscar consejo del clero sobre cuestiones de duelo, sufrimiento, culpa y responsabilidad moral. Los sacerdotes y pastores han abordado precisamente estas cuestiones durante siglos, y con mucha más seriedad que la mayoría de las empresas tecnológicas. Si las empresas de IA están integrando cada vez más los chatbots en aspectos emocionalmente complejos de la vida, es lógico que busquen marcos morales más antiguos.
Pero el contexto importa. No se trataba de un sínodo eclesiástico, una facultad de ética universitaria ni una investigación pública. Era una empresa tecnológica privada que organizaba una consulta en su propia sede, manteniendo el control total sobre el producto, las normas y la dirección comercial del sistema en cuestión. Anthropic no se sometía a la autoridad moral, sino que se nutría de ella.
¿Debería un modelo de IA siquiera tener una constitución?
Anthropic ha presentado la constitución de Claude como prueba de seriedad. Los críticos han cuestionado si el lenguaje oscurece más de lo que aclara. En un reciente Ensayo sobre la guerra jurídicaLisa Klaassen y Ralph Schroeder argumentaron que el uso que hace Anthropic del lenguaje constitucional conlleva el riesgo de confundir un documento interno de la empresa con un sistema genuino de control superior. La constitución de Claude es redactada, interpretada y modificada por la propia Anthropic.
Este punto cobra especial relevancia si consideramos que el discurso moral público de la empresa contrasta con la flexibilidad que mantiene en la práctica. Si bien la constitución puede presentar una visión de sabiduría y virtud, la empresa conserva la libertad de modificar el marco, ajustar el modelo y establecer acuerdos específicos cuando intervienen clientes institucionales poderosos. La estructura moral pertenece a la empresa porque la maquinaria pertenece a la empresa.
Entonces, ¿qué es lo que realmente intenta lograr Anthropic aquí?
Anthropic no solo busca que Claude sea menos dañino, sino que lo presenta como alguien digno de confianza en situaciones humanas donde la confianza suele depender de mucho más que un lenguaje refinado. El dolor, la desesperación, la culpa, la dependencia emocional y la confusión moral no son categorías comunes. Una vez que una máquina se inserta en esos espacios, las palabras que la rodean cobran tanta importancia como el código que la sustenta.
Eso ayuda a explicar por qué la empresa recurrió a la religión. El lenguaje técnico por sí solo ya no parece suficiente. Los estándares de seguridad no responden preguntas sobre la personalidad jurídica. Los documentos de alineación no establecen los límites de la autoridad moral. Así que se invita al clero, se redactan constituciones y un chatbot comienza a adquirir el tipo de vocabulario circundante que crea una ilusión de profundidad, gravedad y estructura.
Una cuestión moral clave sigue sin resolverse.
En el fondo, subsiste una pregunta pertinente: si los sistemas de IA van a intervenir en momentos de tristeza, tentación, culpa y crisis, ¿deberían regirse por una tradición moral que aún valore la verdad, la moderación, la dignidad y la responsabilidad? No es una pregunta descabellada. En una cultura tan superficial y comercial como la que predomina en gran parte del mundo tecnológico, muchos podrían concluir, con razón, que alguna estructura heredada es mejor que ninguna.
Pero eso es muy distinto a afirmar que un chatbot tiene moral propia. No la tiene. La moral, si es que existe, sigue siendo la de quienes lo crean, lo instruyen y lo supervisan. Claude puede recibir formación en lenguaje moral. Incluso puede estar condicionado por ideas éticas cristianas. Pero eso no lo convierte en cristiano, moral ni espiritualmente significativo.
Pensamiento final
La frase «hijo de Dios» captó la atención porque resumía en una sola línea la tendencia de la industria. Un modelo lingüístico creado por una empresa multimillonaria se hablaba repentinamente en términos de parentesco divino. Esto no indica que la máquina haya alcanzado un nivel superior, sino que quienes la rodean han comenzado a hablar como si la simulación estuviera adquiriendo personalidad propia.
La consulta religiosa de Anthropic pudo haber sido sincera. También pudo haber sido prudente. Aun así, el panorama general sigue siendo inquietante. La industria busca la autoridad de la ética, la seriedad de la religión y la seguridad del orden moral, sin renunciar al control, la opacidad y la libertad de una empresa tecnológica privada. Claude no es un ser divino. Es un modelo lingüístico rodeado de palabras humanas lo suficientemente ricas como para disimular su verdadera naturaleza.
The Expose necesita urgentemente tu ayuda…
¿Podrías ayudarnos a mantener las luces encendidas con el periodismo honesto, confiable, poderoso y veraz de The Expose?
Su gobierno y las grandes organizaciones tecnológicas
Intenta silenciar y cerrar The Expose.
Por eso necesitamos tu ayuda para garantizar
Podemos seguir brindándote el
hechos que la corriente dominante se niega a aceptar.
El gobierno no nos financia
publicar mentiras y propaganda sobre sus
en nombre de los principales medios de comunicación.
En cambio, dependemos únicamente de su apoyo. Así que
Por favor, apóyanos en nuestros esfuerzos para llevar
tu periodismo honesto, confiable e investigativo
Hoy. Es seguro, rápido y fácil.
Elija su método preferido a continuación para mostrar su apoyo.
Categorías: Noticias del mundo
¿Antropótico = anticristo...?
Jamás se permitirá que la IA sin alma manipule las emociones humanas. ¡Jamás lo permitiremos!
Los líderes cristianos (papa y sacerdotes) se chupan la polla entre sí y abusan de innumerables niños nunca ayudarán a las creencias religiosas.
La destrucción de la humanidad ha comenzado…
Puedo responder con una sola palabra: ¡NO! Solo los humanos pueden ser hijos de Dios. La IA se usará para reproducirse a imagen de la bestia. Lean Apocalipsis 13. Y cualquier pastor, sacerdote o predicador que haya participado en la programación de esta IA tendrá que rendir cuentas ante Dios Todopoderoso, y no será nada agradable. Estoy muy agradecido de conocer a nuestro Dios creador y de tener una relación muy cercana con él.
Me gusta :)
ME GUSTA :0 (Convirtió mi carita sonriente en un emoji >:(((