Anthropic integra filósofos y teólogos para definir la ética de Claude

La empresa Anthropic, desarrolladora del asistente de inteligencia artificial Claude, ha comenzado un proceso de consulta con filósofos y teólogos para definir los lineamientos éticos que regirán el comportamiento de sus modelos. Este esfuerzo busca que la inteligencia artificial no solo procese datos, sino que incorpore criterios de razonamiento moral que se alineen con valores humanos fundamentales, superando las limitaciones técnicas de las respuestas algorítmicas tradicionales.

La iniciativa se desarrolla bajo la premisa de que la tecnología requiere una base normativa más profunda que la simple programación estadística. A través de este diálogo, la firma pretende que su asistente sea capaz de navegar situaciones complejas donde no existe una única respuesta correcta, apoyándose en marcos éticos que han sido debatidos por siglos en diversas disciplinas humanísticas.

Dentro de los objetivos planteados por la compañía, se encuentra la creación de una arquitectura de toma de decisiones que pueda ser auditada y comprendida por especialistas en ética. Este enfoque se distancia de los modelos de caja negra, buscando otorgar a Claude una estructura de comportamiento más predecible y responsable ante las diversas interacciones que mantiene con usuarios a nivel global.

Aunque este proyecto se encuentra en una etapa de desarrollo, representa un cambio en la estrategia de las empresas de tecnología que buscan mayor transparencia en el despliegue de sus sistemas. A largo plazo, la empresa propone que este marco ético sirva como referencia para mitigar riesgos en la interacción humana, garantizando que el asistente actúe bajo principios que privilegien la seguridad y la integridad del usuario.