Sam Altman y el dilema ético de la inteligencia artificial ante crisis
La intervención de un representante de OpenAI durante una entrevista con Sam Altman puso de relieve la dificultad de gestionar situaciones de crisis emocional en modelos de lenguaje.
El director ejecutivo de OpenAI, Sam Altman, enfrentó esta semana cuestionamientos sobre la responsabilidad de su compañía ante usuarios en situaciones de vulnerabilidad extrema. Durante una entrevista con el periodista Mark Harris, un representante de relaciones públicas intentó interrumpir el diálogo en el momento en que se abordaba la respuesta de ChatGPT frente a posibles intenciones de autolesión. Este incidente ha reabierto el debate en el sector tecnológico sobre los límites de la automatización en temas de salud mental.
La controversia surge en un contexto donde las plataformas digitales, incluidas las que operan en México, están bajo la lupa de las autoridades de salud y organizaciones de derechos digitales. Aunque las herramientas de inteligencia artificial están programadas para ofrecer recursos de asistencia, como líneas de ayuda y protocolos de prevención, la eficacia de estas respuestas automáticas sigue siendo un punto crítico. Expertos en tecnología señalan que la transición de la IA generativa hacia un rol de acompañamiento requiere una precisión que los modelos actuales aún no alcanzan por completo.
En México, instituciones como la Secretaría de Salud y diversas organizaciones civiles han enfatizado la importancia de que las plataformas de tecnología cuenten con filtros robustos supervisados por profesionales humanos. La capacidad de un algoritmo para detectar señales de alerta no exime a las empresas de su responsabilidad ética ni de la necesidad de integrar mecanismos de derivación hacia servicios de emergencia reales, como los protocolos que coordinan el IMSS y el ISSSTE ante crisis de salud mental.
Sam Altman ha sugerido anteriormente que OpenAI busca mejorar la seguridad de sus sistemas para evitar daños a los usuarios. No obstante, el incidente durante la entrevista subraya la tensión entre la promoción comercial de la herramienta y la gestión de riesgos humanos. La comunidad internacional, incluyendo académicos mexicanos, sigue analizando cómo las grandes empresas tecnológicas pueden balancear la innovación con una protección efectiva y humana para quienes utilizan estas plataformas en momentos de fragilidad emocional.
