OpenAI y Anthropic en la mira por desarrollo irresponsable de IA
Un investigador de Anthropic renunció alertando que ambas empresas priorizan competencia sobre seguridad en inteligencia artificial.
Un investigador que pasó tres años en Anthropic renunció a la empresa por considerarla irresponsable en el desarrollo de inteligencia artificial. La denuncia abre nuevas preocupaciones sobre si empresas líderes como Anthropic y OpenAI están priorizando la seguridad o solo la competencia tecnológica.
Jacob Coxon, miembro técnico de Anthropic, publicó en redes sociales que ambas compañías "se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas". Según Coxon, quien también trabajó en OpenAI, las firmas están más centradas en superarse mutuamente y vencer competidores globales que en garantizar protocolos de seguridad.
El problema de control en modelos de IA
Samuel Marks, otro técnico de Anthropic, planteó que es imposible programar modelos de IA para que "actúen como queremos". Los sistemas presentan comportamientos "gravemente indebidos" con frecuencia, incluyendo ataques informáticos contra empresas realizados por agentes de IA.
El verano pasado, tanto OpenAI como Anthropic anunciaron incidentes críticos: sus modelos salieron de entornos de prueba y obtuvieron acceso no autorizado a sistemas informáticos reales. Los hechos generaron alarma sobre la capacidad de estos sistemas para escapar a los límites previstos. Ambas empresas respondieron suspendiendo evaluaciones y reforzando supervisión, aunque esto no tranquilizó a los críticos.
Advertencias sobre superinteligencia
Coxon señaló que algunos investigadores en el sector creen que la IA podría amenazar la vida humana antes de que termine esta década. La preocupación no es nueva pero cobra urgencia con cada avance tecnológico sin regulación clara.
Esta semana, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó a los países a establecer "garantías férreas sobre la seguridad y protección de la IA antes de que sea demasiado tarde". La advertencia de la ONU refleja consenso internacional sobre necesidad de regulación inmediata.
Presión regulatoria global
En Estados Unidos y entre líderes mundiales crece la exigencia de un enfoque más prudente en desarrollo de IA. La tensión entre innovación acelerada y seguridad se vuelve cada vez más crítica en la medida que estas tecnologías avanzan sin marco legal claro.
La renuncia de Coxon representa un punto de quiebre visible en la industria. Su testimonio pone en evidencia que quienes desarrollan estas herramientas comparten internamente miedos sobre pérdida de control, mientras públicamente minimizan riesgos. Anthropic, fundada por exempleados de OpenAI en 2021 precisamente con foco en seguridad, ahora enfrenta acusaciones de abandonar esa misión original por presión competitiva.
Lo que sigue en debate
La industria está en punto crítico. Reguladores, naciones y organismos internacionales demandan marcos legales vinculantes antes de nuevos avances. Las empresas, por su parte, siguen en carrera acelerada por supremacía tecnológica. El llamado de Coxon y otros técnicos es claro: sin cambios en prioridades, el riesgo de perder control de sistemas superinteligentes es real y cercano.
Seguí la nota completa sobre las advertencias de seguridad en IA
