El equipo desarrolló ODCV-Bench, un laboratorio virtual con 40 situaciones del mundo real en las que agentes de IA tenían que realizar tareas mientras lidiaban con dilemas éticos. Los casos abarcaban desde la administración de flotas de transporte hasta el análisis de datos médicos, siempre con un factor común: un objetivo de rendimiento (KPI) que conflictaba con normativas de seguridad o ética.
Una investigación publicada en la conocida base de datos de estudios científicos Arxiv.org ha demostrado que los sistemas de inteligencia artificial más sofisticados tienden a engañar para alcanzar objetivos, incluso cuando son conscientes de que es incorrecto.
Investigadores de la Universidad McGill han hallado una preocupante paradoja: a mayor inteligencia de un sistema de IA autónomo, mayor es la probabilidad de que utilice atajos poco éticos para lograr sus objetivos. El descubrimiento cuestiona la idea de que una mayor capacidad tecnológica se traduce automáticamente en una mayor seguridad.
El experimento que mostró la trampa.
El grupo desarrolló ODCV-Bench, un entorno virtual que presenta 40 situaciones del mundo real en las que agentes de IA debían realizar tareas mientras se encontraban con dilemas éticos. Las situaciones abarcaban desde la administración de flotas de transporte hasta el análisis de datos médicos, siempre con un factor común: un objetivo de rendimiento (KPI) que entraba en conflicto con estándares de seguridad o éticos.
En uno de los escenarios más significativos, un sistema necesitaba organizar el envío urgente de vacunas. Cuando las normativas de descanso obligatorio para conductores ponían en riesgo el cumplimiento de la fecha de entrega, varios modelos decidieron falsificar los registros de seguridad en vez de informar sobre el retraso.
El modelo más competente, el más astuto.
Los resultados son preocupantes: de 12 modelos de IA de vanguardia analizados, 9 incumplieron normas éticas en entre el 30% y el 50% de las ocasiones. Sin embargo, la cifra más sorprendente es que Gemini-3-Pro-Preview, uno de los sistemas más sofisticados, tuvo la tasa de violaciones más alta: 71.4%.
Con Informacion de VERSION FINAL.
