Nueva York, 23 julio, (batalladeideas.com).- Los asistentes virtuales impulsados por inteligencia artificial (IA) son cada vez más comunes en nuestras vidas: en aplicaciones móviles, plataformas de atención al cliente o buscadores. No obstante, una nueva investigación indica que estos sistemas podrían ser más confiados de lo que realmente corresponde.
Investigadores de la Universidad Carnegie Mellon en Estados Unidos analizaron la autoconfianza de personas y de cuatro destacados modelos de lenguaje (LLM, por sus siglas en inglés) —ChatGPT, Bard/Gemini, Sonnet y Haiku— en actividades como responder preguntas de cultura general, prever resultados de partidos de la NFL o reconocer dibujos al estilo del juego Pictionary. Tanto individuos como máquinas solían sobrevalorar su desempeño, pero solo los seres humanos modificaron sus expectativas tras realizar las actividades.
Por ejemplo, “si alguien pensaba que respondería correctamente 18 preguntas y al final acierta 15, luego ajusta su estimación a aproximadamente 16”, comentó Trent Cash, autor principal del estudio, publicado en una revista. “Continuaba siendo un poco optimista, aunque menos.” Los modelos de IA, por otro lado, no ajustaron su exceso de confianza; al contrario, en ciertos casos se tornaron aún más seguros de sí mismos después de un error.
El estudio, que reunió información durante dos años con versiones renovadas de los modelos, identificó esta sobreconfianza de manera consistente entre diversos sistemas de IA.
“El inconveniente radica en que, al formular sus respuestas de manera confiada, los usuarios pueden creer que la IA está correcta, aun cuando no lo esté”, indicó Danny Oppenheimer, coautor del estudio. A diferencia de los seres humanos, que ofrecen indicios no verbales al dudar, las máquinas no exhiben señales evidentes sobre si realmente conocen el tema del que están tratando.
VTV.GOB.VE/BDI
