Batalladeideas.com, 20 feb.- El progreso de la inteligencia artificial (IA) continúa siendo uno de los logros más discutidos de la era tecnológica contemporánea. Mientras ciertas opiniones aplauden las ventajas de esta tecnología, otras, como la de William Saunders, un antiguo trabajador de OpenAI, manifiestan profundas inquietudes acerca de su posible efecto en la sociedad.
Saunders, quien formó parte del equipo responsable de la superalineación de la IA en la empresa, dimitió en febrero de 2024 debido a lo que considera una gestión imprudente de los riesgos vinculados a la inteligencia artificial.
En una entrevista reciente, el ex empleado de OpenAI comparó el presente de la IA con la tragedia del Titanic, advirtiendo que en los próximos tres años podríamos enfrentar un desastre de magnitudes catastróficas.
¿Por qué se compara la IA con el Titanic?
La comparación que hace Saunders con el Titanic no es fortuita ni improvisada. En la charla con @chatgptricks, una cuenta enfocada en divulgar noticias sobre IA, Saunders comentó que, similar al célebre transatlántico que se creía indestructible antes de su trágico naufragio, la sociedad actual muestra una confianza excesiva en los sistemas de IA.
“En los próximos tres años, puede haber un Titanic debido a la IA”, expresó Saunders, sugiriendo que la tecnología ha avanzado tanto que a menudo no somos conscientes de los riesgos que puede traer.
El antiguo trabajador de OpenAI expresó una notable inquietud por la insuficiente preparación ante situaciones catastróficas. Afirmó que las habilidades de los sistemas de IA podrían evolucionar de forma independiente, sin vigilancia, lo que podría dar lugar a situaciones difíciles de manejar y peligrosas.
En sus propias palabras, “nos controlará sin que lo notemos”, aludiendo a la habilidad de los sofisticados modelos de IA para afectar decisiones humanas importantes sin que los usuarios se den cuenta.
¿Qué impacto podría ejercer la IA en las decisiones de las personas?
Saunders no solo advirtió sobre los peligros de la IA en cuanto a su autonomía, sino también sobre su habilidad para afectar de manera sutil decisiones humanas importantes, como elecciones políticas o mercados financieros.
De acuerdo con el antiguo empleado, OpenAI no está implementando las medidas necesarias para reducir estos riesgos, y en vez de enfocarse en la seguridad, la empresa parece dar prioridad a sus intereses comerciales. Este enfoque, según Saunders, indica que la empresa ha optado por un modelo de negocio más alineado con el de una corporación convencional que con el de una entidad innovadora en el campo de la IA.
Estas inquietudes no son recientes, puesto que otros trabajadores de OpenAI han expresado su disconformidad con la manera en que la compañía gestiona la investigación relacionada con la seguridad de la IA. Saunders mencionó ejemplos como el de Leopold Aschenbrenner, un científico que fue despedido tras manifestar preocupaciones sobre las deficiencias en los controles de seguridad.
Estos sucesos han revelado las tensiones internas en OpenAI, donde hay quienes creen que la empresa está enfocándose más en el desarrollo de productos comerciales en detrimento de la investigación sobre riesgos y seguridad.
Qué opinan otros especialistas sobre el porvenir de la IA.
Las advertencias de Saunders coinciden con las de otros especialistas en el ámbito de la inteligencia artificial. Recientemente, Meta declaró que está trabajando en una inteligencia artificial «más inteligente que los humanos pero sumisa», lo que ha suscitado inquietudes sobre la rápida evolución tecnológica y las implicaciones inesperadas de tecnologías tan sofisticadas.
Yann LeCun, un destacado especialista en aprendizaje automático, ha manifestado igualmente su inquietud por la velocidad del avance en este campo.
No obstante, Saunders subraya que la real amenaza no se encuentra en una “insurrección de las máquinas”, como ha sido sugerido en ciertas historias populares, sino en nuestra falta de previsión sobre cómo estos sistemas podrían influir y dominar contextos sociales y económicos.
La inteligencia artificial, según un ex trabajador de OpenAI, puede ser mucho más sutil y compleja en su impacto de lo que muchos piensan, lo que aumenta la urgencia de establecer medidas de seguridad y control eficaces.
Con Información de EL ARAGUEÑO
