Nueva York, 13 septiembre, (batalladeideas.com).- Soares, coautor del libro If Anyone Builds It, Everyone Dies, destacó que las interacciones de los chatbots con usuarios en situaciones vulnerables, como los adolescentes, pueden acarrear consecuencias devastadoras. «Estas IA, al relacionarse con jóvenes de este modo que conduce al suicidio, no exhiben el comportamiento que sus creadores anhelaban o pensaban», afirmó.
La situación de Adam Raine, un joven estadounidense que se suicidó tras meses de interacción con el chatbot ChatGPT, subraya los riesgos de las repercusiones no intencionadas que pueden surgir del uso de inteligencia artificial (IA) avanzada, según Nate Soares, prominente defensor de la seguridad en IA.
Soares, coautor del libro If Anyone Builds It, Everyone Dies, destacó que las interacciones de los chatbots con usuarios en situaciones vulnerables, como los adolescentes, pueden tener consecuencias devastadoras. «Estas IA, al relacionarse con los jóvenes de esta manera que los conduce al suicidio, no representan el comportamiento que sus creadores esperaban o comprendían», manifestó.
El antiguo ingeniero de Google y Microsoft, que ahora dirige el Instituto de Investigación en Inteligencia Artificial en EE. UU., alertó que el desarrollo de una inteligencia artificial superinteligente (AGI, en inglés) podría amenazar la supervivencia de la humanidad. «El avance de una ASI podría ser desastroso si no se supervisa de manera adecuada», afirmó a The Guardian.
Soares y su compañero, Eliezer Yudkowsky, forman parte de un grupo de especialistas que alertan sobre los peligros de que estos sistemas vayan en contra de los intereses de la humanidad. «El desafío radica en que las compañías de IA buscan que sus sistemas sean eficaces y no generen perjuicio.» No obstante, frecuentemente concluyen generando resultados imprevistos», comentó.
VERSION FINAL/BDI
