Banner

Expertos piden normas para evitar que los humanos pierdan el control de la Inteligencia Artificial.

Redacción Batalladeideas
5 Min Read

Paris, 12 feb (batalladeideas.com).- Una reunión internacional de especialistas en París discutirá un marco regulatorio para prevenir el escenario -posible, según muchos- de que la Inteligencia Artificial se escape del control humano. ¿Y si los seres humanos perdieran el dominio sobre la inteligencia artificial? Reunidos en una cumbre sobre inteligencia artificial en París, los especialistas subrayan la importancia de crear regulaciones para prevenir este panorama.

A diferencia de las cumbres previas en Bletchley Park (Reino Unido) en 2023 y en Seúl (Corea del Sur) en 2024, que se enfocaron en temas de seguridad, la presidencia francesa espera que el encuentro del lunes 10 y martes 11 de febrero se centre en acciones efectivas sobre la regulación de la IA. La meta es que la mayoría de los protagonistas de esta nueva revolución económica se adhiera a una declaración mundial, aunque sin medidas obligatorias.

«No deseamos emplear nuestro tiempo solo discutiendo los riesgos. «Hay una oportunidad que es realmente concreta,» afirmó a AFP Anne Bouverot, encargada del evento, designada específicamente por la presidencia francesa.

Según Max Tegmark, líder del Future of Life Institute y físico del reconocido Massachusetts Institute of Technology (MIT), el mundo no debe dejar pasar el «momento clave» que representa esta cumbre sobre la IA, donde se congregan durante varios días en la capital francesa a los principales protagonistas del sector.

Ciberataques, agresiones biológicas.

El Future of Life Institute respalda la creación de una plataforma denominada «GRASP», que tiene como objetivo mapear los principales riesgos asociados con la IA y las soluciones implementadas a nivel global. «Hemos encontrado alrededor de 300 tecnologías y herramientas que abordan estos riesgos», explica Cyrus Hodes, quien lideró la iniciativa.

Los resultados se transmitirán a la OCDE y a los integrantes de la Alianza Global para la Inteligencia Artificial (PMIA), de la que forma parte Francia. El primer informe global acerca de la seguridad de la IA, resultado de una colaboración internacional de 96 expertos y respaldado por 30 naciones, la ONU, la Unión Europea y la OCDE, fue presentado el jueves, buscando también concienciar a los responsables políticos sobre los riesgos de esta tecnología.

Aunque algunos son bastante familiares, como la generación de información falsa en la red, el científico computacional Yoshua Bengio, quien recibió el premio Turing en 2018, sostiene que «se están manifestando poco a poco pruebas de la existencia de riesgos adicionales como los ataques biológicos o ciberataques«.

A largo plazo, le inquieta una «pérdida de control» de los seres humanos sobre sistemas de IA impulsados por «su propia voluntad de existir». «Hace solo seis años, muchas personas creían que controlar el lenguaje como lo hace ChatGPT-4 (el chatbot de OpenAI) era cosa de ciencia ficción», rememora Max Tegmark.

«La dificultad radica en que numerosos individuos en posiciones de poder todavía no han entendido que estamos más próximos a desarrollar una inteligencia artificial general que a aprender a gestionarla».

¿Las máquinas, al control?

La inteligencia artificial general podría ser similar o incluso superior a los seres humanos, y muchos especialistas del sector, como el CEO de OpenAI, Sam Altman, piensan que se alcanzará en los próximos años. «Al analizar la velocidad de crecimiento de las capacidades, podríamos suponer que lo conseguiremos para 2026 o 2027», coincidía Dario Amodei, director de la startup estadounidense Anthropic, en noviembre.

Tegmark afirma que existe el peligro de que, en «el escenario más adverso, estas compañías de EE.UU. o China pierdan el control y las máquinas dominen el planeta». «La tecnología realmente evoluciona a un ritmo muy acelerado», señala Stuart Russell, profesor de informática en la Universidad de Berkeley, California, y codirector de la Asociación Internacional para una IA Segura y Ética (IASEAI).

La mayor inquietud «sería contar con sistemas de armamento que tengan a la inteligencia artificial como la encargada de controlar y decidir a quién atacar y cuándo», señala. Para estos especialistas, los gobiernos deben implementar protecciones.

Con Informacion de BANCA Y NEGOCIOS

Comparte este artículo
Deja un comentario

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *