Batalladeideas.com, 07 abril.- Los agentes de IA se vuelven cada vez más independientes y eficientes. Y están abriendo la puerta a nuevas formas de ataques.
Los agentes de IA no pertenecen al futuro: ya están presentes. A medida que los chatbots como ChatGPT o Gemini continúan avanzando en actividades que van desde aclarar preguntas diarias hasta asistir en la programación, las grandes empresas tecnológicas han comenzado a tomar medidas significativas hacia una nueva era de sistemas mucho más prometedores.
Tienen la capacidad de realizar labores, hacer elecciones y ajustarse al medio. No solo contestan: toman acción. Y esa transformación se manifiesta como un avance sumamente significativo.
OpenAI está creando Operator, un asistente capaz de explorar sitios web, reservar viajes o administrar archivos. Anthropic evalúa su propio agente con capacidades parecidas en contextos controlados. Google está desarrollando Jarvis, su próximo asistente virtual.
La propuesta es evidente: asignar tareas concretas a inteligencias artificiales. Sin embargo, esa misma autonomía que los hace aliados valiosos también los transforma en un posible peligro para la ciberseguridad.
Autonomía arriesgada. A diferencia de los bots convencionales, los agentes de IA no están restringidos a seguir directrices preestablecidas. Tienen la capacidad de gestionar un sistema operativo o decidir basándose en el entorno.
En manos inapropiadas, esta autonomía podría permitir ataques sofisticados sin requerir la intervención de expertos humanos. Ciertas pruebas de laboratorio ya evidencian cómo estos modelos pueden reproducir procesos que previamente necesitaban habilidades técnicas especializadas, como la automatización de tareas de espionaje o la modificación de configuraciones del sistema.
XATAKA
