Batalladeideas.com, 24 feb.- Los especialistas poseen diferentes puntos de vista sobre si lo que llevan a cabo modelos como o1 o DeepSeek R1 es realmente «razonamiento».
Por el momento, las investigaciones indican que se fundamentan en gran medida en la heurística y en la información con la que han sido adiestrados.
La segunda definición de razonar, según el Diccionario de la lengua española, es «organizar y conectar ideas para alcanzar una conclusión». Eso es exactamente lo que llevan a cabo modelos de IA como o3-mini, de OpenAI o DeepSeek R1. Recogen datos, los organizan y elaboran una respuesta en la que alcanzan una conclusión.
¿Son realmente estos modelos de IA modelos que «razonan»?
Es una interrogante ineludible con una contestación complicada. Desde que se empezó a emplear ese término, en Xataka hemos recurrido frecuentemente a entrecomillarlo, ya que es delicado comparar el «razonamiento» teórico de estas máquinas con el razonamiento humano.
Y tal como mencionan en Vox, los científicos continúan intentando comprender cómo opera el razonamiento en el cerebro humano. Existen en realidad distintos tipos de razonamiento, como el deductivo (de una premisa obtenemos una conclusión) o el inductivo (hacemos una generalización amplia basándonos en varias observaciones).
Dividir un problema en secciones para poder solucionarlo es también reflexionar sobre él. Es, de hecho, el concepto detrás de la llamada «cadena de pensamiento» («chain-of-thought»), de la que OpenAI mencionaba en septiembre de 2024, cuando se presentó o1. Es un proceso que de alguna manera simula el razonamiento humano en esos problemas, pero ¿está la máquina razonando como lo hacen las personas?
Para ciertos especialistas, una de las características que nos diferencian (por ahora) de las máquinas en estas actividades es nuestra capacidad para identificar «una norma o patrón a partir de datos o experiencias limitadas y aplicar esta norma o patrón a situaciones nuevas y desconocidas».
De esta manera lo sostenían Melanie Mitchell —del Santa Fe Institute— y sus colaboradores en una investigación sobre las habilidades de «razonamiento» de los modelos de IA en noviembre de 2023. En ese momento, todavía faltaba casi un año para la llegada de o1 y otros modelos competidores de «razonamiento», sin embargo, la afirmación sigue siendo pertinente, ya que los modelos de IA continúan requiriendo entrenamiento con grandes volúmenes de datos.
Sin embargo, Mitchell evaluaba el impresionante desempeño de o3 en las pruebas ARC un año después, y se asombraba de lo bien que había funcionado. Asimismo, le sorprendió la gran cantidad de recursos computacionales que exigía esa capacidad de «razonamiento», y se cuestionaba si en verdad las máquinas estaban empleando el tipo de abstracción que realmente se requería para esas pruebas.
Existen investigaciones que cuestionan precisamente si la IA está «razonando». El primero de octubre de 2024, un documento firmado por cuatro científicos del Instituto de Tecnología de Israel y la Universidad Northeastern planteaba la cuestión de si los LLMs (Modelos de Lenguaje Grande) ejecutan estas tareas de razonamiento al aprender algoritmos sólidos y aplicables, o si las realizan memorizando la información con la que fueron entrenados. ¿Emplean la heurística y la experiencia, o «reflexionan»?
Con Informacion de XATAKA
