IA

IA en Orientación

Anatomía de una infraestructura computacional

Hace apenas unos años la inteligencia artificial era un tema de interés más o menos lejano. Hoy forma parte del trabajo cotidiano de muchos profesores y también de muchos orientadores.

Aunque las posturas no son unánimes, la investigación disponible sobre el ámbito educativo apunta al predominio de una visión pragmática: la IA se percibe más como una herramienta útil que como una amenaza en sí misma.

También se sostiene con frecuencia que, dada la creciente relevancia social de la IA, la escuela no puede permanecer al margen de este fenómeno y debe abordarlo tanto como objeto de aprendizaje como herramienta al servicio de la educación.

En cuanto al uso, las discrepancias no suelen referirse tanto a su conveniencia como a las condiciones bajo las cuales resulta legítimo utilizarla.

En cualquier caso, la IA ya forma parte del contexto profesional. Está disponible, evoluciona con rapidez y ofrece posibilidades difíciles de ignorar. Resulta razonable prever que su utilización, tanto adecuada como inadecuada, continuará extendiéndose en la práctica profesional.

Precisamente por ello, la cuestión ya no es si debe estar presente, sino qué criterios deben orientar la decisión de utilizarla —o de no hacerlo— en el ejercicio responsable de la profesión.

A medida que estas herramientas se incorporan a la práctica cotidiana deja de ser suficiente saber utilizarlas. También es necesario comprender qué hacen realmente, por qué producen resultados tan convincentes y cuáles son los límites de esa aparente competencia. Esa necesidad explica el creciente interés que la IA está despertando en publicaciones, cursos de formación y espacios de debate profesional. Ante esta realidad, buena parte de la información y el debate se ha centrado en aprender a utilizar estas herramientas: cómo escribir mejores prompts, qué aplicación elegir, qué tareas pueden automatizarse...

No son irrelevantes estos temas, pero hay un par de cuestiones previas, más importantes pero menos tratadas: ¿cómo funcionan estas herramientas y en qué medida este funcionamiento responde a las necesidades y condicionantes de nuestro trabajo?

No son éstas curiosidades tecnológicas, ya que condicionan la confianza que podemos depositar en las respuestas que generan, las tareas en las que las podemos emplear, el modo en que las podemos emplear y, sobre todo, lo que es posiblemente más importante: en qué NO las debemos emplear.

La idea de fondo es sencilla: no es posible utilizar una herramienta de inteligencia artificial de forma competente y éticamente responsable sin comprender antes cómo produce sus respuestas, cuáles son sus capacidades y cuáles sus límites.

Inteligencia Artificial es un concepto que ya no significa lo mismo hoy que ayer.

Cuando se habla de inteligencia artificial da la impresión de que nos referimos a una tecnología perfectamente definida. Pero el significado de esa expresión ha cambiado profundamente desde que comenzó a utilizarse hace ya casi setenta años.

Durante las primeras décadas predominó un enfoque basado en reglas. Si un experto era capaz de explicar cómo resolvía un determinado problema, esas reglas podían traducirse a un programa informático. La “inteligencia” consistía en reproducir mediante algoritmos el razonamiento previamente descrito.

Aquellos sistemas obtuvieron resultados muy valiosos en ámbitos concretos, pero pronto apareció una dificultad. Muchas de esas capacidades —comprender una conversación, reconocer una imagen, interpretar un contexto o desenvolverse en situaciones nuevas— no se pueden describir exhaustivamente mediante listas de reglas.

La investigación tomó entonces otro camino.

En lugar de intentar programar directamente el conocimiento, comenzó a desarrollarse una inteligencia artificial capaz de aprender regularidades a partir de los datos que se aportan al algoritmo, cantidades cada vez más grandes de datos. Este cambio de paradigma explica buena parte de la IA actual.

La cuestión dejó de ser ¿qué reglas debemos programar? para convertirse en ¿de qué datos aprenderá el modelo y qué arquitectura permitirá que ese aprendizaje sea eficaz?.

Comprender este cambio de paradigma no responde únicamente a un interés académico. Permite entender que las herramientas que hoy utilizamos no funcionan como los programas informáticos tradicionales, aunque sigan ejecutándose en un ordenador. También ayuda a comprender por qué poseen capacidades que antes parecían inalcanzables y, al mismo tiempo, por qué presentan limitaciones que aquellos programas no tenían.

Este cambio aporta además otra enseñanza que conviene no perder de vista: la inteligencia artificial es una tecnología más, no la única disponible ni necesariamente la más adecuada para cualquier problema. Según cuáles sean nuestras necesidades, otras soluciones pueden resultar igualmente válidas o incluso preferibles. Elegir entre unas y otras forma parte, precisamente, del juicio profesional.

La IA es mucho más que los asistentes conversacionales.

Aunque para muchas personas la inteligencia artificial tiene hoy nombres propios —ChatGPT es probablemente el ejemplo más conocido—, conviene evitar la simplificación que esto implica. Los asistentes conversacionales constituyen únicamente una de las múltiples aplicaciones actuales de la IA.

Hoy encontramos inteligencia artificial en sistemas capaces de reconocer imágenes médicas, detectar fraudes, analizar grandes volúmenes de datos, identificar patrones difíciles de apreciar a simple vista, realizar predicciones, recomendar actuaciones o generar textos, imágenes, música y vídeo. Los llamados grandes modelos de lenguaje (LLM) representan solo una parte de este panorama.

Aquí centraremos la atención en los grandes modelos de lenguaje porque son, probablemente, las herramientas que más están modificando el trabajo cotidiano de docentes y orientadores educativos. Esta elección responde al propósito de analizar su impacto sobre la práctica profesional y no debe interpretarse como una identificación entre inteligencia artificial y asistentes conversacionales, ni como la idea de que otras aplicaciones de la IA tengan menor interés o menor potencial para la educación.

Conviene, además, tener presente otra cuestión. El protagonismo que los asistentes conversacionales han adquirido en el debate profesional no solo refleja el desarrollo reciente de estas tecnologías; también pone de manifiesto qué aspectos de nuestra práctica concentran hoy mayor atención. Existe el riesgo de que ese protagonismo desplace otras posibilidades de la IA —como el análisis de datos o el apoyo a la investigación sobre la propia práctica— que pueden resultar igualmente relevantes para una orientación educativa rigurosa. Tendremos ocasión de volver sobre esta cuestión más adelante.

¿Qué hace realmente un gran modelo de lenguaje?

Es frecuente pensar que ChatGPT «lo sabe todo» (o casi) y que, cuando recibe una pregunta, busca la respuesta adecuada en una inmensa base de conocimientos.

No funciona así. Tampoco consulta Internet cada vez que responde —aunque puede hacerlo cuando la tarea lo requiere— ni recupera información almacenada en una base de datos organizada por materias. Su funcionamiento es bastante diferente.

Un gran modelo de lenguaje genera la continuación más probable de un texto teniendo en cuenta el contexto de la conversación. Esta explicación puede parecer demasiado simple para justificar resultados tan sorprendentes. Sin embargo, precisamente ahí reside la clave.

El aspecto esencial suele pasar inadvertido porque el usuario solo ve palabras. En realidad, el modelo no opera directamente sobre el lenguaje. Antes de poder procesarlo, transforma el texto en representaciones numéricas sobre las que realiza todos sus cálculos. El lenguaje constituye la interfaz con el usuario; el procesamiento real tiene lugar en un espacio matemático.

Durante el entrenamiento, la red neuronal ajusta miles de millones de parámetros internos a partir de enormes cantidades de textos. Ese proceso le permite aprender patrones y relaciones estadísticas presentes en el lenguaje. Como consecuencia, cuando recibe una consulta no «adivina» la siguiente palabra de forma aislada, sino que genera nuevas secuencias de texto apoyándose en las regularidades que ha aprendido y en el contexto disponible en ese momento.

Este mismo mecanismo interviene prácticamente en todo lo que hace un gran modelo de lenguaje. La pregunta del usuario, el historial de la conversación, los documentos incorporados al contexto e incluso, cuando dispone de esa capacidad, la información obtenida mediante una búsqueda en Internet se transforman en representaciones numéricas que el modelo procesa de la misma manera. No existen mecanismos distintos para «leer», «consultar» o «responder»; en todos los casos aplica, esencialmente, el mismo procedimiento matemático.

De ahí procede también la impresión de que el modelo «sabe». No recupera respuestas desde una base de conocimientos organizada por materias ni razona aplicando reglas previamente programadas. Genera texto a partir de los patrones aprendidos durante el entrenamiento y de la información disponible en el contexto. Precisamente porque todo depende de este mismo mecanismo, comprenderlo resulta esencial para interpretar correctamente las respuestas que produce. De él derivan tanto las extraordinarias capacidades de estos modelos como algunas de sus limitaciones más importantes, que analizaremos a continuación.

La verosimilitud no garantiza la verdad.

El aspecto verdaderamente importante no es que un gran modelo de lenguaje pueda equivocarse. También las personas se equivocan. La diferencia es otra: los criterios que utiliza para generar una respuesta no son los mismos que utilizamos nosotros para valorar si esa respuesta es correcta.

Un gran modelo de lenguaje no determina si una afirmación es verdadera o falsa del mismo modo que lo hace un profesional. Lo que hace es estimar qué respuesta resulta más compatible con el contexto de la conversación y con los patrones que ha aprendido durante el entrenamiento. En la mayoría de las situaciones ambos criterios coinciden, lo que explica la utilidad práctica de estos modelos. Pero no siempre ocurre así.

Cuando los patrones aprendidos por el modelo no permiten aproximarse adecuadamente al conocimiento científico disponible, al marco normativo aplicable o a las características concretas del problema planteado, puede generar respuestas perfectamente redactadas, coherentes y convincentes que, sin embargo, son incorrectas.

No se trata de un fallo accidental ni de un intento de engañar al usuario. Es una consecuencia directa de su modo de funcionamiento. La verosimilitud lingüística y la validez de una respuesta no son exactamente la misma cosa.

Para un orientador educativo esta diferencia tiene consecuencias muy concretas. La calidad formal de una respuesta nunca puede sustituir al juicio profesional, que exige valorar su adecuación al caso concreto, contrastarla con el conocimiento científico disponible, considerar sus implicaciones éticas y comprobar su conformidad con el marco normativo vigente.

En otras palabras, la inteligencia artificial puede constituir un recurso de apoyo para analizar información, explorar alternativas o elaborar propuestas, pero no puede sustituir al criterio del profesional.

La IA necesita una infraestructura computacional sin precedentes.

Con frecuencia hablamos de inteligencia artificial como si todo dependiera de un algoritmo especialmente ingenioso. En realidad, los grandes modelos de lenguaje son también el resultado de una infraestructura computacional de una escala desconocida hasta hace pocos años.

Esta necesidad deriva directamente de su forma de funcionamiento. Si el modelo aprende ajustando miles de millones de parámetros mediante operaciones matemáticas realizadas sobre cantidades ingentes de datos, su entrenamiento requiere una capacidad de cálculo extraordinaria. Hoy se lleva a cabo en grandes centros de datos que reúnen decenas de miles de procesadores especializados trabajando de forma coordinada durante semanas o incluso meses. Sin esa infraestructura, los modelos que utilizamos simplemente no existirían.

La IA generativa no ha surgido únicamente como consecuencia de nuevos desarrollos matemáticos. Ha sido posible gracias a la convergencia entre investigación científica, disponibilidad masiva de datos, avances en ingeniería informática y una capacidad de cálculo que hasta hace muy poco era inalcanzable.

Comprender esta dimensión material permite situar la inteligencia artificial en su contexto real. Los grandes modelos de lenguaje no son únicamente programas informáticos: forman parte de una infraestructura técnica, organizativa y económica extraordinariamente compleja, cuya construcción y mantenimiento solo está al alcance de un número muy reducido de organizaciones.

Este hecho tiene implicaciones que van más allá de la tecnología. A diferencia de la mayor parte de las herramientas que tradicionalmente ha utilizado un profesional, los grandes modelos de lenguaje no son instrumentos cuyo funcionamiento, evolución o disponibilidad dependan principalmente de quien los utiliza. Están integrados en servicios gestionados por terceros, sujetos a decisiones técnicas, comerciales y organizativas ajenas al usuario.

Esta nueva relación modifica, al menos parcialmente, la capacidad de agencia del profesional sobre sus propias herramientas de trabajo. La autonomía ya no depende únicamente del conocimiento técnico o del criterio profesional, sino también de las condiciones de acceso, funcionamiento y evolución de infraestructuras que escapan a su control. Comprender esta realidad constituye un requisito más para integrar la inteligencia artificial en un ejercicio responsable de la profesión.

Las palabras también forman parte del juicio profesional.

Llegados a este punto merece la pena volver a la pregunta inicial. Si las respuestas de un gran modelo de lenguaje resultan tan naturales y convincentes, ¿por qué insistir en que no «comprende», no «sabe» o no «piensa» del mismo modo que una persona?

La respuesta no obedece a un interés terminológico ni a una discusión filosófica. Tiene consecuencias prácticas. Las palabras que utilizamos para describir una herramienta condicionan la forma en que la entendemos y, en consecuencia, la manera en que decidimos utilizarla.

En la conversación cotidiana resulta natural atribuir a la IA expresiones como «entiende», «decide», «razona» o «sabe». Son atajos lingüísticos útiles para comunicarnos, pero pueden convertirse en descripciones engañosas si olvidamos que se trata de una forma de hablar y no de una explicación de su funcionamiento.

Cuando atribuimos al modelo capacidades que en realidad pertenecen a las personas, corremos el riesgo de trasladarle también una confianza, una autoridad o una responsabilidad que no le corresponden. La cuestión no consiste únicamente en utilizar las palabras con mayor precisión, sino en preservar el criterio con el que interpretamos sus respuestas y tomamos decisiones a partir de ellas.

Por eso comprender cómo funciona un gran modelo de lenguaje no es una curiosidad técnica. Constituye una condición para ejercer el juicio profesional con mayor fundamento. Solo si conocemos qué puede hacer, por qué puede hacerlo y cuáles son los límites de ese funcionamiento podremos integrarlo de forma crítica, eficaz y responsable en nuestra práctica.

Nosotros sí necesitamos comprenderla para utilizarla.

En orientación educativa asumimos desde hace tiempo que los resultados de una prueba psicométrica no sustituyen la interpretación del profesional, que ningún protocolo reemplaza el análisis del caso y que la aplicación de una norma siempre exige considerar el contexto. La inteligencia artificial no constituye una excepción a este principio; simplemente lo plantea en un escenario nuevo.

Un gran modelo de lenguaje puede resultar útil para determinadas tareas. Puede ayudarnos a analizar información, explorar alternativas, elaborar documentos o revisar nuestro propio trabajo. Pero sigue siendo una herramienta de apoyo. Su aportación no elimina la necesidad de interpretar críticamente sus resultados ni, mucho menos, la responsabilidad de quien decide utilizarlos.

Como ocurre con cualquier otra herramienta profesional, su valor no depende únicamente de lo que es capaz de hacer, sino del criterio con el que decidimos incorporarla a nuestra práctica. Ese criterio exige comprender cómo funciona, qué tipo de respuestas produce, cuáles son sus fortalezas y de dónde proceden sus limitaciones.

Por eso, para un orientador educativo, comprender el funcionamiento de un gran modelo de lenguaje no responde al interés por una innovación tecnológica. Constituye una exigencia del propio ejercicio profesional. Solo desde ese conocimiento es posible decidir con fundamento cuándo puede aportar valor a nuestro trabajo...

...y, sobre todo, cuándo no.