LENGUAJES

Programación y orientación educativa

Lenguajes de programación

Hoy nadie pone en duda que la denominada competencia digital forma parte de las competencias profesionales de los orientadores educativos. Sin embargo, predomina cierta reducción conceptual de la misma como conocimiento y manejo de recursos y aplicaciones, lo que supone adoptar una concepción fundamentalmente instrumental que deja en segundo plano la resolución de problemas, la creación de soluciones digitales y el pensamiento computacional. Frente a ello, los marcos europeos de competencia digital contemplan estas dimensiones e incluyen el pensamiento computacional y la programación como medios para analizar problemas, descomponerlos y formular secuencias de instrucciones que permitan resolverlos. Esta relación entre pensamiento computacional y programación ha sido también objeto de diversas revisiones sistemáticas de la investigación educativa reciente.

En este contexto, el conocimiento de los lenguajes de programación no constituye un fin profesional en sí mismo, sino una forma de materializar y poner en práctica ese pensamiento computacional mediante el desarrollo de soluciones propias. La inteligencia artificial generativa introduce aquí una doble posibilidad, potencialmente contradictoria: puede reforzar una relación meramente consumidora con la tecnología al permitir obtener soluciones cuyo proceso de generación permanece, en buena medida, opaco incluso para quien las utiliza y que, por tanto, pueden ser aceptadas sin disponer de los conocimientos necesarios para comprenderlas y evaluarlas; pero también facilita la transformación de una solución concebida computacionalmente en código, reduciendo parte del esfuerzo técnico necesario. La investigación reciente señala precisamente esta tensión entre la facilitación que ofrecen estas herramientas y el riesgo de que, especialmente entre quienes se inician, se externalice en ellas una parte del propio razonamiento. Una revisión sistemática de 40 estudios empíricos sobre IA generativa en la enseñanza de la programación llega a una conclusión relacionada: la integración de estas herramientas plantea oportunidades, pero también la necesidad de preservar las capacidades fundamentales de programación y de razonamiento de orden superior.

Esta doble posibilidad hace especialmente importante distinguir entre la capacidad para obtener una solución digital y la capacidad para comprenderla, evaluarla y modificarla. La IA generativa puede reducir el coste técnico de producir código, pero no elimina la necesidad de comprender el problema que se pretende resolver ni de ejercer criterio sobre la solución obtenida. En este sentido, el aprendizaje de la programación mantiene su valor precisamente porque proporciona los conocimientos necesarios para plantear correctamente un problema, valorar una solución y mantener el control sobre aquello que se ha construido, incluso cuando parte de su desarrollo se haya realizado con ayuda de herramientas de inteligencia artificial. Esta cuestión resulta especialmente relevante cuando se analiza la capacidad de los estudiantes para comprender y corregir código generado por modelos de lenguaje.

La cuestión, por tanto, no es convertir al orientador en un profesional de la programación, sino identificar qué puede aportar esta capacidad cuando se aplica a problemas propios de su práctica profesional. El valor de programar aparece precisamente cuando permite pasar de la utilización de herramientas ya disponibles a la posibilidad de intervenir sobre los propios procesos de trabajo, construyendo soluciones ajustadas a necesidades concretas, automatizando procedimientos cuando resulte conveniente y, sobre todo, manteniendo la capacidad de comprender, revisar y modificar aquello que se ha construido.

Los Servicios de Orientación trabajan constantemente con información: la recogen de distintas fuentes, la organizan, la relacionan, la transforman, la analizan y finalmente la utilizan para elaborar informes, tomar decisiones o comunicar resultados. El interés de la programación reside, sí, en automatizar algunas tareas, pero sobre todo y principalmente en proporcionar una forma de formalizar procedimientos y convertir determinadas necesidades en soluciones digitales que el propio profesional puede diseñar, adaptar y controlar. Esta capacidad de formalización es, precisamente, una de las formas en las que el pensamiento computacional adquiere una dimensión directamente vinculada con la práctica profesional.

Esta capacidad de analizar y transformar problemas en procedimientos tiene, además, una dimensión directamente profesional. Adquiere especial relevancia en un contexto en el que buena parte de las soluciones digitales utilizadas en los Servicios de Orientación son productos diseñados por terceros. Utilizarlos exige conocer sus posibilidades y limitaciones, pero no proporciona capacidad para modificarlos cuando no se ajustan a una necesidad concreta. Aprender a programar introduce, en cambio, un grado diferente de autonomía: permite pasar de ser únicamente usuario de herramientas a poder construir, modificar o integrar soluciones propias, aunque sean simples y específicas.

La inteligencia artificial generativa modifica además las condiciones en las que esta capacidad puede ejercerse. Puede reducir considerablemente el esfuerzo necesario para escribir código, facilitar el aprendizaje y hacer viable la creación de soluciones que antes requerían una mayor especialización técnica. Pero precisamente por eso adquiere importancia disponer de los conocimientos necesarios para plantear correctamente el problema, valorar la solución propuesta, detectar errores y decidir si el código generado responde realmente a las necesidades profesionales. La IA puede reducir el coste de producir código, pero no elimina la necesidad de comprender el problema que se pretende resolver ni de ejercer criterio sobre la solución obtenida. Los resultados de una revisión sistemática y metaanálisis sobre el efecto de las herramientas de IA en el aprendizaje de la programación permiten situar esta cuestión en un contexto más amplio de investigación.

De este modo, puede convertirse en un instrumento para ampliar la capacidad de programación, pero no en un sustituto del pensamiento computacional que debe orientar su utilización. Estudios recientes han explorado precisamente cómo una utilización de la IA acompañada de estrategias de apoyo y orientación puede mantener el desarrollo de la lógica de programación y de las capacidades de orden superior, reduciendo al mismo tiempo el riesgo de dependencia de la herramienta.

Si el valor de aprender a programar se sitúa en su capacidad para resolver problemas profesionales concretos, resulta especialmente interesante considerar aquellos lenguajes que pueden integrarse directamente en las herramientas que los orientadores ya utilizan o que permiten construir recursos específicos cuando las soluciones disponibles no responden a sus necesidades.

En este sentido, OOo Basic, por ejemplo, constituye una primera aproximación especialmente vinculada al trabajo cotidiano de los Servicios de Orientación. Al estar integrado en una suite ofimática como LibreOffice, permite programar sobre herramientas que ya forman parte del trabajo habitual. Esto hace posible automatizar operaciones repetitivas, transformar y organizar información, generar documentos a partir de datos, establecer procedimientos que se ejecuten de manera sistemática o adaptar el funcionamiento de las aplicaciones a necesidades concretas. La propia documentación de LibreOffice sobre macros y Basic permite ampliar información sobre estas posibilidades.

Python permite dar continuidad a este tipo de aplicaciones sobre datos, documentos y otros recursos ofimáticos, pero plantea al mismo tiempo un salto de escala. Su carácter de lenguaje de propósito general permite desarrollar soluciones que ya no están limitadas al funcionamiento de una aplicación ofimática concreta y que pueden combinar tratamiento de datos, generación y transformación de documentos, acceso a servicios externos, automatización de procesos, desarrollo de interfaces o conexión con diferentes fuentes de información. La documentación oficial de Python permite apreciar este carácter general, mientras que la biblioteca estándar muestra la amplitud de funcionalidades disponibles para tareas de programación y tratamiento de información.

Además debemos tener en cuenta la estrecha relación de Python con la inteligencia artificial. Buena parte de las herramientas, bibliotecas y servicios utilizados para trabajar con modelos de IA pueden integrarse mediante Python, lo que permite pasar de utilizar aplicaciones de inteligencia artificial ya construidas a incorporar determinadas capacidades de IA dentro de recursos propios.

Desde esta perspectiva, OOo Basic y Python constituyen recursos complementarios para ampliar la autonomía tecnológica del orientador. Ambos permiten identificar cuándo una necesidad profesional puede abordarse mediante una solución propia y, llegado el caso, construirla o adaptarla con ayuda de herramientas como la inteligencia artificial. Lo fundamental es que el profesional conserve la capacidad para comprender el problema, formalizarlo y valorar y controlar la solución adoptada.

Nota: Esta entrada ha sido elaborada en diálogo con ChatGPT, utilizado como herramienta de apoyo durante el proceso de redacción y revisión.

IA. Modelos

Introducción

IA. Modelos y paradigmas

Cuando hablamos de Inteligencia Artificial es común utilizar expresiones como IA basada en reglas, IA estadística, Machine Learning o Deep Learning como si fueran etapas delimitadas de una evolución tecnológica. Sin embargo, la relación entre estos conceptos es más compleja.

Desde una perspectiva histórica, la IA ha recorrido un camino que va desde sistemas cuyo comportamiento se especificaba mediante reglas hasta sistemas capaces de aprender modelos a partir de los datos. Y, posteriormente, hacia sistemas capaces de aprender también representaciones cada vez más complejas de esos datos.

La diferencia fundamental entre estos enfoques está en cómo se consigue que el sistema sepa qué debe hacer. En una IA basada en reglas, ese conocimiento se incorpora directamente al sistema mediante las reglas que el programador establece. En Machine Learning, en cambio, el sistema aprende un modelo a partir de los datos mediante un algoritmo de aprendizaje.

La historia de la IA puede contemplarse, en buena medida, como la historia de diferentes paradigmas desarrollados para abordar problemas similares mediante estrategias diferentes: desde la especificación explícita del conocimiento mediante reglas hasta la construcción de modelos a partir de los datos. Dentro de ese campo de la IA han coexistido y siguen coexistiendo diferentes paradigmas, entendiendo por paradigma una forma general de plantear cómo abordar un determinado tipo de problema y cómo construir el procedimiento necesario para resolverlo.

La diferencia entre estos paradigmas no reside necesariamente en los problemas que pretenden resolver, sino en la forma en que plantean su resolución y, especialmente, en cómo incorporan el conocimiento necesario para obtener un resultado.

Veamos a continuación cuáles son esos paradigmas y cuales sus características

El paradigma heurístico o cómo programar el conocimiento. Las primeras aproximaciones a la IA estuvieron fuertemente vinculadas a la IA simbólica y a los sistemas basados en reglas. La idea fundamental era relativamente directa: si somos capaces de representar explícitamente el conocimiento necesario y establecer las reglas de razonamiento correspondientes, podemos diseñar un algoritmo que aplique esas reglas para obtener una respuesta.

Un ejemplo elemental sería: SI A implica B ENTONCES C.. En este paradigma, el experto cuyo conocimiento se pretende representar, determina las reglas que utilizará el sistema. lo que prima son las reglas que se establecen a priori y los datos son aquello sobre lo que éstas se aplican. Por ello, el proceso se puede representar esquemáticamente así:

• Reglas + datos → inferencia → resultado

Esta concepción dio lugar a los sistemas expertos, que tuvieron un importante desarrollo especialmente durante las décadas de 1970 y 1980. Su fortaleza era precisamente aquello que posteriormente se convertiría en una de sus limitaciones: el conocimiento podía representarse de forma explícita y, en determinadas condiciones, resultar interpretable. Sin embargo, el mundo real difícilmente puede reducirse a un conjunto completo de reglas.

¿Qué ocurre cuando existen miles de situaciones diferentes? ¿Qué sucede cuando las reglas son demasiado numerosas? ¿Y cuando ni siquiera sabemos formular explícitamente las reglas que utiliza una persona para reconocer una imagen, interpretar un texto o distinguir un patrón?

Aquí aparece el problema fundamental: podemos saber qué resultado queremos obtener sin saber formular explícitamente todas las reglas necesarias para obtenerlo. Una alternativa consiste entonces en analizar los datos para identificar en ellos regularidades, relaciones o patrones que puedan utilizarse para obtener el resultado buscado sin intentar especificar de antemano todas las reglas. Este planteamiento está en la base del enfoque estadístico de la IA.

La estadística ofrece una forma de abordar determinados problemas que es alternativa a la heurística. En lugar de intentar especificar todas las reglas, observamos los datos para buscar regularidades, relaciones y distribuciones que permitan describirlos o realizar inferencias. Por ello el esquema cambia: Datos → análisis estadístico → regularidades/inferencia → resultado

Esto introduce una transformación importante, ya que el conocimiento necesario para resolver el problema no tiene por qué estar completamente expresado mediante reglas diseñadas previamente por el programador. Puede inferirse matemáticamente a partir de los propios datos.

Dentro de este paradigma encontramos técnicas como la regresión, determinados métodos probabilísticos y otros procedimientos matemáticos que serán utilizados posteriormente dentro de sistemas de aprendizaje automático. Pero es necesario evitar identificar ambas, ya que estadística ≠ Machine Learning.. Un análisis estadístico puede limitarse a describir una población, estimar parámetros o estudiar relaciones entre variables. El Machine Learning añade una finalidad específica: construir mediante un procedimiento de aprendizaje un modelo capaz de realizar una tarea sobre datos, incluidos datos que no se utilizaron durante su entrenamiento. Podemos decir que la estadística constituye uno de los fundamentos de ML, pero no todo procedimiento estadístico es Machine Learning.

Con el Machine Learning (ML) se consolida una nueva forma de plantear muchos problemas de IA. Su característica diferencial no consiste en utilizar matemáticas o estadísticas; consiste en que el sistema aprende un modelo a partir de datos mediante un algoritmo de aprendizaje. La representación del proceso general sería: Datos → algoritmo de aprendizaje → modelo → nuevos datos → resultado

En el ML se distinguen tres elementos:

• El algoritmo de aprendizaje establece cómo se aprende.
• Los datos de entrenamiento proporcionan la información a partir de la cual se aprende.
• Y el modelo es el resultado de ese proceso: una estructura matemática cuyos parámetros han sido ajustados para realizar una determinada tarea.

Lo que cambia respecto a la IA heurística es que el comportamiento concreto del modelo deja de estar completamente especificado de antemano mediante reglas explícitas. Mientras que en la IA basada en reglas, el conocimiento que determina el comportamiento del sistema se incorpora explícitamente a éste, en la IA Machine Learning este conocimiento se obtiene mediante un proceso de aprendizaje a partir de los datos.

Dentro del ML diferenciamos entre el llamado aprendizaje supervisado y el aprendizaje no supervisado.

• En el aprendizaje supervisado disponemos de ejemplos de los que conocemos el resultado esperado (entrada → resultado conocido) y el algoritmo aprende la relación entre ambos.
• En el aprendizane no supervisado desconocemos el resultado o la respuesta correcta de cada observación y el objetivo consiste en encontrar estructuras o agrupaciones presentes en los propios datos. Así funcionan, por ejemplo, algoritmos de clustering como K-means. Su esquema de funcionamiento sería el siguiente: datos → algoritmo → estructura descubierta

Finalmente, la IA Deep Learning (DL) es el Machine Learning llevado a otro nivel. No constituye un paradigma independiente situado fuera del Machine Learning. Es fundamentalmente una familia de métodos de ML basada en redes neuronales profundas.

La importancia histórica del Deep Learning procede, entre otras cosas, de su capacidad para aprender automáticamente representaciones de gran complejidad a partir de grandes cantidades de datos.

Mientras que en los sistemas tradicionales de ML era frecuente que una parte importante de la representación de los datos tuviera que ser diseñada previamente, en el Deep Learning es la propia red la que puede aprender progresivamente representaciones útiles para la tarea. Esto resulta especialmente importante en los siguientes campos:

• reconocimiento de imágenes
• reconocimiento de voz
• procesamiento del lenguaje
• traducción automática
• generación de texto
• generación de imágenes

La evolución conceptual puede expresarse entonces como una progresiva transferencia de decisiones desde el diseñador hacia el proceso de aprendizaje: Reglas explícitas → modelos aprendidos → representaciones aprendidas. Pero no debemos interpretar estas secuencia como una sucesión de paradigmas, ya que podemos constatar que los sistemas basados en reglas siguen siendo útiles cuando el conocimiento puede expresarse de manera explícita y necesitamos comportamientos deterministas o fácilmente verificables. Los métodos estadísticos continúan siendo fundamentales y el Machine Learning incorpora técnicas estadísticas, matemáticas y computacionales muy diversas. Por su parte, el Deep Learning convive con otros métodos de ML que no utilizan redes neuronales profundas.

Dicho de otro modo, no estamos ante una sucesión de tecnologías que se reemplazan unas a otras. Estamos ante diferentes formas de resolver problemas, algunas de las cuales se han mostrado especialmente adecuadas para determinados tipos de problemas y determinadas condiciones tecnológicas.

IA. Modelos

Perceptrón (II)

IA. Modelos y paradigmas. Machine Learning

Damos continuidad aquí a la entrada precedente. Una vez expuesta en ella el esquema de la arquitectura del perceptrón, vamos a desarrollar la forma en que se concreta cada una de sus partes. Empezaremos por cómo obtenemos z a partir de X₁ y X₂; de dónde procede esa operación, por qué se define del modo en que se define y cuál es el efecto esperado.

Cuando Rosenblatt ideo el perceptrón planteó como primer elemento de su arquitectura la operación siguiente: z=(X1*w1) + (X2*w2) + b. La elección de esta operación no fue casual. El perceptrón se desarrolla dentro de una tradición que buscaba construir modelos matemáticos simplificados de la actividad neuronal, iniciada por McCulloch y Pitts y desarrollada posteriormente por Rosenblatt. En este planteamiento, una unidad recibe diferentes señales, las integra y determina su activación a partir del resultado. Rosenblatt incorpora a esta estructura la posibilidad de modificar los pesos de las conexiones mediante aprendizaje.

Esta aproximación permitió convertir una determinada hipótesis sobre el procesamiento neuronal en un modelo matemático susceptible de aprendizaje, pero también implicó una considerable simplificación de la actividad de una neurona biológica. Conviene, por tanto, entender el perceptrón como un modelo computacional inspirado en la neurona, y no como una representación de su funcionamiento biológico.

En nuestro caso, la operación que integra las entradas puede expresarse como una suma ponderada: z=(X1*w1) + (X2*w2) + b, pero los dos términos que aparecen en esta expresión corresponden a las dos variables de entrada de la tabla AND. La formulación matemática del perceptrón permite, no obstante, ser ampliada a tantas entradas como requiera el problema: z=i=1∑nXiwi+b. Por tanto, AND determina nuestro ejemplo, no la estructura general del perceptrón. Las entradas tampoco tienen por qué ser necesariamente variables binarias: lo que importa para esta operación es que puedan representarse numéricamente y participar en la suma ponderada.

La utilización de pesos en la operación responde a una necesidad básica: las distintas entradas no tienen por qué ejercer la misma influencia sobre el resultado. Cada wᵢ permite ponderar la contribución de su correspondiente entrada Xᵢ, incluso en sentido positivo o negativo. El término bias (b) cumple una función diferente: permite desplazar el resultado de la suma ponderada y ajustar el nivel a partir del cual las entradas pueden conducir a una determinada respuesta. Ambos son, por tanto, parámetros de la función que el perceptrón deberá ajustar mediante aprendizaje y que veremos más adelante. De momento, nos interesa dejar clara su función en la formulación de esta suma ponderada.

Concretando lo anterior en el primer registro de nuestra colección de datos, la fórmula anterior modifica la composición de la tabla al implicar la creación de espacios (columnas) para la ubicación de los pesos y del resultado de la suma ponderada, lo que nos obliga a reformular la original en la hoja de Calc que hemos elegido como soporte del siguiente modo: De la tabla original...

X₁	X₂	y
0	0	0

... pasamos a...

X₀	X₁	X₂	w₀ (b)	w₁	w₂	z	y
1	0	0	0	0	0	0	0

Como punto de partida debemos entender que el sumatorio original (X1*w1) + (X2*w2) + b es ahora equivalente a (x0*w0) + (X1*w1) + (X2*w2) (1). Ello se debe a la introducción de la variable X₀ y la reformulación o equivalencia de b como w₀. Ambas transformaciones obedecen al interés por facilitar la expresión de la operación (de la suma ponderada) como el producto escalar de vectores (2). Pero para que la operación X₀*w₀ sea siempre igual a w₀, esto es, a b,que es como debe ser según se deduce de la equivalencia entre las dos fórmulas de la suma ponderada, X₀ debe tener un valor constante e igual a 1 (3).

Se debe observar, además, que estamos manteniendo el valor de la etiqueta (y) diferenciado de z, que resulta de la suma ponderada. Esto implica que no existe equivalencia entre el resultado de esa operación y el resultado esperado y (la etiqueta), debido a que todavía falta aplicar una segunda función que convierta el valor z en un resultado comparable con y, al que llamaremos y'. Será entonces y' el que podamos comparar con el valor esperado y. Esta función es la llamada función escalón.

La función escalón convierte el resultado cuantitativo z, obtenido mediante la suma ponderada, en una salida binaria y'. Para ello, evalúa una condición lógica que, en términos de programación, se puede expresarse mediante una estructura if: if z >= 0 then y' = 1 else y' = 0.

A nivel operativo, en cuanto a su expresión en nuestra hoja de cálculo, estas operaciones obligan de nuevo a modificar la estructura de nuestra tabla. Ahora..

X₀	X₁	X₂	w₀ (b)	w₁	w₂	z	y'	y
1	0	0	0	0	0	0	0	0

... entendiendo que en cada una de las celdas situadas bajo el encabezado y' de nuestra hoja Calc está la función built-in equivalente =SI(D2>=0;1;0)

Una vez obtenida la salida y' mediante la función escalón, ya podemos compararla con el valor esperado y, es decir, con la etiqueta de cada observación. Esta comparación permite determinar si la respuesta obtenida (y') coincide con la esperada (y), cuestión que resolvemos mediante una simple resta (y-y'), cuyo resultado es 0, si se produce tal coincidencia (concordancia) o diferente de 0 en caso contrario (divergencia).

En términos de nuestro soporte, esto implica que deberemos añadir una nueva columna donde quede recogido el resultado de esta resta...

X₀	X₁	X₂	w₀ (b)	w₁	w₂	z	y'	y	y-y'
1	0	0	0	0	0	0	0	0	0

... ubicándose la fórmula correspondiente a y-y' en cada una de las celdas que se sitúan en la columna encabezada por la expresión y-y'. En nuestro caso, como valor primero obtenemos que y-y'= 0, lo que implica que el resultado es el esperado.

Cuando se da esta circunstancia, y-y'=0, no es necesario modificar los pesos, ya que los parámetros actuales han producido la respuesta correcta. Traducimos esto en que no es necesario activar el mecanismo de aprendizaje.

Esta situación puede repetirse con la entrada siguiente y con otras posteriores, pero no podemos concluir por ello que el aprendizaje haya finalizado. Para comprobarlo, debemos completar una época, que consiste en procesar una vez todos los ejemplos que forman parte de los datos de entrenamiento. En el caso de AND, por ejemplo, una época comprende las cuatro combinaciones posibles de x1 y x2. Al finalizarla podemos comprobar si se han producido errores y, en función de ello, determinar si el proceso de aprendizaje ha convergido.

Tenemos, por tanto, identificado que el llamado "aprendizaje" algorítmicamente requiere ser concretado dentro de una estructura condicional if, que consta necesarimente de dos términos; el primero de ellos implica la condición y-y'=0 y se concreta como respuesta como que los valores siguientes para la matriz de pesos wi, son los mismos que los precedentes. Dicho de otro modo, para nuestro ejemplo actual y siendo r2 el registro que sigue al precedente r1...

IF (y - y') = 0 THEN
    w0(r2) = w0(r1)
    w1(r2) = w1(r1)
    w2(r2) = w2(r1)
ELSE

En términos de concreción en nuetro soporte Calc necesitamos añadir tres nuevas columnas, una para cada nuevo valor wi' y establecer mediante asignación de contenido el valor de las originales celdas de las columnas wi la relación entre estas celdas y las que contienen los valores wi'. Cada celda wi' deberá contener la fórmula built-in que expresamos antes, una vez esté plenamente desarrollada (que no es ahora el caso).

A pesar de ello, por ir avanzando, implementaremos la nueva modificación de nuestro soporte calc para dar cabida a la estructura que será plenamente funcional en breve. Observese que los nuevos valores de los pesos (incluido w0 o bias se identifican como wi', aunque su sóla ubicación diferenciada de los wi operativos lo hace innecesario.

X₀	X₁	X₂	w₀ (b)	w₁	w₂	z	y'	y	y-y'	w₀'	w₁'	w₂'
1	0	0	0	0	0	0	0	0	0	0	0	0
1	1	0	0	0	0

Y no lo es porque aun nos falta por saber cómo se concreta el procedimiento de aprendizaje del perceptrón cuando no existe coincidencia entre y e y', dicho de otro modo, cuando es necesario activar el procedimiento de modificación de los valores que son modificables (los pesos y el bias).

Obsérvese también que en la nueva reformulación de la tabla hemos incluído lo que sería el inicio del segundo registro, incluyendo los valores conocidos de sus Xi, pero también los valores Wi que derivan, por asociación de los precedentes Wi' del registro que precede. En este caso, esos valores Wi se generan automáticamente mediante copia o mediante asociación, tomando, por ejemplo, W0(r2) su valor del contenido de la celda W0'(r1) (4).

Aun tenemos pendiente explicar como se expresa la regla de aprendizaje del perceptrón cuando no se produce la igualdad entre y e y', esto es, cómo se concrea la segunda rama (Else) del condicional anterior.

IF (y - y') = 0 THEN
    w0(siguiente) = w0(actual)
    w1(siguiente) = w1(actual)
    w2(siguiente) = w2(actual)
ELSE
    w0(siguiente) = w0(actual) + η * (y - y') * X0
    w1(siguiente) = w1(actual) + η * (y - y') * X1
    w2(siguiente) = w2(actual) + η * (y - y') * X2
    

Analicemos ahora la fórmula del llamado "aprendizaje" generalizándola a partir de una de sus concreciones. Para W0, por ejemplo, tenemos que W0'= W0 + η * (y - y') * X0, luego podemos decir que Wi' = Wi + η * (y - y') * X0, siendo...

• Wi' el valor que adquirirá el peso en la siguiente etapa del cálculo de z
• Wi el valor precedente del peso. Obsérvese que es el único elemento de la fórmula que se suma al producto de los restantes
• η (eta) es una constante (es la misma en cada una de las expresiones y a lo largo del todo el entrenamiento) que introducimos en la fórmula y que identificamos como tasa de aprendizaje (learning rate), que determina el tamaño del ajuste cuando el perceptrón "se equivoca". Como constante no resulta del propio "aprendizaje", siendo introducida por el programador como parte del algoritmo. Como tal elemento requiere su espacio en nuestra configuración Calc, lo que nos obliga a realizar una última modificación de nuestra hoja, con la peculiaridad que implica su carácter de constante.

X₀	X₁	X₂	w₀ (b)	w₁	w₂	z	y'	y	y-y'	w₀'	w₁'	w₂'	η
1	0	0	0	0	0	0	0	0	0	0	0	0	0,2
1	1	0	0	0	0

• (y - y') es, como ya sabemos, el resultado de la diferencia entre y e y' que, como vemos participa de nuevo en la arquitectura del preceptrón. Ahora determinando la dirección del producto η * (y - y') * Xi, esto es, del ajuste de los sesgos
• Finalmente, Xi es el valor que tiene la variable de entrada correspondiente al peso que estamos ajustando. Su participación en la fórmula hace que la corrección de cada peso tenga en cuenta la presencia y el valor de esa variable en el ejemplo que produjo el error. De este modo, no todos los pesos tienen necesariamente que modificarse en la misma medida: el ajuste de cada uno depende también del valor que tenía su correspondiente Xi.

Para finalizar, diremos que se considera lograda la convergencia cuando, tras aplicar el procedimiento de aprendizaje las veces que sea necesario (siempre en términos de épocas), persiste la igualdad y' = y para todos los registros de una época, lo que se traduce en que todos los W_i' = 0.

Los valores W_i que deberemos tomar como referencia para la fase de aplicación serán los correspondientes a W₀, W₁ y W₂ del primer registro a partir del cual se mantiene la igualdad y' = y y, por tanto, la diferencia y − y' = 0 y los pesos permanecen inalterados. Estos serán los valores definitivos de los diferentes pesos, incluida la bias o W₀ (5).

Documento. Desde este enlace puedes descargar el archivo Calc que contiene la versión heurístico y perceptrón del abordaje de AND.

NOTAS
1 Que es la fórmula que contiene la celda situada debajo de la b>cabecera z
2 Esta reformulación permite expresar la suma ponderada como un producto escalar, proporcionando una formulación matemática compacta y general que no depende del número de entradas y que facilita tanto su implementación computacional como la formulación del mecanismo de aprendizaje.
3 Estamos hablando de la propiedad del elemento neutro de la multiplicación. El 1 es el elemento neutro multiplicativo, porque cualquier número multiplicado por 1 permanece inalterado.
4 Realmente este procedimiento de asociación que genera los nuevos valores Wi resulta más difícil de explicar que de ejecutar. Analizar el funcionamiento del soporte Calc te va a permitir comprender la sencillez con la que se realiza con mucha mayor facilidad que lo que esta enrevesada explicación da a entender.
5 Debemos tener en cuenta que esa posición, el momento en que se produce la convergencia, va a depender de varios factores, incluyendo el tamaño de la variable que implementemos como tasa de aprendizaje. Ello obliga a adaptar el procedimiento de uso del perceptrón de nuestro soporte Calc a la realidad concreta que resulte del proceso de aprendizaje.

IA. Modelos

Perceptrón (I)

IA. Modelos y paradigmas. Machine Learning

Cuando hablamos de Machine Learning en la introducción a esta subsección lo consideramos como un paradigma radicalmente diferenciado de la IA basada en la heurística, en tanto que, mientras que para esta última lo nuclear es la expresión explícita de la regla (o reglas), en el ML el objetivo es lograr que el algoritmo «aprenda» a partir de los datos.

El perceptrón, propuesto por Frank Rosenblatt en 1957, constituye una de las propuestas ML más sencillas y, al mismo tiempo, más coherente con esa diferenciación. Aunque hoy existen modelos mucho más potentes, el perceptrón conserva un extraordinario valor didáctico y práctico. Su comportamiento resulta lo suficientemente transparente como para comprender cómo aprende un modelo de Machine Learning y, al mismo tiempo, convertir el propio proceso de construcción y entrenamiento en una oportunidad para revisar críticamente la forma en que hemos definido el problema que intentamos resolver.

El perceptrón es un modelo de clasificación binaria que se entrena utilizando ejemplos (registros de datos) previamente etiquetados, por lo que pertenece al ámbito del aprendizaje supervisado. Su objetivo es aprender, a partir de esos ejemplos, una forma de asignar cada nuevo caso a una de dos categorías en función de los datos que lo describen. En su forma clásica, esa clasificación es binaria: sí o no, verdadero o falso, clase A o clase B.

Esta clasificación binaria resulta fundamental para comprender el funcionamiento del perceptrón, ya que el modelo de Rosenblatt determina la clase de un ejemplo mediante una frontera de decisión lineal. Por ello, para que un perceptrón simple pueda aprender correctamente una clasificación, las dos categorías deben ser linealmente separables: debe existir una recta, en el caso de dos variables de entrada, o un hiperplano en dimensiones superiores, capaz de separar los ejemplos pertenecientes a ambas clases.

Para entender mejor qué significa esto, una representación gráfica de lo que estamos diciendo bien podría ser la siguiente. En ella se diferencian dos categorías, representadas mediante puntos azules y rojos, entre las que podría trazarse una recta capaz de separarlas. Aunque la frontera de decisión no aparece dibujada, su posible existencia resulta intuitivamente apreciable a partir de la distribución de los datos.

Existen algunos problemas que, por su sencillez y valor didáctico, resultan especialmente adecuados para comprender el funcionamiento del perceptrón. Uno de los más habituales es la función lógica AND. Su estructura permite utilizar un mismo problema para mostrar dos formas radicalmente diferentes de abordarlo: podemos expresar explícitamente la regla que determina su resultado, como haríamos desde una aproximación heurística, o proporcionar al perceptrón los ejemplos correspondientes para que aprenda a reproducir esa clasificación a partir de los datos.

Empecemos por el paradigma heurístico, que ya nos es conocido de tratamientos anteriores.

Como bien sabemos, la función lógica AND solo resulta V/1 cuando las dos condiciones se cumplen simultáneamente. Si ninguna de ellas se cumple o solo se cumple una, el resultado es invariablemente F/0. Esta sencilla regla puede trasladarse fácilmente a un procedimiento algorítmico y, desde un punto de vista práctico, implementarse también en una hoja de cálculo como LibreOffice Calc, incluso mediante el uso de sus funciones incorporadas (built-in).

Procedamos, pues, a implementar nuestra Puerta lógica AND en Calc, por aquello de demostrar la teoría en la práctica, como corresponde a una buena lógica didáctica. El rsultado es algo tan sencillo como lo que muestra esta imágen que explico a continuación

Podemos apreciar dos regiones diferenciadas dentro de la hoja de cálculo, aunque sólo una de ellas tiene interés desde el punto de vista de la implementación del algoritmo. La primera, correspondiente a las celdas de Entrada de datos, cumple únicamente una función de input: nuestro algoritmo se basa en solicitar al usuario los valores (V-1 o F-0) de cada una de las variables (X1 y X2).

La segunda región, identificada como Solución, es la que contiene la implementación de la regla. En ella, sobre Condición se evalúa ésta mediante la fórmula =Y(E5=1;F5=1), que determina si ambas variables tienen simultáneamente el valor 1. En realidad, la celda Solución se limita a facilitar la visualización del resultado mediante la fórmula =SI(G5=1;1;0), transformando el resultado lógico de la condición en el valor numérico 1 o 0.

Falta, no obstante, una tercera región en nuestra hoja de cálculo: aquella destinada a recoger los resultados obtenidos tras la ejecución sucesiva de nuestro algoritmo. Podemos imaginar, por ejemplo, que ejecutamos el algoritmo 24 veces, proporcionando en cada ejecución una combinación diferente de valores para X1 y X2. En este caso, el resultado podría organizarse en forma de una tabla de doble entrada como la que se muestra a continuación, de la que hemos capturado únicamente los seis primeros casos o registros.

Podemos concluir este sencillo experimento heurístico señalando que, mediante la aplicación de la fórmula o función =Y(E5=1;F5=1), hemos obtenido un conjunto de resultados que podemos almacenar como registros en una tabla. El funcionamiento seguido responde al esquema habitual de un programa informático: definimos previamente el procedimiento que debe aplicarse y obtenemos los resultados como consecuencia de su ejecución: Algoritmo → procedimiento heurístico → resultados

Es este orden el que nos interesa retener, porque el aprendizaje automático (ML) va a introducir un cambio procedimental sustancial: proporcionar al algoritmo ejemplos de entradas y resultados para que, a partir de ellos, determine los parámetros de un modelo capaz de relacionarlos. De este modo, el ML, que concretaremos ahora en el perceptrón, no necesita explicitar la regla que resuelve el problema. En reumen: Datos → aprendizaje → modelo → resultados.

Empezaremos retomando los datos de la tabla AND, que ahora tomaremos como punto de partida para explicar la arquitectura de nuestro perceptrón, sin detenernos en su procedencia ya que, para nuestro propósito actual, su origen carece de interés.

Lo que sí nos interesa es que cada registro contiene dos valores de entrada, X₁ y X₂, asociados a una etiqueta o resultado y. Esta última es fundamental, ya que constituye la salida esperada que el modelo deberá aprender a producir a partir de las entradas. Esto sitúa al perceptrón dentro del ML de aprendizaje supervisado, característica que determina un aspecto esencial de su arquitectura: durante el entrenamiento, el modelo podrá comparar la salida que produce con la etiqueta conocida y, utilizando esa diferencia para ajustar sus parámetros.

Podríamos expresar esta estructura (arquitectura) como sigue:

• X1 , X2 → z → comparación (z,y)
• Si z <> y → ajuste (mecanismo de aprendizaje)

Con este esquema podemos identificar ya los elementos fundamentales del funcionamiento de un perceptrón: recibe unos valores de entrada, obtiene a partir de ellos un resultado, lo compara con la etiqueta conocida y, cuando ambos no coinciden, modifica sus parámetros. Hemos descrito así la lógica básica de su arquitectura, sin entrar todavía en la forma concreta en que se realizan estas operaciones. Próximamente nos ocuparemos de explicar todo lo que esto implica.

IA

LLM y el conocimiento especializado

Los límites de la IA

Las dos entradas anteriores abordaban dos límites esenciales de los modelos de lenguaje de gran tamaño (LLM) desde la perspectiva del ejercicio profesional. En primer lugar, la necesidad de preservar la confidencialidad de la información introducida en estos sistemas. En segundo término, la imposibilidad de atribuirles una auténtica capacidad de fundamentación jurídica, técnica o científica. Ambos límites conducen a una misma conclusión: el juicio profesional se refuerza como el criterio que dirige la actuación en el ejercicio de la orientación educativa.

Existe, sin embargo, un tercer límite de los LLM que suele pasar más desapercibido y que resulta igualmente determinante: la relación entre el conocimiento con el que ha sido entrenado un modelo y el ámbito profesional en el que se utiliza.

No todos los problemas pueden resolverse con una herramienta de propósito general. En ocasiones, utilizar un modelo no adaptado al dominio específico de conocimiento constituye una decisión técnicamente inadecuada y, por ello mismo, potencialmente incompatible con el deber de diligencia exigible al profesional.

Un modelo generalista no es un especialista

Uno de los equívocos más frecuentes consiste en identificar la enorme capacidad lingüística de un LLM con un conocimiento especializado de cualquier materia. Sin embargo, ambos aspectos son conceptualmente distintos.

Los modelos de lenguaje transforman los textos en representaciones numéricas y ajustan sus parámetros para modelizar las relaciones estadísticas existentes entre esas representaciones.De ese proceso no emerge un conocimiento sobre el tema consultado, sino una secuencia de tokens obtenida mediante cálculo probabilístico. Cuando esa secuencia resulta coherente y se ajusta a nuestras expectativas lingüísticas y contextuales, tendemos a interpretarla como una respuesta fundada sobre la materia de que se trate. Pero esa apariencia no equivale en ningún momento al dominio experto de una disciplina.

Precisamente porque el entrenamiento del modelo persigue modelizar estadísticamente el lenguaje en toda su diversidad, y no adquirir conocimientos especializados, su capacidad es necesariamente generalista. No se trata de una limitación accidental, sino de una consecuencia directa de la forma en que ha sido entrenado.

De ahí que ese modelo de lenguaje pueda producir respuestas extraordinariamente convincentes sobre prácticamente cualquier ámbito del conocimiento. Esa amplitud temática es consecuencia de un entrenamiento generalista sobre cantidades ingentes de textos y no de una especialización en un determinado dominio profesional o institucional. Por ello, sus respuestas reproducen los patrones generales presentes en los datos de entrenamiento, pero no incorporan, por sí mismas, los criterios conceptuales, técnicos, organizativos o normativos propios de un contexto profesional o institucional específico.

La incorporación del contexto especializado.

Precisamente porque los modelos de lenguaje son herramientas de propósito general, su utilización en contextos profesionales específicos suele requerir mecanismos adicionales que incorporen el conocimiento propio del dominio o de la organización en la que van a emplearse.

Uno de ellos es el denominado ajuste fino (fine-tuning), mediante el cual un modelo previamente entrenado continúa su entrenamiento utilizando datos específicos de un determinado dominio para adaptar parcialmente su comportamiento.

Otra estrategia, cada vez más extendida, consiste en incorporar sistemas de recuperación de información (Retrieval-Augmented Generation o RAG), que permiten al modelo utilizar documentación específica durante la generación de la respuesta.

En ambos casos, el objetivo es el mismo: aproximar un modelo de propósito general a las necesidades concretas de un determinado ámbito profesional o institucional.

Adaptar el modelo no elimina la responsabilidad

La existencia de estas técnicas podría inducir a pensar que un modelo adaptado ofrece respuestas objetivamente correctas y que, por tanto, disminuye la responsabilidad del profesional que las utiliza.

Esa conclusión sería errónea. El ajuste fino y los sistemas RAG pueden mejorar la adecuación de las respuestas a un determinado contexto profesional o institucional, pero no modifican la naturaleza del modelo. Éste continúa generando respuestas mediante cálculo probabilístico y permanece ajeno a cualquier criterio propio de verdad, corrección o validez.

Por ello, la incorporación de contexto especializado no desplaza el juicio profesional ni elimina la necesidad de verificar la corrección técnica, jurídica o metodológica de las respuestas obtenidas.

La adaptación del modelo mejora las condiciones en las que se genera la respuesta, pero no modifica la distribución de responsabilidades: la decisión de aceptarla, descartarla o integrarla en la actuación profesional continúa correspondiendo exclusivamente al profesional.

En definitiva, la especialización de un modelo de lenguaje no consiste en transformar su naturaleza, sino en incorporar el contexto necesario para aproximar sus respuestas a las exigencias de un determinado ámbito profesional o institucional. Precisamente por ello, la adaptación del modelo mejora su utilidad, pero no elimina la necesidad del conocimiento ni del juicio profesional.

IA

LLM y la motivación de las decisiones

Los límites de la IA

En la entrada anterior analicé uno de los principales condicionantes jurídicos del uso profesional de los modelos de inteligencia artificial generativa: la confidencialidad de la información que se introduce en ellos y la responsabilidad compartida de los diferentes actores implicados en su utilización.

Existe, sin embargo, un segundo límite, menos conocido pero probablemente más profundo, que afecta al modo en que el sistema genera sus respuestas. Se trata de la imposibilidad de explicar realmente por qué produce una determinada respuesta y no otra.

No es una limitación circunstancial ni una carencia que pueda corregirse mediante una simple actualización del sistema. Es una consecuencia directa de la arquitectura de los grandes modelos de lenguaje (Large Language Models o LLM) basados en técnicas de aprendizaje profundo (Deep Learning). Precisamente por ello, constituye un factor tanto técnico como jurídico que condiciona su utilización en cualquier ámbito en el que las decisiones deban ser motivadas.

La motivación de las decisiones. Una exigencia profesional y una obligación jurídica

Antes de constituir una obligación jurídica, la motivación de las decisiones es una exigencia inherente al ejercicio profesional del orientador educativo. Toda actuación técnica que pueda afectar a otras personas debe poder explicarse mediante razones objetivas, comprensibles y vinculadas al conocimiento especializado del que deriva. Motivar una decisión significa hacer explícitos los datos considerados, los criterios aplicados y el razonamiento que conduce desde unos a la conclusión adoptada.

Esta exigencia cumple varias funciones esenciales. Permite revisar la solidez del propio razonamiento, facilita el trabajo cooperativo entre iguales —por ejemplo, entre orientadores—, así como el intercambio y contraste de información con profesionales de otras especialidades; favorece la coherencia entre casos similares y hace posible que las personas afectadas comprendan el fundamento de las decisiones que les conciernen.

Sin esta capacidad de justificar y someter a revisión las decisiones adoptadas, el juicio profesional pierde transparencia y se debilitan las garantías de calidad, responsabilidad y control que caracterizan el ejercicio de cualquier profesión técnica, especialmente cuando sus actuaciones producen efectos sobre otras personas.

Esta exigencia, inherente al ejercicio responsable de cualquier profesión, adquiere una especial relevancia cuando las decisiones se adoptan en el marco de procedimientos sujetos al Derecho. En estos casos, la motivación deja de ser únicamente un criterio de calidad técnica para convertirse también en una exigencia jurídica destinada a garantizar la legalidad de la actuación, la protección de los derechos de las personas afectadas y la posibilidad de su control y revisión.

En el ámbito del Derecho no basta con decidir correctamente; es necesario poder explicar por qué se ha decidido de una determinada manera.

La exigencia de motivación constituye uno de los pilares del Estado de Derecho. En el ámbito administrativo encuentra una manifestación expresa en el artículo 35 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas, que impone la obligación de motivar determinados actos administrativos mediante una sucinta referencia a los hechos y a los fundamentos de Derecho que los sustentan.

La motivación permite comprobar que la actuación administrativa responde a criterios jurídicos y racionales, facilita el ejercicio efectivo del derecho de defensa y hace posible su control por los órganos administrativos y judiciales. Constituye, además, una garantía esencial frente a la arbitrariedad de los poderes públicos, cuya interdicción proclama el artículo 9.3 de la Constitución Española.

Esta exigencia trasciende el Derecho español. En el ámbito de la Unión Europea, el deber de motivar las decisiones constituye una manifestación del derecho a una buena administración reconocido por el artículo 41 de la Carta de los Derechos Fundamentales de la Unión Europea, que exige que las actuaciones de las instituciones públicas puedan justificarse mediante razones comprensibles y susceptibles de control.

La misma lógica inspira la normativa europea sobre protección de datos personales. El Reglamento General de Protección de Datos (RGPD) impone obligaciones de transparencia en el tratamiento de la información y reconoce garantías específicas frente a determinadas decisiones automatizadas, incluyendo el derecho de la persona afectada a obtener información significativa sobre la lógica aplicada cuando concurren los presupuestos del artículo 22. Aunque el alcance de este denominado «derecho a la explicación» continúa siendo objeto de debate doctrinal, resulta indiscutible que el Reglamento refuerza las exigencias de transparencia y control sobre los procesos automatizados.

En esta misma línea, el Reglamento (UE) 2024/1689, de Inteligencia Artificial, establece obligaciones de documentación técnica, trazabilidad, transparencia y supervisión humana para los sistemas de IA de alto riesgo. Estas medidas pretenden garantizar que quienes los utilizan comprendan sus capacidades y limitaciones, puedan interpretar adecuadamente sus resultados y mantengan en todo momento el control sobre las decisiones adoptadas. El Reglamento no presupone que estos sistemas sean capaces de explicar por sí mismos el proceso interno que conduce a sus resultados; por ello, desplaza las garantías hacia la documentación, la trazabilidad y la supervisión humana, sin sustituir la obligación de motivar las decisiones cuando esta resulta exigible conforme al ordenamiento jurídico.

En el ámbito educativo, estas exigencias se proyectan sobre numerosas decisiones que afectan directamente a los alumnos: evaluaciones, promociones de curso, medidas disciplinarias, adaptaciones curriculares, identificación de necesidades específicas de apoyo educativo o adopción de medidas organizativas individualizadas. En todos estos supuestos no basta con alcanzar una conclusión; resulta imprescindible justificarla mediante criterios objetivos, verificables y susceptibles de revisión.

En definitiva, tanto el Derecho español como el europeo parten de un mismo principio: la legitimidad de una decisión no depende únicamente de su corrección material, sino también de la posibilidad de explicar las razones que la fundamentan y de someterlas al escrutinio de quienes puedan revisarlas o verse afectados por ellas.

Lo que hace realmente un modelo de lenguaje

Aquí aparece la principal dificultad.

Es precisamente en este punto donde aparecen los límites de los grandes modelos de lenguaje. Si el ordenamiento exige que determinadas decisiones puedan justificarse mediante razones objetivas y revisables, resulta necesario preguntarse si un sistema de IA generativa puede proporcionar realmente esa justificación.

Con frecuencia se afirma que un chatbot «explica» sus respuestas. En realidad, lo que hace es algo muy distinto.

Los modelos de lenguaje actuales no razonan reconstruyendo una cadena lógica de inferencias semejante a la que seguiría un jurista, un médico o un docente. Tampoco almacenan una relación explícita entre premisas y conclusiones que pueda recuperarse posteriormente para explicar cómo alcanzaron un determinado resultado.

Su funcionamiento responde a una lógica completamente diferente.

Durante el entrenamiento, el modelo ajusta miles de millones —e incluso billones— de parámetros mediante técnicas de optimización matemática destinadas a minimizar el error en la predicción del siguiente elemento de una secuencia lingüística. Ese conocimiento no queda almacenado como reglas identificables ni como argumentos jurídicos o científicos, sino distribuido estadísticamente a través del conjunto de los parámetros de la red neuronal.

Cuando el usuario formula una consulta, el modelo no recupera un razonamiento previamente elaborado ni una cadena de inferencias almacenada. Genera la respuesta calculando, paso a paso, el token con mayor probabilidad de aparecer en cada posición del texto a partir del contexto recibido. Cada predicción condiciona la siguiente hasta completar una respuesta que puede resultar coherente y convincente, pero cuyo proceso de generación no equivale a un razonamiento explícito susceptible de reconstrucción posterior.

El resultado puede ser útil. Puede ser correcto. Puede incluso presentar una argumentación perfectamente estructurada. Sin embargo, esa argumentación no constituye el razonamiento interno que condujo al modelo hasta la respuesta, porque ese razonamiento no existe como una secuencia explícita de inferencias. Cuando se le pide que explique por qué respondió de una determinada manera, el modelo no recupera el proceso que siguió para llegar a esa conclusión; genera una nueva explicación mediante el mismo mecanismo probabilístico con el que produjo la respuesta original.

Esta limitación no significa que los modelos de lenguaje sean completamente opacos para la investigación científica. Existen diversas técnicas de interpretabilidad que permiten analizar determinados aspectos de su funcionamiento interno o estimar la influencia de distintos elementos en la generación de las respuestas. Sin embargo, estos métodos no reconstruyen una cadena de razonamientos comparable a la motivación exigida en el ámbito profesional o jurídico. Ofrecen información sobre el comportamiento estadístico del modelo, no sobre las razones que justificarían una decisión.

Una limitación técnica con consecuencias jurídicas

Esta limitación técnica no constituye un simple inconveniente funcional. Delimita el ámbito en el que los modelos de lenguaje pueden utilizarse legítimamente cuando las decisiones deben ser motivadas.

Si un procedimiento exige que las decisiones puedan justificarse mediante razones objetivas, verificables y revisables, la utilización de una herramienta incapaz de ofrecer esa justificación no impide necesariamente su empleo, pero sí condiciona el modo en que puede integrarse en el proceso de decisión y las garantías que deben acompañar su utilización.]

Ello afecta, en primer lugar, a las empresas que desarrollan y comercializan estos sistemas. Quienes ofrecen soluciones basadas en modelos generativos para sectores regulados no pueden presentar estos sistemas como capaces de sustituir el juicio profesional cuando el ordenamiento exige decisiones motivadas y susceptibles de revisión. Las obligaciones de transparencia, gestión del riesgo e información previstas por el Reglamento europeo de Inteligencia Artificial adquieren precisamente sentido frente a estas limitaciones estructurales.

Pero la consecuencia más importante recae sobre el profesional.

El juicio que no puede delegarse

Al igual que ocurría con la confidencialidad, el problema ya no reside únicamente en las limitaciones del modelo. Desde la perspectiva del juicio profesional —y, por ello, también desde la jurídica— la cuestión decisiva es la decisión de utilizar una herramienta cuyas limitaciones el profesional conoce, o debe conocer, y de integrar sus resultados en el propio proceso de decisión.

Si un docente, un inspector, un orientador, un abogado o cualquier otro profesional adopta una recomendación elaborada por un modelo generativo sin reconstruir y verificar por sí mismo las razones que justifican su utilización en el caso concreto, el problema deja de ser una limitación tecnológica para convertirse en una deficiencia del propio juicio profesional.

En consecuencia, la motivación de una evaluación, un informe psicopedagógico, una medida disciplinaria o una resolución administrativa no puede descansar únicamente en una argumentación generada por un modelo de inteligencia artificial. Corresponde al profesional comprobar su corrección, asumirla como propia y poder justificarla mediante razones objetivas, verificables y susceptibles de revisión.

La IA puede servir como instrumento de apoyo para localizar información, sugerir argumentos, identificar normativa aplicable o explorar hipótesis. Lo que no puede hacer es sustituir la responsabilidad intelectual de quien debe seleccionar esos argumentos, verificar su corrección y asumirlos como propios.

La utilización de modelos de lenguaje puede constituir un valioso instrumento de apoyo para el ejercicio profesional. Sin embargo, allí donde el ordenamiento exige decisiones motivadas, objetivamente justificables y susceptibles de revisión, la responsabilidad de aportar esa motivación continúa correspondiendo íntegramente al profesional. Precisamente porque el modelo no puede ofrecerla por sí mismo, el juicio profesional deja de ser un elemento complementario para convertirse en una garantía jurídica insustituible.

La motivación no constituye un requisito adicional que deba añadirse al resultado generado por un modelo de lenguaje. Constituye un acto propio del juicio profesional y, precisamente por ello, una responsabilidad que no puede ser objeto de delegación. En ello reside uno de los criterios fundamentales para el uso profesional de la inteligencia artificial: cuanto mayor sea la exigencia de motivar una decisión, más irrenunciable resulta el juicio del profesional que la adopta.

IA

LLM y la confidencialidad

Los límites de la IA

En las entradas anteriores hemos analizado qué son los grandes modelos de lenguaje (LLM), cómo funcionan y por qué herramientas como ChatGPT o Gemini pueden convertirse en asistentes para el trabajo docente y del orientador. Su capacidad para redactar documentos, sintetizar información, proponer actividades o facilitar tareas administrativas explica el creciente interés que despiertan.

Sin embargo, como orientadores, antes de incorporar estos asistentes a nuestra práctica profesional conviene que nos formulemos una pregunta: ¿qué ocurre con la información que aportamos en nuestras consultas?. Responder a esta pregunta supone entender las obligaciones que como profesionales tenemos de garantizar la confidencilidad.

Pero con frecuencia esta cuestión no se plantea y sus implicaciones se asumen desde posiciones excesivamente simples. Para unos, basta con confiar en que la empresa que presta el servicio garantiza la seguridad de los datos. Para otros, cualquier utilización de un chatbot comercial constituye, por definición, una vulneración de la confidencialidad. Ninguna de estas posiciones refleja adecuadamente la realidad.

Si plantearse la cuestión implica entender su relevancia, asumir que debemos ser capaces de responderla supone admitir que cierto nivel de conocimiento de causa forma parte de nuestra competencia profesional.

En este punto conviene entender que la formulación del prompt condiciona el procesamiento de la información que enviamos al servicio. Su contenido es tratado por el modelo mediante la misma arquitectura computacional empleada durante el entrenamiento, aunque sin modificar los parámetros del modelo.

El texto del prompt se tokeniza; los tokens se sustituyen por identificadores numéricos que posteriormente se transforman en representaciones vectoriales (embeddings), sobre las que el modelo realiza las operaciones matemáticas que le permiten calcular, de forma sucesiva, cada uno de los tokens que compondrán la respuesta.

La diferencia esencial respecto del entrenamiento es que, durante la interacción con el usuario, ese procesamiento no actualiza los parámetros del modelo y, por tanto, no produce aprendizaje, sino únicamente la generación de una respuesta a partir del contexto proporcionado por el prompt.

Todo ello explica que la confidencialidad en el uso de la inteligencia artificial no dependa únicamente del modelo de lenguaje empleado ni del profesional que decide utilizarlo. Desde un punto de vista técnico, es el resultado de una cadena causal en la que intervienen la configuración del servicio, la política de tratamiento de datos de la empresa que lo explota, las medidas organizativas adoptadas por la administración educativa y las decisiones adoptadas por el profesional en su utilización.

Sobre esta cadena causal se articulan, en un plano diferente, la responsabilidad profesional —moral, deontológica y técnica— derivada del uso de la herramienta, así como las distintas responsabilidades jurídicas que el ordenamiento atribuye a cada uno de los sujetos implicados en función de su intervención en el tratamiento de los datos.

El problema no es el modelo, sino el servicio

Retomando la explicación técnica del tratamiento del prompt, analizaremos ahora las responsabilidades que corresponden a la empresa que presta el servicio de IA. En particular, nos centraremos en las decisiones de carácter técnico que adopta al configurar el servicio y que condicionan el tratamiento de la información proporcionada por los usuarios.

Hemos comprobado que el principal riesgo para la confidencialidad no deriva del funcionamiento interno del modelo ni del modo en que procesa la información contenida en el prompt. Ese riesgo se sitúa, fundamentalmente, en la forma en que el servicio gestiona la información que recibe. Dicho de otro modo, el tratamiento de los datos personales viene determinado por la arquitectura técnica que rodea al modelo: dónde se procesan los datos, durante cuánto tiempo se conservan, quién puede acceder a ellos, cómo se protegen y en qué condiciones pueden eliminarse o reutilizarse. Esta arquitectura responde a un conjunto de decisiones de diseño propias de servicios concebidos para un uso general, no para entornos profesionales sometidos a exigencias específicas de confidencialidad y protección de datos.

En consecuencia, cuando utilizamos un chatbot comercial no interactuamos únicamente con un modelo de lenguaje; utilizamos un servicio diseñado, gestionado y comercializado por una empresa. Es esa empresa la que configura las políticas de tratamiento y conservación de los datos dentro del marco normativo aplicable, establece las condiciones de uso, ofrece determinadas garantías contractuales y decide cómo integra el modelo dentro de un producto concreto.

La pregunta relevante deja así de ser únicamente «¿qué modelo utiliza esta aplicación?» para convertirse en otra más importante: «¿qué servicio estoy utilizando y qué garantías ofrece para el tratamiento de la información?»

La responsabilidad también alcanza al proveedor

Durante años fue habitual considerar que muchas plataformas digitales actuaban como meros intermediarios tecnológicos. La inteligencia artificial generativa está modificando progresivamente esa concepción.

Un ejemplo significativo lo constituye la resolución dictada por el Tribunal Regional de Múnich I (Landgericht München I, asunto 26 O 869/26), que atribuyó responsabilidad a Google por afirmaciones generadas mediante su función AI Overviews. El tribunal entendió que esas respuestas no constituían una mera reproducción de contenidos ajenos, sino contenido generado por el propio servicio y, por tanto, jurídicamente imputable a la empresa.

Más allá del caso concreto, esta resolución pone de manifiesto una idea de alcance general: quien comercializa un servicio basado en inteligencia artificial no ofrece únicamente un algoritmo, sino un servicio completo cuya arquitectura, funcionamiento y condiciones de utilización pueden generar responsabilidades propias.

Esta evolución resulta coherente con el Reglamento (UE) 2024/1689, de Inteligencia Artificial (AI Act), que distribuye obligaciones entre los distintos operadores que intervienen en el desarrollo, comercialización, implantación y utilización de sistemas de IA, superando la idea de que exista un único responsable.

La organización también forma parte del problema... y de la solución

Sin embargo, el análisis no termina en la empresa que presta el servicio.

Los orientadores educativos, como otros profesionales que trabajan con información especialmente sensible, desarrollan su actividad dentro de organizaciones sujetas a obligaciones legales de confidencialidad, protección de datos y secreto profesional. Esas obligaciones no recaen exclusivamente sobre cada profesional considerado individualmente; también condicionan la forma en que las organizaciones deben diseñar y gestionar sus sistemas de información.

No resulta casual que las administraciones educativas proporcionen plataformas corporativas para la gestión de expedientes, sistemas de autenticación, aplicaciones específicas o procedimientos de acceso a la información. Todas esas herramientas forman parte de una infraestructura creada precisamente para facilitar el cumplimiento de las obligaciones jurídicas que la propia organización impone.

La incorporación de la inteligencia artificial plantea una exigencia semejante. Si una Administración considera legítimo utilizar asistentes basados en LLM en el ejercicio profesional, resulta coherente que sea ella misma quien establezca las condiciones de utilización y proporcione, directamente o mediante acuerdos con terceros, servicios compatibles con las exigencias de confidencialidad derivadas del tratamiento de datos especialmente protegidos.

Cuando esa infraestructura no existe, surgen algunas preguntas. ¿Puede exigirse al profesional que valore por sí solo la idoneidad técnica y jurídica de los servicios disponibles? ¿Debe asumir individualmente una decisión que afecta a la organización del tratamiento de los datos? ¿No corresponde, precisamente, a la Administración establecer el marco técnico y organizativo que haga posible un uso legítimo y seguro de estas herramientas? Y, si así es, ¿no forma parte también de esa responsabilidad proporcionar a los profesionales orientaciones claras y la formación técnica y jurídica necesaria para utilizarlas de manera adecuada?

La responsabilidad del profesional sigue siendo decisiva

La existencia de responsabilidades por parte de la empresa que presta el servicio y de la organización en cuyo ámbito se desarrolla el tratamiento no desplaza ni sustituye la responsabilidad del profesional. Se trata de planos distintos de responsabilidad que concurren sobre una misma actividad y se complementan entre sí.

En este contexto, corresponde al orientador ejercer su juicio profesional: decidir si un determinado servicio resulta adecuado para la tarea que pretende realizar, valorar qué información puede introducirse en él, respetar las instrucciones y protocolos establecidos por la organización y abstenerse de utilizar herramientas cuyas garantías resulten insuficientes para el tratamiento de datos especialmente sensibles.

Cuando la organización pone a disposición de sus profesionales una infraestructura diseñada para ese fin, el juicio profesional consiste en utilizarla correctamente. Cuando esa infraestructura no existe, el profesional debe extremar la prudencia y valorar alternativas que permitan mantener un mayor control sobre la información, como la anonimización de los datos o el empleo de modelos ejecutados localmente cuando ello resulte técnicamente viable.

La IA no suspende el Derecho

Todo ello se desarrolla dentro de un marco jurídico plenamente vigente. El tratamiento de datos personales continúa sometido al Reglamento General de Protección de Datos (RGPD) y, en España, a la Ley Orgánica 3/2018, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD). A este marco se suma ahora el Reglamento Europeo de Inteligencia Artificial, que introduce obligaciones específicas para los distintos operadores implicados en el ciclo de vida de los sistemas de IA.

La inteligencia artificial no crea un espacio ajeno al Derecho. Las obligaciones de confidencialidad siguen siendo plenamente aplicables tanto a las empresas que prestan estos servicios como a las administraciones que los autorizan y a los profesionales que los utilizan.

La competencia profesional exige comprender todo el sistema

Con frecuencia se identifica la competencia en inteligencia artificial con la capacidad para redactar buenos prompts o manejar con soltura un determinado chatbot. Sin embargo, esa visión resulta claramente insuficiente en profesiones cuyo ejercicio está condicionado por obligaciones legales, éticas y organizativas.

La verdadera competencia profesional consiste en comprender el conjunto del sistema: conocer cómo funciona el modelo de lenguaje, qué garantías ofrece el servicio que lo incorpora, cuál es el marco jurídico aplicable, qué responsabilidades corresponden a la organización y qué decisiones debe adoptar el propio profesional.

La inteligencia artificial no desplaza la responsabilidad; la distribuye entre nuevos actores. Precisamente por ello, utilizar estas herramientas de forma competente exige entender que la confidencialidad no depende de un único elemento, sino del correcto funcionamiento de toda la cadena de responsabilidades que hace posible su utilización.

En las próximas entradas analizaremos algunas de las estrategias que permiten compatibilizar el potencial de la inteligencia artificial con la protección de la información: la anonimización y seudonimización de los datos, los criterios para seleccionar servicios con mayores garantías y las alternativas técnicas que permiten integrar modelos de lenguaje en entornos con un mayor control sobre la información tratada.

IA

Juicio profesional e IA

Por qué importa ahora más que nunca

En la entrada anterior vimos que un gran modelo de lenguaje no comprende aquello de lo que habla. Sus respuestas no proceden de una comprensión del significado, sino del cálculo probabilístico de patrones aprendidos a partir de grandes cantidades de texto.

Sin embargo, esa explicación plantea una nueva pregunta: si la IA no comprende en sentido humano, ¿qué cambia cuando el orientador decide incorporarla a su trabajo?

La respuesta obliga a examinar un concepto que ha acompañado siempre a las profesiones educativas, pero que adquiere un significado renovado con la llegada de la IA: el juicio profesional.

Una situación que no es exclusiva de la orientación educativa.

La orientación educativa no es la única profesión que debe dar respuesta a los retos que plantea el uso de la IA.

En medicina, por ejemplo, la inteligencia artificial ya ayuda a interpretar pruebas diagnósticas, identificar patrones difíciles de detectar o sugerir posibles diagnósticos. Su potencial como herramienta de apoyo está ampliamente reconocido. El verdadero desafío consiste en integrar estas herramientas en la práctica clínica sin confundir su capacidad de análisis con el ejercicio del juicio profesional.

Las herramientas pueden aportar análisis y sugerencias. Su valoración e integración forman parte de una práctica profesional basada en conocimiento especializado, la deliberación profesional y la responsabilidad por las decisiones adoptadas..

Lo mismo puede decirse de los orientadores.

Es el juicio profesional el que decide si la inteligencia artificial puede aportar valor en una situación concreta y, en caso afirmativo, cuándo conviene utilizarla, para qué tareas, con qué herramienta y con qué alcance. Solo a partir de esa decisión una IA puede convertirse en un recurso de apoyo para el proceso de orientación.

Un LLM puede resumir un expediente, proponer actividades para un plan de intervención, redactar un borrador de orientaciones o sugerir hipótesis de trabajo. Pero esas aportaciones adquieren sentido únicamente cuando se valoran e integran dentro del proceso profesional que conduce a una decisión fundamentada y responsable.

Cuando una buena respuesta parece suficiente.

Uno de los riesgos de la IA generativa deriva precisamente de su capacidad para ofrecer respuestas completas, coherentes y bien argumentadas. Esa calidad formal puede inducir a recurrir a ella incluso cuando no aporta un valor real o a sobrestimar el alcance de sus respuestas, como si el problema profesional hubiera quedado esencialmente resuelto.

Sin embargo, una respuesta bien construida no sustituye el proceso mediante el que un profesional interpreta la situación, contrasta alternativas y fundamenta una decisión.

Precisamente porque las respuestas de un LLM resultan convincentes, existe el riesgo de dejar de cuestionarlas, de reducir el análisis propio o de atribuirles un valor que excede el de una herramienta de apoyo.

Una herramienta que exige más, no menos, criterio profesional

Existe una idea bastante extendida según la cual herramientas cada vez más capaces reducirán la necesidad de conocimiento experto. Si la IA puede analizar información, redactar documentos o generar propuestas de intervención, podría parecer que el profesional necesita saber menos para desempeñar su trabajo.

Sin embargo, ocurre precisamente lo contrario. La incorporación de la IA no disminuye las exigencias del ejercicio profesional; las transforma y, en muchos aspectos, las incrementa.

Utilizar estas herramientas con criterio exige decidir cuándo tiene sentido recurrir a ellas y cuándo no, qué tipo de IA resulta más adecuada para cada finalidad, qué información puede compartirse, cómo formular una consulta útil y cómo interpretar críticamente las respuestas obtenidas.

Pero, sobre todo, exige disponer del conocimiento profesional necesario para reconocer qué aportan realmente esas respuestas y cuáles son sus límites. Sin ese conocimiento, resulta difícil distinguir una sugerencia valiosa de una propuesta simplemente verosímil.

La competencia profesional deja así de consistir únicamente en saber resolver problemas. Incluye también la capacidad para decidir de forma fundamentada cómo integrar —o no integrar— la inteligencia artificial en el propio proceso de trabajo.

Lejos de hacer menos necesario el juicio profesional, la IA convierte su ejercicio en una condición aún más importante para que la tecnología aporte un valor real.

Reconocer que el uso de la IA forma parte del juicio profesional no cierra el debate; apenas lo abre.

Si el uso de la IA forma parte del juicio profesional, la siguiente cuestión ya no es qué puede hacer la herramienta, sino cuándo resulta apropiado utilizarla. La respuesta depende de aspectos como la confidencialidad de la información, la protección de los datos personales, la trazabilidad de las decisiones y la responsabilidad profesional.

Comprender qué puede hacer una IA es solo el primer paso. Decidir cuándo debe formar parte del ejercicio profesional es una cuestión distinta.

IA

IA en Orientación

Anatomía de una infraestructura computacional

Hace apenas unos años la inteligencia artificial era un tema de interés más o menos lejano. Hoy forma parte del trabajo cotidiano de muchos profesores y también de muchos orientadores.

Aunque las posturas no son unánimes, la investigación disponible sobre el ámbito educativo apunta al predominio de una visión pragmática: la IA se percibe más como una herramienta útil que como una amenaza en sí misma.

También se sostiene con frecuencia que, dada la creciente relevancia social de la IA, la escuela no puede permanecer al margen de este fenómeno y debe abordarlo tanto como objeto de aprendizaje como herramienta al servicio de la educación.

En cuanto al uso, las discrepancias no suelen referirse tanto a su conveniencia como a las condiciones bajo las cuales resulta legítimo utilizarla.

En cualquier caso, la IA ya forma parte del contexto profesional. Está disponible, evoluciona con rapidez y ofrece posibilidades difíciles de ignorar. Resulta razonable prever que su utilización, tanto adecuada como inadecuada, continuará extendiéndose en la práctica profesional.

Precisamente por ello, la cuestión ya no es si debe estar presente, sino qué criterios deben orientar la decisión de utilizarla —o de no hacerlo— en el ejercicio responsable de la profesión.

A medida que estas herramientas se incorporan a la práctica cotidiana deja de ser suficiente saber utilizarlas. También es necesario comprender qué hacen realmente, por qué producen resultados tan convincentes y cuáles son los límites de esa aparente competencia. Esa necesidad explica el creciente interés que la IA está despertando en publicaciones, cursos de formación y espacios de debate profesional. Ante esta realidad, buena parte de la información y el debate se ha centrado en aprender a utilizar estas herramientas: cómo escribir mejores prompts, qué aplicación elegir, qué tareas pueden automatizarse...

No son irrelevantes estos temas, pero hay un par de cuestiones previas, más importantes pero menos tratadas: ¿cómo funcionan estas herramientas y en qué medida este funcionamiento responde a las necesidades y condicionantes de nuestro trabajo?

No son éstas curiosidades tecnológicas, ya que condicionan la confianza que podemos depositar en las respuestas que generan, las tareas en las que las podemos emplear, el modo en que las podemos emplear y, sobre todo, lo que es posiblemente más importante: en qué NO las debemos emplear.

La idea de fondo es sencilla: no es posible utilizar una herramienta de inteligencia artificial de forma competente y éticamente responsable sin comprender antes cómo produce sus respuestas, cuáles son sus capacidades y cuáles sus límites.

Inteligencia Artificial es un concepto que ya no significa lo mismo hoy que ayer.

Cuando se habla de inteligencia artificial da la impresión de que nos referimos a una tecnología perfectamente definida. Pero el significado de esa expresión ha cambiado profundamente desde que comenzó a utilizarse hace ya casi setenta años.

Durante las primeras décadas predominó un enfoque basado en reglas. Si un experto era capaz de explicar cómo resolvía un determinado problema, esas reglas podían traducirse a un programa informático. La “inteligencia” consistía en reproducir mediante algoritmos el razonamiento previamente descrito.

Aquellos sistemas obtuvieron resultados muy valiosos en ámbitos concretos, pero pronto apareció una dificultad. Muchas de esas capacidades —comprender una conversación, reconocer una imagen, interpretar un contexto o desenvolverse en situaciones nuevas— no se pueden describir exhaustivamente mediante listas de reglas.

La investigación tomó entonces otro camino.

En lugar de intentar programar directamente el conocimiento, comenzó a desarrollarse una inteligencia artificial capaz de aprender regularidades a partir de los datos que se aportan al algoritmo, cantidades cada vez más grandes de datos. Este cambio de paradigma explica buena parte de la IA actual.

La cuestión dejó de ser ¿qué reglas debemos programar? para convertirse en ¿de qué datos aprenderá el modelo y qué arquitectura permitirá que ese aprendizaje sea eficaz?.

Comprender este cambio de paradigma no responde únicamente a un interés académico. Permite entender que las herramientas que hoy utilizamos no funcionan como los programas informáticos tradicionales, aunque sigan ejecutándose en un ordenador. También ayuda a comprender por qué poseen capacidades que antes parecían inalcanzables y, al mismo tiempo, por qué presentan limitaciones que aquellos programas no tenían.

Este cambio aporta además otra enseñanza que conviene no perder de vista: la inteligencia artificial es una tecnología más, no la única disponible ni necesariamente la más adecuada para cualquier problema. Según cuáles sean nuestras necesidades, otras soluciones pueden resultar igualmente válidas o incluso preferibles. Elegir entre unas y otras forma parte, precisamente, del juicio profesional.

La IA es mucho más que los asistentes conversacionales.

Aunque para muchas personas la inteligencia artificial tiene hoy nombres propios —ChatGPT es probablemente el ejemplo más conocido—, conviene evitar la simplificación que esto implica. Los asistentes conversacionales constituyen únicamente una de las múltiples aplicaciones actuales de la IA.

Hoy encontramos inteligencia artificial en sistemas capaces de reconocer imágenes médicas, detectar fraudes, analizar grandes volúmenes de datos, identificar patrones difíciles de apreciar a simple vista, realizar predicciones, recomendar actuaciones o generar textos, imágenes, música y vídeo. Los llamados grandes modelos de lenguaje (LLM) representan solo una parte de este panorama.

Aquí centraremos la atención en los grandes modelos de lenguaje porque son, probablemente, las herramientas que más están modificando el trabajo cotidiano de docentes y orientadores educativos. Esta elección responde al propósito de analizar su impacto sobre la práctica profesional y no debe interpretarse como una identificación entre inteligencia artificial y asistentes conversacionales, ni como la idea de que otras aplicaciones de la IA tengan menor interés o menor potencial para la educación.

Conviene, además, tener presente otra cuestión. El protagonismo que los asistentes conversacionales han adquirido en el debate profesional no solo refleja el desarrollo reciente de estas tecnologías; también pone de manifiesto qué aspectos de nuestra práctica concentran hoy mayor atención. Existe el riesgo de que ese protagonismo desplace otras posibilidades de la IA —como el análisis de datos o el apoyo a la investigación sobre la propia práctica— que pueden resultar igualmente relevantes para una orientación educativa rigurosa. Tendremos ocasión de volver sobre esta cuestión más adelante.

¿Qué hace realmente un gran modelo de lenguaje?

Es frecuente pensar que ChatGPT «lo sabe todo» (o casi) y que, cuando recibe una pregunta, busca la respuesta adecuada en una inmensa base de conocimientos.

No funciona así. Tampoco consulta Internet cada vez que responde —aunque puede hacerlo cuando la tarea lo requiere— ni recupera información almacenada en una base de datos organizada por materias. Su funcionamiento es bastante diferente.

Un gran modelo de lenguaje genera la continuación más probable de un texto teniendo en cuenta el contexto de la conversación. Esta explicación puede parecer demasiado simple para justificar resultados tan sorprendentes. Sin embargo, precisamente ahí reside la clave.

El aspecto esencial suele pasar inadvertido porque el usuario solo ve palabras. En realidad, el modelo no opera directamente sobre el lenguaje. Antes de poder procesarlo, transforma el texto en representaciones numéricas sobre las que realiza todos sus cálculos. El lenguaje constituye la interfaz con el usuario; el procesamiento real tiene lugar en un espacio matemático.

Durante el entrenamiento, la red neuronal ajusta miles de millones de parámetros internos a partir de enormes cantidades de textos. Ese proceso le permite aprender patrones y relaciones estadísticas presentes en el lenguaje. Como consecuencia, cuando recibe una consulta no «adivina» la siguiente palabra de forma aislada, sino que genera nuevas secuencias de texto apoyándose en las regularidades que ha aprendido y en el contexto disponible en ese momento.

Este mismo mecanismo interviene prácticamente en todo lo que hace un gran modelo de lenguaje. La pregunta del usuario, el historial de la conversación, los documentos incorporados al contexto e incluso, cuando dispone de esa capacidad, la información obtenida mediante una búsqueda en Internet se transforman en representaciones numéricas que el modelo procesa de la misma manera. No existen mecanismos distintos para «leer», «consultar» o «responder»; en todos los casos aplica, esencialmente, el mismo procedimiento matemático.

De ahí procede también la impresión de que el modelo «sabe». No recupera respuestas desde una base de conocimientos organizada por materias ni razona aplicando reglas previamente programadas. Genera texto a partir de los patrones aprendidos durante el entrenamiento y de la información disponible en el contexto. Precisamente porque todo depende de este mismo mecanismo, comprenderlo resulta esencial para interpretar correctamente las respuestas que produce. De él derivan tanto las extraordinarias capacidades de estos modelos como algunas de sus limitaciones más importantes, que analizaremos a continuación.

La verosimilitud no garantiza la verdad.

El aspecto verdaderamente importante no es que un gran modelo de lenguaje pueda equivocarse. También las personas se equivocan. La diferencia es otra: los criterios que utiliza para generar una respuesta no son los mismos que utilizamos nosotros para valorar si esa respuesta es correcta.

Un gran modelo de lenguaje no determina si una afirmación es verdadera o falsa del mismo modo que lo hace un profesional. Lo que hace es estimar qué respuesta resulta más compatible con el contexto de la conversación y con los patrones que ha aprendido durante el entrenamiento. En la mayoría de las situaciones ambos criterios coinciden, lo que explica la utilidad práctica de estos modelos. Pero no siempre ocurre así.

Cuando los patrones aprendidos por el modelo no permiten aproximarse adecuadamente al conocimiento científico disponible, al marco normativo aplicable o a las características concretas del problema planteado, puede generar respuestas perfectamente redactadas, coherentes y convincentes que, sin embargo, son incorrectas.

No se trata de un fallo accidental ni de un intento de engañar al usuario. Es una consecuencia directa de su modo de funcionamiento. La verosimilitud lingüística y la validez de una respuesta no son exactamente la misma cosa.

Para un orientador educativo esta diferencia tiene consecuencias muy concretas. La calidad formal de una respuesta nunca puede sustituir al juicio profesional, que exige valorar su adecuación al caso concreto, contrastarla con el conocimiento científico disponible, considerar sus implicaciones éticas y comprobar su conformidad con el marco normativo vigente.

En otras palabras, la inteligencia artificial puede constituir un recurso de apoyo para analizar información, explorar alternativas o elaborar propuestas, pero no puede sustituir al criterio del profesional.

La IA necesita una infraestructura computacional sin precedentes.

Con frecuencia hablamos de inteligencia artificial como si todo dependiera de un algoritmo especialmente ingenioso. En realidad, los grandes modelos de lenguaje son también el resultado de una infraestructura computacional de una escala desconocida hasta hace pocos años.

Esta necesidad deriva directamente de su forma de funcionamiento. Si el modelo aprende ajustando miles de millones de parámetros mediante operaciones matemáticas realizadas sobre cantidades ingentes de datos, su entrenamiento requiere una capacidad de cálculo extraordinaria. Hoy se lleva a cabo en grandes centros de datos que reúnen decenas de miles de procesadores especializados trabajando de forma coordinada durante semanas o incluso meses. Sin esa infraestructura, los modelos que utilizamos simplemente no existirían.

La IA generativa no ha surgido únicamente como consecuencia de nuevos desarrollos matemáticos. Ha sido posible gracias a la convergencia entre investigación científica, disponibilidad masiva de datos, avances en ingeniería informática y una capacidad de cálculo que hasta hace muy poco era inalcanzable.

Comprender esta dimensión material permite situar la inteligencia artificial en su contexto real. Los grandes modelos de lenguaje no son únicamente programas informáticos: forman parte de una infraestructura técnica, organizativa y económica extraordinariamente compleja, cuya construcción y mantenimiento solo está al alcance de un número muy reducido de organizaciones.

Este hecho tiene implicaciones que van más allá de la tecnología. A diferencia de la mayor parte de las herramientas que tradicionalmente ha utilizado un profesional, los grandes modelos de lenguaje no son instrumentos cuyo funcionamiento, evolución o disponibilidad dependan principalmente de quien los utiliza. Están integrados en servicios gestionados por terceros, sujetos a decisiones técnicas, comerciales y organizativas ajenas al usuario.

Esta nueva relación modifica, al menos parcialmente, la capacidad de agencia del profesional sobre sus propias herramientas de trabajo. La autonomía ya no depende únicamente del conocimiento técnico o del criterio profesional, sino también de las condiciones de acceso, funcionamiento y evolución de infraestructuras que escapan a su control. Comprender esta realidad constituye un requisito más para integrar la inteligencia artificial en un ejercicio responsable de la profesión.

Las palabras también forman parte del juicio profesional.

Llegados a este punto merece la pena volver a la pregunta inicial. Si las respuestas de un gran modelo de lenguaje resultan tan naturales y convincentes, ¿por qué insistir en que no «comprende», no «sabe» o no «piensa» del mismo modo que una persona?

La respuesta no obedece a un interés terminológico ni a una discusión filosófica. Tiene consecuencias prácticas. Las palabras que utilizamos para describir una herramienta condicionan la forma en que la entendemos y, en consecuencia, la manera en que decidimos utilizarla.

En la conversación cotidiana resulta natural atribuir a la IA expresiones como «entiende», «decide», «razona» o «sabe». Son atajos lingüísticos útiles para comunicarnos, pero pueden convertirse en descripciones engañosas si olvidamos que se trata de una forma de hablar y no de una explicación de su funcionamiento.

Cuando atribuimos al modelo capacidades que en realidad pertenecen a las personas, corremos el riesgo de trasladarle también una confianza, una autoridad o una responsabilidad que no le corresponden. La cuestión no consiste únicamente en utilizar las palabras con mayor precisión, sino en preservar el criterio con el que interpretamos sus respuestas y tomamos decisiones a partir de ellas.

Por eso comprender cómo funciona un gran modelo de lenguaje no es una curiosidad técnica. Constituye una condición para ejercer el juicio profesional con mayor fundamento. Solo si conocemos qué puede hacer, por qué puede hacerlo y cuáles son los límites de ese funcionamiento podremos integrarlo de forma crítica, eficaz y responsable en nuestra práctica.

Nosotros sí necesitamos comprenderla para utilizarla.

En orientación educativa asumimos desde hace tiempo que los resultados de una prueba psicométrica no sustituyen la interpretación del profesional, que ningún protocolo reemplaza el análisis del caso y que la aplicación de una norma siempre exige considerar el contexto. La inteligencia artificial no constituye una excepción a este principio; simplemente lo plantea en un escenario nuevo.

Un gran modelo de lenguaje puede resultar útil para determinadas tareas. Puede ayudarnos a analizar información, explorar alternativas, elaborar documentos o revisar nuestro propio trabajo. Pero sigue siendo una herramienta de apoyo. Su aportación no elimina la necesidad de interpretar críticamente sus resultados ni, mucho menos, la responsabilidad de quien decide utilizarlos.

Como ocurre con cualquier otra herramienta profesional, su valor no depende únicamente de lo que es capaz de hacer, sino del criterio con el que decidimos incorporarla a nuestra práctica. Ese criterio exige comprender cómo funciona, qué tipo de respuestas produce, cuáles son sus fortalezas y de dónde proceden sus limitaciones.

Por eso, para un orientador educativo, comprender el funcionamiento de un gran modelo de lenguaje no responde al interés por una innovación tecnológica. Constituye una exigencia del propio ejercicio profesional. Solo desde ese conocimiento es posible decidir con fundamento cuándo puede aportar valor a nuestro trabajo...

...y, sobre todo, cuándo no.