IA. Modelos

Perceptrón V. Distribución lineal

IA. Modelos y paradigmas. Machine Learning

En la entrada anterior definimos el problema y desarrollamos una solución basada en un procedimiento heurístico, =SI(Y(C5=1;C6=1);1;0) en su expresión mediante funciones Calc.

También enunciamos la posibilidad de abordar este problema desde el paradígma de la IA Machine Learning. En este enfoque el sistema trata de aprender a partir de ejemplos previamente resueltos, casos históricos en los que se conoce la información y la decisión que finalmente se adoptó.

Antes de estudiar cómo se produce ese aprendizaje conviene detenerse en una cuestión previa: ¿qué tipo de problema queremos resolver? La respuesta determina qué modelos de aprendizaje se pueden aplicar y cómo se deben representar los datos.

Observa esta representación gráfica.

Si sustituyes X por criterio 1 e Y por criterio 2 tienes representado nuestro problema anterior, siendo cada uno de los puntos (azules y rojos) las observaciones que hemos recogido y presentado al algoritmos para que los procese. La posibilidad de trazar una línea recta que diferencie dos sub-espacios o hemiplanos indica que estamos ante un problema de clasificación binaria cuya distribución de ejemplos es linealmente separable.

Para ser un poco más precisos diremos que estamos ante una distribución binaria que se describe separable mediante una línea recta dado que disponemos de dos variables o datos de entrada (los criterios 1 y 2). Si sólo dispusiéramos de un criterio la división se establecería mediante un punto de corte; si las variables fueran tres los datos se ubicarían en un espacio tridimensional y se podría separar mediante un plano. Y si dispusiéramos de más de tres variables hablaríamos de un espacio multidimensional separable por un hiperplano.

Dicho esto, observemos estas dos figuras:

Mientras que la de la derecha representa una distribución claramente identificable según los criterios anteriores como binaria lineal, la de la izquierda sigue siendo un problema de clasificación binaria, pero las clases no son linealmente separables.

El algoritmo de aprendizaje del perceptrón únicamente converge si las clases son linealmente separables. En caso contrario, el aprendizaje nunca terminará de estabilizarse.

En este caso, el perceptrón no podrá encontrar una separación lineal perfecta al problema que plantea una distribución como la anterior porque algunos ejemplos aparecen en posiciones incompatibles con ese tipo de separación. Esto puede deberse a ruido en los datos, errores de medición, errores de etiquetado o simplemente a que el fenómeno real no admite una separación completamente lineal.

Pero la razón aquí es diferente de la que se observa en la distribución del caso B de la imagen que precede a la ésta: en ese caso estamos ante una distribución no lineal; en la actual existen datos que no se ajustan a los criterios que definen las combinaciones predominantes y se comportan como "extraños" en su ubicación en función de los valores que adoptan en una de sus dos variables.

Lo que todas estas imágenes muestran evidencian las diferencias entre este enfoque y el heurístico. Empezando por la importancia de los datos sobre la fórmula y lo que aporta las posibilidad de representarlos gráficamente en cuanto que facilita comprender el objetivo que persigue el algoritmos y los límites que esa misma representación muestra en cuanto a la simplicidad del planteamiento de la clasificación binaria lineal.

Como lo que sigue requiere detenerse en cada uno de los componentes y de los pasos que se diferencian en la estructura del preceptrón, considero necesario tratarlos en entradas diferenciadas. Por ello finalizo aquí la presente.

IA. Modelos

Perceptrón IV. Del problema al clasificador

IA. Modelos y paradigmas. Machine Learning

En la entrada anterior vimos que numerosos problemas de la orientación educativa pueden formularse como problemas de clasificación binaria. También comprobamos que un mismo problema puede abordarse mediante estrategias diferentes: definiendo explícitamente las reglas de decisión (heurística) o permitiendo que un algoritmo las aprenda a partir de ejemplos (aprendizaje automático).

Antes de estudiar cómo aprende un perceptrón conviene recorrer ese camino paso a paso mediante un ejemplo.

Como ocurre con frecuencia en la enseñanza de un nuevo modelo, utilizaremos un problema deliberadamente simplificado. Los problemas reales de clasificación en orientación educativa suelen depender de numerosas variables, de información procedente de distintas fuentes y de criterios cuya interpretación exige el juicio profesional del orientador.

Por ello, trabajaremos con un ejemplo reducido a dos variables binarias. Esta simplificación responde exclusivamente a un propósito didáctico: facilitar la comprensión del mecanismo de aprendizaje del perceptrón. No constituye una limitación ni de los problemas de clasificación ni de esta arquitectura, que puede operar con un número mucho mayor de variables una vez representadas en forma numérica.

Un problema real de clasificación muy simplificado

Supongamos un procedimiento interno de revisión de documentación. Para facilitar la explicación, el procedimiento considera únicamente dos condiciones asociadas al cumplimiento de su respectivo criterio.

• Condición A: se cumple el criterio 1
• Condición B: se cumple el criterio 2

El objetivo consiste en clasificar cada colección documental en una de dos categorías:

• Clase 0: no pasa a la siguiente fase de revisión.
• Clase 1: pasa a la siguiente fase de revisión.

Nos encontramos ante un problema de clasificación binaria en el que cada colección documental ("expediente") constituye un caso; cada caso queda descrito mediante dos variables binarias y el resultado final consiste en asignarlo a una de dos clases posibles. Reitero por necesario, la extremada simplicidad (y simplificación) del ejemplo, derivada exclusivamente de motivos didácticos, empezando por la reducción a dos las variables consideradas (criterios 1 y 2), que ni siquiera concretamos, y que ambos sean de naturaleza nominal-dicotómica.

Primera estrategia: construir el clasificador mediante reglas

Supongamos ahora que el procedimiento establece una única regla...
Un expediente pasará a la siguiente fase únicamente cuando se cumplan simultáneamente las dos condiciones.
... lo que expresado como regla heurística

• SI se cumple la condición A
• Y se cumple la condición B

• ENTONCES... el expediente pasa a la siguiente fase de revisión.

El clasificador ya está diseñado, ahora lo vamos a construir sobre Calc de la forma más simple posible: haciendo uso exclusivamente de sus funcionalidades.

Como podemos ver, el procedimiento no ha realizado ningún tipo de aprendizaje ya que es el conocimiento que aporta el profesional mediante la regla (función reside íntegramente en la regla =SI(Y(C5=1;C6=1);1;0) posicionada sobre la celda C8 quien ejecuta el análisis del contenido de las celdas C5 y C6 en los términos en que estan establecidos. Otros componentes de la "aplicación" son accesorios o simplemente aclaratorios.

Ahora bien, nos interesa entender que si representamos todos los casos posibles obtenemos la siguiente tabla.

Criterio 1	Criterio 2	Decisión
No	No	No
Sí	No	No
No	Sí	No
Sí	Sí	Sí

A partir de este momento, cualquier expediente podrá clasificarse aplicando simplemente la regla implementada en C8, asociada a los datos (variables) valorados dicotómicamente en C5 y C6.

Una representación diferente del mismo problema

Hasta aquí no ha intervenido ningún algoritmo de aprendizaje. El clasificador existe porque alguien ha definido explícitamente la regla de decisión. Sin embargo, esa misma información puede representarse de otra forma: en lugar de expresar la regla mediante una condición lógica, podemos conservar únicamente un conjunto de ejemplos ya clasificados, es decir, una muestra suficientemente amplia de registros en la que se recogen los valores de las variables (las respuestas a los dos criterios considerados) y la clasificación resultante de aplicar dicha regla.

La información es exactamente la misma, pero ha cambiado su representación: en lugar de disponer de una regla escrita por el experto, disponemos de un conjunto de ejemplos correctamente clasificados. Ahora lo que interesa responder es si una máquina podría descubrir por sí sola la regla de clasificación observando únicamente estos ejemplos.

Esta pregunta marca el paso del enfoque heurístico al paradigma del aprendizaje automático (ML).

Del conocimiento explícito al conocimiento aprendido

En un sistema de aprendizaje automático, el procedimiento se basa en el análisis de ejemplos (registros) previamente clasificados. La tarea del algoritmo consiste en aprender una función que reproduzca esa clasificación y pueda aplicarse posteriormente a nuevos casos.

Desde el punto de vista computacional, el problema no ha cambiado, ya que siguen existiendo los mismos casos, las mismas variables y las mismas clases, pero cambia la forma de construir el clasificador. Ese fue el objetivo del perceptrón, propuesto por Frank Rosenblatt a finales de la década de 1950.

En la siguiente entrada veremos cómo esta arquitectura recibe ejemplos ya clasificados, modifica progresivamente sus parámetros durante el entrenamiento y termina construyendo —cuando el problema lo permite— un clasificador capaz de reproducir la regla que antes, en la solución heurística, había sido escrita por el experto.

IA. Modelos

Perceptrón III. La clasificación en Orientación.

IA. Modelos y paradigmas. Machine Learning

Mucho antes de que existieran los algoritmos de aprendizaje automático, los orientadores ya abordaban problemas que hoy pueden formularse como problemas de clasificación. La clasificación binaria no es una aportación del Machine Learning; constituye una estructura lógica presente en numerosas decisiones profesionales. Algunos ejemplos son los siguientes:

• ¿Se detectan indicios suficientes que justifiquen profundizar en el estudio de un caso?
• ¿Procede realizar una evaluación psicopedagógica?
• ¿Debe considerarse prioritaria una determinada actuación orientadora?
• ¿Resulta necesario establecer un seguimiento específico?
• ¿Se cumplen determinados criterios previamente definidos?

Aunque pertenecen a procesos diferentes, todas estas cuestiones comparten una misma estructura: cada caso debe asignarse a una de dos categorías posibles. Desde el punto de vista computacional, todas ellas pueden formularse como problemas de clasificación binaria.

Naturalmente, esto no significa que todas posean la misma complejidad ni que deban resolverse mediante los mismos procedimientos. Significa únicamente que el resultado final consiste en asignar cada caso a una de dos clases mutuamente excluyentes.

¿Qué elementos debe contener un problema de clasificación binaria?

Para formular un problema de clasificación no basta con disponer de dos posibles respuestas. Es necesario definir con precisión la estructura del problema.

En primer lugar, debe establecerse cuál es el tipo de casos que se pretende clasificar. Un clasificador debe operar siempre sobre instancias de la misma naturaleza; no tendría sentido mezclar alumnos, familias o centros educativos dentro del mismo problema.

En segundo lugar, cada caso debe describirse mediante un conjunto de variables. Esas variables constituyen la información a partir de la cual se realizará posteriormente la clasificación.

Finalmente, es necesario definir con claridad las dos clases posibles y el criterio que permite asignar cada caso a una de ellas.

Cuando estos elementos están bien definidos, el problema puede plantearse como un problema de clasificación binaria, con independencia del procedimiento que posteriormente se utilice para construir el clasificador.

Dos formas de construir un clasificador

Una vez formulado el problema, aparece una nueva cuestión: ¿cómo construir el clasificador?

Históricamente han coexistido dos grandes estrategias.

La primera consiste en definir explícitamente las reglas de decisión. El conocimiento procede del profesional, que establece los criterios necesarios para asignar cada caso a una de las dos clases. Este ha sido el enfoque característico de los sistemas heurísticos y continúa siendo la solución habitual cuando existen protocolos, criterios técnicos o normativa suficientemente definidos.

La segunda estrategia consiste en no escribir esas reglas de manera explícita, sino proporcionar al algoritmo un conjunto de ejemplos previamente clasificados para que aprenda automáticamente una función de decisión. Este es el planteamiento del aprendizaje automático.

Ambas estrategias persiguen exactamente el mismo objetivo: construir un clasificador. La diferencia no reside en el problema que intentan resolver, sino en el procedimiento utilizado para construir la función de clasificación.

Por ello, la aparición del aprendizaje automático no implica que determinados problemas no pudieran resolverse anteriormente mediante procedimientos heurísticos. La mayor parte de ellos ya se abordaban antes del desarrollo del ML y muchos continúan resolviéndose hoy mediante reglas explícitas, protocolos profesionales o criterios normativos. Dicho de otra manera: el aprendizaje automático no sustituye a la heurística; constituye otra forma de construir un clasificador.

¿Qué aporta el aprendizaje automático?

Si la heurística y el aprendizaje automático permiten construir clasificadores, resulta razonable preguntarse qué aporta realmente este último.

Su principal interés consiste en que permite construir un clasificador a partir de ejemplos previamente clasificados, sin necesidad de definir explícitamente todas las reglas de decisión. Desde esta perspectiva, el entrenamiento de un modelo puede entenderse como un experimento cuyo objetivo consiste en comprobar si una determinada arquitectura es capaz de aprender la función de clasificación utilizando las variables disponibles y los ejemplos proporcionados.

Cuando el entrenamiento tiene éxito, obtenemos un clasificador cuya capacidad de generalización deberá evaluarse posteriormente sobre nuevos datos. Pero un resultado poco satisfactorio también puede aportar información relevante al poner de manifiesto limitaciones de la arquitectura utilizada, problemas en la selección de las variables, deficiencias en los datos de entrenamiento o incluso la conveniencia de revisar la formulación inicial del problema de clasificación.

Por ello, el entrenamiento de un modelo no constituye únicamente un procedimiento para obtener un clasificador. También representa una fase de experimentación cuyos resultados pueden contribuir a mejorar tanto el propio modelo como el modo en que se ha planteado el problema.

El siguiente paso

Hasta aquí nos hemos ocupado del problema. Sabemos qué caracteriza a un problema de clasificación binaria y conocemos dos estrategias generales para construir un clasificador. La siguiente pregunta surge de forma natural:
¿Cuál es la arquitectura más sencilla capaz de aprender una función de clasificación binaria a partir de ejemplos?

La primera respuesta histórica a esa cuestión fue el perceptrón. Comprender su funcionamiento permitirá entender no solo cómo aprende un modelo de aprendizaje automático, sino también por qué determinadas arquitecturas poseen límites bien definidos y qué puede enseñarnos su comportamiento sobre los problemas que intentan resolver.

IA. Modelos

Perceptrón II. Clasificación binaria.

IA. Modelos y paradigmas. Machine Learning

Antes de estudiar el perceptrón vamos a tratar de entender el problema que pretende resolver.

En la entrada anterior vimos que el perceptrón constituye uno de los primeros modelos capaces de aprender a partir de ejemplos; pero ¿aprender a qué?. Para analizar con sentido cómo funciona el perceptrón conviene responder a una pregunta previa: ¿qué tipo de problema está diseñado para resolver?, ya que todo algoritmo se desarrolla para abordar una determinada clase de problema. Comprender la naturaleza de esos problemas constituye el primer paso para entender por qué se diseña un modelo concreto y cuáles serán sus posibilidades y sus limitaciones.

En el caso del perceptrón, el problema pertenece a la familia de los denominados problemas de clasificación.

Un mismo conjunto de datos puede dar lugar a problemas diferentes

Supongamos que disponemos de un conjunto de "expedientes de orientación". Cada expediente reúne diferentes tipos de información obtenida a lo largo del proceso de intervención: datos académicos, resultados de distintos procedimientos de evaluación, observaciones recogidas durante entrevistas, información aportada por el profesorado o cualquier otro elemento que resulte pertinente para comprender cada caso.

Ahora no corresponde entrar en detalles, pero sí debemos considerar que esa información puede ser considerar desde diferentes perspectivas. Los expedientes son los mismos, pero las preguntas que nos formulamos pueden ser diferentes:

• Podemos querer estimar un determinado valor numérico a partir de la información disponible en cada expediente.
• O intentar descubrir si los casos se agrupan de forma natural según las características que presentan, sin haber definido previamente ninguna categoría.
• O bien podemos querer valorar si un caso pertenece o no a una categoría que ha sido establecida previamente.

Sólo la tercera opción es una cuestión de clasificación.

Tres grandes familias de problemas.

Aunque existen numerosas variantes, por ahora es suficiente con distinguir tres grandes tipos de problemas.

En los problemas de clasificación el objetivo consiste en decidir a cuál de varias categorías previamente definidas pertenece un nuevo caso. La salida del modelo no es un número, sino una categoría.

Por ejemplo, determinar si un alumno presenta o no indicadores compatibles con una necesidad específica de apoyo educativo (NEAE), clasificar el nivel de riesgo de dificultades en el aprendizaje de la lectura a partir de pruebas de cribado o decidir si un caso requiere una intervención ordinaria o la derivación a una evaluación psicopedagógica más específica.

Otro tipo de `problema son de regresión. En este caso el objetivo consiste en estimar un valor numérico, de predecir una cantidad.

Por ejemplo, estimar la evolución prevista del rendimiento académico de un alumno, predecir el número de alumnos que requerirán medidas de apoyo educativo en un determinado curso escolar o calcular el tiempo aproximado que necesitará un alumno para alcanzar un objetivo de aprendizaje en función de las horas de apoyo que recibe.

Finalmente podemos enfrentarnos a problemas de agrupamiento, en los que no disponemos de categorías previamente definidas, por lo que el objetivo consiste en descubrir automáticamente grupos de casos similares a partir de los propios datos. En estos, el algoritmo no recibe la respuesta correcta durante el entrenamiento, sino que intenta identificar estructuras o agrupaciones que no eran conocidas previamente.

¿Qué significa realmente clasificar?

En lo que resta de esta entrada nos vamos a centrar en los problemas de clasificación, entendiendo que clasificar consiste en asignar un nuevo caso a una de las categorías previamente definidas.

Esta idea resulta mucho más habitual de lo que podría parecer. Clasificamos documentos, incidencias, solicitudes administrativas, necesidades específicas de apoyo educativo o tipos de intervención. En todos estos casos existe un conjunto de categorías conocidas de antemano y el problema consiste en decidir a cuál de ellas pertenece cada nuevo caso.

Desde un punto de vista computacional, todos ellos pertenecen a la misma familia de problemas, aunque los datos utilizados sean diferentes y las soluciones puedan abordarse desde enfoques también diferentes.

La clasificación binaria

Entre todos los problemas de clasificación existe uno especialmente sencillo; aquel en el que únicamente pueden producirse dos resultados: sí o no; verdadero o falso, aceptado o rechazado.... En estos casos hablamos de clasificación binaria.

No importa cuál sea el significado concreto de las dos categorías. Lo importante es que cualquier nuevo caso debe asignarse necesariamente a una de ellas. Precisamente esta formulación del problema hizo posible el desarrollo de uno de los hitos fundacionales del aprendizaje automático: el perceptrón simple, un modelo diseñado para aprender a distinguir entre dos categorías a partir de ejemplos previamente clasificados.

Una idea para continuar

Comprender qué es un problema de clasificación constituye el primer paso para entender el funcionamiento del perceptrón. Sin embargo, todavía queda una cuestión importante por responder: si los problemas de clasificación existen desde mucho antes de la aparición del aprendizaje automático y pueden resolverse mediante procedimientos muy diferentes, ¿por qué fue necesario desarrollar una arquitectura como el perceptrón?

Responder a esta pregunta permitirá comprender qué aporta realmente el aprendizaje automático frente a los enfoques heurísticos tradicionales y por qué supuso un cambio de paradigma en la forma de construir sistemas capaces de clasificar nuevos casos.

IA. Modelos

Perceptrón I. Aprendizaje máquina.

IA. Modelos y paradigmas. Machine Learning

El perceptrón: la primera respuesta a una pregunta fundamental, ¿qué significa que un modelo aprenda?

Cuando hablamos de Machine Learning es habitual afirmar que "el modelo aprende". La expresión resulta intuitiva, pero también puede inducir a error. Un modelo no aprende como lo hace una persona: no comprende conceptos, no formula explicaciones ni almacena reglas en lenguaje natural. Entonces, ¿qué significa realmente "aprender" desde el punto de vista computacional?

El perceptrón, propuesto por Frank Rosenblatt a finales de la década de 1950, constituye una de las respuestas más sencillas y, al mismo tiempo, más profundas a esta pregunta. Aunque hoy existen modelos mucho más potentes, el perceptrón conserva un extraordinario valor didáctico y práctico. Su comportamiento resulta lo suficientemente transparente como para comprender cómo aprende un modelo de Machine Learning y, al mismo tiempo, convertir el propio proceso de construcción y entrenamiento en una oportunidad para revisar críticamente la forma en que hemos definido el problema que intentamos resolver.

Una neurona artificial extremadamente simple

El perceptrón nació inspirado en el funcionamiento general de una neurona biológica, aunque realmente constituye una simplificación matemática muy alejada de la complejidad del sistema nervioso.

Se trata de un modelo de clasificación binaria que se entrena utilizando ejemplos (registros de datos) previamente etiquetados. Su objetivo es asignar cada uno de esos ejemplos a una de dos categorías a partir de los datos que lo describen. En su forma clásica, esa clasificación es binaria: sí o no, verdadero o falso, clase A o clase B.

Para ello aplica una primera operación matemática sobre los datos de entrada, obteniendo un valor numérico. Ese valor se transforma mediante una segunda operación en una clasificación binaria que puede compararse con la etiqueta asociada al ejemplo utilizado durante el entrenamiento.

¿Dónde está el aprendizaje?

Hasta este punto todavía no ha ocurrido nada que justifique hablar de aprendizaje. El perceptrón únicamente aplica una serie de operaciones matemáticas para obtener una clasificación a partir de los datos de entrada.

La clave aparece durante el entrenamiento. Cuando se presenta un ejemplo cuya clasificación correcta es conocida, el modelo genera una respuesta y la compara con la etiqueta asociada a ese ejemplo. Si ambas coinciden, mantiene su configuración. Si no coinciden, la modifica ligeramente para reducir la probabilidad de cometer errores similares en el futuro. Este proceso se repite una y otra vez.

Lo importante no es memorizar cada caso individual; es ir ajustando progresivamente la configuración del modelo hasta que sea capaz de realizar clasificaciones cada vez más fiables.

Desde esta perspectiva, aprender no significa incorporar conocimientos en el sentido humano del término. Aprender significa modificar progresivamente la configuración interna del modelo a partir de la experiencia obtenida durante el entrenamiento.

Al finalizar ese proceso no obtenemos una colección de reglas ni una explicación del problema resuelto. Lo que obtenemos es una determinada configuración que permitirá al modelo clasificar nuevos ejemplos con una mayor probabilidad de acierto.

Una limitación importante

El perceptrón constituye una excelente herramienta para comprender qué significa que un modelo aprenda. Sin embargo, también presenta limitaciones importantes.

Existen problemas de clasificación que un perceptrón simple nunca conseguirá resolver, por muchos ejemplos que se utilicen durante el entrenamiento. En esos casos, el hecho de que el modelo no alcance el resultado esperado no debe interpretarse como un fallo del proceso de aprendizaje, sino como una consecuencia de las propias limitaciones del modelo.

Estas limitaciones tuvieron una notable repercusión en la evolución de la inteligencia artificial. A finales de la década de 1960 pusieron de manifiesto que era necesario desarrollar modelos más potentes, lo que contribuyó a orientar la investigación hacia arquitecturas capaces de resolver problemas que el perceptrón simple no podía abordar.

Para concluir, comprender qué significa que un modelo aprenda constituye el primer paso para entender el Machine Learning. A partir de aquí podremos analizar con mayor detalle cómo funciona realmente un perceptrón, qué elementos intervienen en su entrenamiento, cuáles son sus limitaciones y por qué, a pesar de su sencillez, continúa teniendo interés didáctico para comprender los fundamentos del aprendizaje automático y utilidad práctica para desarrollar y experimentar con problemas sencillos de clasificación.

IA

LLM y el conocimiento especializado

Los límites de la IA

Las dos entradas anteriores abordaban dos límites esenciales de los modelos de lenguaje de gran tamaño (LLM) desde la perspectiva del ejercicio profesional. En primer lugar, la necesidad de preservar la confidencialidad de la información introducida en estos sistemas. En segundo término, la imposibilidad de atribuirles una auténtica capacidad de fundamentación jurídica, técnica o científica. Ambos límites conducen a una misma conclusión: el juicio profesional se refuerza como el criterio que dirige la actuación en el ejercicio de la orientación educativa.

Existe, sin embargo, un tercer límite de los LLM que suele pasar más desapercibido y que resulta igualmente determinante: la relación entre el conocimiento con el que ha sido entrenado un modelo y el ámbito profesional en el que se utiliza.

No todos los problemas pueden resolverse con una herramienta de propósito general. En ocasiones, utilizar un modelo no adaptado al dominio específico de conocimiento constituye una decisión técnicamente inadecuada y, por ello mismo, potencialmente incompatible con el deber de diligencia exigible al profesional.

Un modelo generalista no es un especialista

Uno de los equívocos más frecuentes consiste en identificar la enorme capacidad lingüística de un LLM con un conocimiento especializado de cualquier materia. Sin embargo, ambos aspectos son conceptualmente distintos.

Los modelos de lenguaje transforman los textos en representaciones numéricas y ajustan sus parámetros para modelizar las relaciones estadísticas existentes entre esas representaciones.De ese proceso no emerge un conocimiento sobre el tema consultado, sino una secuencia de tokens obtenida mediante cálculo probabilístico. Cuando esa secuencia resulta coherente y se ajusta a nuestras expectativas lingüísticas y contextuales, tendemos a interpretarla como una respuesta fundada sobre la materia de que se trate. Pero esa apariencia no equivale en ningún momento al dominio experto de una disciplina.

Precisamente porque el entrenamiento del modelo persigue modelizar estadísticamente el lenguaje en toda su diversidad, y no adquirir conocimientos especializados, su capacidad es necesariamente generalista. No se trata de una limitación accidental, sino de una consecuencia directa de la forma en que ha sido entrenado.

De ahí que ese modelo de lenguaje pueda producir respuestas extraordinariamente convincentes sobre prácticamente cualquier ámbito del conocimiento. Esa amplitud temática es consecuencia de un entrenamiento generalista sobre cantidades ingentes de textos y no de una especialización en un determinado dominio profesional o institucional. Por ello, sus respuestas reproducen los patrones generales presentes en los datos de entrenamiento, pero no incorporan, por sí mismas, los criterios conceptuales, técnicos, organizativos o normativos propios de un contexto profesional o institucional específico.

La incorporación del contexto especializado.

Precisamente porque los modelos de lenguaje son herramientas de propósito general, su utilización en contextos profesionales específicos suele requerir mecanismos adicionales que incorporen el conocimiento propio del dominio o de la organización en la que van a emplearse.

Uno de ellos es el denominado ajuste fino (fine-tuning), mediante el cual un modelo previamente entrenado continúa su entrenamiento utilizando datos específicos de un determinado dominio para adaptar parcialmente su comportamiento.

Otra estrategia, cada vez más extendida, consiste en incorporar sistemas de recuperación de información (Retrieval-Augmented Generation o RAG), que permiten al modelo utilizar documentación específica durante la generación de la respuesta.

En ambos casos, el objetivo es el mismo: aproximar un modelo de propósito general a las necesidades concretas de un determinado ámbito profesional o institucional.

Adaptar el modelo no elimina la responsabilidad

La existencia de estas técnicas podría inducir a pensar que un modelo adaptado ofrece respuestas objetivamente correctas y que, por tanto, disminuye la responsabilidad del profesional que las utiliza.

Esa conclusión sería errónea. El ajuste fino y los sistemas RAG pueden mejorar la adecuación de las respuestas a un determinado contexto profesional o institucional, pero no modifican la naturaleza del modelo. Éste continúa generando respuestas mediante cálculo probabilístico y permanece ajeno a cualquier criterio propio de verdad, corrección o validez.

Por ello, la incorporación de contexto especializado no desplaza el juicio profesional ni elimina la necesidad de verificar la corrección técnica, jurídica o metodológica de las respuestas obtenidas.

La adaptación del modelo mejora las condiciones en las que se genera la respuesta, pero no modifica la distribución de responsabilidades: la decisión de aceptarla, descartarla o integrarla en la actuación profesional continúa correspondiendo exclusivamente al profesional.

En definitiva, la especialización de un modelo de lenguaje no consiste en transformar su naturaleza, sino en incorporar el contexto necesario para aproximar sus respuestas a las exigencias de un determinado ámbito profesional o institucional. Precisamente por ello, la adaptación del modelo mejora su utilidad, pero no elimina la necesidad del conocimiento ni del juicio profesional.

IA

LLM y la motivación de las decisiones

Los límites de la IA

En la entrada anterior analicé uno de los principales condicionantes jurídicos del uso profesional de los modelos de inteligencia artificial generativa: la confidencialidad de la información que se introduce en ellos y la responsabilidad compartida de los diferentes actores implicados en su utilización.

Existe, sin embargo, un segundo límite, menos conocido pero probablemente más profundo, que afecta al modo en que el sistema genera sus respuestas. Se trata de la imposibilidad de explicar realmente por qué produce una determinada respuesta y no otra.

No es una limitación circunstancial ni una carencia que pueda corregirse mediante una simple actualización del sistema. Es una consecuencia directa de la arquitectura de los grandes modelos de lenguaje (Large Language Models o LLM) basados en técnicas de aprendizaje profundo (Deep Learning). Precisamente por ello, constituye un factor tanto técnico como jurídico que condiciona su utilización en cualquier ámbito en el que las decisiones deban ser motivadas.

La motivación de las decisiones. Una exigencia profesional y una obligación jurídica

Antes de constituir una obligación jurídica, la motivación de las decisiones es una exigencia inherente al ejercicio profesional del orientador educativo. Toda actuación técnica que pueda afectar a otras personas debe poder explicarse mediante razones objetivas, comprensibles y vinculadas al conocimiento especializado del que deriva. Motivar una decisión significa hacer explícitos los datos considerados, los criterios aplicados y el razonamiento que conduce desde unos a la conclusión adoptada.

Esta exigencia cumple varias funciones esenciales. Permite revisar la solidez del propio razonamiento, facilita el trabajo cooperativo entre iguales —por ejemplo, entre orientadores—, así como el intercambio y contraste de información con profesionales de otras especialidades; favorece la coherencia entre casos similares y hace posible que las personas afectadas comprendan el fundamento de las decisiones que les conciernen.

Sin esta capacidad de justificar y someter a revisión las decisiones adoptadas, el juicio profesional pierde transparencia y se debilitan las garantías de calidad, responsabilidad y control que caracterizan el ejercicio de cualquier profesión técnica, especialmente cuando sus actuaciones producen efectos sobre otras personas.

Esta exigencia, inherente al ejercicio responsable de cualquier profesión, adquiere una especial relevancia cuando las decisiones se adoptan en el marco de procedimientos sujetos al Derecho. En estos casos, la motivación deja de ser únicamente un criterio de calidad técnica para convertirse también en una exigencia jurídica destinada a garantizar la legalidad de la actuación, la protección de los derechos de las personas afectadas y la posibilidad de su control y revisión.

En el ámbito del Derecho no basta con decidir correctamente; es necesario poder explicar por qué se ha decidido de una determinada manera.

La exigencia de motivación constituye uno de los pilares del Estado de Derecho. En el ámbito administrativo encuentra una manifestación expresa en el artículo 35 de la Ley 39/2015, de 1 de octubre, del Procedimiento Administrativo Común de las Administraciones Públicas, que impone la obligación de motivar determinados actos administrativos mediante una sucinta referencia a los hechos y a los fundamentos de Derecho que los sustentan.

La motivación permite comprobar que la actuación administrativa responde a criterios jurídicos y racionales, facilita el ejercicio efectivo del derecho de defensa y hace posible su control por los órganos administrativos y judiciales. Constituye, además, una garantía esencial frente a la arbitrariedad de los poderes públicos, cuya interdicción proclama el artículo 9.3 de la Constitución Española.

Esta exigencia trasciende el Derecho español. En el ámbito de la Unión Europea, el deber de motivar las decisiones constituye una manifestación del derecho a una buena administración reconocido por el artículo 41 de la Carta de los Derechos Fundamentales de la Unión Europea, que exige que las actuaciones de las instituciones públicas puedan justificarse mediante razones comprensibles y susceptibles de control.

La misma lógica inspira la normativa europea sobre protección de datos personales. El Reglamento General de Protección de Datos (RGPD) impone obligaciones de transparencia en el tratamiento de la información y reconoce garantías específicas frente a determinadas decisiones automatizadas, incluyendo el derecho de la persona afectada a obtener información significativa sobre la lógica aplicada cuando concurren los presupuestos del artículo 22. Aunque el alcance de este denominado «derecho a la explicación» continúa siendo objeto de debate doctrinal, resulta indiscutible que el Reglamento refuerza las exigencias de transparencia y control sobre los procesos automatizados.

En esta misma línea, el Reglamento (UE) 2024/1689, de Inteligencia Artificial, establece obligaciones de documentación técnica, trazabilidad, transparencia y supervisión humana para los sistemas de IA de alto riesgo. Estas medidas pretenden garantizar que quienes los utilizan comprendan sus capacidades y limitaciones, puedan interpretar adecuadamente sus resultados y mantengan en todo momento el control sobre las decisiones adoptadas. El Reglamento no presupone que estos sistemas sean capaces de explicar por sí mismos el proceso interno que conduce a sus resultados; por ello, desplaza las garantías hacia la documentación, la trazabilidad y la supervisión humana, sin sustituir la obligación de motivar las decisiones cuando esta resulta exigible conforme al ordenamiento jurídico.

En el ámbito educativo, estas exigencias se proyectan sobre numerosas decisiones que afectan directamente a los alumnos: evaluaciones, promociones de curso, medidas disciplinarias, adaptaciones curriculares, identificación de necesidades específicas de apoyo educativo o adopción de medidas organizativas individualizadas. En todos estos supuestos no basta con alcanzar una conclusión; resulta imprescindible justificarla mediante criterios objetivos, verificables y susceptibles de revisión.

En definitiva, tanto el Derecho español como el europeo parten de un mismo principio: la legitimidad de una decisión no depende únicamente de su corrección material, sino también de la posibilidad de explicar las razones que la fundamentan y de someterlas al escrutinio de quienes puedan revisarlas o verse afectados por ellas.

Lo que hace realmente un modelo de lenguaje

Aquí aparece la principal dificultad.

Es precisamente en este punto donde aparecen los límites de los grandes modelos de lenguaje. Si el ordenamiento exige que determinadas decisiones puedan justificarse mediante razones objetivas y revisables, resulta necesario preguntarse si un sistema de IA generativa puede proporcionar realmente esa justificación.

Con frecuencia se afirma que un chatbot «explica» sus respuestas. En realidad, lo que hace es algo muy distinto.

Los modelos de lenguaje actuales no razonan reconstruyendo una cadena lógica de inferencias semejante a la que seguiría un jurista, un médico o un docente. Tampoco almacenan una relación explícita entre premisas y conclusiones que pueda recuperarse posteriormente para explicar cómo alcanzaron un determinado resultado.

Su funcionamiento responde a una lógica completamente diferente.

Durante el entrenamiento, el modelo ajusta miles de millones —e incluso billones— de parámetros mediante técnicas de optimización matemática destinadas a minimizar el error en la predicción del siguiente elemento de una secuencia lingüística. Ese conocimiento no queda almacenado como reglas identificables ni como argumentos jurídicos o científicos, sino distribuido estadísticamente a través del conjunto de los parámetros de la red neuronal.

Cuando el usuario formula una consulta, el modelo no recupera un razonamiento previamente elaborado ni una cadena de inferencias almacenada. Genera la respuesta calculando, paso a paso, el token con mayor probabilidad de aparecer en cada posición del texto a partir del contexto recibido. Cada predicción condiciona la siguiente hasta completar una respuesta que puede resultar coherente y convincente, pero cuyo proceso de generación no equivale a un razonamiento explícito susceptible de reconstrucción posterior.

El resultado puede ser útil. Puede ser correcto. Puede incluso presentar una argumentación perfectamente estructurada. Sin embargo, esa argumentación no constituye el razonamiento interno que condujo al modelo hasta la respuesta, porque ese razonamiento no existe como una secuencia explícita de inferencias. Cuando se le pide que explique por qué respondió de una determinada manera, el modelo no recupera el proceso que siguió para llegar a esa conclusión; genera una nueva explicación mediante el mismo mecanismo probabilístico con el que produjo la respuesta original.

Esta limitación no significa que los modelos de lenguaje sean completamente opacos para la investigación científica. Existen diversas técnicas de interpretabilidad que permiten analizar determinados aspectos de su funcionamiento interno o estimar la influencia de distintos elementos en la generación de las respuestas. Sin embargo, estos métodos no reconstruyen una cadena de razonamientos comparable a la motivación exigida en el ámbito profesional o jurídico. Ofrecen información sobre el comportamiento estadístico del modelo, no sobre las razones que justificarían una decisión.

Una limitación técnica con consecuencias jurídicas

Esta limitación técnica no constituye un simple inconveniente funcional. Delimita el ámbito en el que los modelos de lenguaje pueden utilizarse legítimamente cuando las decisiones deben ser motivadas.

Si un procedimiento exige que las decisiones puedan justificarse mediante razones objetivas, verificables y revisables, la utilización de una herramienta incapaz de ofrecer esa justificación no impide necesariamente su empleo, pero sí condiciona el modo en que puede integrarse en el proceso de decisión y las garantías que deben acompañar su utilización.]

Ello afecta, en primer lugar, a las empresas que desarrollan y comercializan estos sistemas. Quienes ofrecen soluciones basadas en modelos generativos para sectores regulados no pueden presentar estos sistemas como capaces de sustituir el juicio profesional cuando el ordenamiento exige decisiones motivadas y susceptibles de revisión. Las obligaciones de transparencia, gestión del riesgo e información previstas por el Reglamento europeo de Inteligencia Artificial adquieren precisamente sentido frente a estas limitaciones estructurales.

Pero la consecuencia más importante recae sobre el profesional.

El juicio que no puede delegarse

Al igual que ocurría con la confidencialidad, el problema ya no reside únicamente en las limitaciones del modelo. Desde la perspectiva del juicio profesional —y, por ello, también desde la jurídica— la cuestión decisiva es la decisión de utilizar una herramienta cuyas limitaciones el profesional conoce, o debe conocer, y de integrar sus resultados en el propio proceso de decisión.

Si un docente, un inspector, un orientador, un abogado o cualquier otro profesional adopta una recomendación elaborada por un modelo generativo sin reconstruir y verificar por sí mismo las razones que justifican su utilización en el caso concreto, el problema deja de ser una limitación tecnológica para convertirse en una deficiencia del propio juicio profesional.

En consecuencia, la motivación de una evaluación, un informe psicopedagógico, una medida disciplinaria o una resolución administrativa no puede descansar únicamente en una argumentación generada por un modelo de inteligencia artificial. Corresponde al profesional comprobar su corrección, asumirla como propia y poder justificarla mediante razones objetivas, verificables y susceptibles de revisión.

La IA puede servir como instrumento de apoyo para localizar información, sugerir argumentos, identificar normativa aplicable o explorar hipótesis. Lo que no puede hacer es sustituir la responsabilidad intelectual de quien debe seleccionar esos argumentos, verificar su corrección y asumirlos como propios.

La utilización de modelos de lenguaje puede constituir un valioso instrumento de apoyo para el ejercicio profesional. Sin embargo, allí donde el ordenamiento exige decisiones motivadas, objetivamente justificables y susceptibles de revisión, la responsabilidad de aportar esa motivación continúa correspondiendo íntegramente al profesional. Precisamente porque el modelo no puede ofrecerla por sí mismo, el juicio profesional deja de ser un elemento complementario para convertirse en una garantía jurídica insustituible.

La motivación no constituye un requisito adicional que deba añadirse al resultado generado por un modelo de lenguaje. Constituye un acto propio del juicio profesional y, precisamente por ello, una responsabilidad que no puede ser objeto de delegación. En ello reside uno de los criterios fundamentales para el uso profesional de la inteligencia artificial: cuanto mayor sea la exigencia de motivar una decisión, más irrenunciable resulta el juicio del profesional que la adopta.

IA

LLM y la confidencialidad

Los límites de la IA

En las entradas anteriores hemos analizado qué son los grandes modelos de lenguaje (LLM), cómo funcionan y por qué herramientas como ChatGPT o Gemini pueden convertirse en asistentes para el trabajo docente y del orientador. Su capacidad para redactar documentos, sintetizar información, proponer actividades o facilitar tareas administrativas explica el creciente interés que despiertan.

Sin embargo, como orientadores, antes de incorporar estos asistentes a nuestra práctica profesional conviene que nos formulemos una pregunta: ¿qué ocurre con la información que aportamos en nuestras consultas?. Responder a esta pregunta supone entender las obligaciones que como profesionales tenemos de garantizar la confidencilidad.

Pero con frecuencia esta cuestión no se plantea y sus implicaciones se asumen desde posiciones excesivamente simples. Para unos, basta con confiar en que la empresa que presta el servicio garantiza la seguridad de los datos. Para otros, cualquier utilización de un chatbot comercial constituye, por definición, una vulneración de la confidencialidad. Ninguna de estas posiciones refleja adecuadamente la realidad.

Si plantearse la cuestión implica entender su relevancia, asumir que debemos ser capaces de responderla supone admitir que cierto nivel de conocimiento de causa forma parte de nuestra competencia profesional.

En este punto conviene entender que la formulación del prompt condiciona el procesamiento de la información que enviamos al servicio. Su contenido es tratado por el modelo mediante la misma arquitectura computacional empleada durante el entrenamiento, aunque sin modificar los parámetros del modelo.

El texto del prompt se tokeniza; los tokens se sustituyen por identificadores numéricos que posteriormente se transforman en representaciones vectoriales (embeddings), sobre las que el modelo realiza las operaciones matemáticas que le permiten calcular, de forma sucesiva, cada uno de los tokens que compondrán la respuesta.

La diferencia esencial respecto del entrenamiento es que, durante la interacción con el usuario, ese procesamiento no actualiza los parámetros del modelo y, por tanto, no produce aprendizaje, sino únicamente la generación de una respuesta a partir del contexto proporcionado por el prompt.

Todo ello explica que la confidencialidad en el uso de la inteligencia artificial no dependa únicamente del modelo de lenguaje empleado ni del profesional que decide utilizarlo. Desde un punto de vista técnico, es el resultado de una cadena causal en la que intervienen la configuración del servicio, la política de tratamiento de datos de la empresa que lo explota, las medidas organizativas adoptadas por la administración educativa y las decisiones adoptadas por el profesional en su utilización.

Sobre esta cadena causal se articulan, en un plano diferente, la responsabilidad profesional —moral, deontológica y técnica— derivada del uso de la herramienta, así como las distintas responsabilidades jurídicas que el ordenamiento atribuye a cada uno de los sujetos implicados en función de su intervención en el tratamiento de los datos.

El problema no es el modelo, sino el servicio

Retomando la explicación técnica del tratamiento del prompt, analizaremos ahora las responsabilidades que corresponden a la empresa que presta el servicio de IA. En particular, nos centraremos en las decisiones de carácter técnico que adopta al configurar el servicio y que condicionan el tratamiento de la información proporcionada por los usuarios.

Hemos comprobado que el principal riesgo para la confidencialidad no deriva del funcionamiento interno del modelo ni del modo en que procesa la información contenida en el prompt. Ese riesgo se sitúa, fundamentalmente, en la forma en que el servicio gestiona la información que recibe. Dicho de otro modo, el tratamiento de los datos personales viene determinado por la arquitectura técnica que rodea al modelo: dónde se procesan los datos, durante cuánto tiempo se conservan, quién puede acceder a ellos, cómo se protegen y en qué condiciones pueden eliminarse o reutilizarse. Esta arquitectura responde a un conjunto de decisiones de diseño propias de servicios concebidos para un uso general, no para entornos profesionales sometidos a exigencias específicas de confidencialidad y protección de datos.

En consecuencia, cuando utilizamos un chatbot comercial no interactuamos únicamente con un modelo de lenguaje; utilizamos un servicio diseñado, gestionado y comercializado por una empresa. Es esa empresa la que configura las políticas de tratamiento y conservación de los datos dentro del marco normativo aplicable, establece las condiciones de uso, ofrece determinadas garantías contractuales y decide cómo integra el modelo dentro de un producto concreto.

La pregunta relevante deja así de ser únicamente «¿qué modelo utiliza esta aplicación?» para convertirse en otra más importante: «¿qué servicio estoy utilizando y qué garantías ofrece para el tratamiento de la información?»

La responsabilidad también alcanza al proveedor

Durante años fue habitual considerar que muchas plataformas digitales actuaban como meros intermediarios tecnológicos. La inteligencia artificial generativa está modificando progresivamente esa concepción.

Un ejemplo significativo lo constituye la resolución dictada por el Tribunal Regional de Múnich I (Landgericht München I, asunto 26 O 869/26), que atribuyó responsabilidad a Google por afirmaciones generadas mediante su función AI Overviews. El tribunal entendió que esas respuestas no constituían una mera reproducción de contenidos ajenos, sino contenido generado por el propio servicio y, por tanto, jurídicamente imputable a la empresa.

Más allá del caso concreto, esta resolución pone de manifiesto una idea de alcance general: quien comercializa un servicio basado en inteligencia artificial no ofrece únicamente un algoritmo, sino un servicio completo cuya arquitectura, funcionamiento y condiciones de utilización pueden generar responsabilidades propias.

Esta evolución resulta coherente con el Reglamento (UE) 2024/1689, de Inteligencia Artificial (AI Act), que distribuye obligaciones entre los distintos operadores que intervienen en el desarrollo, comercialización, implantación y utilización de sistemas de IA, superando la idea de que exista un único responsable.

La organización también forma parte del problema... y de la solución

Sin embargo, el análisis no termina en la empresa que presta el servicio.

Los orientadores educativos, como otros profesionales que trabajan con información especialmente sensible, desarrollan su actividad dentro de organizaciones sujetas a obligaciones legales de confidencialidad, protección de datos y secreto profesional. Esas obligaciones no recaen exclusivamente sobre cada profesional considerado individualmente; también condicionan la forma en que las organizaciones deben diseñar y gestionar sus sistemas de información.

No resulta casual que las administraciones educativas proporcionen plataformas corporativas para la gestión de expedientes, sistemas de autenticación, aplicaciones específicas o procedimientos de acceso a la información. Todas esas herramientas forman parte de una infraestructura creada precisamente para facilitar el cumplimiento de las obligaciones jurídicas que la propia organización impone.

La incorporación de la inteligencia artificial plantea una exigencia semejante. Si una Administración considera legítimo utilizar asistentes basados en LLM en el ejercicio profesional, resulta coherente que sea ella misma quien establezca las condiciones de utilización y proporcione, directamente o mediante acuerdos con terceros, servicios compatibles con las exigencias de confidencialidad derivadas del tratamiento de datos especialmente protegidos.

Cuando esa infraestructura no existe, surgen algunas preguntas. ¿Puede exigirse al profesional que valore por sí solo la idoneidad técnica y jurídica de los servicios disponibles? ¿Debe asumir individualmente una decisión que afecta a la organización del tratamiento de los datos? ¿No corresponde, precisamente, a la Administración establecer el marco técnico y organizativo que haga posible un uso legítimo y seguro de estas herramientas? Y, si así es, ¿no forma parte también de esa responsabilidad proporcionar a los profesionales orientaciones claras y la formación técnica y jurídica necesaria para utilizarlas de manera adecuada?

La responsabilidad del profesional sigue siendo decisiva

La existencia de responsabilidades por parte de la empresa que presta el servicio y de la organización en cuyo ámbito se desarrolla el tratamiento no desplaza ni sustituye la responsabilidad del profesional. Se trata de planos distintos de responsabilidad que concurren sobre una misma actividad y se complementan entre sí.

En este contexto, corresponde al orientador ejercer su juicio profesional: decidir si un determinado servicio resulta adecuado para la tarea que pretende realizar, valorar qué información puede introducirse en él, respetar las instrucciones y protocolos establecidos por la organización y abstenerse de utilizar herramientas cuyas garantías resulten insuficientes para el tratamiento de datos especialmente sensibles.

Cuando la organización pone a disposición de sus profesionales una infraestructura diseñada para ese fin, el juicio profesional consiste en utilizarla correctamente. Cuando esa infraestructura no existe, el profesional debe extremar la prudencia y valorar alternativas que permitan mantener un mayor control sobre la información, como la anonimización de los datos o el empleo de modelos ejecutados localmente cuando ello resulte técnicamente viable.

La IA no suspende el Derecho

Todo ello se desarrolla dentro de un marco jurídico plenamente vigente. El tratamiento de datos personales continúa sometido al Reglamento General de Protección de Datos (RGPD) y, en España, a la Ley Orgánica 3/2018, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD). A este marco se suma ahora el Reglamento Europeo de Inteligencia Artificial, que introduce obligaciones específicas para los distintos operadores implicados en el ciclo de vida de los sistemas de IA.

La inteligencia artificial no crea un espacio ajeno al Derecho. Las obligaciones de confidencialidad siguen siendo plenamente aplicables tanto a las empresas que prestan estos servicios como a las administraciones que los autorizan y a los profesionales que los utilizan.

La competencia profesional exige comprender todo el sistema

Con frecuencia se identifica la competencia en inteligencia artificial con la capacidad para redactar buenos prompts o manejar con soltura un determinado chatbot. Sin embargo, esa visión resulta claramente insuficiente en profesiones cuyo ejercicio está condicionado por obligaciones legales, éticas y organizativas.

La verdadera competencia profesional consiste en comprender el conjunto del sistema: conocer cómo funciona el modelo de lenguaje, qué garantías ofrece el servicio que lo incorpora, cuál es el marco jurídico aplicable, qué responsabilidades corresponden a la organización y qué decisiones debe adoptar el propio profesional.

La inteligencia artificial no desplaza la responsabilidad; la distribuye entre nuevos actores. Precisamente por ello, utilizar estas herramientas de forma competente exige entender que la confidencialidad no depende de un único elemento, sino del correcto funcionamiento de toda la cadena de responsabilidades que hace posible su utilización.

En las próximas entradas analizaremos algunas de las estrategias que permiten compatibilizar el potencial de la inteligencia artificial con la protección de la información: la anonimización y seudonimización de los datos, los criterios para seleccionar servicios con mayores garantías y las alternativas técnicas que permiten integrar modelos de lenguaje en entornos con un mayor control sobre la información tratada.

IA

Juicio profesional e IA

Por qué importa ahora más que nunca

En la entrada anterior vimos que un gran modelo de lenguaje no comprende aquello de lo que habla. Sus respuestas no proceden de una comprensión del significado, sino del cálculo probabilístico de patrones aprendidos a partir de grandes cantidades de texto.

Sin embargo, esa explicación plantea una nueva pregunta: si la IA no comprende en sentido humano, ¿qué cambia cuando el orientador decide incorporarla a su trabajo?

La respuesta obliga a examinar un concepto que ha acompañado siempre a las profesiones educativas, pero que adquiere un significado renovado con la llegada de la IA: el juicio profesional.

Una situación que no es exclusiva de la orientación educativa.

La orientación educativa no es la única profesión que debe dar respuesta a los retos que plantea el uso de la IA.

En medicina, por ejemplo, la inteligencia artificial ya ayuda a interpretar pruebas diagnósticas, identificar patrones difíciles de detectar o sugerir posibles diagnósticos. Su potencial como herramienta de apoyo está ampliamente reconocido. El verdadero desafío consiste en integrar estas herramientas en la práctica clínica sin confundir su capacidad de análisis con el ejercicio del juicio profesional.

Las herramientas pueden aportar análisis y sugerencias. Su valoración e integración forman parte de una práctica profesional basada en conocimiento especializado, la deliberación profesional y la responsabilidad por las decisiones adoptadas..

Lo mismo puede decirse de los orientadores.

Es el juicio profesional el que decide si la inteligencia artificial puede aportar valor en una situación concreta y, en caso afirmativo, cuándo conviene utilizarla, para qué tareas, con qué herramienta y con qué alcance. Solo a partir de esa decisión una IA puede convertirse en un recurso de apoyo para el proceso de orientación.

Un LLM puede resumir un expediente, proponer actividades para un plan de intervención, redactar un borrador de orientaciones o sugerir hipótesis de trabajo. Pero esas aportaciones adquieren sentido únicamente cuando se valoran e integran dentro del proceso profesional que conduce a una decisión fundamentada y responsable.

Cuando una buena respuesta parece suficiente.

Uno de los riesgos de la IA generativa deriva precisamente de su capacidad para ofrecer respuestas completas, coherentes y bien argumentadas. Esa calidad formal puede inducir a recurrir a ella incluso cuando no aporta un valor real o a sobrestimar el alcance de sus respuestas, como si el problema profesional hubiera quedado esencialmente resuelto.

Sin embargo, una respuesta bien construida no sustituye el proceso mediante el que un profesional interpreta la situación, contrasta alternativas y fundamenta una decisión.

Precisamente porque las respuestas de un LLM resultan convincentes, existe el riesgo de dejar de cuestionarlas, de reducir el análisis propio o de atribuirles un valor que excede el de una herramienta de apoyo.

Una herramienta que exige más, no menos, criterio profesional

Existe una idea bastante extendida según la cual herramientas cada vez más capaces reducirán la necesidad de conocimiento experto. Si la IA puede analizar información, redactar documentos o generar propuestas de intervención, podría parecer que el profesional necesita saber menos para desempeñar su trabajo.

Sin embargo, ocurre precisamente lo contrario. La incorporación de la IA no disminuye las exigencias del ejercicio profesional; las transforma y, en muchos aspectos, las incrementa.

Utilizar estas herramientas con criterio exige decidir cuándo tiene sentido recurrir a ellas y cuándo no, qué tipo de IA resulta más adecuada para cada finalidad, qué información puede compartirse, cómo formular una consulta útil y cómo interpretar críticamente las respuestas obtenidas.

Pero, sobre todo, exige disponer del conocimiento profesional necesario para reconocer qué aportan realmente esas respuestas y cuáles son sus límites. Sin ese conocimiento, resulta difícil distinguir una sugerencia valiosa de una propuesta simplemente verosímil.

La competencia profesional deja así de consistir únicamente en saber resolver problemas. Incluye también la capacidad para decidir de forma fundamentada cómo integrar —o no integrar— la inteligencia artificial en el propio proceso de trabajo.

Lejos de hacer menos necesario el juicio profesional, la IA convierte su ejercicio en una condición aún más importante para que la tecnología aporte un valor real.

Reconocer que el uso de la IA forma parte del juicio profesional no cierra el debate; apenas lo abre.

Si el uso de la IA forma parte del juicio profesional, la siguiente cuestión ya no es qué puede hacer la herramienta, sino cuándo resulta apropiado utilizarla. La respuesta depende de aspectos como la confidencialidad de la información, la protección de los datos personales, la trazabilidad de las decisiones y la responsabilidad profesional.

Comprender qué puede hacer una IA es solo el primer paso. Decidir cuándo debe formar parte del ejercicio profesional es una cuestión distinta.

IA

IA en Orientación

Anatomía de una infraestructura computacional

Hace apenas unos años la inteligencia artificial era un tema de interés más o menos lejano. Hoy forma parte del trabajo cotidiano de muchos profesores y también de muchos orientadores.

Aunque las posturas no son unánimes, la investigación disponible sobre el ámbito educativo apunta al predominio de una visión pragmática: la IA se percibe más como una herramienta útil que como una amenaza en sí misma.

También se sostiene con frecuencia que, dada la creciente relevancia social de la IA, la escuela no puede permanecer al margen de este fenómeno y debe abordarlo tanto como objeto de aprendizaje como herramienta al servicio de la educación.

En cuanto al uso, las discrepancias no suelen referirse tanto a su conveniencia como a las condiciones bajo las cuales resulta legítimo utilizarla.

En cualquier caso, la IA ya forma parte del contexto profesional. Está disponible, evoluciona con rapidez y ofrece posibilidades difíciles de ignorar. Resulta razonable prever que su utilización, tanto adecuada como inadecuada, continuará extendiéndose en la práctica profesional.

Precisamente por ello, la cuestión ya no es si debe estar presente, sino qué criterios deben orientar la decisión de utilizarla —o de no hacerlo— en el ejercicio responsable de la profesión.

A medida que estas herramientas se incorporan a la práctica cotidiana deja de ser suficiente saber utilizarlas. También es necesario comprender qué hacen realmente, por qué producen resultados tan convincentes y cuáles son los límites de esa aparente competencia. Esa necesidad explica el creciente interés que la IA está despertando en publicaciones, cursos de formación y espacios de debate profesional. Ante esta realidad, buena parte de la información y el debate se ha centrado en aprender a utilizar estas herramientas: cómo escribir mejores prompts, qué aplicación elegir, qué tareas pueden automatizarse...

No son irrelevantes estos temas, pero hay un par de cuestiones previas, más importantes pero menos tratadas: ¿cómo funcionan estas herramientas y en qué medida este funcionamiento responde a las necesidades y condicionantes de nuestro trabajo?

No son éstas curiosidades tecnológicas, ya que condicionan la confianza que podemos depositar en las respuestas que generan, las tareas en las que las podemos emplear, el modo en que las podemos emplear y, sobre todo, lo que es posiblemente más importante: en qué NO las debemos emplear.

La idea de fondo es sencilla: no es posible utilizar una herramienta de inteligencia artificial de forma competente y éticamente responsable sin comprender antes cómo produce sus respuestas, cuáles son sus capacidades y cuáles sus límites.

Inteligencia Artificial es un concepto que ya no significa lo mismo hoy que ayer.

Cuando se habla de inteligencia artificial da la impresión de que nos referimos a una tecnología perfectamente definida. Pero el significado de esa expresión ha cambiado profundamente desde que comenzó a utilizarse hace ya casi setenta años.

Durante las primeras décadas predominó un enfoque basado en reglas. Si un experto era capaz de explicar cómo resolvía un determinado problema, esas reglas podían traducirse a un programa informático. La “inteligencia” consistía en reproducir mediante algoritmos el razonamiento previamente descrito.

Aquellos sistemas obtuvieron resultados muy valiosos en ámbitos concretos, pero pronto apareció una dificultad. Muchas de esas capacidades —comprender una conversación, reconocer una imagen, interpretar un contexto o desenvolverse en situaciones nuevas— no se pueden describir exhaustivamente mediante listas de reglas.

La investigación tomó entonces otro camino.

En lugar de intentar programar directamente el conocimiento, comenzó a desarrollarse una inteligencia artificial capaz de aprender regularidades a partir de los datos que se aportan al algoritmo, cantidades cada vez más grandes de datos. Este cambio de paradigma explica buena parte de la IA actual.

La cuestión dejó de ser ¿qué reglas debemos programar? para convertirse en ¿de qué datos aprenderá el modelo y qué arquitectura permitirá que ese aprendizaje sea eficaz?.

Comprender este cambio de paradigma no responde únicamente a un interés académico. Permite entender que las herramientas que hoy utilizamos no funcionan como los programas informáticos tradicionales, aunque sigan ejecutándose en un ordenador. También ayuda a comprender por qué poseen capacidades que antes parecían inalcanzables y, al mismo tiempo, por qué presentan limitaciones que aquellos programas no tenían.

Este cambio aporta además otra enseñanza que conviene no perder de vista: la inteligencia artificial es una tecnología más, no la única disponible ni necesariamente la más adecuada para cualquier problema. Según cuáles sean nuestras necesidades, otras soluciones pueden resultar igualmente válidas o incluso preferibles. Elegir entre unas y otras forma parte, precisamente, del juicio profesional.

La IA es mucho más que los asistentes conversacionales.

Aunque para muchas personas la inteligencia artificial tiene hoy nombres propios —ChatGPT es probablemente el ejemplo más conocido—, conviene evitar la simplificación que esto implica. Los asistentes conversacionales constituyen únicamente una de las múltiples aplicaciones actuales de la IA.

Hoy encontramos inteligencia artificial en sistemas capaces de reconocer imágenes médicas, detectar fraudes, analizar grandes volúmenes de datos, identificar patrones difíciles de apreciar a simple vista, realizar predicciones, recomendar actuaciones o generar textos, imágenes, música y vídeo. Los llamados grandes modelos de lenguaje (LLM) representan solo una parte de este panorama.

Aquí centraremos la atención en los grandes modelos de lenguaje porque son, probablemente, las herramientas que más están modificando el trabajo cotidiano de docentes y orientadores educativos. Esta elección responde al propósito de analizar su impacto sobre la práctica profesional y no debe interpretarse como una identificación entre inteligencia artificial y asistentes conversacionales, ni como la idea de que otras aplicaciones de la IA tengan menor interés o menor potencial para la educación.

Conviene, además, tener presente otra cuestión. El protagonismo que los asistentes conversacionales han adquirido en el debate profesional no solo refleja el desarrollo reciente de estas tecnologías; también pone de manifiesto qué aspectos de nuestra práctica concentran hoy mayor atención. Existe el riesgo de que ese protagonismo desplace otras posibilidades de la IA —como el análisis de datos o el apoyo a la investigación sobre la propia práctica— que pueden resultar igualmente relevantes para una orientación educativa rigurosa. Tendremos ocasión de volver sobre esta cuestión más adelante.

¿Qué hace realmente un gran modelo de lenguaje?

Es frecuente pensar que ChatGPT «lo sabe todo» (o casi) y que, cuando recibe una pregunta, busca la respuesta adecuada en una inmensa base de conocimientos.

No funciona así. Tampoco consulta Internet cada vez que responde —aunque puede hacerlo cuando la tarea lo requiere— ni recupera información almacenada en una base de datos organizada por materias. Su funcionamiento es bastante diferente.

Un gran modelo de lenguaje genera la continuación más probable de un texto teniendo en cuenta el contexto de la conversación. Esta explicación puede parecer demasiado simple para justificar resultados tan sorprendentes. Sin embargo, precisamente ahí reside la clave.

El aspecto esencial suele pasar inadvertido porque el usuario solo ve palabras. En realidad, el modelo no opera directamente sobre el lenguaje. Antes de poder procesarlo, transforma el texto en representaciones numéricas sobre las que realiza todos sus cálculos. El lenguaje constituye la interfaz con el usuario; el procesamiento real tiene lugar en un espacio matemático.

Durante el entrenamiento, la red neuronal ajusta miles de millones de parámetros internos a partir de enormes cantidades de textos. Ese proceso le permite aprender patrones y relaciones estadísticas presentes en el lenguaje. Como consecuencia, cuando recibe una consulta no «adivina» la siguiente palabra de forma aislada, sino que genera nuevas secuencias de texto apoyándose en las regularidades que ha aprendido y en el contexto disponible en ese momento.

Este mismo mecanismo interviene prácticamente en todo lo que hace un gran modelo de lenguaje. La pregunta del usuario, el historial de la conversación, los documentos incorporados al contexto e incluso, cuando dispone de esa capacidad, la información obtenida mediante una búsqueda en Internet se transforman en representaciones numéricas que el modelo procesa de la misma manera. No existen mecanismos distintos para «leer», «consultar» o «responder»; en todos los casos aplica, esencialmente, el mismo procedimiento matemático.

De ahí procede también la impresión de que el modelo «sabe». No recupera respuestas desde una base de conocimientos organizada por materias ni razona aplicando reglas previamente programadas. Genera texto a partir de los patrones aprendidos durante el entrenamiento y de la información disponible en el contexto. Precisamente porque todo depende de este mismo mecanismo, comprenderlo resulta esencial para interpretar correctamente las respuestas que produce. De él derivan tanto las extraordinarias capacidades de estos modelos como algunas de sus limitaciones más importantes, que analizaremos a continuación.

La verosimilitud no garantiza la verdad.

El aspecto verdaderamente importante no es que un gran modelo de lenguaje pueda equivocarse. También las personas se equivocan. La diferencia es otra: los criterios que utiliza para generar una respuesta no son los mismos que utilizamos nosotros para valorar si esa respuesta es correcta.

Un gran modelo de lenguaje no determina si una afirmación es verdadera o falsa del mismo modo que lo hace un profesional. Lo que hace es estimar qué respuesta resulta más compatible con el contexto de la conversación y con los patrones que ha aprendido durante el entrenamiento. En la mayoría de las situaciones ambos criterios coinciden, lo que explica la utilidad práctica de estos modelos. Pero no siempre ocurre así.

Cuando los patrones aprendidos por el modelo no permiten aproximarse adecuadamente al conocimiento científico disponible, al marco normativo aplicable o a las características concretas del problema planteado, puede generar respuestas perfectamente redactadas, coherentes y convincentes que, sin embargo, son incorrectas.

No se trata de un fallo accidental ni de un intento de engañar al usuario. Es una consecuencia directa de su modo de funcionamiento. La verosimilitud lingüística y la validez de una respuesta no son exactamente la misma cosa.

Para un orientador educativo esta diferencia tiene consecuencias muy concretas. La calidad formal de una respuesta nunca puede sustituir al juicio profesional, que exige valorar su adecuación al caso concreto, contrastarla con el conocimiento científico disponible, considerar sus implicaciones éticas y comprobar su conformidad con el marco normativo vigente.

En otras palabras, la inteligencia artificial puede constituir un recurso de apoyo para analizar información, explorar alternativas o elaborar propuestas, pero no puede sustituir al criterio del profesional.

La IA necesita una infraestructura computacional sin precedentes.

Con frecuencia hablamos de inteligencia artificial como si todo dependiera de un algoritmo especialmente ingenioso. En realidad, los grandes modelos de lenguaje son también el resultado de una infraestructura computacional de una escala desconocida hasta hace pocos años.

Esta necesidad deriva directamente de su forma de funcionamiento. Si el modelo aprende ajustando miles de millones de parámetros mediante operaciones matemáticas realizadas sobre cantidades ingentes de datos, su entrenamiento requiere una capacidad de cálculo extraordinaria. Hoy se lleva a cabo en grandes centros de datos que reúnen decenas de miles de procesadores especializados trabajando de forma coordinada durante semanas o incluso meses. Sin esa infraestructura, los modelos que utilizamos simplemente no existirían.

La IA generativa no ha surgido únicamente como consecuencia de nuevos desarrollos matemáticos. Ha sido posible gracias a la convergencia entre investigación científica, disponibilidad masiva de datos, avances en ingeniería informática y una capacidad de cálculo que hasta hace muy poco era inalcanzable.

Comprender esta dimensión material permite situar la inteligencia artificial en su contexto real. Los grandes modelos de lenguaje no son únicamente programas informáticos: forman parte de una infraestructura técnica, organizativa y económica extraordinariamente compleja, cuya construcción y mantenimiento solo está al alcance de un número muy reducido de organizaciones.

Este hecho tiene implicaciones que van más allá de la tecnología. A diferencia de la mayor parte de las herramientas que tradicionalmente ha utilizado un profesional, los grandes modelos de lenguaje no son instrumentos cuyo funcionamiento, evolución o disponibilidad dependan principalmente de quien los utiliza. Están integrados en servicios gestionados por terceros, sujetos a decisiones técnicas, comerciales y organizativas ajenas al usuario.

Esta nueva relación modifica, al menos parcialmente, la capacidad de agencia del profesional sobre sus propias herramientas de trabajo. La autonomía ya no depende únicamente del conocimiento técnico o del criterio profesional, sino también de las condiciones de acceso, funcionamiento y evolución de infraestructuras que escapan a su control. Comprender esta realidad constituye un requisito más para integrar la inteligencia artificial en un ejercicio responsable de la profesión.

Las palabras también forman parte del juicio profesional.

Llegados a este punto merece la pena volver a la pregunta inicial. Si las respuestas de un gran modelo de lenguaje resultan tan naturales y convincentes, ¿por qué insistir en que no «comprende», no «sabe» o no «piensa» del mismo modo que una persona?

La respuesta no obedece a un interés terminológico ni a una discusión filosófica. Tiene consecuencias prácticas. Las palabras que utilizamos para describir una herramienta condicionan la forma en que la entendemos y, en consecuencia, la manera en que decidimos utilizarla.

En la conversación cotidiana resulta natural atribuir a la IA expresiones como «entiende», «decide», «razona» o «sabe». Son atajos lingüísticos útiles para comunicarnos, pero pueden convertirse en descripciones engañosas si olvidamos que se trata de una forma de hablar y no de una explicación de su funcionamiento.

Cuando atribuimos al modelo capacidades que en realidad pertenecen a las personas, corremos el riesgo de trasladarle también una confianza, una autoridad o una responsabilidad que no le corresponden. La cuestión no consiste únicamente en utilizar las palabras con mayor precisión, sino en preservar el criterio con el que interpretamos sus respuestas y tomamos decisiones a partir de ellas.

Por eso comprender cómo funciona un gran modelo de lenguaje no es una curiosidad técnica. Constituye una condición para ejercer el juicio profesional con mayor fundamento. Solo si conocemos qué puede hacer, por qué puede hacerlo y cuáles son los límites de ese funcionamiento podremos integrarlo de forma crítica, eficaz y responsable en nuestra práctica.

Nosotros sí necesitamos comprenderla para utilizarla.

En orientación educativa asumimos desde hace tiempo que los resultados de una prueba psicométrica no sustituyen la interpretación del profesional, que ningún protocolo reemplaza el análisis del caso y que la aplicación de una norma siempre exige considerar el contexto. La inteligencia artificial no constituye una excepción a este principio; simplemente lo plantea en un escenario nuevo.

Un gran modelo de lenguaje puede resultar útil para determinadas tareas. Puede ayudarnos a analizar información, explorar alternativas, elaborar documentos o revisar nuestro propio trabajo. Pero sigue siendo una herramienta de apoyo. Su aportación no elimina la necesidad de interpretar críticamente sus resultados ni, mucho menos, la responsabilidad de quien decide utilizarlos.

Como ocurre con cualquier otra herramienta profesional, su valor no depende únicamente de lo que es capaz de hacer, sino del criterio con el que decidimos incorporarla a nuestra práctica. Ese criterio exige comprender cómo funciona, qué tipo de respuestas produce, cuáles son sus fortalezas y de dónde proceden sus limitaciones.

Por eso, para un orientador educativo, comprender el funcionamiento de un gran modelo de lenguaje no responde al interés por una innovación tecnológica. Constituye una exigencia del propio ejercicio profesional. Solo desde ese conocimiento es posible decidir con fundamento cuándo puede aportar valor a nuestro trabajo...

...y, sobre todo, cuándo no.

IA

Inteligencia Artificial

¿Por qué ahora?

Incorporar esta tecnología a nuestro blog se puede justificar por la importancia que ha adquirido. Pero hay más motivos y ese no es el principal.

Nos ocupa porque es la tecnología que hoy plantea nuevas posibilidades y nuevos problemas profesionales.

La incorporación de esta tecnología a OrientAsLO puede entenderse como una evolución natural del recorrido iniciado por el blog. En esa evolución conviene destacar tanto los cambios como las persistencias: han cambiado las tecnologías sobre las que hemos centrado nuestra atención, pero permanece la misma pregunta de fondo: ¿cómo mejorar la práctica profesional sin renunciar al control de los procedimientos ni a la responsabilidad que les da sentido?

A lo largo de este recorrido hemos explorado las posibilidades de las hojas de cálculo para el tratamiento de datos, las automatizaciones ofimáticas y la programación en OOo Basic primero, en Python después, como herramientas para optimizar tareas repetitivas y desarrollar soluciones adaptadas a las necesidades reales de los orientadores educativos de las Unidades de Orientación y los Equipos de Sector.

Este mismo camino nos conduce a la Inteligencia Artificial porque es la tecnología que hoy plantea nuevas posibilidades y nuevos retos profesionales.

Sin embargo, igual que este blog no ha tenido como objeto Libre Office, tampoco pretende tenerlo ahora ChatGPT.

Nuestro propósito sigue siendo el mismo: ofrecer un espacio de reflexión y propuesta para la mejora de los procedimientos profesionales en un contexto donde nuevas infraestructuras cognitivas empiezan a integrarse en el trabajo cotidiano.

Entenderemos aquí la Inteligencia Artificial como una infraestructura cognitiva, es decir, un conjunto de tecnologías capaces de ampliar determinadas capacidades del orientador —analizar, organizar, sintetizar o generar información— sin sustituir su juicio profesional, su capacidad de decisión ni la responsabilidad administrativa derivada de ella.

Por eso, la pregunta que orienta la nueva etapa del proyecto no será ¿qué puede hacer por nosotros ChatGPT, Claude, Gemini o cualquier otra plataforma?. La pregunta que se incorpora al bagaje de preguntas anteriores se puede formular como sigue:

La cuestión que se incorpora al bagaje de preguntas anteriores puede formularse así: ¿cuándo merece la pena incorporar una infraestructura cognitiva a un procedimiento profesional y cuándo resulta más adecuado recurrir a soluciones más simples, más transparentes y más fáciles de controlar?

Estas cuestiones resultan especialmente relevante en la orientación educativa. Hoy, quizá más que nunca.

Trabajamos en la escuela pública con información de especial protección. Intervenimos en procesos que afectan al desarrollo, la inclusión y la escolarización de niños y niñas. Elaboramos informes y dictámenes que forman parte de procedimientos administrativos y que conllevan una responsabilidad profesional indelegable.

En este contexto, la incorporación de cualquier tecnología no puede justificarse únicamente por su novedad o por la eficiencia que promete.

Se justifica en la medida en que mejora objetivamente la calidad técnica del procedimiento, reduce riesgos, aumenta la eficiencia sin comprometer la seguridad de la información o incrementa la autonomía profesional frente a soluciones opacas o que generan dependencia tecnológica.

Cuando estas condiciones no se cumplen, la tecnología deja de mejorar el procedimiento para convertirse en una fuente de complejidad innecesaria.

Por otra parte, cualquier solución técnica debe ajustarse a la realidad en la que pretende implantarse. Y nuestro entorno presenta condicionantes administrativos, exigencias en materia de protección de datos y también importantes restricciones técnicas y organizativas: una red corporativa de prestaciones limitadas, recursos tecnológicos con frecuencia cercanos a la obsolescencia y, sobre todo, la sempiterna falta de tiempo.

Hablar de uso de la IA en orientación educativa también exige partir de esta realidad. Por ello, en este blog no se ofrecerán recetas universales ni listas de instrucciones para obtener mejores respuestas de un modelo conversacional.

El propósito será otro: desarrollar criterios para decidir cuándo una determinada tecnología merece incorporarse a un procedimiento profesional, cómo hacerlo con garantías técnicas y jurídicas y, sobre todo, cómo mantener siempre la supervisión humana sobre los resultados obtenidos.

Por ese motivo hablaremos de proporcionalidad tecnológica, fiscalización algorítmica, soberanía tecnológica, protección de datos, automatización, programación aplicada, software abierto e interoperabilidad.

Las herramientas cambian. Los procedimientos evolucionan. La responsabilidad profesional permanece.

Precisamente por eso tiene sentido incorporar la Inteligencia Artificial a la reflexión sobre la práctica profesional.

DATOS. Tratamiento de datos

Datos no estructurados (VIII)

Reconocimiento de entidades (NER) (VII)

Continuamos ahora la entrada anterior. En ella planteamos que los SLM son adecuados para extraer las NER en local, permitiendo que el tratamiento dependa exclusivamente del blindaje de nuestro propio equipo y no de servicios en la nube. No obstante observamos que esos modelos pequeños de lenguaje presentan determinadas limitaciones en la gestión de tareas de cierta complejidad. En esta entrada abordaremos cómo superar esos techos mediante la segmentación de procesos y el desarrollo de un modelo mixto.

Los resultados del empleo directo del SLM demostraron que las limitaciones de los obtenidos mediante el script no se debían a una incapacidad para extraer datos (capacidad del modelo para leer el texto), sino a la falta de recursos para abordar simultáneamente dos tareas: esa lectura y la estructuración del formato JSON.

Es cierto que existe un margen de mejora mediante el ajuste del prompt haciendo uso de estrategias de prompt engineering, y es conveniente investigar este enfoque; pero cuando la causa radica en las restricciones estructurales, la mejora del prompt no es la solución: los datos de uso indican claramente que el cuello de botella no está en la claridad de las instrucciones, sino en las limitaciones de la memoria de trabajo del modelo.

Además pudimos comprobar en la práctica que modificaciones de la redacción de prompt, lejos de mejorar los resultados, solo trasladaban la causa del fallo de un punto a otro sin resolver el problema de fondo. Esto provocaba un comportamiento pendular de ineficiencia del que era imposible salir. Sólo el cambio de perspectiva consiguió una mejora significativa: la segmentación de procesos.

Este es el script unificado de ambas fases, resultante de la fusión en uno de lo que originalmente fueron dos script diferenciados aunque relacionados.

import json
import re
from typing import Literal
from ollama import chat
from pydantic import BaseModel, create_model

# ==========================================
# 0. CONFIGURACIÓN Y DATOS DE ENTRADA
# ==========================================

MODELO = 'llama3.2:3b'

texto_analizar = (
    "El alumno Alejandro Martínez Soler, escolarizado en 4º de Primaria del CEIP San Juan Bautista "
    "de Oviedo, presenta dificultades de adaptación significativas. La tutora, Doña Carmen Villalobos, "
    "informa de que tras la reunión mantenida el pasado martes 12 de mayo con la madre del menor, "
    "la Sra. Elena Soler, no se ha observado mejoría en el aula. El Equipo de Orientación Educativa "
    "(EOEP) ha sido notificado por el Director del centro, Don Roberto Pando, clasificando el expediente "
    "como intervención prioritaria. Se ha solicitado formalmente la colaboración del Servicio de Salud "
    "del Principado de Asturias (SESPA) para coordinar la valoración psiquiátrica del menor antes "
    "del viernes 19 de junio. Nota: Toda la documentación clínica de Alejandro ha sido archivada en "
    "el aplicativo institucional SAECE según el protocolo de la Consejería de Educación."
)

# ==========================================
# 1. FASE 1: EXTRACCIÓN DE BLOQUES SEMÁNTICOS
# ==========================================

PROMPT_SISTEMA_FASE1 = """
[OBJETIVO]
Localiza y extrae las frases, nombres, fechas e instituciones que representan entidades clave en el texto.
Devuelve el resultado como una lista de texto plano, un elemento por línea, precedido por '- '.

[REGLAS]
1. Extrae los bloques semánticos completos (ej: si hay un nombre con tratamiento de cortesía o cargo, extráelo completo).
2. NO incluyas introducciones, notas ni explicaciones.
3. Conserva las mayúsculas y siglas idénticas al original.

[EJEMPLO]
INPUT: El orientador del CEIP Marcelo Gago de Avilés remitió el informe técnico a la Consejería el pasado lunes 5 de octubre.
OUTPUT:
- El orientador
- CEIP Marcelo Gago
- Avilés
- la Consejería
- lunes 5 de octubre
"""

print("Ejecutando Fase 1 (Extracción de Bloques Semánticos)...")

response_fase1 = chat(
    model=MODELO,
    messages=[
        {'role': 'system', 'content': PROMPT_SISTEMA_FASE1},
        {'role': 'user', 'content': f"INPUT: {texto_analizar}"}
    ],
    options={'temperature': 0.0, 'top_p': 0.1}
)

salida_bruta = response_fase1.message.content
lines = [line.strip().lstrip('- ').strip() for line in salida_bruta.strip().split('\n') if line]

# --- CAPA DE LIMPIEZA DETERMINISTA (PYTHON) ---
STOP_WORDS_BLOQUES = {
    'alumno', 'menor', 'tutora', 'reunión', 'madre', 'director', 
    'aplicativo institucional', 'intervención prioritaria', 'informe'
}

lista_entidades_fase1 = []
for cadena in lines:
    # 1. Eliminar artículos y fórmulas de cortesía al inicio mediante regex
    procesada = re.sub(r'^(el|la|los|las|del|de|don|doña|sr|sra|sra\.)\s+', '', cadena, flags=re.IGNORECASE)
    
    # 2. Filtrar si coincide con una stop word o si quedó vacía
    if procesada.lower() not in STOP_WORDS_BLOQUES and len(procesada) > 2:
        lista_entidades_fase1.append(procesada)

print(f"-> Fase 1 Finalizada. Se detectaron {len(lista_entidades_fase1)} entidades potenciales.")


# ==========================================
# 2. FASE 2: CLASIFICACIÓN SEMÁNTICA (NER)
# ==========================================

# Definimos la taxonomía estricta mediante Literal
CategoriasNER = Literal[
    'ALUMNO', 'ROL_PROFESIONAL', 'CENTRO_EDUCATIVO', 
    'UBICACION', 'FAMILIAR', 'FECHA', 'ORGANISMO', 'APLICATIVO'
]

# Creamos el esquema Pydantic dinámico usando la salida real de la Fase 1
EsquemaClasificacion = create_model(
    'EsquemaClasificacion',
    __base__=BaseModel,
    **{entidad: (CategoriasNER, ...) for entidad in lista_entidades_fase1}
)

PROMPT_SISTEMA_FASE2 = """
[TASK]
Clasifica cada uno de los términos de la lista proporcionada asignándole exclusivamente una de las categorías permitidas.

[CATEGORÍAS PERMITIDAS]
- ALUMNO: Nombres de estudiantes.
- ROL_PROFESIONAL: Cargos, puestos, figuras docentes o equipos de orientación (individuales o colectivos).
- CENTRO_EDUCATIVO: Nombres de escuelas o colegios.
- UBICACION: Localidades, ciudades o provincias.
- FAMILIAR: Relaciones familiares o nombres de familiares del alumno.
- FECHA: Expresiones temporales.
- ORGANISMO: Servicios públicos, organismos de salud o consejerías.
- APLICATIVO: Software o plataformas informáticas.

[CRITICAL RULES]
1. Responde única y exclusivamente con el JSON estructurado según el esquema.
2. No agregues introducciones, notas ni texto fuera del JSON.

[EJEMPLO DE EJECUCIÓN]
INPUT LIST:
- CEIP Marcelo Gago
- Avilés
- lunes 5 de octubre
OUTPUT JSON:
{
    "CEIP Marcelo Gago": "CENTRO_EDUCATIVO",
    "Avilés": "UBICACION",
    "lunes 5 de octubre": "FECHA"
}

[FIN DEL EJEMPLO]
"""

# Convertimos la lista depurada en texto plano para el prompt
input_model_fase2 = "\n".join([f"- {item}" for item in lista_entidades_fase1])

print("\nEjecutando Fase 2 (Clasificación Semántica Estructurada)...")

response_fase2 = chat(
    model=MODELO,
    messages=[
        {'role': 'system', 'content': PROMPT_SISTEMA_FASE2},
        {'role': 'user', 'content': f"INPUT LIST:\n{input_model_fase2}"}
    ],
    format=EsquemaClasificacion.model_json_schema(),
    options={'temperature': 0.0}
)

# ==========================================
# 3. SALIDA FINAL CONSOLIDADA
# ==========================================

try:
    clasificacion_final = json.loads(response_fase2.message.content)
    print("\n--- Resultado Final Consolidado (NER Estructurado) ---")
    print(json.dumps(clasificacion_final, indent=4, ensure_ascii=False))
except Exception as e:
    print(f"\nError al estructurar el JSON final: {e}")
    print("Respuesta cruda del modelo:", response_fase2.message.content)

Este script presenta una arquitectura ajustada a los modelos de lenguaje pequeños y a sus limitaciones. En lugar de pedirle al modelo que extraiga y clasifique todo en un solo paso, el script implementa un patrón de diseño conocido como pipeline de dos fases con validación estricta y que obedece al siguiente esquema:

En la fase 1 se procede a la extracción de los datos mediante SLM y un prompt localizador de texto" que exige al modelo que extraiga bloques semánticos completos. Se definen hiperparámetros (temperature: 0.0 y top_p: 0.1) que fuerza al modelo a un comportamiento determinista y a ceñirse estrictamente al texto.

Además de la extracción de texto, en la fase 1 implementamos una capa híbrida de limpieza determinista mediante Python puro para que asuma funciones de limpieza de ruido en las que este modelo es mucho más eficiente que un modelo de lenguaje. Para esa limpieza empleamos estructuras RegEx (re.sub) y Stop Words (STOP_WORDS_BLOQUES

La fase 2 se inicia con la creación de un modelo dinámico basado en Pydantic. En este punto, el script genera en tiempo de ejecución una estructura de datos adaptada a las entidades encontradas en la fase anterior, definiendo un conjunto estricto de categorías permitidas.

Tras este proceso, de nuevo interviene el SLM para ejecutar el prompt de clasificación. Gracias a que el esquema de Pydantic se inyecta directamente en el motor de inferencia, el modelo queda restringido a devolver, única y exclusivamente, el JSON estructurado con el NER resultante, que es el siguiente:

{
"Alejandro Martínez Soler": "ALUMNO",
"CEIP San Juan Bautista": "CENTRO_EDUCATIVO",
"Oviedo": "UBICACION",
"Carmen Villalobos": "FAMILIAR",
"madre del menor": "FAMILIAR",
"Sra. Elena Soler": "FAMILIAR",
"pasado martes 12 de mayo": "FECHA",
"Roberto Pando": "ALUMNO",
"Equipo de Orientación Educativa (EOEP)": "ROL_PROFESIONAL",
"Director del centro": "ROL_PROFESIONAL",
"Servicio de Salud del Principado de Asturias (SESPA)": "ORGANISMO",
"viernes 19 de junio": "FECHA"
}

Como podemos observar en la salida del script, el formateo es impecable gracias al blindaje de Pydantic. Sin embargo, un modelo pequeño de lenguaje puede perder la relación de contexto y cometer errores importantes. Con todo, la mejora de resultados respecto al enfoque anterior es evidente, lo que demuestra que la segmentación del proceso y la combinación de Python + SLM presenta ventajas respecto a un modelo IA puro, ahorrando un 90% del trabajo de extracción.

Además, aun caben posibilidades de mejora de esta arquitectura modular... pero también plantear una tercera vía —la cual ya hemos esbozado en nuestro último script—: dividir el proceso de extracción de entidades combinando un modelo heurístico basado en SpaCy con otro basado en IA local, para que cada tecnología asuma las tareas en las que presenta mejor rendimiento. Esta podría ser la línea de desarrollo de propuestas para el futuro.