IA

IA en Orientación

Anatomía de una infraestructura computacional

Hace apenas unos años la inteligencia artificial era para muchos orientadores un tema de interés más o menos lejano. Hoy forma parte del trabajo cotidiano de muchos profesionales. Para unos, la mayoría, es una herramienta útil o muy útil; para otros, posiblemente pocos, presenta riesgos y peligros que poco menos que la invalidan. En cualquier caso, está ahí, disponible, prometedora. Se puede considerar inevitable que su uso, correcto e incorrecto, se extienda en la práctica profesional.

A medida que estas herramientas se incorporan a la práctica cotidiana deja de ser suficiente saber utilizarlas. También es necesario comprender qué hacen realmente, por qué producen resultados tan convincentes y cuáles son los límites de esa aparente competencia. Esa necesidad explica el creciente interés que la IA está despertando en publicaciones, cursos de formación y espacios de debate profesional. Ante esta realidad, buena parte de la información y el debate se ha centrado en aprender a utilizar estas herramientas como consumidores: cómo escribir mejores prompts, qué aplicación elegir, qué tareas pueden automatizarse...

No son irrelevantes estos temas, pero hay un par de cuestiones previas, más importantes pero menos tratadas: ¿cómo funcionan estas herramientas y en qué medida este funcionamiento responde a las necesidades y condicionantes de nuestro trabajo?

No son éstas curiosidades tecnológicas, ya que condicionan la confianza que podemos depositar en las respuestas que generan, las tareas en las que las podemos emplear, el modo en que las podemos emplear y, sobre todo, lo que es posiblemente más importante: en qué NO las debemos emplear por ser de responsabilidad exclusiva del profesional.

La idea que está en la base de todo esto es muy sencilla: no es posible utilizar correcta ni éticamente una herramienta IA si antes no comprendemos cómo produce sus respuestas y en qué condiciones lo hace.

Inteligencia Artificial es un concepto que ya no significa lo mismo hoy que ayer.

Cuando se habla de inteligencia artificial da la impresión de que nos referimos a una tecnología perfectamente definida. Pero el significado de esa expresión ha cambiado profundamente desde que comenzó a utilizarse hace ya casi setenta años.

Durante las primeras décadas predominó un enfoque basado en reglas. Si un experto era capaz de explicar cómo resolvía un determinado problema, esas reglas podían traducirse a un programa informático. La “inteligencia” consistía en reproducir mediante algoritmos el razonamiento previamente descrito.

Aquellos sistemas obtuvieron resultados muy valiosos en ámbitos concretos, pero pronto apareció una dificultad. Muchas de esas capacidades —comprender una conversación, reconocer una imagen, interpretar un contexto o desenvolverse en situaciones nuevas— no se pueden describir exhaustivamente mediante listas de reglas.

La investigación tomó entonces otro camino.

En lugar de intentar programar directamente el conocimiento, comenzó a desarrollarse una inteligencia artificial capaz de aprender regularidades a partir de los datos que se aportan al algoritmo, cantidades cada vez más grandes de datos. Este cambio de paradigma explica buena parte de la IA actual.

La cuestión dejó de ser qué reglas debemos programar, para convertirse en qué datos necesita el modelo para aprender y qué estructura debe tener este modelo para ser más eficiente en el proceso de aprendizaje.

Comprender esta evolución histórica no responde únicamente a un interés académico. Permite entender que las herramientas que hoy utilizamos no funcionan como los antiguos programas informáticos, aunque sigan ejecutándose en un ordenador.

Pero también nos aporta otra perspectiva que no debemos olvidar: la IA actual no es la única tecnología disponible. Según cuáles sean nuestras necesidades es posible que otras sean soluciones válidas. Incluso más apropiadas.

La IA es mucho más que los asistentes conversacionales.

Aunque para muchas personas la inteligencia artificial tiene hoy nombres propios (ChatGPT es uno de ellos), conviene evitar la simplificación que esto implica.

Los asistentes conversacionales no representan toda la inteligencia artificial actual.

Hoy encontramos IA en sistemas capaces de reconocer imágenes médicas, traducir idiomas, recomendar contenidos, detectar fraudes, conducir vehículos, interpretar la voz o generar imágenes, música y vídeo.

Los llamados grandes modelos de lenguaje (LLM) constituyen únicamente una de esas aplicaciones.

Nos centraremos en ellos porque son, probablemente, la tecnología que más está modificando el trabajo intelectual de docentes y orientadores educativos.

Pero esto no deja de ser reflejo de algunas de las limitaciones de nuestro propio enfoque de intervención. Tendremos ocasión de tratar este tema.

¿Qué hace realmente un gran modelo de lenguaje?

Para muchos ChatGPT “lo sabe todo” (o casi) y, cuando recibe una pregunta, busca en esa base de conocimiento la respuesta adecuada.

No funciona así.

Tampoco consulta Internet cada vez que responde (aunque sí lo hace en función de las necesidades derivadas de la consulta), ni dispone de una inmensa base de datos organizada por materias.

Lo que hace es algo bastante diferente, incluso cuando consulta la Web.

Un gran modelo de lenguaje calcula cuál es la continuación más probable de una secuencia de palabras teniendo en cuenta el contexto de la conversación.

Puede parecer una explicación demasiado simple para justificar resultados tan sorprendentes. Sin embargo, precisamente ahí reside la clave.

Durante el entrenamiento el modelo ha analizado cantidades inmensas de documentos que previamente segmentan y convierten en valores numéricos. A partir de ese entrenamiento ha aprendido regularidades extraordinariamente complejas sobre cómo utilizamos las palabras para explicar ideas, formular argumentos, resolver problemas o responder preguntas.

Cuando escribimos una consulta, el modelo no recupera un recuerdo.

Calcula, utilizando esas regularidades, cuál es la respuesta lingüística más probable y más coherente con el contexto. Para hacerlo transforma las palabras en representaciones matemáticas que permiten describir las relaciones existentes entre ellas y utiliza una arquitectura —conocida como transformer— especialmente diseñada para analizar el contexto completo de una conversación.

El modelo trabaja sobre relaciones estadísticas entre elementos del lenguaje, no sobre significados tal como los entiende una persona. Éste es probablemente el primer cambio de perspectiva que necesita realizar un orientador cuando comienza a utilizar estas herramientas. Porque una respuesta muy bien escrita puede ser aparentemente excelente, pero realmente sólo es verosímil.

¿Cómo logra aparentar conocimiento?

Si el modelo únicamente calcula probabilidades, ¿cómo puede responder sobre legislación educativa, teorías psicológicas, orientación académica o evaluación psicopedagógica?

La respuesta resulta contraintuitiva.

No existe un mecanismo encargado de “almacenar conocimientos” y otro diferente dedicado a generar lenguaje. Es el mismo proceso el que produce ambas cosas.

El modelo ha “aprendido”, mediante procedimientos matemáticos complejos, millones de relaciones entre conceptos, expresiones y contextos presentes en los textos con los que fue entrenado.

Esto tiene diferentes implicaciones. Algunas relacionadas con la calidad de las fuentes y los sesgos de distinto tipo que pueden contener.

Pero ahora quedémonos con otra implicación, esta positiva: cuando esas regularidades representan adecuadamente el conocimiento disponible, las respuestas son útiles.

Cuando esas regularidades son insuficientes o ambiguas, el modelo puede construir respuestas perfectamente coherentes… que contienen errores.

Éste no es un fallo accidental ni una manifestación de la voluntad de engañar o manipular. Es una consecuencia directa de cómo funciona el modelo.

La IA no distingue entre una afirmación verdadera y otra falsa del mismo modo que lo hace una persona.

Distingue entre respuestas más o menos probables dentro del contexto lingüístico en el que está trabajando.

Para un orientador educativo esta diferencia tiene consecuencias muy concretas.

La calidad formal de una respuesta nunca puede sustituir al criterio profesional que exige valorar su adecuación al caso concreto, al conocimiento científico disponible y al marco normativo vigente.

En otras palabras, la IA puede ayudar a construir una respuesta, pero nosotros no podemos delegar en ella nuestra responsabilidad profesional.

Existen formas de reducir esos errores y de mejorar el ajuste del LLM al contexto concreto en que lo empleamos, pero estas son estas cuestiones que requieren un tratamiento específico.

La IA precisa una infraestructura computacional sin precedentes.

Con frecuencia hablamos de inteligencia artificial como si todo dependiera únicamente de un algoritmo brillante. En realidad, los grandes modelos de lenguaje son también el resultado de una infraestructura tecnológica gigantesca, económicamente muy costosa y socialmente controvertida.

Técnicamente (ahora nos quedamos en esto) su entrenamiento requiere enormes cantidades de datos, modelos con miles de millones de parámetros y grandes centros de cálculo dotados de decenas de miles de procesadores especializados que trabajan simultáneamente durante semanas o incluso meses. Sin esa capacidad de cálculo simplemente no existirían los modelos que hoy utilizamos.

La IA generativa no ha surgido únicamente porque alguien descubriera una nueva idea matemática, que también. Ha sido posible gracias a la convergencia entre investigación científica, ingeniería, disponibilidad masiva de datos y una potencia de cálculo sin precedentes.

Comprender esta dimensión material, con todas sus implicaciones, no sólo las técnicas, ayuda a desmitificar la inteligencia artificial y a comprender mejor su realidad: estamos ante una infraestructura computacional compleja.

Volviendo al principio: calcular no es comprender.

Llegados a este punto conviene volver a la pregunta inicial.

Si las respuestas resultan tan naturales, ¿por qué insistir en que la IA no comprende?

Porque las palabras importan.

Decimos con naturalidad que una IA “piensa”, “entiende”, “sabe” o “decide”.

Son expresiones cómodas para conversar, pero describen mal lo que realmente sucede. Además son expresiones que no exentas de riesgo para cómo la entendemos. Y el uso que hacemos de ella depende de esta conceptualización.

Un gran modelo de lenguaje no posee experiencias, conciencia, intenciones ni comprensión del mundo.

Calcula relaciones probabilísticas entre elementos del lenguaje mediante modelos matemáticos muy complejos y con un alto grado de eficacia, aunque no estén exentos de limitaciones.

Precisamente porque aparenta hacerlo tan bien resulta fácil atribuirle capacidades que no posee.

Esta precisión no constituye una discusión terminológica. Es un criterio profesional.

Si olvidamos cómo funciona realmente la herramienta corremos el riesgo de depositar en ella una confianza que no deberíamos depositar. Si, por el contrario, comprendemos sus posibilidades y sus límites, podremos integrarla de forma realista en nuestro trabajo, también con mucha mayor eficacia.

Nosotros sí necesitamos comprender para utilizarla.

En orientación educativa asumimos desde hace tiempo que una prueba psicométrica no sustituye la interpretación del profesional, que ningún protocolo reemplaza el análisis del caso y que la aplicación de una norma siempre exige considerar el contexto. Con la inteligencia artificial ocurre algo parecido.

Un gran modelo de lenguaje puede resultar muy útil para determinadas tareas, pero sigue siendo una herramienta de apoyo. Puede ampliar nuestras capacidades profesionales, pero nunca sustituir nuestro juicio profesional.

Como ocurre con cualquier herramienta profesional, su valor no depende únicamente de lo que puede hacer, sino del criterio con el que decidimos utilizarla.

Para un orientador educativo, comprender qué hace realmente una IA no responde al interés por una innovación tecnológica. Responde a una necesidad profesional. Sólo cuando comprendemos cómo funciona, y especialmente cómo genera sus respuestas, podemos decidir con criterio cómo utilizarla.

Y, sobre todo, cuándo no utilizarla.