LLM y el conocimiento especializado
Los límites de la IA
Las dos entradas anteriores abordaban dos límites esenciales de los modelos de lenguaje de gran tamaño (LLM) desde la perspectiva del ejercicio profesional. En primer lugar, la necesidad de preservar la confidencialidad de la información introducida en estos sistemas. En segundo término, la imposibilidad de atribuirles una auténtica capacidad de fundamentación jurídica, técnica o científica. Ambos límites conducen a una misma conclusión: el juicio profesional se refuerza como el criterio que dirige la actuación en el ejercicio de la orientación educativa.
Existe, sin embargo, un tercer límite de los LLM que suele pasar más desapercibido y que resulta igualmente determinante: la relación entre el conocimiento con el que ha sido entrenado un modelo y el ámbito profesional en el que se utiliza.
No todos los problemas pueden resolverse con una herramienta de propósito general. En ocasiones, utilizar un modelo no adaptado al dominio específico de conocimiento constituye una decisión técnicamente inadecuada y, por ello mismo, potencialmente incompatible con el deber de diligencia exigible al profesional.
Un modelo generalista no es un especialista
Uno de los equívocos más frecuentes consiste en identificar la enorme capacidad lingüística de un LLM con un conocimiento especializado de cualquier materia. Sin embargo, ambos aspectos son conceptualmente distintos.
Los modelos de lenguaje transforman los textos en representaciones numéricas y ajustan sus parámetros para modelizar las relaciones estadísticas existentes entre esas representaciones.De ese proceso no emerge un conocimiento sobre el tema consultado, sino una secuencia de tokens obtenida mediante cálculo probabilístico. Cuando esa secuencia resulta coherente y se ajusta a nuestras expectativas lingüísticas y contextuales, tendemos a interpretarla como una respuesta fundada sobre la materia de que se trate. Pero esa apariencia no equivale en ningún momento al dominio experto de una disciplina.
Precisamente porque el entrenamiento del modelo persigue modelizar estadísticamente el lenguaje en toda su diversidad, y no adquirir conocimientos especializados, su capacidad es necesariamente generalista. No se trata de una limitación accidental, sino de una consecuencia directa de la forma en que ha sido entrenado.
De ahí que ese modelo de lenguaje pueda producir respuestas extraordinariamente convincentes sobre prácticamente cualquier ámbito del conocimiento. Esa amplitud temática es consecuencia de un entrenamiento generalista sobre cantidades ingentes de textos y no de una especialización en un determinado dominio profesional o institucional. Por ello, sus respuestas reproducen los patrones generales presentes en los datos de entrenamiento, pero no incorporan, por sí mismas, los criterios conceptuales, técnicos, organizativos o normativos propios de un contexto profesional o institucional específico.
La incorporación del contexto especializado.
Precisamente porque los modelos de lenguaje son herramientas de propósito general, su utilización en contextos profesionales específicos suele requerir mecanismos adicionales que incorporen el conocimiento propio del dominio o de la organización en la que van a emplearse.
Uno de ellos es el denominado ajuste fino (fine-tuning), mediante el cual un modelo previamente entrenado continúa su entrenamiento utilizando datos específicos de un determinado dominio para adaptar parcialmente su comportamiento.
Otra estrategia, cada vez más extendida, consiste en incorporar sistemas de recuperación de información (Retrieval-Augmented Generation o RAG), que permiten al modelo utilizar documentación específica durante la generación de la respuesta.
En ambos casos, el objetivo es el mismo: aproximar un modelo de propósito general a las necesidades concretas de un determinado ámbito profesional o institucional.
Adaptar el modelo no elimina la responsabilidad
La existencia de estas técnicas podría inducir a pensar que un modelo adaptado ofrece respuestas objetivamente correctas y que, por tanto, disminuye la responsabilidad del profesional que las utiliza.
Esa conclusión sería errónea. El ajuste fino y los sistemas RAG pueden mejorar la adecuación de las respuestas a un determinado contexto profesional o institucional, pero no modifican la naturaleza del modelo. Éste continúa generando respuestas mediante cálculo probabilístico y permanece ajeno a cualquier criterio propio de verdad, corrección o validez.
Por ello, la incorporación de contexto especializado no desplaza el juicio profesional ni elimina la necesidad de verificar la corrección técnica, jurídica o metodológica de las respuestas obtenidas.
La adaptación del modelo mejora las condiciones en las que se genera la respuesta, pero no modifica la distribución de responsabilidades: la decisión de aceptarla, descartarla o integrarla en la actuación profesional continúa correspondiendo exclusivamente al profesional.
En definitiva, la especialización de un modelo de lenguaje no consiste en transformar su naturaleza, sino en incorporar el contexto necesario para aproximar sus respuestas a las exigencias de un determinado ámbito profesional o institucional. Precisamente por ello, la adaptación del modelo mejora su utilidad, pero no elimina la necesidad del conocimiento ni del juicio profesional.
