Juicio profesional e IA
Por qué importa ahora más que nunca
En la entrada anterior vimos que un gran modelo de lenguaje no comprende aquello de lo que habla. Sus respuestas no proceden de una comprensión del significado, sino del cálculo probabilístico de patrones aprendidos a partir de grandes cantidades de texto.
Sin embargo, esa explicación plantea una nueva pregunta: si la IA no comprende en sentido humano, ¿qué cambia cuando el orientador decide incorporarla a su trabajo?
La respuesta obliga a examinar un concepto que ha acompañado siempre a las profesiones educativas, pero que adquiere un significado renovado con la llegada de la IA: el juicio profesional.
Una situación que no es exclusiva de la orientación educativa.
La orientación educativa no es la única profesión que debe dar respuesta a los retos que plantea el uso de la IA.
En medicina, por ejemplo, la inteligencia artificial ya ayuda a interpretar pruebas diagnósticas, identificar patrones difíciles de detectar o sugerir posibles diagnósticos. Su potencial como herramienta de apoyo está ampliamente reconocido. El verdadero desafío consiste en integrar estas herramientas en la práctica clínica sin confundir su capacidad de análisis con el ejercicio del juicio profesional.
Las herramientas pueden aportar análisis y sugerencias. Su valoración e integración forman parte de una práctica profesional basada en conocimiento especializado, la deliberación profesional y la responsabilidad por las decisiones adoptadas..
Lo mismo puede decirse de los orientadores.
Es el juicio profesional el que decide si la inteligencia artificial puede aportar valor en una situación concreta y, en caso afirmativo, cuándo conviene utilizarla, para qué tareas, con qué herramienta y con qué alcance. Solo a partir de esa decisión una IA puede convertirse en un recurso de apoyo para el proceso de orientación.
Un LLM puede resumir un expediente, proponer actividades para un plan de intervención, redactar un borrador de orientaciones o sugerir hipótesis de trabajo. Pero esas aportaciones adquieren sentido únicamente cuando se valoran e integran dentro del proceso profesional que conduce a una decisión fundamentada y responsable.
Cuando una buena respuesta parece suficiente.
Uno de los riesgos de la IA generativa deriva precisamente de su capacidad para ofrecer respuestas completas, coherentes y bien argumentadas. Esa calidad formal puede inducir a recurrir a ella incluso cuando no aporta un valor real o a sobrestimar el alcance de sus respuestas, como si el problema profesional hubiera quedado esencialmente resuelto.
Sin embargo, una respuesta bien construida no sustituye el proceso mediante el que un profesional interpreta la situación, contrasta alternativas y fundamenta una decisión.
Precisamente porque las respuestas de un LLM resultan convincentes, existe el riesgo de dejar de cuestionarlas, de reducir el análisis propio o de atribuirles un valor que excede el de una herramienta de apoyo.
Una herramienta que exige más, no menos, criterio profesional
Existe una idea bastante extendida según la cual herramientas cada vez más capaces reducirán la necesidad de conocimiento experto. Si la IA puede analizar información, redactar documentos o generar propuestas de intervención, podría parecer que el profesional necesita saber menos para desempeñar su trabajo.
Sin embargo, ocurre precisamente lo contrario. La incorporación de la IA no disminuye las exigencias del ejercicio profesional; las transforma y, en muchos aspectos, las incrementa.
Utilizar estas herramientas con criterio exige decidir cuándo tiene sentido recurrir a ellas y cuándo no, qué tipo de IA resulta más adecuada para cada finalidad, qué información puede compartirse, cómo formular una consulta útil y cómo interpretar críticamente las respuestas obtenidas.
Pero, sobre todo, exige disponer del conocimiento profesional necesario para reconocer qué aportan realmente esas respuestas y cuáles son sus límites. Sin ese conocimiento, resulta difícil distinguir una sugerencia valiosa de una propuesta simplemente verosímil.
La competencia profesional deja así de consistir únicamente en saber resolver problemas. Incluye también la capacidad para decidir de forma fundamentada cómo integrar —o no integrar— la inteligencia artificial en el propio proceso de trabajo.
Lejos de hacer menos necesario el juicio profesional, la IA convierte su ejercicio en una condición aún más importante para que la tecnología aporte un valor real.
Reconocer que el uso de la IA forma parte del juicio profesional no cierra el debate; apenas lo abre.
Si el uso de la IA forma parte del juicio profesional, la siguiente cuestión ya no es qué puede hacer la herramienta, sino cuándo resulta apropiado utilizarla. La respuesta depende de aspectos como la confidencialidad de la información, la protección de los datos personales, la trazabilidad de las decisiones y la responsabilidad profesional.
Comprender qué puede hacer una IA es solo el primer paso. Decidir cuándo debe formar parte del ejercicio profesional es una cuestión distinta.
