IA. El Chatbot que mató a la estrella del copieteo
Aunque suene jocoso, el tema tiene interés y mayor alcance del que parece: Rincón del Vago, repositorio de documentos académicos de intenciones tan loables como inconfesables realidades, corre riesgo de desaparecer por la desleal competencia que supone Chat GPT. ¡Oh tristeza, a pillo siempre hay quien gana!
Día 21 de febrero de 1988; se inicia la andadura de la web Rincón del vago, activo aun hoy en día, que tiene como objetivo ayudar a estudiantes y académicos (¡casi nada!) en su dura lucha en pos del saber, algo que como expresión de intenciones queda bien, pero que no puede ocultar la realidad, más prosaica y evidente, de su razón de ser real y que explica realmente su pervivencia: permitir al usuario el nada despreciable ahorro de trabajo intelectual (y mecanográfico) que significa facilitar el copia-pega, cuando no la pura y dura falsificación del esfuerzo académico.
Cierto que con intenciones aun más evidentes de suplir el esfuerzo por la pela se publicitan muchos y muchas en las redes, incluyendo directamente quienes se ofrecen para proporcionar a opositores esa nada despreciable parte del proceso selectivo que es la programación didáctica, pero todo queda "disimulado" de un modo aparentemente "profesional" como para que no parezca lo que es: mero intento de fraude. Y digo intento porque quien paga estos servicios asume necesariamente como propio, de su cabeza y manos, el resultado de su duro esfuerzo de cartera, aunque quien se encuentra al otro lado de la mesa en el proceso sabe, con más o menos esfuerzo, cuando un trabajo es propio o no. Y dejémoslo ahí, que después todo se sabe...
Pues bien, a esta ya abundante fauna, prehistórica y más moderna, porque siempre ha habido "amigos" de carne y hueso, y con dirección conocida, dispuestos a echar una mano (unos desinteresadamente, otros previo pago), últimamente se les ha unido (o eso se pretende) un monstruo grande y fuerte que parece dispuesto a devorar a todos sus competidores (¡pobrecitos ellos!). Así de grandón e imponente se presenta. De momento actúa opcionalmente de forma gratuita y resuelve con limitaciones evidentes su cometido, pero denle ustedes tiempo y verán... o eso dicen los que saben de futuribles tecnológicos, aunque hay que decir que eso de derivar milagros al futuro es un viejo truco publicitario que no debería resultar creíble si no fuera por la falta de memoria histórica que nos caracteriza como colectividad.
Lo posiblemente sea más probable es que llegaremos a ver como de gratuito pasa a ser de pago y posiblemente también que esa versión sea más eficiente que la equivalente actual conforme se haya alimentado de toda la información que encuentre a su alcance, incluida la que le proporcionen los usuarios de las versiones gratuitas, y con nulo respeto a los trasnochados y limitantes derechos de autoría, que algunos paladines de la desregulación de mercados y sociedades ya empiezan a atacar como si de trasnochados fielatos y portazgos medievales se tratara.
Cierto es que decir "monstruo" es un error con efectos negativos, así que mejor corregir por el plural, ya que son varios los nombres y las empresas ya en liza en estas arenas del mercada, cada una con su IA campeona, sus algoritmos y sus propias estrategias de mercado. Aquí hay aun mucha tela que cortar, pero el actualmente emblemático especimen, el Tiranosaurio Rex de la manada, se llama Chat GPT.
Se supone (o eso dicen los entendidos) que el uso de Chat GPT para facilitar el fraude estudiantil suficientemente generalizado como para que preocupe e los docentes (especialmente los universitarios, pero no sólo) es uno de los efectos negativos de una tecnología que promete maravillas (eso sí, para el futuro la mayoría de ellas, y con las versiones de pago), pero deberíamos ser un poco menos crédulos y ceñirnos a la realidad inmediata de la actualidad: curiosa tecnología salvadora es esta que destaca desde un principio como una amenaza al facilitar medios al fraude académico y a la objetividad en la evaluación y, en términos más amplios y profundos, a los futuros puestos de trabajo de esos mismos estudiantes que ahora la usan para engañar. Resulta venganza de karma que el tramposo sea expulsado del mercado de trabajo por la misma herramienta (o una hermana) a la que ayudó a crecer cuando la usó fraudulentamente.
La integridad académica, forma moderna de defensa, más ética que otra cosa, de eso que también podemos llamar "hacerse trampas al solitario", no es sólo una cuestión ética (aunque este enfoque también es necesario); es una cuestión de validación de conocimientos y de credibilidad de la acreditación. Comprometer ambos es un problema de implicaciones mucho más serias de lo que parece cuando hablamos de "copieteo" en tono casi como de broma, pero dejemos para sociólogos y expertos en análisis económico el estudio en profundidad de esas implicaciones para la sociedad y para la misma legitimidad y razón de ser del sistema educativo. Son éstas cuestiones mayores y no me siento con capacidad ni fuerzas de abordarlas.
Me limitaré a llamar la atención sobre una cuestión que no creo sea tan secundaria como podría parece: hay algún que otro muerto más (o herido grave) por el camino; por ejemplo los métodos pedagógicos, especialmente los que pretenden salir del camino trillado, y también la propia carga de trabajo del profesorado.
Sobre la segunda, por si fuéramos pocos, ahora tenemos que validar la originalidad de cada trabajo que presenta el alumnado. Algo de esto había que hacer ya antes, pero es que ahora la cosa se pone mucho más complicada; tanto que hasta se plantean como necesarios programas para detectar fraudes. Veremos más abajo que implica este planteamiento y como cuanto de útiles son realmente estos programas, pero el mero hecho de que se realicen planteamientos de este tipo es suficientemente significativo.
Y sobre lo primero, que es además lo fundamental por comprometer principios básicos que deben ser de autonomía profesional docente, sustituir los exámenes tradicionales (orales y escritos) por la elaboración de un trabajo personal de búsqueda de fuentes, análisis de documentación, elaboración del texto y ajuste a parámetros de presentación previamente establecidos fue algo que, en su momento, se consideró en su momento una forma de superar los métodos tradicionales y anquilosados de aprendizaje y evaluación, algo que proponían a sus alumnos unos cuantos innovadores y arriesgados profesores que se atrevían a romper con arraigadas tradiciones docentes.
Pero resulta que ahora (antes también, pero era más fácil de detectar y sancionar o corregir) no se puede tener seguridad de que el trabajo supuestamente culmen de un proceso formativo (TFG o TFM, como ejemplos) puede ser el resultado del acceso a, y el manejo competente (algo es algo) de un caro y sofisticado chat bot, algo que no es evidentemente diferente de otras formas menos modernas pero posiblemente más eficientes de tratar de engañar al profesorado.
Claro que hay formas de contrarrestar esta fea costumbre del alumnado (mejor decir de algunos alumnos, que tampoco hay que generalizar injustamente), pero el problema es que la facilidad de acceso a programas de este tipo, la valoración positiva que tiene (por "moderna") el saber manejarse en estas nuevas tecnologías y algún que otro mensaje "disruptivo" o cuanto menos ambiguo, hace que cunda la voz de que "tonto el último", así que, en paralelo y/o a consecuencia de todo ello, el profesorado corre el riesgo de verse desbordado en sus capacidades de análisis y discernimiento entre lo original y la "copia" (en realidad es algo diferente a una mera copia, pero lo es en el fondo, en función de las propias estrategias de entrenamiento de los algoritmos)
Lo peor de todo: la víctima final termina siendo justamente el interés por mejorar las metodologías de enseñanza y de evaluación.
Dicen los entendidos a propósito de la propaganda engañosa y sus diferentes formas, que el objetivo de sembrar la mentira no es tanto que se la crea nadie como que la población termine simplemente por no creerse nada. No es este un tema que toque directamente el que nos ocupa, pero algo así como de refilón sí que nos toca: me refiero a que si consigues poner en jaque metodologías de trabajo y de evaluación tan potentes y ya generalizadas como la producción de un trabajo de investigación como culmen de un proceso formativo y de capacitación, o aunque sólo sea comprometer seriamente la percepción positiva de eficacia y funcionalidad hacia ella, perfectamente puedes poner en entredicho cualquier otra opción metodológica, situación ésta que permite ir colando discursos negativos respecto a las capacidades de los humanos como docentes frente a las eficientes máquinas que consiguen con facilidad con sus potentes y complejos algoritmos y extraordinarias capacidades de cómputo lo que el inútil y falible humano no puede. Es esta, sin duda, una buena línea de progreso hacia la sustitución de humanos por máquinas también en el sistema educativo... o en lo que quede de él.
Pero no corramos tanto en teorías conspiratorias, que muchas cosas tienen que cambiar para que eso suceda... claro que a lo peor es que estamos únicamente en los inicios del proceso...
Bueno, lo que sí me parece más cercano a la realidad de ahora, no a elucubraciones conspirativas (¿o no tanto?) es que aprovechando los riesgos que derivan de esos usos maliciosos (sería interesante conocer la opinión del alumnado al respecto, y del profesorado también) de los chat bot se cuelan de nuevo soluciones primas hermanas de los propios chat bot: al menos así la ganancia para las empresas que producen y comercializan estos recursos es doble, igualito que con el tema de los virus informáticos: creo el virus y después te vendo el antivirus, y negocio redondo. Algo así pasa con los programas diseñados para detectar usos académicos fraudulentos de la IA generativa, pero parece que tienen sus "fallitos" (también la IA generativa, pero eso interesa menos airearlo), como generar falsos positivos (detectar como producto de chat bot lo que es simple mala calidad humana) y claro, con un riesgo suficientemente elevado de cometer injusticias en el dictamen final, así que parece que no son suficientemente fiables como para confiar plenamente en ellos.
Hay otras soluciones, menos tecnológicas pero paréceme a mi que más efectivas. La primera de ellas ha sido prohibir como institución el uso de chat bot y sancionar radicalmente su uso como ilegal. Esta medida ha sido inmediatamente considerada negativa e inútil por algunos, especialmente por los defensores del uso masivo de las nuevas tecnologías en la educación.
En realidad como medida es débil, ya que existen pocas posibilidades (sin aplicar otras medidas) de que esta prohibición sea efectiva en la práctica, pero lo eso de que es negativa tiene más enjundia y miga ideológica de la que parece, precisamente por el argumental pseudoprogre y liberal en que se envuelve.
En realidad estas medidas no molestan no ineficaces; molestan porque contradicen el discurso que sirve de ariete a la implantación masiva de la tecnología: niegan la idea que interesa vender y que como buena estrategia de márketin comercial se basa en amenazas y premios y se "argumenta" mediante eslóganes: oponerse no es opción, es inevitable, quien esta contra el uso de chat bot está contra el progreso, se trata de reacciones reaccionarias que cesarán en cuanto se pierdan infundados miedos...
Y no digo yo que de eso no haya en la plaza docente, pero también que no hay tanto de funcionalidad y eficiencia real en las tecnologías actuales y reales, no en los humos de diferentes colores que se venden como promesas de futuros inciertos. También digo que los riesgos son más que evidentes y reconocidos por los propios creadores (que de paso sacan músculo haciendo amenazas veladas con el potencial negativo de sus tecnologías), expertos neutrales (si es que esto es posible, pero de no serlo, lo más parecido) y instituciones internacionales poco sospechosas de participa en teorías conspiratorias.
De nuevo me estoy yendo por caminos demasiado complejos y de largo recorrido, así que mejor vuelvo a terrenos más cotidianos y de más fácil transito, porque resulta que sí existen medios relativamente sencillos de evitar que la trampa moderna cuele: nada más sencillo y analógico que volver a formas tradicionales de evaluar/examinar y a formas también sencillas de controlar que el sujeto posea realmente el conocimiento del que hace gala en "su trabajo": preguntarle directamente y pedirle aquí y ahora, en vivo y directo, explicaciones, argumentos y ejemplos. Vamos, volver a formas "tradicionales" de comprobación de conocimiento y competencia como son la defensa oral del trabajo elaborado.
Vaya, va a resultar que las formas tradicionales de evaluación tienen muchas más virtudes y resistencias de las que se pensaba y mayor inmunidad al fraude que propaga como epidemia estos nuevos "virus informáticos". Va a suceder los mismo que pasa con los riesgos de la IA para el empleo: resulta (dice FMI) que donde los riesgos son menores es en países atrasados, por carecer de la infraestructuras tecnológica necesaria para implementar esas herramientas.
Por similitud en negativo con lo anterior: también en educación al rescatar esas formas tradicionales de evaluación no sólo rescatamos sus bondades y capacidades de resistencias al fraude; también nos cargamos de paso propuestas metodológicas (de intervención y de evaluación) que hemos considerado nos permitían avanzar en la mejora de la educación, como el trabajo por centros de interés en sus diferentes formas, el trabajo colaborativo en las suyas y otras formas de aprendizaje "activo".
Además, y profundizando más aun en la herida a la metodología, algunas de las formas de enseñanza supuestamente alternativas y tecnológicamente moderna que nos ofrece la inestimable promesa de ayuda de la IA, no dejan de ser resurrección de antiguos fantasmas que creíamos desterrados de las aulas hace ya tiempo, como la enseñanza programa, aunque ahora con nombres actualizados a la modernidad, destacando la atomización individualista del asistente virtual tipo Alexa, frente a la socialización que implica el aprendizaje escolar institucionalizado en y por el sistema educativo.
Resulta "curioso" que la tecnología que se carga una de las expresiones del avance hacia formas de aprendizaje humano profundo, se base en tecnologías de aprendizaje-máquina pomposamente llamado profundo, aunque sea en esencia una forma de aprendizaje por refuerzo, y que de rebote resucite como recetas para el aprendizaje humano formas fracasadas tiempo ha de aprendizaje/entrenamiento por refuerzo.
Esta simplificación de la complejidad real del proceso de enseñanza-aprendizaje no es realmente lo importante, ya que es evidente que queda muy lejos de satisfacer los objetivos que se proponen los sistemas educativo actuales, pero es suficiente para lo que realmente importa: facilitar, a modo de caballo de Troya, el cambio hacia formas de concretar las prácticas educativas que sí sean asumibles de forma masiva por las máquinas. El papel de los humanos (de las actuales docentes, aunque en esa nueva conformación del sistema tal vez habría que llamar simplemente cuidadoras, revelando así la razón machista de ser de la feminización de la profesión) en esa nueva configuración del sistema será secundario y complementario, tal vez más de ayuda, en línea con los planteamientos de la economía del cuidado y el ensalzamiento de la salud emocional en una escuela-reino-de-la-felicidad (donde los niños van a divertirse, que no conlleva esfuerzo, que no a aprender, que sí) que tanto gusta hoy en día (especialmente a los inclusivistas) como alternativa "pedagógica" moderna (e inclusiva por ende y para que resulte más "humanista") al enfoque hacia el aprendizaje y la formación de la escuela "tradicional".
¿Será cosa de replantearnos las cuestiones metodológicas y la naturaleza y sentido de la evaluación educativa?. No son éstas cuestiones menores, desde luego, y el reto está ahí. Cómo lo abordemos como docentes será fundamental para el futuro del sistema educativo (y por ende de la sociedad)... y también para el futuro profesional y de las condiciones de trabajo de nuestra profesión, algo que también nos debe importar.
