Com el ChatGPT enganya els estudiants.
Entre el públic en general, els estudiants han estat els primers usuaris més entusiastes de la IA generativa. Les enquestes realitzades fa un any van revelar que gairebé el 90% dels estudiants universitaris i més del 50% dels estudiants de secundària utilitzaven regularment chatbots per a les tasques escolars. Aquestes xifres són sens dubte més altes ara. La IA pot ser l'eina educativa adoptada més ràpidament des del llapis.
Com que els bots generadors de text com ChatGPT ofereixen una manera fàcil de fer trampes en exàmens i altres tasques, l'adopció de la tecnologia per part dels estudiants ha generat inquietud i, de vegades, desesperació entre els educadors. Els professors i els alumnes ara es troben jugant a un joc algorítmic del gat i la rata , sense guanyadors. Però fer trampes és un símptoma d'un problema més profund i insidiós. La veritable amenaça que representa la IA per a l'educació no és que fomenti les trampes. És que desincentiva l'aprenentatge.
Per entendre per què, és important reconèixer que la IA generativa és una tecnologia d'automatització. Podeu especular tot el que vulgueu sobre si els ordinadors finalment assoliran intel·ligència de nivell humà o fins i tot "superintel·ligència", però de moment la IA està fent alguna cosa que té un llarg precedent en els afers humans. Tant si es dedica a la investigació com al resum, escrivint paraules o creant gràfics, està substituint el treball humà pel treball de les màquines.
Gràcies als investigadors de factors humans i a la muntanya d'evidències que han recopilat sobre les conseqüències de l'automatització per als treballadors, sabem que una de les tres coses passa quan les persones utilitzen una màquina per automatitzar una tasca que d'altra manera haurien fet elles mateixes:
La seva habilitat en l'activitat creix.
La seva habilitat en l'activitat s'atrofia.
La seva habilitat en l'activitat mai es desenvolupa.
L'escenari que es desenvolupi depèn del nivell de domini que una persona aporti a la feina. Si un treballador ja domina l'activitat que s'està automatitzant, la màquina pot convertir-se en una ajuda per a un major desenvolupament d'habilitats. Assumeix una tasca rutinària però que requereix molt de temps, permetent a la persona afrontar i dominar reptes més difícils. A les mans d'un matemàtic experimentat, per exemple, un regle de càlcul o una calculadora es converteixen en un amplificador d'intel·ligència.
Si, tanmateix, el manteniment de l'habilitat en qüestió requereix una pràctica freqüent —com és el cas de la majoria d'habilitats manuals i de moltes habilitats que requereixen una combinació de destresa manual i mental—, l'automatització pot amenaçar el talent fins i tot d'un mestre practicant. Això ho veiem en l'aviació . Quan els pilots hàbils es tornen tan dependents dels sistemes de pilot automàtic que poques vegades practiquen el vol manual, pateixen el que els investigadors anomenen "esvaïment de les habilitats". Perden la consciència situacional i les seves reaccions s'alenteixen. S'oxiden.
L'automatització és més perniciosa en el tercer escenari: quan una màquina pren el comandament d'una feina abans que la persona que l'utilitza hagi adquirit cap experiència directa fent la feina. Sense experiència, sense pràctica, el talent neix mort. Aquesta va ser la història del fenomen de la "desqualificació" de la primera Revolució Industrial. Els artesans qualificats van ser substituïts per operadors de màquines no qualificats. La feina es va accelerar, però l'única habilitat que van desenvolupar els operadors de màquines va ser l'habilitat de fer funcionar la màquina, que en la majoria dels casos gairebé no era cap habilitat. Traieu la màquina i la feina s'atura.
Com que la IA generativa és una tecnologia d'ús general que es pot utilitzar per automatitzar tot tipus de tasques i treballs, és probable que vegem molts exemples de cadascun dels tres escenaris d'habilitats en els anys vinents. Però l'ús de la IA per part d'estudiants de secundària i universitat per completar tasques escrites, per facilitar o evitar la feina de llegir i escriure, és un cas especial. Situa el procés de descualificació al centre de l'educació. Automatitzar l'aprenentatge és subvertir l'aprenentatge.
A diferència de la fusteria o el càlcul, l'aprenentatge no és una habilitat que es pugui "dominar". És cert que com més recerca facis, millor investigaràs, i com més treballs escriguis, millor redactaràs, però el valor pedagògic d'una tasca escrita no rau en el producte tangible del treball (el treball que es lliura al final de la tasca). Rau en el treball en si: la lectura crítica dels materials font, la síntesi de proves i idees, la formulació d'una tesi i un argument, i l'expressió del pensament en un escrit coherent. El treball és un indicador que l'instructor utilitza per avaluar l'èxit del treball que l'estudiant ha fet (el treball d'aprenentatge). Un cop qualificat i retornat a l'estudiant, el treball es pot llençar.
La IA generativa permet als estudiants produir el producte sense fer la feina. En lloc de llegir i entendre textos font difícils, poden demanar a un chatbot que elabori resums simplificats. En lloc de sintetitzar diverses idees i perspectives mitjançant el pensament concertat, poden demanar al chatbot una síntesi genèrica. I en lloc d'expressar (i refinar) els seus pensaments mitjançant la composició de frases i paràgrafs, poden aconseguir que el bot elabori un primer esborrany o fins i tot un de final. El treball que lliura un estudiant ja no proporciona proves del treball d'aprenentatge que va comportar la seva creació. És un substitut del treball.
La tasca d'aprendre és difícil per disseny —si no s'hi posa cap repte, la ment no aprèn res— i intentar alleujar-la o evitar-la no és res de nou. Els estudiants amb poc temps sempre han buscat dreceres (CliffsNotes va crear un negoci al seu servei), i els estudiants sense escrúpols sempre han trobat maneres de fer trampa. Però la IA generativa és quelcom diferent, no només en escala sinó també en tipus. La velocitat, la facilitat d'ús, la flexibilitat i, el més important, l'àmplia adopció de la IA a tota la societat fan que sembli normal i fins i tot necessari automatitzar la lectura i l'escriptura i evitar la tasca d'aprenentatge. Lluitar amb les paraules i les idees que representen comença a semblar antiquat i fins i tot absurd, com lluitar per navegar per una ciutat amb un mapa de paper. Per què molestar-se, quan una màquina pot fer la feina pesada per tu?
El que la IA produeix massa sovint és la il·lusió d'aprendre. Els estudiants poden ser capaços d'escriure millors treballs amb un chatbot que si ho farien sols, però acaben aprenent menys. El problema no sembla limitar-se a les tasques d'escriptura. Un extens estudi de la Universitat de Pennsilvània del 2024 sobre els efectes de la IA en estudiants de matemàtiques de secundària va trobar, tal com escriuen els seus autors en un proper article de PNAS , que "l'accés a GPT-4 millora significativament el rendiment [mesurat per les notes]", però quan es retira l'accés a la tecnologia, "els estudiants en realitat tenen un rendiment pitjor que els que mai no hi van tenir accés". Armat amb IA generativa, un estudiant amb una nota B pot produir un treball A mentre es converteix en un estudiant amb una nota C.
Una conseqüència irònica de la pèrdua d'aprenentatge és que impedeix que els estudiants utilitzin la IA amb habilitat. Escriure una bona indicació requereix una comprensió del tema que s'explora (el que indica la indicació ha de conèixer el context de l'indicació) i és el desenvolupament d'aquesta comprensió el que impedeix la dependència de la IA. "El desplegament més útil de la IA generativa actual i del futur proper en la recerca i l'expressió requereix absolutament que ja en sàpigues molt", escriu el professor d'història de Swarthmore, Timothy Burke, però la manera com s'utilitza realment la tecnologia "està curtcircuitant brutalment els processos pels quals les persones adquireixen prou coneixement i competència expressiva per poder utilitzar correctament el potencial de la IA generativa". L'efecte de descualificació de l'eina s'estén a l'ús de l'eina en si.
Ens hem centrat en com els estudiants utilitzen la IA per fer trampa. El que ens hauria de preocupar més és com la IA enganya els estudiants.
Nicholas Carr, The Myth of Automated Learning, New Cartographies 27/05/2025
Comentaris