Intel·ligència artificial… de carn i ossos
Fa un parell d’estius em vaig introduir en l’apassionant món d’entrenar centaures. En aquell projecte, domesticar el monstre volia dir servir de contrast a un algoritme. Hem explicat altres vegades que la intel·ligència artificial –i en concret l’aprenentatge automatitzat ('machine learning')– consisteix en alimentar l’algoritme amb milions d’exemples. Imaginem que volem identificar cadires en un conjunt d’imatges. Cadira és un concepte abstracte que es materialitza en mides, formes i colors diversos, però sabem que una cadira té quatre potes, una superfície horitzontal on seure i una altra de vertical per a l’esquena. Aquesta síntesi és el que aprèn l’algoritme: estructura una sèrie de patrons i pot arribar a reconèixer quan hi ha el conjunt “cadira” (potes i dues superfícies) en una imatge.
En el context d’aquell projecte, ens dedicàvem a l’activisme digital i volíem generar continguts que no només informessin de la problemàtica (excés de plàstics, violència de gènere o notícies falses), sinó que a més convidessin a formar part de la solució. Per tant, juntament amb la feina creativa de generar el contingut i la tasca periodística de crear una narrativa, ens dedicàvem a recopilar projectes socials, campanyes, organitzacions i accions participatives que havien nascut justament per solucionar els reptes que afrontàvem. L’objectiu de la 'bèstia' en si era aprendre a associar els vídeos amb les opcions possibles per sumar-se al canvi.
La feina de domadora en realitat consistia en supervisar els exemples de recomanació que l’algoritme proposava en un entorn de proves. Recordo el cas en concret d’un vídeo sobre mobilitat sostenible, i una de les recomanacions suggerides era una aplicació per localitzar les benzineres més properes i destacar la més econòmica. L’algoritme havia entès la part 'transport i mobilitat', però la vessant sostenible no hi entrava. No li podia explicar el raonament perquè només podia marcar correcte o incorrecte, així que em vaig limitar a clicar la caixa vermella.
Anècdotes com aquesta, servides per un centaure en estat salvatge, em van esvair el mite al voltant de la intel·ligència artificial. Només cal que ens aturem a pensar en el nom per veure que bona part de la màgia té més de màrqueting que de realitat. ¿Com es converteix una tasca mecànica, bàsica, avorrida, àrdua i interminable en una cosa fascinant? Doncs amb una dosi de retòrica èpica i una criatura mitològica. Sembla que Steve Jobs deia que la tecnologia ha de ser bella o si no millor que sigui invisible. I, afegeixo jo, quan no és bella ni invisible del tot, vesteix-la de seda.
Si això et sona a llegenda, potser t’interessa saber que tu també has entrenat centaures, encara que no els hagis vist ni sentit. Cada vegada que et demanen que justifiquis que no ets un robot identificant passos de zebra, cotxes o números en una fotografia, estàs contribuint a la causa desinteressadament.
Com explica Mary L. Gray al llibre 'Ghost work' [Treball fantasma], escrit a quatre mans amb Siddharth Suri, la darrera milla sempre la fa una persona. Existeix, podem dir, un exèrcit de domadors invisibles i invisibilitzats que es dediquen a supervisar si els algoritmes progressen adequadament. Les dades diuen que una proporció important de les persones que estan entrenant els softwares dels cotxes autònoms són d’origen veneçolà amb estudis universitaris i de classe mitjana, i que per supervivència s’apunten a plataformes que els encarreguen identificar arbres, persones o voreres. El mateix passa amb els moderadors de contingut: cada vegada que denunciem un contingut a Facebook, per exemple, va a la cua de revisió. És a dir, a una empresa subcontractada on la moderació consisteix en decidir quines publicacions compleixen les normes de la casa. Cada persona pot arribar a revisar més de 100 continguts al dia sense parar, amb el peatge psicològic que implica passar dia rere dia 10 h veient assassinats, suïcidis o abusos a menors.
Aquell mateix estiu també vaig descobrir un projecte educatiu per a “caçadors de malària” (MalariaSpot). En aquest projecte, a través d’un simpàtic videojoc estàs col·laborant, al costat de molts altres jugadors, en la detecció de paràsits en mostres de sang. Aquí també hi ha retòrica, però la col·laboració és voluntària i el rerefons és la conscienciació i la millora de la telemedicina.
Els algoritmes hi són i sens dubte cal entrenar-los, però hi ha moltes formes de fer-ho. El que sabem és que no volem circs si darrere de la màgia no hi trobem domadors sinó ostatges de la precarietat.