No sé encara què pensar de la IA. No hi ha cap dubte que és tremendament útil —tampoc no sabem fins on pot arribar— i, en general, no hi trobo cap problema moral. Però, per a algú que es preocupa pels sistemes, com jo, és preocupant que les persones ja no tinguem el control de les coses.
Però, més enllà dels meus pensaments sobre el futur de la IA, he de dir que durant molt de temps la vaig menystenir. És més, la detestava: la veia com una distracció de la recerca de debò, un mínim local que ens impediria arribar a la millor solució: era la segona millor solució.
Quan el machine learning era fer trampa
La meva opinió (antiga) sobre el machine learning estava molt influïda, alhora, pel meu camp de recerca —la interacció persona-ordinador, particularment el reconeixement de gestos— i pel marc del meu grup de recerca en tecnologia musical.
Quan una persona toca un instrument, la interfície de control ha d'estar perfectament definida. Només així el músic pot practicar i convertir-se en un expert. Fa servir la seva neuroplasticitat per començar a pensar en l'instrument com una part del seu cos. Només així pot arribar a ser un virtuós.
En la mateixa línia, el control de l'ordinador a través de gestos hauria de ser directe i clar, i hauria de permetre a l'usuari tenir-ne el control absolut.
Durant el meu pas per l'acadèmia com a doctorant, ja hi havia una tendència incipient a fer servir machine learning per reconèixer gestos en la interacció persona-ordinador. Per a mi, això trencava tots els fonaments de la bona interacció persona-ordinador: si era l'instrument el que s'adaptava al músic i no al revés, aquest no podria aprofitar mai unes regles clares. No hi hauria cap més perfeccionament que l'adaptació a la mitjana del conjunt de dades d'entrenament.
Em vaig quedar amb una frase que algú va dir una vegada i que, malauradament, no puc atribuir amb certesa: "El machine learning és sempre la segona millor opció". Si no eres capaç de descriure analíticament el teu gest i de posar-li uns límits clars, sempre tenies l'opció de desistir i abandonar-te al machine learning.
A més, alguns fracassos inicials em reafirmaven en la idea que el machine learning necessitava tantes dades i exemples previs que era molt fàcil fer-ho malament.
La primera esquerda
Un primer avís, però, va ser el dia que vaig saber del cas d'un doctorand que, després d'anys de desenvolupament en solitari i quan estava a punt de defensar la tesi, es va veure eclipsat per una startup que, amb machine learning i molts diners invertits en dades, l'havia superat en l'algoritme de reconstrucció de la posició de les mans a partir d'imatges. I ho havia fet per ordres de magnitud en tots els aspectes.
La reflexió que em provocava era: "La recerca ja no té lloc a la universitat: entitats amb més pressupost, menys interès per avançar en la recerca i més interès a aconseguir resultats ens trauran tota possibilitat d'avançar".
Dins del meu cap, aquesta anècdota ressona quan veig el reguitzell de solucions de la IA a problemes matemàtics oberts i la reacció, entre desesperada i desorientada, de la comunitat matemàtica.
La segona millor solució ha guanyat
I això és també el que ens està passant en el desenvolupament de programari: cada cop tenim menys control. Menys artesania. Potser arribar més lluny ja no ens satisfà si no tenim la certesa de fins a quin punt aquell codi és fruit del nostre esforç i reflecteix el nostre coneixement sobre el problema.
El cas és que hem de ser conscients que "la segona millor solució" ha guanyat i que ens hem de centrar a aprendre a domar-la.