Jacob Coxon, de només 27 anys, ja deixat la seva feina preocupat per la falta de mesures de seguretat en la cursa per desenvolupar intel·ligències artificials cada vegada més potents.

És evident que la IA avança a una velocitat que, segons els mateixos experts que hi treballen, podria comportar riscos importants per a la humanitat. Un dels últims a parlar del tema ha estat Jacob Coxon, enginyer britànic d’Anthropic que ha decidit dimitir perquè considera que no s’està invertint prou en seguretat. 

En un fil publicat a X, ha assegurat que existeix un “risc real per als humans” i ha criticat que les grans companyies estiguin immerses en una cursa per desenvolupar sistemes cada vegada més avançats. 

“Ens podria matar a tots abans de finals de la dècada”, ha dit el jove. Segons explica, algunes de les persones que desenvolupen IA creuen que aquesta tecnologia podria arribar a matar els humans abans del 2030. Aquesta afirmació no vol dir que actualment es tingui aquesta capacitat ni que sigui inevitable que passi. De fet, un altre investigador, Evan Hubinger, ha calculat que aquesta probabilitat és de més d’un 10%.

Consideren que el problema principal no són els models d’IA actuals sinó el possible desenvolupament d’una superintel·ligència: sistemes molt més capaços que els humans i que podrien arribar a millorar-se a si mateixos. 

Què es pot fer?

Coxon defensa que les principals empreses i projectes d’intel·ligència artificial haurien de coordinar-se per reduir els riscos. Una mesura que proposa és especialment contundent: la prohibició temporal de millorar les capacitats dels models d’IA, que permetria als investigadors disposar de més temps per estudiar com funcionen i quins riscos poden comportar.