Wednesday, April 9, 2025

límits de la tecnologia o tecnologia sense límits?

Blade Runner - Test Voight-Kampff


Ahir, a la sala d'observació de l'hospital on m'acabaven d'intervenir, mentre navegava sense rumb amb el meu mòbil, vaig descobrir una notícia que em va despertar de cop, abans de tornar a ensopir-me.
Honestament, tenia cables per tot arreu, estava mig K.O. i vaig llegir la notícia a una pàgina de geeks (1) que m'agrada visitar per descobrir cada dia fins on han arribat els límits de l'absurd. 
Quan m'he llevat aquest matí, he recordat aquella notícia. He obert el meu ordinador per confirmar que no es tractava d'un fake: l'he trobat publicada amb tot luxe de detalls a les pàgines de CNBC (2).

Just per entrar a fons en el tema, li he demanat a CoPilot que em resumeixi l'article de CNBC en català i menys de 100 paraules. Amb algunes correccions personals, aquest és el resultat:
L'article explica l'existència de falsos candidats a ofertes de treball publicades a la xarxa. Aquests candidats utilitzen eines d'IA generativa per crear falses identitats amb historials laborals (CV), falses fotos d'identitat, documentació falsa, etc.  També per generar les respostes adequades durant les entrevistes online.

Si alguns experts han alertat recentment d'un augment massiu d'aquests casos, segons Gartner, el 2028, 1 de cada 4 candidats responent a les ofertes de treball publicades a la xarxa, podria ser un fals candidat. Aquest fenomen suposa enormes riscos per a les empreses. En particular les empreses dedicades a la ciberseguretat i a les criptomonedes són especialment vulnerables.
Just per aprofundir una mica més el tema, li he ofert un cafè virtual a CoPilot i hem seguit uns minuts més amb la xerrada:
La tecnologia darrere de les identitats generades per IA combina diverses eines avançades. Principalment, utilitza models generatius d'aprenentatge profund, com ara GANs (Generative Adversarial Networks), que creen imatges realistes de cares humanes. Aquests models s'entrenen amb grans quantitats de dades reals per aprendre patrons i generar contingut nou que sembli autèntic.

Per a textos, s'utilitzen models de llenguatge com GPT, que poden escriure biografies, experiències laborals o respostes a preguntes. També es poden utilitzar deepfakes per modificar vídeos o àudios, fent que una persona sembli o soni com algú altre. Aquesta combinació permet crear identitats falses molt convincents.

  1. Wikipedia: geek [en] [fr] [es] [ca]
  2. Hugh Son : Fake job seekers are flooding U.S. companies that are hiring for remote positions, tech CEOs say, CNBC, 08.04.2025