Soc conscient que ni l'avatar que he escollit pel meu compte a
blogger:
Roy Batty, un androide
Nexus-6 que lidera un grup de replicants renegats al film
Blade Runner (1), ni les tres o quatre coses que he après durant la meva carrera en el món de la informàtica, no em presenten com algú que pot parlar amb una certa independència sobre el tema de la
intel·ligència artificial. Un tema sobre el qual ja vaig publicar dos articles a principis del passat mes de febrer (2).
Si avui et torno a donar la tabarra sobre aquest tema és perquè, el passat 29.03.2023, la premsa es feia reso d'una
lletra oberta on personalitats del món de la tecnologia advertien dels perills de la
cursa fora de control per desenvolupar
sistemes d'intel·ligència artificial cada cop més potents. Els signataris demanaven susprendre durant almenys 6 mesos l'entrenament de sistemes d'
intel·ligència artificial a fi de t
enir el temps necessari per estudiar adequadament els riscos que aquesta tecnologia pot plantejar (3).
T'he de confessar que, tant la
lletra oberta com l'article radiofònic que sobre aquesta va fer
Aimar Bretos al programa
Hora 25, com els perills per a la democràcia que va enumerar (4) em van deixar perplex.
Just per fer el punt d'alguns dels valors de la nostra civilització creats per la nostra
intel·ligència natural que hauríem de defendre de l'amenaça de la
intel·ligència artificial, m'agradaria fer una analogia amb les darreres paraules que
Roy Batty va pronunciar abans de sucumbir a la seva
obsolescència programada. Així doncs, sota els símptomes transitoris d'un
efecte Proteu (5) et passo algunes idees que m'han passat pel cap:
He vist coses que vosaltres no creuríeu. Societats gaudint d'un modest benestar que va ser destrossat per doctrines neoliberals liderades per vells carcamals que tenien davant seu altres dements senils amb els quals creuaven amenaces per destruir el planeta utilitzant els seus arsenals nuclears (6).
He vist un comerç de matèries primeres que ofegava als països propietaris dels recursos, els recursos financers que aquests generaven transitant per paradisos fiscals, i les indústries que els transformaven als països occidentals deslocalitzant a països amb baix cost de la mà d'obra.
He vist quaranta mil vaixells mercants assegurant el 80 % del comerç mundial globalitzat (7), amb quatre de les cinc companyies de transport marítim de mercaderies més importants del món amb seu a Europa, acumulant el 50% del mercat (8). Un transport marítim on el futur podria no trigar a estar constituït per grans flotes de vaixells drons, on els capitans treballaran en terra ferma i utilitzaran centres de control, similars als que ac5tualment ja estan en desenvolupament, per tripular milers de vaixells, abaixant el preu del transport marítim entre el 20 i el 50% dels costos d'operació (9).
He sentit dir a polítics neoliberals que les vostres vides estan regides per l'evolució dels mercats. I vaig llegir un article publicat l'any 2018 per La Vanguardia (10) que el 50% de les transaccions a les borses ja es generaven llavors per robots o programes amb estratègies preestablertes que provoquen turbulències inesperades als mercats de valors (11). Les ordres de compra i venda d'accions a escala planetària, transportades a velocitats vertiginoses per cables submarins, propietat de grans empreses privades (12) que avui estan acomiadant desenes de milers d'enginyers. He vist que totes les aplicacions que gestionen aquestes transaccions, així com el coneixement científic de la vostra civilització, estan emmagatzemats en una xarxa de datacenters propietat de companyies privades, consumidors de quantitats d'energia que escapen a la vostra imaginació (13).
He vist a robots reemplaçant mà d'obra a les fàbriques i he discutit infructuosament per telèfon amb robots dedicats a l'atenció del client. Fins i tot vaig acabar comprant un Roomba que no em vaig atrevir a desmuntar per identificar si estava equipat amb la tecnologia necessària per espiar a la meva pròpia casa (14). En realitat, no el vaig desmuntar perquè també tinc a casa una Smart TV que probablement sap de mi molt més del que mai podrà saber aquell robot, cosa que confirmen les mateixes agències que sovint es troben darrere aquestes accions d'espionatge (i aquí ho deixo!).
Com ja et pots imaginar, la llista de les coses que he vist és molt més llarga. Necessitaria dies per descriure-la i, de totes maneres, l'acabaries oblidant i s'acabaria perdent en el temps com les llàgrimes en la pluja. Així doncs, ha arribat l'hora de fer una petita pausa i anar a beure'm una cervesa.
Al jove devorador de llibres de ciència-ficció que vaig ser ja fa molts anys, li provoca una certa incredulitat el nivell de sorpresa que es desprèn de la
lletra oberta signada per personalitats del món de la tecnologia i científics de renom d'arreu del món. Vull dir que, el que descriuen, no és res d'altre que el que va pronosticar
Arthur C. Clark a una entrevista que li va fer la BBC el 1964.
Si la sorpresa d'
Aimar Bretos per veure una imatge del Papa amb un abric de
raper era sincera, no m'agradaria que passés un mal moment si l'invito a visitar les imatges i vídeos publicats per
United Unknown (16) utilitzant programes gratuïts i de codi obert per a la creació de
deepfakes com:
Stable Diffusion (17) o
DeepFaceLab (18).
Malgrat el respecte que tinc per
Aimar Bretos com a periodista, em permetré dubtar de la sinceritat de la seva sorpresa pel que fa a la qualitat de la manipulació de les imatges i dels vídeos. D'una banda, perquè imagino que deu haver vist algunes de les entrevistes delirants del
Gran Wyoming (19) i, en tot cas, estic segur que ha vist els vídeos que fa més de cinc anys
United Unknown realitzava pel
Late Motiv d'
Andreu Buenafuente. Et passo un exemple allunyat del
panem et circenses propis d'alguns dels vídeos d'aquesta emissió:
Pel que fa a les inquietuds d'
Aimar Bretos respecte a l'impacte de la utilització de la manipulació d'imatges, àudios i vídeos per la democràcia..., francament, ell sap millor que ningú que les clavegueres mediàtiques i el
lawfare no necessiten la
intel·ligència artificial per fer passar ni els seus
fakes en política nacional o internacional, ni per crear un personatge polític des de zero, ni per ensorrar la reputació d'un altre personatge polític o de la formació que lidera fins a fer-los desaparèixer d'escena.
Tornant a la
lletra oberta signada per personalitats del món de la tecnologia i científics de renom d'arreu del món, només espero que ningú hagi tingut la idea de proposar la recuperació de les tres lleis de la robòtica creades per
Isaac Asimov en 1942 (20), una de les seves declinacions posteriors (21) o encara un nou corpus legal. Més que res perquè els centres més avançats de recerca en AI es troben al mateix país que està treballant des de fa anys en el reemplaçament de soldats per robots amb la intenció de matar éssers humans (22). I jo ja tinc una edat que no em permet creure en certes coses.
Personalment, crec que si algú està veritablement preocupat per l'impacte que la
intel·ligència artificial pot tenir sobre la democràcia, potser el millor seria començar per dotar dels recursos i investigadors de molt alt nivell a centres de l'estil del
Pattern Recognition and Human Language Technology (PRHLT-UPV) (23). No tinc ni idea de quin és l'estat actual del projecte, però en 2019 un equip d'aquest centre va desenvolupar un prototip de sistema d'intel·ligència artificial que tenia com a objectiu detectar la desinformació i els missatges d'odi tant explícits com implícits als mitjans socials de comunicació.
- Veure Blade Runner - Los Angeles, novembre 2019, publicat en aquest blog el 04.11.2019
- Veure Què en penso de la intel·ligència artificial? (1/3) (2/3), publicats en aquest blog respectivament els 02.02.2023 el 07.02.2023
- Will Knight and Paresh Dave: In Sudden Alarm, Tech Doyens Call for a Pause on ChatGPT, Wired 29.03.2023 || trad. esp. by Mauricio Serfatty Godoy: Elon Musk, Steve Wozniak y más exigen una pausa al desarrollo de IA como ChatGPT
- Aimar Bretos: ¿Cómo afectará a nuestras democracias el desarrollo incontrolado de la Inteligencia Artificial?, SER Podcast, 29.03.2023
- Veure The Proteus Effect, publicat en aquest blog el 10.07.2022
- Veure So, our present is to come back to the 80s ?, publicat en aquest blog el 09.05.2022
- Veure Els secrets de la indústria del transport marítim, publicat en aquest blog el 15.02.2014
- Veure El transport marítim - estat de la qüestió, publicat en aquest blog el 14.06.2020
- Veure Vaixells drons: el futur del transport marítim? i Vaixells drons: el present, publicats en aquest blog respectivament els 17.04.2014 i el 20.04.2014
- Xavier Vives: Robots, bolsa y economía, La Vanguardia, 15.02.2018
- Un cas paradigmàtic va passar un altre dilluns negre, el 19 d'octubre del 1987, quan el Dow Jones va baixar més d'un 20% sense motiu aparent. En aquest cas es va adduir que estratègies programades d'assegurament de cartera (portfolio insurance) van ser les responsables de la caiguda. Aquestes estratègies intentaven minimitzar les pèrdues d'una cartera d'inversió limitant-les quan el mercat anava a la baixa. El problema és que aquesta estratègia no funciona quan la proporció d'inversors que la usen és elevada, ja que aleshores aquests corren a buscar la sortida quan la volatilitat augmenta, i produeixen una caiguda més gran en un procés de retroalimentació. El que funciona per a un inversor individual no funciona si tothom fa el mateix, igual que passa quan un conductor decideix agafar una drecera per evitar un embotellament i molts altres ho segueixen (10)
- Veure Submarine Cables (1/3) (2/3) i (3/3) publicats en aquest blog respectivament els 08.07.2021, 03.10.2021 i 31.10.2021
- Veure Big Data Centers and Electricity Network, publicat en aquest blog el 26.10.2021
- El misterio de las Roomba que publican vídeos íntimos en redes sociales, El Periódico, 22.12.2022
- Cómo impedir que su smart TV le espíe, Avast
- United Unknown: Home page, Twitter
- Stable Diffusion: Home page, Twitter (United Unknown)
- DeepFaceLab: GitHub || ¿Cómo se crea un deepfake para televisión? Herramientas y oportunidades con United Unknown, Panorama Audiovisual, 20.10.2022
- Así se hace el deepfake de 'El Intermedio' para 'resucitar' a los famosos que entrevista Wyoming, verTele, eldiario.es, 15.03.2023
- Wikipedia: Three Laws of Robotics [en] [fr] [es] [ca]
- Wikipedia: Laws of robotics [en] [fr] [es] [ca]
- Veure US Army: projecte per reemplaçar soldats per robots, publicat en aquest blog el 26.01.2014
- MISMIS-FAKEnHATE - Inteligencia artificial para detectar desinformación y mensajes de odio en los medios sociales de comunicación, Universitat Politècnica de València, 10.12.2019 || Usan la IA para detectar noticias falsas y mensajes de odio en redes sociales, La Vanguardia, 07.12.2019
No comments:
Post a Comment