«Un estudi de la Universitat d'Oxford revela que la intel·ligència artificial actua com un "veí invisible" que ens canvia la ideologia»
https://www.ara.cat/media/manipula-ia-li-demanem-millori-text_1_5788377.html
Una investigació matemàtica demostra que eines com Grok distorsionen els debats sobre temes sensibles, com l'avortament
Bàsicament: proposa entendre un LLM com una persona de personalitat X, amb valors X, tendències X, que té un pes social equivalent al número de persones que hi parlen regularment. En el cas dels grans models, això vol dir un pes de centenars de milions globalment, i si pensem en Espanya o Catalunya, menys, però diria que a aquestes alçades, entre uns i altres, pesen algun valor de dues xifres, posa un 30%, respecte el total.
O sigui: cada LLM és un actor social de molt pes, amb la seva visió i biaixos (com els tenim cadascú individualment).
El que em fa gràcia és després la preocupació per la influència electoral d'això. Una democràcia real (entenent per democràcia quelcom molt més profund que els models actuals) requereixen, i molt importantment, un periodisme (aka circulació d'informació) molt conscient del paper que juga, de la necessitat que cobreix d'ajudar a entendre i desentranyar la tremenda complexitat de la societat i els seus processos, perquè després la gent prenem decisions en funció de la informació. OK, però la cosa és que el periodisme porta contaminat molt de temps. Podem començar per la tinença dels mitjans, molt concentrada globalment, amb uns interessos molt llunyans d'això que he dit del periodisme. Podem continuar pels propis governs, que fan tot el possible per influir en els mitjans (públics o privats). I també per les corporacions propietàries de les grans "xarxes socials", amb algoritmes que premien i castiguen també de forma interessada certes opinions.
Tot això per dir que sí, que els LLM influencien (i no poc), però és que ja fa molts anys (dècades) que aquest element clau de la democràcia està fortament degradat. Segurament des del principi ja ho estava i, digues-me malpensat, és per això que es va acceptar aquest sistema polític des de les instàncies del poder real (com deia noséqui, parafrasejant, "si votar pogués servir per canviar realment les coses, estaria prohibit")
I amb això aprofito per deixar caure aquesta hipòcrita preocupació per la influència de potències estrangeres en les eleccions locals. No per descartar-la (segurament passi), sinó per dir que si preocupa que la gent sigui influïda en les seves decisions per pocs actors amb molt poder, fa dècades que això està passant. I aquestes institucions aparentment preocupades, justament fan el mateix en altres països. Exagerat (i alhora el que passa), és com criticar i atacar "els seus genocides" i en canvi defensar i justificar "els nostres genocides".
#LLM #IA #Grok #ChatGPT #Llama #Mistral #Gemini #AI
