Raziskovalci opozarjajo na novo, manj vidno grožnjo demokraciji: napredne umetno ustvarjene spletne osebnosti, ki lahko vplivajo na javno mnenje, ne da bi jih ljudje prepoznali kot umetne. Namesto klasičnih manipulacij, kot so protesti ali lažne kampanje, gre za bolj prikrito, a potencialno zelo učinkovito obliko vplivanja.
Kako delujejo AI osebnosti na spletu
Z napredkom jezikovnih modelov in ostalih sistemov je danes mogoče ustvariti velike mreže UI »oseb«, ki na družbenih omrežjih delujejo kot resnični ljudje. Te lahko sodelujejo v razpravah, prilagajajo svoj ton in jezik ter delujejo povsem prepričljivo. Ena oseba lahko upravlja na tisoče takšnih profilov, ki med seboj usklajeno širijo določena sporočila.
Umetno ustvarjeno soglasje
Ključna prednost teh sistemov je njihova sposobnost hitrega učenja. Izvajajo lahko množico manjših »eksperimentov«, s katerimi ugotavljajo, katera sporočila najbolj vplivajo na ljudi. Nato svojo komunikacijo sproti prilagajajo in ustvarjajo vtis širokega soglasja, čeprav je to ustvarjeno umetno.
Opozorilni znaki že obstajajo
Čeprav so takšni AI roji za zdaj še v razvoju, smo že lahko priča njihovim posledicam. Mednje sodijo »deepfake« videi in lažne novice, ki so v več državah vplivale na politične razprave. Prav tako lahko zaznamo organizirane mreže, ki širijo velike količine vsebin z namenom vplivanja na prihodnje UI sisteme in informacije, ki jih ti uporabljajo.
Vpliv na zaupanje in demokracijo
Strokovnjaki menijo, da bi lahko takšni sistemi v prihodnje pomembno vplivali na demokratične procese. Eden od glavnih učinkov bi bil upad zaupanja v informacije na spletu, kar bi lahko povečalo vpliv znanih osebnosti in otežilo preboj manjših, neodvisnih glasov.
Novinar
