On the Algorithmic State of the Nation

The President of Malta George Vella hosted a ‘State of the Nation‘ conference which focused on the constitutive elements which form the national identity.

I was privileged to address His Excellency the President on the subject of digital change and specifically algorithmic development. As different nation-states make choices around data, AI is shaping privacy rights, the future of work, dissolving borders and nullifying governance rhetoric. Conversely, data policies that nation-states endorse shape the type of AI that emerges.

With this backdrop, I discussed the ascent of Artificial Intelligence and its impact on Malta’s constitutional borders, its national identity and its ability to navigate through the key elements of justice, truth and polarisation.

Both my address and its transcript below is in Maltese.

It-teknoloġija ssawwar l-identità nazzjonali tagħna

Ftit ilu ġie leaked rapport tal-Facebook. Irriżulta li tant għandhom data ta’ żgħażagħ li juzaw is-sevizz ta’ spiss, li jistgħu jbassru l-istat emozzjonali tagħhom kwazi f’kull mument. Jafu wkoll li jekk ċertu tip ta’ riklam ikollu ċertu għamla messaġġ u jintwera f’ħin preciż, iċ-ċans li l-prodott jinbiegħ huwa kwazi garantit.

Aħna qed ngħixu fi żmien ta’ tibdil teknoloġiku enormi. Meta taħseb li Facebook lanqas kien jeżisti sa ftit snin ilu, tirrealizza kemm aħna llum naċċettaw pjattaformi malajr u b’ċerta fiduċja għamja. Il-mezzisoċjali mhux biss qed iżommu l-informazzjoni dwarek imma din l-informazzjoni qed tintuża biex tbassar il-komportament tiegħek fil-mument meta dan l-aġir huwa l-aktar suxxettibbli għar-riklamar.

Xi drabi mhux biss dak li inti tippostja dwarek innifsek jintuża – imma ankè dak li jitfgħu sħabek. Difatti llum nafu li jekk nanalizzaw tmien ħbieb tiegħek nistgħu nbassru bi probabibilità għolja dak li inti ser tippostja għada. 

L-influwenza tal-azzjonijiet tal-bniedem bil-mezzi soċjali hu ic-centru ta’ mudell ekonomiku ġdid. Il-mudell jibda meta inti taċċetta li d-data tiegħek m’għadhiex tiegħek, u meta taċċetta li d-data tiegħek hija sfruttata għal skopijiet ta’ gwadann finanzjarju ta’ oħrajn.  Dan qed jifred iċ-ċittadini f’żewġ gruppi: dawk li huma osservati, u dawk il-ftit li josservaw. Din hija problema għax toħloq nuqqas ta’ simetrija ta’ poter. F’soċjetajiet demokratiċi ġeneralment wieħed għandu metodi biex jirregola l-informazzjoni, però r-realtà hi li hemm ftit wisq li jista’ jikkontrolla lil dawn il-pjattaformi l-kbar. 

Allura il-bniedem osservat, issa jsir prodott. Meta għandek servizz li huwa b’xejn, bħalma hu l-Facebook, Twitter, YouTube, Instagram, tista’ tkun żgur li l-prodott huwa int. L-esperjenzi tagħna huma l-munita li biha nħallsu biex nipparteċipaw fil-pjattaforma li hi b’xejn.

Il-Verità Vittma

Fid-dinja virtwali hemm tendenza li nisimgħu vuċijiet li huma wisq simili għal tagħna. Dan jiġri għaliex is-social media tippreferi turik dak li inti taqbel miegħu milli dak li ma taqbilx miegħu. Hekk int taħseb inqas. Il-perspettiva tiegħek tad-dinja tidjieq aktar u aktar u dan joħloq polarizazzjoni jew f’każijiet estremi radikalizzazzjoni. 

Huma propju dawn in-nies polarizzati li jaraw biss l-informazzjoni li taqbel magħhom, li jkunu l-aktar fil-bżonn li jisimgħu opinjonijiet kuntrarji. Ħafna studji juru li qed nitkellmu u nisimgħu anqas nies minn qabel żmien l-internet. Dan hu stramb għax l-internet għandu l-possibilità li jqabbdek ma’ aktar nies. Allura l-problema vera hija dik ta’ fiduċja, il-fiduċja neċessarja biex wieħed jisma’, biex wieħed jgħarbel b’moħħ miftuħ… speċjalment dawk l-argumenti li huma differenti minn dawk li wieħed iħaddan.

Politika u Perswazjoni

Il-whistleblower ta’ Cambridge Analytica Chris Wiley biddel il-mod kif id-dinja tħares lejn l-elezzjonijiet. Però xejn minn dak li qal ma kien partikolarment ġdid jew mhux magħruf.

L-esperjenzi tagħna jiġu osserati. Id-data mbagħad tintuża biex tbassar int kif se taġixxi għax il-mezzi teknoloġiċi joħolqu profil psikoloġiku tiegħek. Hekk jistgħu ibassru int kif se tivvota u jbassru liema buttuni għandhom jagħfsu biex lilek iġiegħluk tisħon iktar, tirrabja aktar jew taċċetta aktar ċertu policies, ideat, jew kandidati. L_istess jgħodd għal stati barranin li jridu jfixklu elezzjoni ta’ pajjiż ieħor.

Id-diffikultà etika hija waħda fejn l-esperjenzi u d-data li qed jiġu moqrija mhumiex dawk li int speċifikament qed tippermetti li jiġu użati. Eżempju kemm qed tiskrollja bil-mod fuq ritratt u mhux ieħor jgħidilna dwar jekk tippreferix kandidat raġel u mhux mara, aktar anzjan jew żagħżugħ.

Kwalunkwe teknoloġija magħmula biex tbiddel attitudni jew imġiba – però mingħajr sfurzar – tissejjaħ ‘persuasive technology’. L-idea li tipperswadi mhix ħażina minnha nnifisha, pero’ fl-ambitu tas-social media tista tkum perikoluż għax għandna parteċipazzjoni wiesgħa minn parti kbira tas-soċjetà li qed tkun manipulata mingħajt l-għarfien espliċitu tagħha. 

Aħna għandna dmir li ninkoraġġixxu teknoloġija mibnija fuq bażi morali soda. U ħafna dan jibda mill-edukazzjoni għax l-edukazzjoni tgħarrafna dwar l-ezistenza tal-persważjoni fit-teknoloġija, u tgħinna nagħrfu meta t-teknoloġija tkun qed tuża l-persważjoni biex tbiddel l-aġir tagħna.

L-Edituri li Sparixxew

In-news feed tiegħek hija forma ta’ għażla ta’ kontenut, li ssir mis-social media platforms għalik. Din tagħżel dak li jidhrilha li hu relevanti għalik.  Il-feed mhix biss magħżula għalik, però prijoritizzata wkoll. Dak li jidher l-ewwel mhux għax kumbinazzjoni, jew għax reċenti – imma għaliex saret għażla biex ikun hekk.

Kif isir dan l-għazla? L-esperjenzi li tkun qsamt mal-pjattaforma, kif ukoll dawk ta’ sħabek isiru l-kejl li bih inti titkejjel. Riċetta editorjali għalik biss. Dan iwassal biex l-opinjoni tagħna hija nieqsa mid-diversità, u nieqsa minn skrutinju editorjali u allura mill-kwalità.

Dan kemm hu xieraq għal ambjent demokratiku? Din-selezzjoni ta’ aħbarijiet, tippromwovi parteċipazzjoni wiesgħa fid-djalogu soċjali jew tnaqqasha? Tħallina niffurmaw opinjonijiet ibbażati fuq il-verità u l-valuri li aħna bħala soċjetà nħaddnu?

Allura, jekk dak li tara fuq il-feed jinfluwenza l-mod kif taħseb, u dan ibiddel l-aġir tiegħek wieħed jista’jgħid li d-deċiżjonijiet tagħna mhumiex għalkollox ħielsa. It-teknoloġija mhix biss strument imma sors ta’ influwenza importantissima, speċjalment f’dinja fejn l-istituzzjonijiet tradizzjonali huma ferm anqas effettivi minn qabel. 

Probabilità mhux Perċezzjoni

Seba’ snin ilu, billi nħarsu lejn il-likes biss li inti tagħmel (u mhux lejn ritratti), stajna nbassru jekk intixgay jew straight b’ċertezza ta’ 88%, lil liema partit se tivvota b’ċertezza ta’ 85% u jekk tpejjipxb’ċertezza ta’ 73%. Illum b’analizi ta’ xi 300 LIKE, il-livell ta’ ċertezza ta’ algorithm huwa aktar preċiżminn dak ta’ bejn konjugi miżżewġin! Dan hu xhud ta’ kemm qed tinbidel malajr it- teknoloġija.Pero’ rridu niftakru li din mhijiex intelliġenza li tissostitwixxi l-għerf u s-sensibilità umana. Din hija teknoloġija li tagħti statistika dwar probabilità. Hija strument, lenti u saħħa influwenti li ma kinitx teżisti u li aħna rridu nittutelaw. Allura l-intelliġenza artifiċjali, is-social media u l-istrumenti diġitali nħolqu mill-bniedem u għandhom jintużaw biex jintlaħqu l-aspirazzjonijiet tagħna bħala ġens, biex jirriflettu u jsaħħu l-valuri li aħna nħaddnu u jsawru sens ta’ ġustizzja, u għaqda.

The content of my speech also appears on Newsbook: here.