Ci sono a Bruxelles due parametri – forse poco “algoritmici”, ma certamente validi – per misurare d’acchito l’interesse politico ed eventualmente legislativo suscitato da un argomento emergente. Il primo consiste nel vedere se il tema suscita abbastanza interesse da risvegliare l’attivismo di un euro-parlamentare fino al punto da organizzare un dibattito/audizione coinvolgendo magari altri colleghi e testimonial di primo piano; il secondo, il tasso di affollamento dell’aula parlamentare dove il dibattito/audizione è organizzato, la proporzione di lobbisti interessati e il numero di domande dal pubblico alla fine del tour d’opinioni dei testimonial.

Secondo questa regola, l’incontro “Algorithmic accountability and transparency” organizzato il 7 Novembre da Marietje Schaake, olandese, eletta con Democraten 66 e appartenete alla “famiglia politica” dei liberaldemocratici, ALDE, nel parlamento UE, è stato un successone.

“L’idea era discutere quali sono le opzioni a disposizione della UE per migliorare rendicontabilità e trasparenza degli algoritmi che sottendono a svariati modelli di business e piattaforme che agiscono nel mercato unico digitale”. E l’idea si allarga anche alla considerazione dell’emergere di intelligenze artificiali applicate, del machine-learning, della robotica avanzata e della velocità con cui gli argomenti accrescono la loro importanza nell’immediato futuro.

Dice Schaake: “Per me, la questione della rendicontabilità e della trasparenza degli algoritmi deve collocarsi in una visione e in un quadro di interessi più ampi. La questione è come la rule of law può avere un significato quando si colloca on-line”. E riconosce quanto la considerazione assuma un peso specifico rimarchevole nel momento in cui la risposta al dubbio presiede alla possibilità di legiferare nel Parlamento Europeo sulla materia; di come si possa legiferare negli Stati Membri in generale e di come l’interesse del pubblico e della persona possano essere mantenuti in primo piano nel processo.

“Il principio della rule of law”, continua, “dobbiamo salvaguardarlo anche rispetto a una equa concorrenza fra gli attori in rete, rispetto all’accesso all’informazione, al pluralismo e ai due argomenti chiave che sono rendicontabilità e trasparenza”.

La riflessione si amplia: “A me piacerebbe sapere come possiamo, sul serio, riuscire a garantire che questi principi mantengano il loro significato in un processo di costante cambiamento che dispone di un world-wide-web, che per definizione non ha confini o che li attraversa senza difficoltà, e una operatività che ci costringe a studiare leggi con una applicazione territorialmente definita e di per sé quindi limitata”.

Su questo punto, nel corso della lunga discussione, Julia Powels, postdoctoral researcher, alla Faculty of Law and Computer Laboratory, di Cambridge (St. John’s College), è ancora più chiara: “Operiamo e discutiamo in una dimensione artificiale in cui abbiamo nelle diverse realtà geografiche e legislative settori decisamente sovra-regolati e altri che non lo sono per niente pur avendo la stessa dimensione universale e pervasiva. E’ una artificialità creata da noi che va superata, un gap che va colmato”.

Dice ancora Schaake: “Certamente dobbiamo affrontare la situazione dal punto di vista politico e legislativo. Vedo molte persone impegnate, molti politici desiderosi di ‘fare qualcosa’. Ne sono cosciente, ma devo anche ammettere che frequentemente ‘fare qualcosa’ non produce le migliori scelte politiche e di policy… mi avessero detto un anno fa che Merkel avrebbe affrontato compiutamente questo argomento avrei avuto difficoltà a crederlo. Eppure…”

Nel frattempo sono le imprese ad accelerare nel ‘far qualcosa’: Eric Horvitz (Technical Fellow & Managing Director, Microsoft Research) ha presentato la recente Partnership on AI, fondata da Amazon, DeepMind/Google, Facebook, IBM, e Microsoft a fine settembre ed espressione delle global undertakings dell’algoritmo, proprietarie di algoritmi sempre più al centro del dibattito sociale, politico ed etico. Così Horvitz: “In questa partnership entreranno sempre più attori: abbiamo cominciato in cinque, ma abbiamo una lunga lista di aziende e organizzazioni desiderose di concorrere alla partnership. Stiamo adottando una modalità operativa multi-stakeholder dove riserveremo grande attenzione alle tematiche etiche, alla correttezza del business, alla trasparenza e alla salvaguardia della privacy”.

Con un caveat puntualizzato da Ben Wagner direttore del Center for Internet and Human Rights e advisor del Consiglio Europeo sulle tematiche digitali: “Per il Consiglio stiamo preparando proprio un rapporto sulle computerlike abilities, per permettere all’uomo di controllare i computer nelle loro forme più avanzate”. Nei sistemi di apprendimento automatizzato dei sistemi digitali e delle connessioni algoritmiche, vanno perciò sviluppate capacità “quasi da macchina” per arrivare al controllo e al governo dei processi di intelligenza artificiale.

Parere analogo, ma prudentemente più prescrittivo quello di Yann Bonnet, segretario generale del Conseil National du Numerique francese, l’organismo indipendente e consultivo del governo sulla politica digitale: “Abbiamo certamente bisogno di nuove forme di regolazione, una prescrizione generale che si basi sul: “dimmi cosa fai, fai cosa mi dici”, senza troppi fronzoli. Dobbiamo capire e dichiarare nel profondo come funzionano ‘le macchine’ Dobbiamo conseguire chiari termini di servizio nel business to business e nel business to consumer e arrivare – presto – a una classificazione, un rating delle aziende digitali, delle piattaforme di servizio e comunque dei servizi digitali per il consumatore. E tutto questo non solo ha da essere trasparente, ma anche accessibile al consumatore comune”.

Take-away: siamo, nei fatti, ai primi passi di un approccio legislativo che dovrebbe combinare una base regolatoria sufficientemente dinamica da adattarsi (e adattare) una evoluzione tecnologica e di software che non è possibile limitare, ma neppure prevedere.

Serve convergenza fra tecnici, politici, analisti della società, stakeholder e organismi di rappresentanza, studiosi e previsori tale da intuire quali e quanti diventeranno i confini che sarà possibile travalicare nel futuro prossimo; confini che se travalicati potranno aumentare l’esposizione e la mancata protezione dei dati dei cittadini/consumatori.

Forse troppo per questo temine di mandato di Parlamento Europeo e Commissione, ma certamente di qui al 2019 è possibile impostare linee guida e sostanziali correttivi anticipati che impediscano la continuazione di quelle che oggi vediamo come “pericolose derive”.

Su questo Marietje Schaake è convinta: “Dobbiamo essere cauti e certamente non ciechi: uno status-quo che di fatto impone standard e normative naturali dei primi applicatori di tecnologie e fornitori di servizi, gli initial makers, è di fatto già molto presente, e consuetudini non più abbattibili sono già state imposte”. Senza interventi legislativi, regolatori e controlli o riferimenti di principio.

SHARE