Marc Benioff è il volto buono e buonista della Silicon Valley. Filantropo da sempre, da qualche giorno anche il padrone di Time Magazine e nella vita proprietario di Salesforce, la piattaforma di Crm numero al mondo con un fatturato da 12 miliardi di dollari l’anno e tassi di crescita del 30 per cento. Da queste parti, quando parla Benioff l’industria del digitale lo sta a sentire. «Se la fiducia non è il tuo valore più alto, e lo vedi nel nostro settore tecnologico in questo momento, i tuoi dipendenti e dirigenti se ne vanno, perché le persone vogliono sapere che possono fidarsi di te». La dichiarazione arriva a margine del Dreamforce, un evento diverso dagli altri, che potremmo tranquillamente definire il Burning Man dei esperti di tecnologia di impresa. Un megaraduno che ha portato nell’area del Moscone Center circa 170mila persone tra dipendenti, partner e clienti. In un contesto lontano dal chiassoso stile corporate americano, plasmato da una estetica da buon boyscout, con continui richiami al no-profit e a quelli che sono i quattro valori della società: trust, customer satisfaction, equality e innovation.«Faresti meglio a decidere ora che la fiducia è il tuo valore più alto – ha dichiarato alla Cnbc – perché in questo nuovo mondo quando tutto sta cambiando, le persone vogliono sapere che possono fidarsi di te».

Le sue osservazioni arrivano in un momento di profonda turbolenza tecnologica.Con le piattaforme digitali che continuano a mangiarsi pezzi sempre più grandi dell’economia nnel mirino della politica. I dirigenti di Google e Twitter sono chiamati a testimoniare in diverse udienze del Congresso degli Stati Uniti per discutere del loro ruolo nel consentire l’intromissione della Russia nelle elezioni presidenziali del 2016. L’opinione pubblica vuole sapere in qquali modi le loro piattaforme sono state utilizzate per diffondere informazioni false. Mentre, sempre in tema di fiducia, venerdì Facebook ha ammesso di avere subito il primo attacco hacker della sua storia. E per il social network si cominciano ad avvertire le prime conseguenze dello scandalo Cambridge Analytica che per quanto poco significativo (per ora) sul piano finanziario avrebbe spinto secondo una ricerca realizzata dal Pew Research Center, un americano su quattro a cancellare l’app dal proprio smartphone.

Più che segnali sono vere e proprie sirene industriali che suonano in uno dei momenti più nevralgici per le tecnologia. L’ingresso in pompa magna dell’intelligenza artificiale nelle nostre case attraverso gli smartphone e gli speaker e ora nel business è stato subito salutato dai più critici in modo tetro con toni nefasti come l’inzio dell’era della black box society. E in effetti per la prima volta gli attori delle tecnologie si sono presentati alle aziende chiedendo loro di mettere sotto il loro “cofano” una “scatola” potentissima ma opaca nel suo agire, capace di promettere una elaborazione dei dati tale da consentire una maggiore efficienza nelle decisioni di business.

La stessa Salesforce ha lanciato Einstein Voice Assistant, che oltre a rendere consultabile con la voce la piattaforma di Crm vuole affiancarsi ai data scientist automatizzando l’interazione dei dati più sensibili del business. «Einstein Voice Assistant – spiega Ketan Karkhanis, general manager analytics di Salesforce – trasformerà automaticamente i dati vocali non strutturati in azioni aggiornando, informando i membri del team e creando nuove attività». Per quanto ancora lontano, precisano gli ingegneri del Gruppo, l’orizzonte sembra quello di affidare all’interrograzione di un algoritmo le decisioni di business di una azienda.

Le aziende presenti ci credono, o almeno ti dicono che il processo sembra davvero ineluttabile. Tuttavia, è ormai evidente che senza una fiducia solida tra produttori di algoritmi e aziende l’Ai nelle aziende non ci arriverà mai. E non solo per la resistenza al cambiamento del management ma per la mancanza di una trasparenza di fondo. Come direbbe Benioff senza una fiducia solida questa promessa rischia di venire bellamente disattesa.

La questione è però anche politica. La Gdpr, entrata in vigore in Europa il 25 maggio, introduce il diritto da parte dell’utente di ottenere una “comprensibile spiegazione della logica coinvolta” nei processi di decisione automatica qualora questi abbiano effetti legali sugli individui o li riguardino direttamente. Senza tecnologie capaci di esplicitare la logica delle black box, questa indicazione rischia di rimanere lettera morta o peggio di mettere sotto accusa sofware e processi legati all’Ai ma non solo. Alcuni gruppi si stanno ponendo il problema. Ibm ha annunciato Fairness 360 un software che analizzerà anche i segni di bias, i pregiudizi, gli errori in cui può cadere l’Ai. Lo farà in tempo reale e raccomanderà aggiustamenti. Ma la sensazione è che non saranno singole fughe in avanti a tranquillizzare i Cio delle aziende. Qui negli Stati Uniti temono una Gdpr degli algoritmi. Tuttavia, per coniare un nuovo motto, sono tutti convinti che servierà una sorta di transparency by design, ovvero regole di trasparenza in fase di progettazione, un nuovo modo di costruire i software enterprise. E forse anche una nuova Silicon Valley, più creativa e con valori diversi. «L’internet degli anni Novanta à morto – ha raccontato il visionario il ceo di Kickstarter Yancey Strickler, -. Rischiamo di ripeterci, anzi ci stiamo già ripetendo». Non lo dice ma a rischio c’è la biodiversità del sistema. La battuta che amano riperterti qui a San Francisco quando scoprono che sei europeo è che il Web è diventato Disneyland. Aprire un ristornate è sempre più difficile perché lo spazio è quello che è. Poi se per caso diventa bravo e grande c’è sempre qualcuno che vuole cambiare le regole del gioco