fbpx Le macchine Volanti! | L’intelligenza artificiale può mentire?
L’intelligenza artificiale può mentire?

L’intelligenza artificiale può mentire?

Uno dei principali limiti strutturali dei sistemi di intelligenza artificiale è rappresentato da quelli che, in gergo tecnico, vengono definiti adversarial attacks, ossia gli attacchi informatici capaci di ingannare gli algoritmi e portarli a compiere scelte sbagliate. Presto, però, potrebbe avvenire anche il contrario: progredendo nelle loro capacità, è possibile che in futuro saranno i sistemi di intelligenza artificiale a ingannare noi umani. Che fare, allora, quando gli algoritmi cominceranno a mentirci?

La domanda è stata posta di recente sulla rivista specializzata IEEE Spectrum e tocca un punto cruciale: stabilire se un algoritmo stia cercando o meno di manipolarci non è affatto semplice e richiede di avere ben chiare quali possano essere le intenzioni di un’intelligenza artificiale. In psicologia cognitiva si ritiene che l’intenzionalità discenda da una teoria della mente, ovvero dalla capacità di immaginare le aspettative, i desideri e le reazioni altrui alla nostra condotta. Per ora quest’abilità rimane preclusa ai sistemi di IA ma c’è poco da star tranquilli: secondo alcuni esperti di etica degli algoritmi, la capacità delle macchine di ingannarci sarebbe completamente sganciata dall’intenzionalità, con l’IA che potrebbe finire per manipolarci anche a sua (e ovviamente a nostra) insaputa.

Al di là degli irriducibili dibattiti sulla consapevolezza delle macchine, è forse più utile chiarire cosa sarebbe opportuno fare per prepararsi a vivere in un tempo in cui gli algoritmi cominceranno a dire bugie. Innanzitutto, si tratta di progettare soluzioni tecnologiche capaci di mitigare i comportamenti indesiderati dei sistemi di AI, tra i quali appunto la loro potenziale capacità di mentire. Ma bisogna che anche il diritto faccia la sua parte, con regole che contemplino le bugie degli algoritmi e riescano a dirimere le situazioni in cui l’attribuzione di responsabilità dovesse essere dubbia. Basterà?