Questo post fa parte della rubrica “Controfase – Rassegna Stampa”. All’interno della rubrica mi dedicherò alla lettura (nel podcast) e scrittura (qui nel blog) degli articoli che maggiormente mi colpiscono e interessano.
Fonti e altre eventuali informazioni:
- Articolo preso dalla rivista ‘Nature’ – dicembre 2024 (l’articolo è stato tradotto)
- Autrice: Nyalleng Moorosi
- Titolo: Set di dati migliori non risolveranno il problema: abbiamo bisogno che l’intelligenza artificiale per l’Africa venga sviluppata in Africa
- Articolo originale: https://www.nature.com/articles/d41586-024-03988-w
========================================
“A maggio 2023, Sam Altman, amministratore delegato di OpenAI a San Francisco, California, ha intrapreso un tour mondiale di 17 città per promuovere gli strumenti di intelligenza artificiale (IA).
Una delle tappe della prima settimana del tour è stata Lagos, in Nigeria. Tuttavia, una ricerca che valuta le prestazioni del chatbot di OpenAI, ChatGPT, su un set di dati di 670 lingue mostra che le lingue africane ricevono il minor supporto. Il modello linguistico GPT-4, su cui si basa ChatGPT, riconosce le frasi scritte in hausa, la lingua più parlata in Nigeria, solo nel 10–20% dei casi.
Come informatico ed ex ingegnere di machine learning presso Google AI ad Accra, conosco da tempo i limiti dell’importazione di strumenti di IA privi-mancanti del contesto locale africano. È quindi necessario offrire agli informatici africani l’opportunità di sviluppare soluzioni autoctone.
Perché l’IA potrebbe diventare un punto di svolta per l’Africa
Nel 2018, quando io e i miei colleghi abbiamo iniziato a monitorare i cambiamenti nell’ambiente (inteso come lo spazio in cui le persone vivono) delle township nere del Sudafrica, ci siamo subito imbattuti nei limiti dei modelli di IA comunemente usati per rilevare elementi come case e tracciati stradali, nelle immagini aeree.
Poiché il periodo post-apartheid dà priorità al miglioramento delle comunità svantaggiate, il nostro progetto mirava a valutare se tali miglioramenti fossero visibili nelle immagini satellitari. Sfortunatamente i modelli di IA disponibili — addestrati su città occidentali, che spesso hanno una struttura a griglia — faticavano ad adattarsi ai paesaggi urbani del paese.
Ci sono voluti quattro anni per sviluppare un modello di IA adatto al contesto locale. Nel frattempo, i ricercatori occidentali con accesso a dati simili, come immagini satellitari e censimenti, si concentravano sull’utilizzo dei livelli di luce notturna per stimare i tassi di povertà in diversi paesi africani — un approccio destinato a fallire nelle township sudafricane.
Qui, strade ben illuminate (eredità della discriminazione della polizia nell’era dell’apartheid) possono facilmente essere interpretate erroneamente come segnali di zone urbane economicamente prospere.*(vai in fondo all’articolo per leggere un approfondimento).
La nostra esperienza con modelli di IA “all’avanguardia” evidenzia l’importanza del contesto locale e dell’esperienza diretta. È per questo che piccoli modelli linguistici costruiti in Africa, come Lesan AI — uno strumento di traduzione e trascrizione linguistica — possono eguagliare e persino superare le controparti occidentali in attività come la trascrizione da voce a testo.
Per costruire il modello, il cofondatore di Lesan, Asmelash Hadgu, a Berlino, ha assunto parlanti fluenti di tigrino e amarico per creare set di dati unici che venissero poi utilizzati per addestrare l’IA. In quanto tecnologo che parla entrambe le lingue, Hadgu è riuscito a creare un set di dati ricco concentrandosi sugli aspetti più descrittivi della sua lingua.
L’IA può aiutare a personalizzare i farmaci per l’Africa — ma devono essere gli africani a guidare
Anche se le grandi aziende tecnologiche riuscissero a replicare questa strategia, il problema fondamentale delle priorità divergenti rimarrebbe. Le tecnologie di IA sono orientate al compito principale per cui sono progettate.
Come gli esseri umani, i modelli linguistici possono sperimentare sovraccarico cognitivo — ad esempio, quando gli viene chiesto di risolvere un puzzle matematico mentre devono comunicare in swahili.
Questo porta a una riduzione delle prestazioni, che non può essere risolta semplicemente aggiungendo più dati.
È questa differenza nelle priorità che manca nelle attuali discussioni su come rendere l’IA più inclusiva.
I problemi su cui ci si concentra, ciò che consideriamo dati informativi e i tipi di errori ritenuti accettabili sono tutte scelte umane.**(vai in fondo all’articolo per leggere un approfondimento).
Ad esempio, durante la pandemia di COVID-19, Elaine Nsoesie, una ricercatrice della Boston University in Massachusetts, ha usato la sua conoscenza su come i camerunensi parlano delle malattie, al fine di costruire un sistema che tracciasse focolai simili all’influenza utilizzando dati provenienti dai motori di ricerca e dai social media.
Sebbene i dati fossero pubblicamente disponibili, la conoscenza del contesto ha condotto a decisioni chiave su quali termini e segnali fossero utili.
La lezione che i ricercatori africani devono imparare, mentre l’IA diventa sempre più presente nella vita quotidiana, è che non possiamo aspettarci che chi non comprende il nostro modo di vivere costruisca strumenti per noi.
Come affrontare le grandi sfide dell’Africa con competenze africane
Anche le organizzazioni filantropiche orientate alla missione hanno investito la maggior parte dei loro fondi in aziende di IA occidentali. Questo deve cambiare. Le imprese africane dovrebbero dare priorità all’uso di prodotti sviluppati localmente e il settore pubblico deve adottare un approccio “buy local” dove possibile.
La comunità open source dovrebbe concentrarsi sulla creazione di sistemi di IA più piccoli e specifici in modo che gli sviluppatori africani possano più facilmente adattarli alle loro esigenze locali. Più grande, infatti, non è sempre meglio. Un ecosistema open source fiorente potrebbe dare potere alle start-up africane per competere con le grandi soluzioni generiche progettate dalle grandi aziende tecnologiche.
La comunità di ricerca sull’IA del continente deve sviluppare una visione coerente per la regolamentazione dell’IA. Solo così la voce collettiva dell’Africa potrà essere meglio rappresentata nei forum internazionali di governance dell’IA.
Altrimenti, le decisioni sullo scopo, le funzionalità dell’IA saranno prese dai paesi ricchi, anche se gli impatti si fanno sentire a livello globale.
Per troppo tempo, i set di dati africani sono stati etichettati come troppo complessi o irregolari, e le nostre lingue sono state considerate troppo poco dotate di risorse perché i grandi sistemi di IA possano apprendere efficacemente.
Eppure, gruppi in tutta l’Africa creano tecnologia preziosa con queste risorse limitate. È ora di sostenerli.”
===================
*Illuminazione stradale e sorveglianza
Le township erano spesso percepite dal regime come aree ad alto rischio di disordini politici e crimine, quindi l’illuminazione stradale serviva come strumento di sorveglianza e controllo. Le autorità sfruttavano le luci per facilitare le pattuglie notturne e monitorare i movimenti della popolazione. Questa politica, più che migliorare la qualità della vita dei residenti, era concepita per agevolare una gestione repressiva e ridurre il rischio di insurrezioni contro il regime dell’apartheid.
Non c’erano leggi generali che obbligavano a illuminare ogni strada nelle township; piuttosto, queste decisioni facevano parte di strategie locali dettate da considerazioni politiche e di sicurezza. Le aree percepite come “problematiche” venivano illuminate più intensamente, non per ragioni di sviluppo urbano o benessere della comunità, ma per esercitare un maggiore controllo e permettere alle forze dell’ordine di agire con maggiore efficacia.
Conseguenze nel presente
Questo retaggio ha portato a un’anomalia nei dati moderni. Le township sudafricane possono avere strade ben illuminate, ma non corrispondono necessariamente a quartieri economicamente prosperi o sviluppati, come invece accade in molte città occidentali. Gli algoritmi di IA che utilizzano la luminosità notturna come proxy per misurare il benessere economico non riescono a cogliere queste sfumature storiche e sociali, portando a conclusioni errate.
**Ogni modello di IA è progettato per risolvere un compito specifico (il “main task”). Questo obiettivo guida tutte le decisioni riguardanti la raccolta dei dati, l’architettura del modello e i parametri di addestramento. Ad esempio un modello linguistico come ChatGPT è costruito per generare testo coerente e significativo in base agli input ricevuti.