9 problemi con l'IA generativa, in un grafico

 

Nel panorama in rapida evoluzione dell’intelligenza artificiale, gli strumenti di IA generativa stanno dimostrando un potenziale incredibile. Tuttavia, anche il loro potenziale di danno sta diventando sempre più evidente.

Insieme al nostro partner VERSI, abbiamo visualizzato alcune preoccupazioni relative agli strumenti di IA generativa che utilizzano dati provenienti da una varietà di fonti diverse. Molti di essi rientrano in una delle seguenti categorie: controllo di qualità e accuratezza dei dati, considerazioni etiche o sfide tecniche, con, ovviamente, un certo grado di sovrapposizione.

Entriamo nel merito.

 

Bias in entrata, Bias in uscita

Tema: Controllo di qualità e precisione

Uno dei problemi critici dell’IA generativa risiede nella sua tendenza a riprodurre i bias presenti nei dati su cui è stata addestrata. Invece di mitigare i pregiudizi, questi strumenti spesso li amplificano o li perpetuano, sollevando dubbi sull’accuratezza delle loro applicazioni, il che potrebbe portare a problemi molto più grandi in termini di etica.

 

Il problema della scatola nera

Tema: Considerazioni etiche e legali

Un altro ostacolo significativo nell’adozione dell’IA generativa è la mancanza di trasparenza nei suoi processi decisionali. Con processi di pensiero spesso non interpretabili, questi sistemi di intelligenza artificiale affrontano sfide nello spiegare le loro decisioni, soprattutto quando si verificano errori su questioni critiche.

Vale la pena notare che questo è un problema più ampio con i sistemi di intelligenza artificiale e non solo con gli strumenti generativi.

 

Costi elevati per la formazione e la manutenzione

Tema: Complessità e sfide tecniche

Addestramento di modelli di intelligenza artificiale generativa come il modello linguistico di grandi dimensioni (LLM) ChatGPT (Chat S.p. è estremamente costoso, con costi che spesso raggiungono milioni di dollari a causa della potenza di calcolo e dell’infrastruttura richiesta. Ad esempio, l’ormai ex CEO di OpenAI, Sam Altman, ha confermato che ChatGPT-4 è costato ben 100 milioni di dollari per la formazione.

 

Pappagallo insensato

Tema: Controllo di qualità e precisione

Nonostante le loro capacità avanzate, le IA generative sono vincolate dai dati e dai modelli su cui sono state addestrate. Questa limitazione si traduce in risultati che potrebbero non comprendere l’ampiezza della conoscenza umana o affrontare scenari diversi.

 

Allineamento con i valori umani

Tema: Considerazioni etiche e legali

A differenza degli esseri umani, le IA generative non hanno la capacità di considerare le conseguenze delle loro azioni in linea con i valori umani.

Mentre istanze come il sistema generato dall’IA “Balenciaga Papa” Può sembrare innocuo, è importante riconoscere che i deepfake potrebbero essere utilizzati per scopi più dannosi, come la diffusione di informazioni false di fronte a una crisi di salute pubblica.

Ciò evidenzia la necessità di un maggior numero di quadri che garantiscano che questi sistemi operino entro i limiti etici.

 

Assetato di energia

Tema: Complessità e sfide tecniche

L’impatto ambientale dell’IA generativa non può essere trascurato. Con unità di elaborazione che consumano una notevole quantità di energia, modelli come ChatGPT costano quanto l’alimentazione di 33.000 famiglie statunitensi, con una sola richiesta che è da 10 a 100 volte più affamata di energia di un’e-mail.

 

Allucinazioni

Tema: Controllo di qualità e precisione

È noto che i modelli di IA generativa creano dichiarazioni o immagini inventate di fronte a lacune nei dati, sollevando preoccupazioni sull’affidabilità del loro output e sulle potenziali conseguenze.

Ad esempio, in un video promozionale di Google Bard, il chatbot erroneamente asserita che il telescopio spaziale James Webb ha catturato le prime immagini di un pianeta oltre il sistema solare terrestre.

 

Violazione del diritto d’autore e della proprietà intellettuale

Tema: Considerazioni etiche e legali

L’uso etico dei dati diventa fondamentale se si considera che diversi strumenti di IA generativa si appropriano di opere protette da copyright senza consenso, credito o compenso, violando i diritti di artisti e creatori.

OpenAI ha recentemente introdotto un programma di retribuzione chiamato Scudo per il diritto d’autore che copre le spese legali per le cause per violazione del copyright per determinati livelli di clienti, piuttosto che rimuovere il materiale protetto da copyright dal set di dati di addestramento di ChatGPT.

 

Informazioni statiche

Tema: Complessità e sfide tecniche

Mantenere aggiornati i modelli di IA generativa richiede notevoli risorse computazionali e tempo, il che rappresenta una formidabile sfida tecnica. Alcuni modelli, tuttavia, sono progettati per aggiornamenti incrementali, offrendo una potenziale soluzione a questo problema complesso.

 

Incontra VERSES

Nel tentativo di sfruttare il potere dell’IA, è necessario trovare un attento equilibrio per garantire progressi etici, trasparenti e di impatto in questo campo trasformativo.

VERSES si impegna a creare un software intelligente che gestisca un processo decisionale trasparente.

 

 

Tratto dal Visual Capitalist, pubblicato il 20 novembre 2023, di Katie Jones, Grafica e Design Sabrina Fortin