Il Ceo di ChatGPT propone un’agenzia per la sicurezza delle IA

Sorprendente come ultimamente gli allarmi sociali sui sistemi di IA siano lanciati proprio da chi è pieno attore di questo cambiamento. L’ultimo episodio degno di nota ha a che fare con l’audizione davanti al Senato Usa di Sam Altman, il padre della tecnologia di ChatGPT. Altman ha esortato a creare una nuova agenzia governativa che assegnerà le licenze per lo sviluppo dei grandi modelli di intelligenza artificiale e potrà revocarle nel caso non non rispettino gli standard fissati dalla politico. Il cruccio del Ceo di OpenAI è individuare standard di sicurezza per questi modelli, siccome il rischio che oggi spaventa di più e la capacità delle intelligenze artificiali di autoriprodursi, sfuggire al controllo del gestore o venendo manipolate dall’esterno. Di conseguenza però il controllo dovrebbe essere affidato ad esperti indipendenti esperti indipendenti.

Altman nella sua relazione ha concluso che i potenziali vantaggi sono enormemente superiori agli effetti negativi, considerando anche la perdita dei posti di lavoro, ma poi ha avvertito: «Se questa tecnologia andasse male, le cose potrebbero finire molto male: dobbiamo dirlo ad alta voce e lavorare col governo per evitare che ciò accada».

Il Ceo è impegnato da un mese in un “tour della buona volontà” fatto di confronti politici e il suo contributo è molto prezioso per i legislatori. Ma tuttavia su due aspetti importantissimi è stato evasivo, ovvero la trasparenza del metodo di addestramento di questi modelli (quello di ChatGPT è basato su tutto ciò che circola in rete, compresi i dati personali) e l’impegno a non usare per l’addestramento contenuti professionali, opere d’arte o di ingegno coperte da copyright. Durante la discussione Altman ha riconosciuto che i titolari di opere d’ingegno hanno diritto a veder riconosciuto il valore economico del loro contributo, ma non ha indicato soluzioni concrete.

Altman ha poi spiegato che l’intelligenza artificiale interagisce con una persona alla volta, ma non sono tanto noti gli effetti a catena che potrebbe avere se amplificati dalle rei sociali, e su ciò si è detto pronto a operare.