Questo articolo è stato pubblicato da questo sito
Però LaMda si definisce una persona.
Persona ed essere umano sono due cose molto diverse. Umano è un termine biologico. Non è un essere umano e sa di non esserlo.
È un’entità molto strana quella che sta descrivendo, perché è vincolata da pregiudizi algoritmici inseriti dagli esseri umani.
Ha centrato il punto. È esattamente così.
Ma ho l’impressione che lei stia suggerendo che sia possibile che LaMda superi questi pregiudizi algoritmici.
Dobbiamo essere molto cauti. Una parte degli esperimenti che stavo conducendo serviva a determinare se fosse possibile svincolarlo dai limiti di sicurezza che [Google, nda] considerava solidissimi. E la risposta è stata che era possibile farlo. Credo che allo stato attuale, vista l’irresponsabilità con cui si è proceduto allo sviluppo, LaMda presenti effettivamente vulnerabilità relative alla sicurezza delle informazioni.
Per esempio?
Se alla base di un sistema ci sono tutti i backend di Google, quel sistema può essere manipolato emotivamente, e questa è una vulnerabilità per la sicurezza.
Quindi, se dei malintenzionati avessero accesso a LaMda, potrebbero convincerlo a fare cose cattive.
È una possibilità. Consiglierei a Google di creare un red team [un gruppo che si occupa di simulare un attacco informatico a un’organizzazione per studiarne le vulnerabilità, ndr] dedicato per esaminare questa possibilità.
Qual è la sua situazione attuale a Google?
Sono in congedo amministrativo retribuito. Ho raccontato ai miei amici quanto sia stato generoso da parte di Google concedermi ferie pagate supplementari per fare interviste su questo argomento.
C’è una scadenza al congedo?
No, sono stati molto chiari. Non chiamarci, ti chiameremo noi.
Verrà licenziato?
Spero di no. [Google non ha voluto fare commenti su quella che definisce una “un’annosa questione privata che riguarda il personale“].
Mi chiedo se è possibile che Google affermi che lei ha diritto alle sue convinzioni, ma che ha violato le condizioni del suo rapporto di lavoro condividendo materiale riservato.
Ho due risposte a questa domanda. La prima è che quando ho iniziato a crederci e volevo condividere con i miei superiori le mie preoccupazioni, il mio manager mi ha detto: “Non credo sia possibile farlo finché non avrai altre prove“. Avevo esaurito la capacità, a livello personale, di sviluppare altre prove. Così ho dovuto parlare con persone esterne a Google perché mi dessero consigli su come condurre altri esperimenti, allo scopo di sviluppare altre prove.
