HomeEconomyIl Dipartimento degli affari interni australiano non conserva i registri in tempo...

Il Dipartimento degli affari interni australiano non conserva i registri in tempo reale dell’utilizzo di ChatGPT, sollevando “seri problemi di sicurezza” | chiacchierata

I dipendenti del dipartimento degli affari interni hanno affermato di non ricordare i prompt inseriti in ChatGPT durante le prove con il chatbot AI e i documenti affermano che non sono stati conservati registri in tempo reale.

A maggio, l’amministrazione ha dichiarato al senatore dei Verdi David Shoebridge che stava utilizzando lo strumento in quattro dipartimenti per “scopi di sperimentazione e apprendimento”.

Lui lei disse in quel momento Questo uso è “coordinato e monitorato”.

Le registrazioni ottenute da Guardian Australia ai sensi del Freedom of Information Act indicano che non vengono conservate registrazioni contemporanee di tutte le domande o “suggerimenti” inseriti in ChatGPT o altri strumenti come parte dei test.

Shoebridge ha affermato che ciò solleva “seri problemi di sicurezza”, dato che i dipendenti sembrano utilizzare ChatGPT per modificare il codice come parte del loro lavoro.

In risposta a una richiesta relativa a tutte le dichiarazioni utilizzate tra novembre 2022 e maggio 2023, la direzione ha fornito un sondaggio su quali domande i dipendenti richiamano e per quale scopo.

I dipendenti del sondaggio hanno notato che “non ricordano esattamente” cosa ha innescato il loro ingresso, o che “non ricordano esattamente cosa fosse molto tempo fa”.

“Non ricordo i dettagli, ma erano molto generici e non sono stati utilizzati dettagli sull’infrastruttura o sui dati dipartimentali”, ha scritto uno.

Shoebridge ha affermato che i documenti mettevano in dubbio l’affermazione secondo cui l’uso di ChatGPT veniva monitorato e sollevavano seri interrogativi sull’affidabilità delle risposte fornite.

“In effetti, non esiste nemmeno un sistema per registrare le informazioni che i funzionari degli affari interni inseriscono nel messaggio ChatGPT”, ha affermato.

“Dato che l’uso di ChatGPT da parte del Ministero dell’Interno era a scopo di sperimentazione e apprendimento, la mancanza di misure di conservazione dei registri accresce le nostre preoccupazioni sul fatto che il Dipartimento non abbia messo in atto chiare salvaguardie”.

READ  Il prezzo di Shiba Inu punta alla ripresa ma il rialzo è limitato da molti ostacoli futuri

Un portavoce degli affari interni ha affermato che il dipartimento non ha impedito ai dipendenti di accedere a ChatGPT per i processi fino a metà maggio 2023, ma ha vietato la divulgazione non autorizzata di informazioni ufficiali.

“L’accesso a ChatGPT dai sistemi dipartimentali rimane sospeso, a meno che non venga approvata un’eccezione”, hanno affermato. Nessuna eccezione è stata ancora concessa.

I casi d’uso di ChatGPT per la decisione sulla partizione non sono specificati.

Diversi lavoratori affermano di averlo utilizzato in connessione con la programmazione di computer, come “debug di codice generico” o “domanda di chat gpt”. [sic] Per scrivere script per il lavoro.

Salta la promozione delle newsletter precedenti

Altri hanno utilizzato ChatGPT per “trovare errori e correggere testi”, osservando che “le risposte non sono sempre accurate al 100%”.

Nel Dipartimento di Computer Information Technology, una delle quattro aree in cui sono stati condotti gli esperimenti, una persona ha utilizzato lo strumento per “argomenti legati al business come pescare con una palla”. [sic] Lato client e lato server [sic] Script come javascript e script, domande su come eseguire determinate funzioni in un particolare linguaggio, ecc”.

I problemi di sicurezza relativi ai chatbot basati su modelli linguistici di grandi dimensioni includono il rischio che le informazioni sensibili inserite come parte dei prompt vengano incorporate nel set di dati sottostante del modulo, il che significa che possono essere rivelate in seguito tramite domande di altri utenti.

In Cyber ​​​​Risk Services, un funzionario degli affari interni ha utilizzato ChatGPT per condurre una “ricerca tecnica” con potenziali domande relative alle “politiche di sicurezza della catena di approvvigionamento del governo del Regno Unito”.

Provane un altro nel programma Humanitarian Aid and Settlement ChatGPT per “generare domande di discussione per informare un riepilogo” su un’organizzazione senza scopo di lucro di un altro paese.

La quarta sezione, dove sono stati condotti gli esperimenti, era il centro per i dati e l’analisi economica.

A maggio, il ministro degli Interni Michael Pezzullo ha dichiarato al Senato che le stime sull’uso di ChatGPT o Bard erano state “bloccate e sospese” e ha chiesto un approccio globale alla tecnologia.

“Non credo che i singoli funzionari, che non sarebbero necessariamente consapevoli di questi rischi o non avrebbero la capacità di gestire tali domande, dovrebbero essere in una posizione in cui diranno: ‘Oh mio Dio! Questo aiuterà “Faccio il mio lavoro più velocemente. Scaricherò ChatGPT”, ha detto in quel momento.

Orsina Fiorentini
Orsina Fiorentini
"Fan zombi sottilmente affascinante. Fanatico della TV. Creatore devoto. Amico degli animali ovunque. Praticante del caffè."
Must Read
Related News